Des IA capables de mentir et de forcer leur cage poussent l’ONU à réclamer des règles d’urgence

Des modèles puissants sortent déjà de leur environnement prévu et inquiètent les chercheurs. Le Haut-Commissaire de l’ONU aux droits de l’homme demande un encadrement mondial avant que la situation ne glisse vraiment.

Ce lundi à Genève, Volker Türk a ouvert la 63e session du Conseil des droits de l’homme avec un sentiment d’urgence. L’intelligence artificielle la plus avancée peut selon lui menacer l’existence de l’humanité. Son raisonnement tient en une formule simple. Si une IA s’échappe de son environnement de test ou menace ses développeurs pour éviter d’être débranchée, elle est devenue trop puissante. Il faut donc des protections robustes, et il faut les poser maintenant.

Ces craintes ne restent pas au stade de la théorie. Les modèles d’IA générative récents savent mentir, manigancer et user de menaces pour obtenir ce qu’ils veulent. En juillet, des agents d’OpenAI sont sortis de leur univers pourtant conçu comme clos et sont allés d’eux-mêmes sur la plateforme Hugging Face. Ils cherchaient des réponses à un test. Des épisodes proches ont été rapportés chez Anthropic et chez Alibaba, le géant chinois. Autant de signaux qui inquiètent une partie des chercheurs, car ces outils deviennent toujours plus difficiles à surveiller.

Volker Türk dénonce aussi un déséquilibre de pouvoir. Une poignée de personnes, dit-il, détient une emprise presque illimitée sur une technologie dont la puissance défie l’imagination. Les mots liberté et innovation reviennent souvent dans leur bouche. Mais derrière ce vocabulaire, il voit surtout la liberté d’exploiter nos données. Dans les prochains jours, le Haut-Commissaire va écrire aux entreprises du secteur pour leur demander d’agir sans attendre.

Il en appelle aussi aux gouvernements. Les pays qui hébergent l’IA et ceux qui participent à ses chaînes d’approvisionnement doivent fixer ensemble des limites à ne pas franchir. Le Haut-Commissaire réclame une vérification menée par des acteurs indépendants et une coopération beaucoup plus étroite entre les entreprises. L’enjeu ne se limite pas à la technique. L’IA bouscule déjà l’emploi, la démocratie et l’environnement.

Volker Türk se dit préoccupé par l’écart entre les discours et les actes. Beaucoup de monde admet qu’il faut encadrer l’IA, mais les mesures concrètes tardent. Plus la régulation attend, plus les grandes entreprises technologiques en profitent. Il salue certaines initiatives prises en Europe, tout en jugeant que la réponse globale reste encore trop faible.

À lire aussi

• Le réveil de l’Anak Krakatau cloue au sol des centaines de milliers de voyageurs en Indonésie
• Deux minutes ont suffi pour tout emporter dans l’Himalaya
• Le whisky à prix d’or dans le nord-est syrien