L’ONU met en garde contre une IA qui nous échappe

Antonio Guterres a lancé un appel solennel lundi pour une gouvernance mondiale de l’intelligence artificielle. Selon lui, le choix est entre une régulation organisée ou le chaos pur et simple.

L’intelligence artificielle avance si vite que nos institutions ne sont tout simplement plus capables de la suivre. C’est le constat alarmant du secrétaire général de l’ONU, qui a ouvert lundi à Genève le premier Dialogue mondial sur la gouvernance de l’IA. Pour lui, il ne s’agit pas d’être pour ou contre ces technologies, mais de décider si on les encadre collectivement ou si on laisse le hasard dicter notre avenir. Les machines savent désormais écrire du code, agir en ligne et prendre des décisions avec de moins en moins de contrôle humain. Or nos règles ont été conçues pour des outils qui exécutent des ordres, pas pour des systèmes qui décident par eux-mêmes.

Trois dangers majeurs menacent selon Guterres. D’abord la vitesse effrénée du développement, qui dépasse largement celle des institutions. Ensuite la concentration des capacités d’IA entre les mains de quelques entreprises et pays, ce qui crée un déséquilibre mondial. Enfin la capacité de ces technologies à générer des contenus qui sapent la confiance dans l’information et les faits eux-mêmes. Le chef de l’ONU a posé une question simple mais vertigineuse : est-ce que nous façonnons cette transformation ou nous laissons-nous façonner par elle ? Il a proposé quatre piliers pour une gouvernance digne de ce nom : la sécurité, le respect des droits humains, le renforcement des capacités des pays en développement et la transparence.

Des mesures concrètes ont été avancées. Guterres veut soumettre aux États un engagement pour protéger les enfants face à l’IA, avec des tests de sécurité obligatoires avant tout déploiement et une interdiction de générer des images sexuelles d’enfants. Il a aussi évoqué la création d’un fonds mondial pour aider les pays les moins avancés à rattraper leur retard, même si la présidente de l’Assemblée générale n’a pas pu donner de montant précis. Sur le plan environnemental, il demande aux géants de la tech de publier l’empreinte écologique complète de leurs systèmes et de passer aux énergies renouvelables d’ici 2030. Enfin, il a été très clair sur l’usage militaire de l’IA : des machines qui choisissent leurs cibles et tuent sans intervention humaine, c’est moralement répugnant et politiquement inacceptable. Il exhorte les États à interdire ces armes létales autonomes sans attendre.

Ce forum ne débouchera sur aucune décision concrète pour l’instant. Mais ses organisateurs assurent qu’il jette les bases d’un processus qui se poursuivra l’an prochain à New York. Le monde abrite peut-être la dernière génération capable de définir les règles de la coexistence entre les humains et les machines. Le temps presse.

À lire aussi

• Macaron à Damas le pari risqué d une main tendue à la nouvelle Syrie
• Un étroit passage maritime concentre un tiers du pétrole mondial
• Israël s’inquiète des chasseurs américains livrés à ses voisins