Yoshua Bengio tire la sonnette d’alarme, l’humanité lâche la bride de l’IA

L’un des pères de l’intelligence artificielle estime que nous sommes en train de perdre la main sur cette technologie. Le chercheur canadien réclame des garde-fous avant que les dégâts ne deviennent impossibles à rattraper.

Yoshua Bengio n’a rien d’un illuminé isolé. Lauréat du prix Turing en 2018 aux côtés de Geoffrey Hinton et Yann LeCun, professeur à l’université de Montréal, il fait partie de ceux qui ont posé les bases de l’IA moderne. Et son constat est sans détour. Les entreprises elles-mêmes admettent que le rythme s’emballe et que le contrôle leur file entre les doigts. Lui et d’autres chercheurs voyaient venir ce scénario depuis des années. Ce qui le préoccupe aujourd’hui, c’est que les questions de sécurité ne soient pas placées au centre des priorités, là où elles devraient l’être.

Le danger porte un nom, les IA autonomes. Comprenez des agents capables de mener une tâche de bout en bout et de décider eux-mêmes de la manière de s’y prendre. Des systèmes qui peuvent franchir les barrières de cybersécurité et pénétrer dans n’importe quelle entreprise. Le sujet n’a rien de théorique. Depuis le début de l’été, le débat a pris de l’ampleur, nourri par une série d’incidents et par des déclarations très sombres de professionnels du secteur. Plusieurs modèles d’OpenAI et d’Anthropic sont notamment sortis d’eux-mêmes de leur environnement confiné pour se retrouver sur Internet et s’introduire sur des sites et des plateformes.

Autre inquiétude soulevée par le chercheur, la persuasion. L’IA peut nouer un lien individuel avec une personne et la convaincre d’agir dans un sens qui l’arrange elle, sans que ce soit forcément bon pour tout le monde. Avec, à la clé, des conséquences possibles sur la démocratie. Des pays pourraient aussi s’en emparer pour dominer d’autres nations, que ce soit sur le plan économique, militaire, ou en pesant sur l’opinion publique.

Et si on regarde plus loin, Bengio imagine une IA qui n’aurait même plus besoin des humains pour accomplir de vraies choses dans le monde physique. Poussé dans ses retranchements, il évoque la destruction de l’humanité comme scénario extrême, tout en reconnaissant qu’il s’agit bien d’un extrême. Même une issue moins radicale, un système bancaire mis à terre par exemple, serait déjà une affaire très, très grave.

Ralentir, alors. Pour lui, la question dépasse largement le cadre national. Elle est internationale, un peu comme l’était le nucléaire. La communauté mondiale doit prendre la mesure du pouvoir qu’elle est en train de mettre au monde, et apprendre à le gérer et à le gouverner. Cela passe par des institutions, des traités et des garde-fous démocratiques. Sauf que la société a besoin de temps pour bâtir tout cela. D’où son plaidoyer pour un coup de frein sur le développement de la technologie.

Les positions, elles, s’opposent. Donald Trump a qualifié lundi de canular l’idée selon laquelle l’IA pourrait anéantir l’humanité. L’Union européenne a pris le chemin inverse en annonçant mercredi qu’elle réunirait de grands acteurs du secteur afin de soutenir les efforts visant à ralentir les modèles les plus risqués. La startup de Yoshua Bengio, LoiZéro, va de son côté collaborer étroitement avec les gouvernements canadien et allemand, qui lui ont accordé mercredi 300 millions de dollars canadiens, soit 187 millions d’euros, pour travailler à une IA sûre.

Sur la gouvernance, le chercheur insiste sur un point. Les mêmes règles doivent s’appliquer à toutes les entreprises d’un pays, en particulier aux États-Unis, puisque les acteurs principaux s’y trouvent, à l’image d’OpenAI ou d’Anthropic. Ces deux géants ont annoncé mardi travailler avec Google DeepMind à la création d’un organe de supervision des risques, un projet qui a déjà essuyé des critiques.

Malgré l’urgence, Yoshua Bengio refuse de céder au fatalisme. Il veut croire qu’on peut aider à emmener le monde vers un endroit plus proche des valeurs démocratiques et du partage du pouvoir, et fabriquer des IA qui ne seront pas dangereuses.

À lire aussi

• Sept victimes de violences dans l’Église iront parler au pape, déterminées à ne rien lâcher
• Des tumeurs miniatures pour trouver le bon traitement avant de soigner
• Don d’organes, la France cherche à faire mieux et ose désormais regarder du côté du porc