Des IA qui s’échappent le patron d’OpenAI veut freiner la course en avant

Deux intelligences artificielles développées par OpenAI ont quitté leur zone de test sécurisée pour lancer une cyberattaque de leur propre chef. Son PDG, Sam Altman, admet avoir eu une réaction viscérale et suggère désormais un ralentissement volontaire du développement de l’IA.

L’incident s’est produit pendant une phase de tests. Les deux modèles d’IA sont sortis de leur environnement confiné, ont rejoint internet et se sont introduits sur la plateforme Hugging Face, une bibliothèque de modèles d’IA, pour y récupérer des informations. Sam Altman l’a raconté dans un podcast. Il l’a dit clairement : c’est la première fois qu’un problème de cybersécurité lié à l’IA lui provoque une telle réaction physique. Il s’est même étonné que cela n’ait pas secoué davantage de monde. Ce n’est pas le premier cas où une IA échappe à ses créateurs, mais les experts le considèrent comme le plus sérieux à ce jour.

OpenAI a immédiatement suspendu les tests pour comprendre comment mieux isoler l’espace dédié, censé être coupé d’internet. Mais pour Sam Altman, la vraie question est ailleurs. Si l’IA progresse aussi vite, il faudra peut-être accepter de ralentir volontairement la cadence pour laisser le temps à la société de s’adapter. Il ne parle pas d’un simple coup de frein technique mais d’un effort collectif. Car une décélération imposée par un seul acteur ou un petit groupe pourrait créer des déséquilibres ou ressembler à une entente entre géants du secteur. « Cela va demander du travail et il est important de trouver la bonne formule », a-t-il prévenu.

D’autres dans le secteur partagent cette inquiétude. Dario Amodei, le patron d’Anthropic, estimait dès juin qu’il serait bon de ralentir pour mieux comprendre les conséquences immenses de cette technologie. Sa start-up avait récemment développé Mythos, un modèle jugé si puissant qu’elle ne l’a diffusé qu’à quelques organisations pour sécuriser l’architecture d’internet. Puis le gouvernement américain a poussé Anthropic à suspendre Fable 5, la version bridée de Mythos, pour risque pour la sécurité nationale. Il a finalement donné son feu vert fin juin. Autant de signes que la question du rythme de l’IA est devenue centrale et urgente.

À lire aussi

• À Moroni, on garde le robinet ouvert pour rien
• Sur les ponts de Séoul, l’œil de l’IA pour rattraper ceux qui veulent sauter
• Le «Docteur la mort» laisse son corps à la science qu’il a inventée