L’IA a-t-elle besoin d’un frein d’urgence ?

Anthropic, la société derrière Claude, propose un accord mondial pour ralentir le développement des intelligences artificielles les plus puissantes. L’objectif : laisser à l’humanité le temps de s’adapter et d’éviter une « perte de contrôle ».

L’entreprise américaine vient de publier une réflexion qui bouscule la frénésie du secteur. Elle imagine un système de coordination entre les grandes entreprises et les États. Ce mécanisme permettrait de décider ensemble d’une pause ou d’un ralentissement, sans qu’aucun concurrent ne profite de l’occasion pour prendre de l’avance. Aujourd’hui, selon Anthropic, l’intelligence artificielle avance comme une voiture qui n’aurait qu’une pédale d’accélérateur, sans aucun frein. Un constat qui tranche avec la course aux investissements records qui oppose OpenAI, Google, DeepSeek ou encore xAI.

L’idée d’une régulation mondiale fait pourtant face à de fortes résistances, surtout aux États-Unis. Beaucoup de responsables politiques et de patrons de la tech refusent tout ralentissement, de peur de laisser la Chine prendre un avantage décisif. Pourtant, Donald Trump a récemment évoqué une possible coopération avec Pékin sur la sûreté de l’IA. Le décret américain sur la régulation du secteur, publié cette semaine, reste lui très timide : il prévoit un contrôle gouvernemental, mais uniquement sur la base du volontariat. Un signe que la volonté politique est encore faible face à la pression économique et géopolitique.

Anthropic justifie sa proposition par un risque concret : l’arrivée possible de l' »auto-amélioration récursive », un point où les systèmes d’IA deviendraient capables d’entraîner leurs propres successeurs avec un rôle humain réduit. L’entreprise reconnaît que rien ne garantit que ce moment approche, mais elle estime que si les tendances actuelles se poursuivent, cela deviendrait plausible. Un scénario qui pourrait offrir des bonds énormes en médecine ou en technologie, mais aussi une possible « perte de contrôle ». L’entreprise, fondée par d’anciens d’OpenAI, se présente comme un laboratoire éthique, mais elle est critiquée par une partie de l’industrie et de la Maison Blanche qui l’accuse d’exagérer les risques et de faire du « marketing de la peur ». Quoi qu’il en soit, son appel à une pause volontaire soulève une question de fond : qui décidera du rythme de cette révolution, et à quelles conditions ?

À lire aussi

• Macron recadre une voix du Kremlin en France
• Nîmes un nouveau commissariat et 16 policiers promis pour le quartier Pissevin
• Bruno Retailleau pris en tenaille par les siens et les rivaux