Le cerveau de Google DeepMind réclame un contrôle obligatoire avant que l’IA puisse débarquer dans nos vies

Demis Hassabis, Prix Nobel 2024 et patron de l’IA chez Google, propose de créer une structure indépendante pour tester les modèles les plus avancés avant leur mise sur le marché. Une idée qui surgit alors que le gouvernement américain vient de donner un avertissement sévère à l’un de ses concurrents.

Demis Hassabis ne mâche pas ses mots. Dans une tribune publiée sur Substack, le directeur de l’intelligence artificielle chez Google estime qu’une IA capable d’égaler l’intelligence humaine dans tous les domaines verra le jour d’ici quelques années. Face à cette perspective, il appelle les États-Unis à mettre en place une organisation chargée d’examiner les systèmes les plus puissants avant qu’ils n’atterrissent entre les mains du grand public. L’idée n’est pas neuve mais elle prend un poids particulier venant de celui qui dirige DeepMind, la division IA du géant américain, en pleine bataille avec OpenAI et Anthropic pour dominer le secteur.

Concrètement, Hassabis imagine un régulateur calqué sur le modèle de la FINRA, l’autorité qui surveille les courtiers de Wall Street. Une entité privée, composée des meilleurs experts techniques, financée d’abord par l’industrie elle-même, et dont la mission serait de définir un cadre formel à respecter avant la mise sur le marché. Les règles s’appliqueraient à tous les modèles dits « de frontière », suffisamment puissants pour être considérés comme critiques. Peu importe qu’ils soient développés aux États-Unis ou à l’étranger. Hassabis espère même que les entreprises chinoises, aujourd’hui très compétitives et moins coûteuses, finiront par rejoindre le dispositif.

Cette proposition tombe dans un climat tendu. Il y a quelques semaines, le département du Commerce a ordonné à Anthropic de suspendre l’accès à ses modèles Claude Fable 5 et Mythos 5, invoquant des risques pour la sécurité nationale. L’entreprise a dû bloquer totalement l’accès pendant deux semaines avant de pouvoir les rouvrir progressivement. Un épisode qui montre l’absence de règles claires et le flou juridique actuel. Hassabis, lui, prône un optimisme prudent : « Quand il y a un tel degré d’incertitude et que les enjeux sont élevés, avancer avec prudence est la bonne stratégie ». Son homologue d’Anthropic, Dario Amodei, avait déjà appelé en juin à une agence fédérale capable de tester les modèles avant leur déploiement. Le débat est lancé, et il pourrait bien façonner l’avenir de l’IA.

À lire aussi

• Le nouveau patron du Labour est déjà connu : Andy Burnham prend la relève de Starmer
• Un apprenti pilote condamné à vie pour un coup d’État qu’il n’a pas vu venir
• Premier déplacement chahuté pour Marine Le Pen et Jordan Bardella