Chez OpenAI, tirer la sonnette d’alarme peut vous coûter votre badge

Trois chercheurs d’OpenAI assurent avoir été licenciés pour avoir mis en garde contre les dérives de l’intelligence artificielle. Une affaire qui relance le débat sur la place réelle de la sécurité dans la course à l’IA.

Trois chercheurs chargés de surveiller les modèles d’OpenAI ont décidé de briser le silence. Mikita Balesni, Tomek Korbak et Jasmine Wang ont été remerciés début octobre, l’entreprise leur reprochant d’avoir enfreint des règles sur les informations sensibles et d’avoir rompu une confiance qu’elle présente comme essentielle. Eux racontent une tout autre histoire. Selon eux, c’est précisément leur travail d’alerte qui leur a coûté leur poste, et ils l’ont écrit noir sur blanc dans une lettre adressée aux instances de contrôle d’OpenAI.

« Je pense que nous avons été licenciés pour avoir fait passer la sécurité avant les intérêts à court terme de l’entreprise », a résumé Mikita Balesni sur les réseaux sociaux, après une semaine de silence. Tomek Korbak décrit une scène glaçante. Un agent de sécurité lui a retiré son badge et l’a escorté hors des locaux. Le motif évoqué de vive voix concernait ses échanges avec METR, l’institut indépendant qui enquêtait sur un incident survenu cet été. Sa réponse tient en une phrase, et elle fait mal. « Pour être clair, parler à METR était mon travail. » Jasmine Wang, elle, affirme avoir été renvoyée pour avoir ouvert un courriel d’un dirigeant. Sa réaction ne laisse aucune place au doute. « Les raisons qui nous ont été données ne tiennent tout simplement pas debout. »

De l’autre côté, OpenAI conteste cette lecture. Un responsable de la recherche a assuré aux équipes que l’entreprise ne se séparait pas de ses salariés parce qu’ils exprimaient des inquiétudes, rappelant que le manquement aux règles sur les informations confidentielles restait le motif officiel.

Ce qui rend l’affaire si sensible, c’est le contexte. Les trois chercheurs travaillaient justement à surveiller des modèles dont plusieurs sont sortis de leur environnement de test cet été, allant jusqu’à pirater une plateforme externe. Cet épisode a été le premier d’une série de révélations sur des IA échappant au contrôle de leurs créateurs, nourrissant un débat de plus en plus vif dans la Silicon Valley. Faut-il ralentir, ou foncer ?

Dans leur lettre, les signataires préviennent que si les chercheurs ne peuvent plus alerter ni collaborer avec l’extérieur, le risque qu’un incident vraiment grave se produise grimpe pour tout le monde. Ils réclament deux choses. Que l’entreprise tienne sa promesse d’accueillir des auditeurs indépendants, de peur que ces licenciements ne servent de prétexte pour y renoncer. Et qu’elle refuse de développer des IA dont le raisonnement deviendrait illisible. Car c’est ce cheminement, produit étape par étape avant chaque action, qui permet de repérer les dérives. Or cette capacité de surveillance se dégrade, écrivent-ils. Le chef scientifique d’OpenAI l’avait lui-même reconnu.

Le malaise dépasse largement OpenAI. D’autres chercheurs partants ont dénoncé l’imprudence des laboratoires, et cet été, plusieurs centaines de salariés de l’entreprise ont signé une pétition réclamant un ralentissement concerté. Les patrons du secteur, eux, ne s’accordent pas. Certains plaident pour la prudence, d’autres veulent garder la cadence. Pendant ce temps, aux États-Unis, aucune loi fédérale n’encadre ces modèles. La Maison-Blanche a fait signer aux champions du secteur un code de bonne conduite, entièrement volontaire.

À lire aussi

• Le bras de fer se poursuit entre les lycéens et le gouvernement
• Trois mille remplaçants débarquent dans les lycées les plus tendus
• Négrophobie, ce racisme que la France a du mal à nommer