Une cadre claque la porte d’OpenAI face aux projets militaires

La responsable du développement matériel de la société a quitté ses fonctions, estimant que le partenariat avec le département de la Défense américain avait été conclu sans les garanties éthiques nécessaires.

La société OpenAI, à l’origine de ChatGPT, voit l’un de ses cadres supérieurs partir en raison de désaccords profonds sur sa stratégie. Cette démission intervient dans le sillage d’un accord contractuel noué avec le Pentagone, autorisant l’emploi des technologies de l’entreprise dans des applications militaires et de surveillance domestique.

La salariée a justifié sa décision sur les réseaux sociaux, soulignant que si l’intelligence artificielle a un rôle à jouer pour la sécurité nationale, certaines applications posent des problèmes éthiques majeurs. Elle a pointé du doigt la surveillance de la population sans contrôle judiciaire et l’utilisation d’armes autonomes létales, des sujets qui requièrent selon elle une réflexion approfondie et des garde-fous solides.

Cette prise de position fait suite à l’obtention par OpenAI d’un contrat avec le département de la Défense américaine. Cet événement avait suscité des réactions contrastées dans le secteur, un concurrent direct ayant refusé peu avant de céder à des demandes similaires du gouvernement. Face aux critiques, la direction d’OpenAI avait annoncé des amendements à l’accord, incluant une clause visant à interdire l’usage intentionnel de ses systèmes pour surveiller les citoyens américains.

La cadre démissionnaire a tenu à préciser que son geste était motivé par des questions de principe et de gouvernance, et non par des conflits personnels. Elle a regretté que cet accord d’envergure ait été annoncé de manière précipitée, avant que des limites claires ne soient établies. Selon elle, l’importance stratégique et éthique de ces technologies exige une approche plus mesurée et transparente.

Avant de rejoindre OpenAI, cette ingénieure avait œuvré au sein de Meta sur le développement de dispositifs de réalité augmentée. Son départ survient alors qu’OpenAI travaille activement au lancement de nouveaux produits matériels destinés à intégrer l’IA générative dans la vie quotidienne.