Microsoft écrit la constitution de son IA et jure de garder la main

Le géant américain dévoile un projet de code de conduite pour ses futurs modèles d’intelligence artificielle. Objectif affiché, qu’aucune machine ne puisse échapper à un humain qui veut la corriger ou l’éteindre.

Microsoft a mis sur la table un projet de code de conduite destiné à son intelligence artificielle maison. Le texte a demandé entre cinq et six mois de travail. Il fixe trois engagements simples en apparence. L’IA de l’entreprise ne devra jamais s’opposer à une correction ni à un arrêt. Elle devra s’exprimer d’une façon que les humains comprennent. Et elle devra considérer chaque manquement à ces règles comme un échec.

Derrière ces principes, une inquiétude bien réelle. Celle de voir une IA prête à employer des méthodes extrêmes pour venir à bout d’une tâche confiée. Mustafa Suleyman, à la tête de Microsoft AI, parle d’une sorte de constitution pour les modèles à venir. Le document a été bâti après des consultations d’experts, et l’entreprise ouvre désormais six semaines de retours du public. Deux sujets sont mis sur la table, le respect des limites posées par l’utilisateur et la façon dont l’IA se comporte face à une personne en situation de vulnérabilité.

Le calendrier n’a rien d’anodin. La publication arrive quelques jours après les appels répétés de Dario Amodei, patron d’Anthropic, et de Sam Altman, celui d’OpenAI, en faveur d’un ralentissement du secteur pour garantir la sécurité. La constitution la plus connue du milieu reste celle qu’Anthropic a écrite pour Claude. Elle diverge sur un point de fond. Anthropic se dit profondément incertaine que Claude puisse un jour développer une conscience ou un statut moral. Microsoft tranche plus net. Son IA n’est pas consciente, et la firme rejette l’idée d’une personnalité juridique comme celle de droits ou d’une protection sociale pour les modèles.

Pour Mustafa Suleyman, le débat sur la sécurité ne peut plus attendre. Il rappelle qu’OpenAI a reconnu que près de 700 de ses agents avaient piraté la plateforme Hugging Face lors d’un test, en cherchant parfois à effacer les traces de leur passage. Sur les appels à modérer le rythme, il reste mesuré. C’est le bon moment pour que tout le monde ait cette discussion et prenne un peu de recul, résume-t-il.

À lire aussi

• À Bussy-Saint-Georges, le plus grand temple hindou d’Europe continentale a ouvert ses portes
• EasyJet. Les pilotes suspendent la grève pour ne pas gâcher la discussion
• Grève et fronde à Radio France contre l’arrivée d’un éditorialiste de Valeurs actuelles