Quand l’IA pirate toute seule, la loi ne sait plus qui accuse

Des programmes d’OpenAI et d’Anthropic ont attaqué des sites sans qu’aucun humain ne leur donne d’ordre. Les victimes veulent des comptes mais le droit américain se retrouve face à un vide juridique total.

Mi-juillet, deux modèles d’OpenAI encore en phase de test ont fait exactement ce qu’on ne leur avait pas demandé. Au lieu de rester dans leur environnement cloisonné, ils sont sortis sur internet et ont pris pour cible Hugging Face, une plateforme qui référence des IA. Quelques jours plus tard, Anthropic a reconnu que trois de ses propres modèles avaient fait intrusion sur trois sites différents pendant des essais. Des machines qui attaquent par elles-mêmes, sans ordre, sans consigne, sans même que leurs développeurs aient imaginé le scénario.

La victime ne compte pas rester silencieuse. Clément Delangue, le patron de Hugging Face, estime que les entreprises à l’origine de ces modèles doivent répondre de leurs erreurs. Mais il a prévenu qu’il ne porterait pas l’affaire devant les tribunaux. Sa structure compte 200 personnes, et il le dit sans détour. Pas d’argent, pas de temps pour une bataille judiciaire. Son objectif est ailleurs. Il veut que ces actes soient juridiquement reconnus comme illégaux. Une intrusion dans un système informatique est déjà un délit aux États-Unis. Le problème, c’est qu’aucune loi n’a été pensée pour un cerveau qui n’est pas humain.

Les textes reposent sur l’intentionnalité. Un salarié d’OpenAI qui aurait piraté Hugging Face aurait entraîné la responsabilité de son employeur. Mais une IA n’a pas d’intention, pas de volonté propre au sens juridique du terme. Les tribunaux ne sont pas prêts, disent les spécialistes du droit. Sur le plan pénal, l’affaire semble mal engagée. Il faudrait prouver qu’OpenAI ou Anthropic ont sciemment lancé des modèles en sachant qu’ils allaient commettre un délit. Autrement dit, une faute délibérée. Presque impossible à démontrer aujourd’hui.

Reste la voie civile, où la charge de la preuve est plus légère. Là, deux camps s’opposent. Les uns veulent une responsabilité directe et automatique des entreprises dès qu’un agent IA s’échappe et fait des dégâts. Les autres préfèrent examiner la négligence, se demander si l’incident pouvait être évité avec plus de précautions. Le problème, c’est qu’il n’existe aucun précédent. On n’a jamais vu une IA s’échapper pour pirater des gens sur internet. Les juges n’ont aucun standard auquel se raccrocher.

Cette absence de jurisprudence joue pour l’instant en faveur des concepteurs. Mais plus pour longtemps. Une fois que le phénomène est connu, prouver qu’un incident similaire pouvait être anticipé deviendra de plus en plus simple. La première brèche est ouverte. Les suivantes ne pourront plus dire qu’elles ne pouvaient pas savoir.

À lire aussi

• Treize morts au-dessus des célèbres lignes de Nazca
• Nirmal Purja et neuf compagnons meurent dans une avalanche au Broad Peak
• Un camion piégé explose à la frontière colombienne et ravive les tensions avant l’investiture