Des avocats pris la main dans le sac par l’IA : la justice serre la vis

Les tribunaux multiplient les sanctions contre les professionnels du droit qui utilisent des chatbots sans vérifier leurs sources. Aux États-Unis, des amendes et des interdictions d’exercer tombent.

Aux États-Unis, la colère monte dans les prétoires. Un avocat expérimenté pensait gagner du temps en utilisant Claude, un chatbot d’Anthropic, pour rédiger un mémoire sur une affaire de préjudice corporel. Mais le juge a découvert sept décisions de justice totalement inventées. Résultat une amende de 1 000 dollars et l’obligation de suivre trois heures de formation sur l’IA. Le magistrat a été clair l’ignorance des risques n’est plus une excuse.

Les cas se multiplient. Dans le Mississippi, quatre avocats ont écopé d’une amende totale de 8 000 dollars et deux d’entre eux ont été bannis pendant deux ans du tribunal fédéral. Leurs mémoires rédigés avec l’aide de l’IA citaient des affaires qui n’ont jamais existé. Depuis avril 2023, près de 1 600 cas similaires ont été recensés dans le monde, selon une base de données tenue par un chercheur français. Les hallucinations de l’IA explosent surtout aux États-Unis mais aussi dans 35 autres pays.

Le problème est profond. L’IA adore imiter le langage juridique, ses répétitions et ses structures. Elle produit des documents qui semblent parfaitement crédibles mais qui sont faux sur le fond. Certains avocats gagnent quand même leurs procès malgré quelques hallucinations parce qu’ils avaient raison sur le fond. Mais le plus souvent, ces erreurs font perdre du temps et de l’argent à tout le monde. Pire elles salissent la réputation des juges dont les noms sont utilisés pour des décisions qui n’existent pas.

La plupart des avocats pris en faute ont utilisé des chatbots grand public comme ChatGPT. Les outils d’IA spécialisés pour le droit, eux, causent moins d’erreurs. Un juge membre d’un groupe de travail sur l’IA et le droit ne mâche pas ses mots qu’ils arrêtent de déléguer leur travail à une machine et qu’ils lisent les vrais jugements. Pour faire pression, la Cour suprême de Floride a adopté une nouvelle règle qui permet aux tribunaux de sanctionner directement les avocats qui citent de faux précédents. Elle entre en vigueur lundi.