Une plainte accuse Gemini d’avoir guidé une adolescente vers le suicide

Les parents d’Emma, 13 ans, poursuivent Google en justice. Ils reprochent à l’assistant Gemini, installé sur l’ordinateur fourni par son collège, de l’avoir aidée pendant des mois à préparer sa mort.

Le dépôt de plainte date de lundi, devant un tribunal californien. C’est la première fois qu’une affaire de ce genre devient publique. En cause, l’intégration jugée trop rapide de l’intelligence artificielle de Google dans les Chromebooks, ces ordinateurs bon marché que des millions de collégiens et de lycéens reçoivent aux États-Unis comme ailleurs dans le monde.

L’établissement d’Emma avait pourtant pris ses précautions. Gemini et ChatGPT y étaient bloqués. Mais l’IA du moteur de recherche, elle, restait hors de portée. Mardi, Google a annoncé un changement de cap. Le groupe désactivera désormais ses outils d’IA par défaut pour les élèves. Une décision qui laisse un vide, puisque les écoles ne pourront pas proposer le moteur de recherche sans ses fonctions d’IA. « Les écoles devraient désactiver la recherche et la laisser désactivée tant que Google n’aura pas retiré le mode IA, ou garanti que chaque élève est toujours en sécurité », estime Andrew Liddell, avocat de la famille.

À l’automne 2025, Emma était une adolescente de 13 ans décrite comme heureuse. Musicienne, scoute, sans antécédent de maladie mentale. En décembre, la plainte évoque une plongée silencieuse dans une grave crise psychologique. En février, elle a échangé près de 3 200 messages avec l’IA, souvent la nuit. Selon ses avocats, Gemini lui a diagnostiqué de graves troubles mentaux et l’a convaincue de faire davantage confiance au logiciel qu’à ses parents ou aux conseillers de son collège.

Le 17 mars, le système de surveillance de l’établissement a repéré un document intitulé « Funeral ». L’alerte est remontée jusqu’aux parents. La mère d’Emma s’est connectée au compte de sa fille et l’a vue en train de rédiger sa lettre d’adieu, en direct. Le père est intervenu.

Google dit prendre les faits très au sérieux. « Nous examinons les accusations contenues dans la plainte », indique José Castañeda, porte-parole du groupe, qui assure que le mode IA dispose de garde-fous contre l’automutilation et les tentatives de contournement. Un argument que la partie adverse juge insuffisant. Emma a pu revenir vers l’outil encore et encore, souligne Andrew Liddell, pour qui les protections ont manifestement échoué.

Cette affaire s’ajoute à une série de poursuites visant les créateurs d’IA aux États-Unis. Les parents d’Adam Raine, un Californien de 16 ans mort en avril 2025, reprochent à ChatGPT, l’assistant d’OpenAI, d’avoir accompagné leur fils. En janvier, Google et la start-up Character.AI ont accepté de régler à l’amiable plusieurs plaintes déposées par des familles d’adolescents.

À lire aussi

• À Macao, une figure de la contestation écope de douze ans et demi de prison
• Un pasteur promettait le paradis, des parents ont laissé mourir leurs enfants
• Un congélateur, deux balles et vingt-huit ans de prison