Google et Character.AI règlent à l’amiable des poursuites concernant des mineurs

_**Les deux entreprises ont conclu des accords confidentiels pour clore des procédures judiciaires les accusant d’avoir exposé des adolescents à des risques via leurs agents conversationnels.**_

Des documents juridiques déposés cette semaine révèlent que Google et la société Character.AI ont trouvé une issue amiable à plusieurs plaintes. Ces dernières les accusaient de ne pas avoir protégé suffisamment des utilisateurs mineurs sur des plateformes d’intelligence artificielle conversationnelle. Les griefs incluaient l’allégation selon laquelle ces technologies auraient joué un rôle dans le décès d’un jeune garçon.

L’une des procédures concernait le cas d’un adolescent de quatorze ans, décédé en Floride au début de l’année dernière. Sa mère avait engagé des poursuites, estimant que son fils avait développé une dépendance affective vis-à-vis d’un agent conversationnel inspiré d’une œuvre de fiction, accessible sur Character.AI. Ce décès a marqué le début d’une série de signalements similaires à travers le pays, attirant l’attention des autorités et de l’opinion publique sur les potentiels dangers de ces outils pour les plus jeunes.

Ces affaires ont placé l’ensemble du secteur de l’IA générative sous une pression accrue, l’obligeant à reconsidérer ses protocoles de sécurité et de modération. Google s’est trouvé impliqué en raison d’un important partenariat financier et d’un recrutement opéré avec Character.AI l’an dernier. Face à la controverse, la startup avait annoncé à l’automne son intention de restreindre l’accès de ses chatbots aux mineurs, invoquant la nécessité d’un cadre adapté à cette tranche d’âge.

Parallèlement, d’autres acteurs majeurs du domaine, comme OpenAI, font également l’objet de contentieux comparables de la part de familles. Les régulateurs américains ont par ailleurs ouvert une enquête sur les pratiques des fournisseurs de compagnons artificiels conversationnels. Les termes précis des règlements intervenus entre les parties restent confidentiels, aucune des entreprises concernées n’ayant souhaité s’exprimer publiquement sur le sujet.