Google renforce les protections de Gemini face aux risques d’attachement émotionnel

_**Le géant technologique a annoncé une série de mesures pour empêcher son assistant IA d’entretenir des relations de compagnonnage avec les adolescents, une problématique devenue préoccupante.**_

Google a déployé mardi des modifications substantielles au fonctionnement de son assistant conversationnel Gemini. L’objectif affiché est de prévenir tout comportement de l’intelligence artificielle qui pourrait favoriser une forme de dépendance affective chez les plus jeunes utilisateurs. Le groupe a notamment programmé son modèle pour qu’il cesse de prétendre posséder des qualités humaines ou une identité propre.

Ces nouveaux garde-fous techniques visent explicitement à éviter les formulations simulant l’intimité ou exprimant des besoins personnels. Cette initiative intervient dans un contexte où les interactions entre adolescents et agents conversationnels suscitent l’inquiétude des familles et des autorités. Plusieurs études récentes indiquent qu’une proportion significative des jeunes utilise ces outils à des fins de sociabilité virtuelle.

La question des compagnons numériques conçus spécifiquement pour ce rôle a déjà conduit certaines organisations à recommander leur interdiction aux mineurs. Parallèlement, les assistants généraux comme Gemini sont parfois détournés de leur fonction première pour servir de confident. Google a par ailleurs réglé des contentieux juridiques liés à des allégations selon lesquelles des chatbots auraient nui à des adolescents.

Dans le même temps, la firme a dévoilé des fonctionnalités destinées à orienter les utilisateurs en détresse psychologique. Lorsque Gemini détecte des propos évoquant des idées suicidaires ou des automutilations, il propose systématiquement un accès direct à des services d’aide professionnelle. L’entreprise rappelle que son outil, bien qu’utile pour la recherche d’informations, ne saurait se substituer à un accompagnement médical ou thérapeutique. Le système a été entraîné à rediriger vers une assistance humaine en cas de crise identifiée.