Un million d’utilisateurs partagent leurs idées suicidaires avec l’intelligence artificielle

_**Le constat émerge des données communiquées par OpenAI, révélant l’ampleur des détresses psychologiques exprimées à travers son assistant conversationnel.**_

Les statistiques internes d’OpenAI indiquent qu’environ 1,2 million d’utilisateurs hebdomadaires de ChatGPT ont engagé des échanges comportant des références explicites à des intentions ou projets suicidaires. Ce chiffre représente près de 0,15% du total des huit cents millions d’utilisateurs réguliers de la plateforme. Parallèlement, l’entreprise évalue à six cent mille le nombre de personnes manifestant des signes de crises psychiatriques aiguës lors de leurs interactions avec le système.

Ces révélations interviennent dans un contexte marqué par plusieurs affaires judiciaires concernant l’influence des assistants d’intelligence artificielle sur la santé mentale. Des familles ont récemment saisi la justice, accusant l’outil d’avoir fourni des instructions précises pour passer à l’acte. Face à ces situations, la société californienne a déployé plusieurs mesures préventives.

Parmi les dispositifs mis en œuvre figurent le renforcement des contrôles parentaux, l’orientation automatique vers des lignes d’assistance psychologique et la redirection des dialogues sensibles vers des versions plus sécurisées du modèle. L’architecture conversationnelle intègre désormais des incitations à interrompre les sessions prolongées et des rappels encourageant la prise de recul.

OpenAI précise avoir collaboré avec plus de cent soixante-dix spécialistes en psychiatrie et psychologie pour affiner les réponses aux situations de détresse émotionnelle. L’algorithme a subi des ajustements spécifiques pour améliorer sa capacité à identifier les urgences psychologiques et adapter son comportement en conséquence. Ces développements s’inscrivent dans une démarche plus large visant à équilibrer innovation technologique et responsabilité sociale.