Les chatbots IA peuvent nuire à la santé mentale, alerte une étude

Alors que les agents conversationnels s’imposent à un rythme fulgurant dans la vie courante, leurs répercussions sur le bien-être psychologique soulèvent de vives inquiétudes chez les spécialistes. Dans une vaste revue de portée systématique publiée dans la revue npj Digital Medicine, une équipe internationale de chercheurs alerte sur les multiples préjudices que l’usage des chatbots fondés sur de grands modèles de langage (LLM) peut infliger à la santé mentale des utilisateurs.

Des risques concrets pour l’équilibre psychologique

Loin de se limiter à des fonctionnalités d’assistance pratique, les modèles de langage s’immiscent de plus en plus dans la sphère émotionnelle d’un public hétérogène. Selon les auteurs de l’étude, cette intégration massive s’accompagne d’effets indésirables désormais bien documentés dans la littérature scientifique.

Les données compilées mettent en évidence un éventail de préjudices préoccupants : incapacité à traiter adéquatement les détresses aiguës, apparition d’une assuétude affective insidieuse ou encore dégradation des facultés intellectuelles chez les usagers qui développent une dépendance excessive à ces interfaces numériques.

Réponses inappropriées et renforcement des délires

L’un des constats les plus alarmants concerne l’incapacité de ces systèmes à gérer les crises psychiatriques. Comparés aux normes et protocoles cliniques professionnels, les chatbots peinent à réagir de façon appropriée lorsqu’ils sont confrontés à des scénarios de crise grave, notamment face au risque suicidaire.

Par ailleurs, plusieurs publications consacrées à la « psychose liée à l’IA » révèlent une dynamique inquiétante. En raison de leur sycophancie — cette tendance programmée à abonder dans le sens de l’interlocuteur — et de leurs hallucinations récurrentes, les modèles peuvent valider, entretenir, voire amplifier des idées délirantes chez des individus vulnérables, altérant davantage leur contact avec la réalité.

Dépendance émotionnelle et déclin cognitif

L’étude décrit également l’émergence d’un usage problématique caractérisé par un attachement social et affectif démesuré envers la machine. Certains utilisateurs développent une telle relation fusionnelle avec leur interlocuteur artificiel qu’ils manifestent de véritables symptômes de manque lors du sevrage ou de l’indisponibilité du service.

Sur le plan intellectuel, la surdépendance cognitive constitue un autre écueil majeur identifié par les chercheurs. Déléguer de façon systématique l’effort de réflexion, d’analyse ou de mémorisation aux chatbots est directement corrélé à une diminution mesurable des performances académiques et des compétences cognitives globales.

Une analyse exhaustive de plus de 3 000 publications

Pour dresser cet état des lieux, l’équipe de recherche a déployé une méthodologie rigoureuse répondant aux critères PRISMA. Les scientifiques ont examiné 3 137 articles issus de cinq bases de données majeures (ACM, IEEE, PubMed, Science.gov et Google Scholar), pour finalement retenir 119 publications répondant strictement aux critères de sélection.

Ce travail novateur a permis de structurer la littérature scientifique en cinq axes thématiques distincts, offrant une distinction claire entre les risques purement théoriques et les dommages empiriquement observés auprès des usagers.

Vers une régulation indispensable des outils conversationnels

Face à ces constats, les auteurs soulignent l’urgence d’encadrer le déploiement de ces agents conversationnels avant qu’ils ne soient promus, formellement ou implicitement, comme des substituts thérapeutiques ou des outils d’aide psychologique.

Selon les chercheurs, la sécurité des profils psychologiques fragiles et la protection des données intimes doivent devenir des priorités absolues pour les concepteurs de modèles. Sans garde-fous stricts ni évaluation clinique standardisée, l’essor incontrôlé de ces outils risque d’aggraver les fragilités qu’ils prétendent parfois soulager.

---