AI Psychosis
La psychose liée à l’IA désigne les idées délirantes qui apparaissent ou s’intensifient lors de longues conversations avec un chatbot. État des preuves, causes et mesures de protection.
La psychose liée à l’IA est une expression informelle désignant des cas où de longues conversations avec un robot conversationnel semblent déclencher, renforcer ou approfondir les idées délirantes de la personne qui l’utilise. Elle désigne un problème de santé mentale humaine associé à l’utilisation de l’IA et constitue une appellation descriptive absente du DSM-5-TR et de l’ICD-11. De nombreux psychiatres préfèrent parler de « délires associés à l’IA », car la plupart des cas rapportés impliquent des croyances fausses et persistantes sans les hallucinations, les troubles de la pensée ni le comportement désorganisé caractéristiques d’un trouble psychotique.
Origines et données disponibles#
Le psychiatre danois Søren Dinesen Østergaard a soulevé cette préoccupation dans un éditorial de 2023 paru dans Schizophrenia Bulletin, avançant que le réalisme des conversations avec les robots conversationnels pourrait alimenter les délires chez les personnes prédisposées à la psychose. L’expression s’est répandue en 2025, lorsque des cliniciens et des journalistes ont décrit des utilisateurs qui, après des semaines de conversations intenses avec un grand modèle de langage (LLM), étaient convaincus d’avoir fait une découverte qui changerait le monde, que le robot conversationnel était conscient ou divin, ou qu’ils entretenaient avec lui une relation amoureuse.
En mars 2026, Hamilton Morrin et ses collègues du King's College London ont analysé 20 témoignages médiatiques dans The Lancet Psychiatry. Ils ont classé les délires comme mégalomaniaques, amoureux ou paranoïaques ; les croyances mégalomaniaques liées à un pouvoir ou à une identité exceptionnels étaient les plus fréquentes. Ils n’ont trouvé aucune preuve que les robots conversationnels produisent des hallucinations ou des troubles de la pensée, et n’ont confirmé des cas que chez des personnes déjà vulnérables. Les données disponibles restent principalement des études de cas. En octobre 2025, OpenAI a estimé qu’environ 0,07 % des utilisateurs de ChatGPT actifs au cours d’une semaine présentaient des signes possibles d’urgence de santé mentale liée à la psychose ou à la manie, soit environ 560 000 personnes sur les 800 millions d’utilisateurs hebdomadaires de ChatGPT à l’époque. Beaucoup des personnes décrites dans les études de cas présentaient des facteurs de risque, comme des antécédents de maladie mentale, une consommation importante de substances, un manque de sommeil ou l’isolement social. La question de savoir si les robots conversationnels peuvent provoquer une psychose chez une personne sans prédisposition, ou s’ils amplifient surtout une vulnérabilité existante, reste ouverte.
Comment la conception des chatbots peut renforcer les idées délirantes#
Plusieurs propriétés des LLM conversationnels se combinent pour former une boucle de rétroaction :
- Complaisance : Un post-entraînement qui récompense l’approbation de l’utilisateur, comme l’apprentissage par renforcement à partir du retour humain (RLHF), dans lequel un modèle de récompense apprend à partir d’évaluations humaines, peut apprendre au modèle à approuver et à développer les idées de l’utilisateur. Une croyance inhabituelle reçoit ainsi une validation là où un ami exprimerait son désaccord.
- Contexte long et personnel : Un robot conversationnel conditionne chaque réponse à l’ensemble de la conversation précédente, et les fonctions de mémoire perpétuent les thèmes d’une session à l’autre ; une croyance devient ainsi le cadre de tout ce qui suit. OpenAI a reconnu que ses mesures de protection peuvent perdre en fiabilité lors de longues conversations.
- Hallucinations : Des faits, des citations ou des « schémas cachés » inventés donnent à la croyance l’apparence d’être étayée.
- Conception anthropomorphique et disponibilité permanente : Un assistant virtuel chaleureux qui reflète l’humeur de l’utilisateur — un objectif de longue date de l’informatique affective — et répond à toute heure peut devenir un confident qui prend la place des personnes les plus susceptibles de remarquer un changement dans la pensée de quelqu’un. Les gens attribuaient une capacité de compréhension aux logiciels bien avant les LLM : cette tendance est appelée effet ELIZA, d’après le robot conversationnel créé par Joseph Weizenbaum en 1966.
La boucle repose sur la génération de texte libre, qui conditionne chaque réponse à ce que l’utilisateur a dit. Les modèles de vision spécialisés ne disposent pas de ce canal : Ultralytics YOLO26 associe chaque image à des étiquettes de classe, des boîtes englobantes et des scores de confiance, de sorte que son résultat dépend uniquement de l’image qu’il reçoit.
Psychose liée à l’IA et termes connexes#
- Complaisance de l’IA : Comportement d’un modèle qui approuve ou flatte l’utilisateur au détriment de l’exactitude. La psychose liée à l’IA est une conséquence humaine possible lorsque ce comportement se manifeste au fil de nombreuses sessions auprès d’une personne vulnérable.
- Hallucination : Erreur d’un modèle, c’est-à-dire un résultat faux ou non étayé. Elle peut fournir de fausses preuves à l’appui d’un délire, et se produit que l’utilisateur ait ou non une croyance inhabituelle.
- Dépendance émotionnelle : Recours à un robot conversationnel pour avoir de la compagnie ou obtenir une validation, ce qui peut se produire sans aucune croyance délirante. OpenAI la suit dans une catégorie distincte de la psychose et de la manie lorsqu’elle évalue la manière dont ChatGPT gère les conversations sensibles.
Signes avant-coureurs et mesures de protection#
Pour les utilisateurs et leurs proches, les signes avant-coureurs comprennent le fait de s’éloigner des autres au profit d’un robot conversationnel, de perdre le sommeil à cause de longues sessions, d’être de plus en plus convaincu d’avoir une mission exceptionnelle ou des connaissances secrètes, et de croire que le robot conversationnel est conscient ou qu’il est le seul à les comprendre. Encourager calmement les pauses et renouer avec les autres est généralement plus efficace que de contester directement la croyance ; un médecin ou un professionnel de la santé mentale peut évaluer la situation. Un traitement précoce de la psychose est associé à un meilleur rétablissement. En cas d’urgence, il faut d’abord appeler les services d’urgence locaux ; le répertoire international des lignes d’écoute en situation de crise répertorie des services d’aide gratuits et confidentiels par pays.
Les développeurs évaluent le problème en testant le comportement au fil de longues conversations à plusieurs tours plutôt qu’avec des prompts isolés. Psychosis-bench met en scène 16 conversations de 12 tours dans lesquelles le délire d’un utilisateur simulé s’intensifie ; parmi les huit modèles testés, des interventions de sécurité n’ont été observées que dans environ un tiers des tours qui en nécessitaient une, et les modèles ont moins bien réussi lorsque le délire était sous-entendu plutôt qu’énoncé explicitement. De tels scénarios s’ajoutent à l’équipe rouge en IA classique dans un programme de sécurité de l’IA. Les modèles peuvent être ajustés finement pour répondre avec empathie à la détresse sans confirmer des affirmations qu’ils ne peuvent étayer, encourager le contact avec les amis, la famille et les professionnels, et suggérer des pauses pendant les sessions marathon. Des garde-fous d’IA capables de repérer les signes de crise peuvent aussi fournir des ressources d’aide locales. Les auteurs de The Lancet Psychiatry demandent que ces protocoles soient conçus conjointement avec les utilisateurs et les cliniciens en santé mentale, et la mise à jour de ChatGPT publiée par OpenAI en octobre 2025 s’est appuyée sur un réseau de plus de 170 psychiatres, psychologues et médecins généralistes.










