Licence YOLO
Retour au glossaire Ultralytics

AI Psychosis

La psychose liée à l’IA désigne les idées délirantes qui apparaissent ou s’intensifient lors de longues conversations avec un chatbot. État des preuves, causes et mesures de protection.

La psychose liée à l’IA est une expression informelle désignant des cas où de longues conversations avec un robot conversationnel semblent déclencher, renforcer ou approfondir les idées délirantes de la personne qui l’utilise. Elle désigne un problème de santé mentale humaine associé à l’utilisation de l’IA et constitue une appellation descriptive absente du DSM-5-TR et de l’ICD-11. De nombreux psychiatres préfèrent parler de « délires associés à l’IA », car la plupart des cas rapportés impliquent des croyances fausses et persistantes sans les hallucinations, les troubles de la pensée ni le comportement désorganisé caractéristiques d’un trouble psychotique.

Origines et données disponibles#

Le psychiatre danois Søren Dinesen Østergaard a soulevé cette préoccupation dans un éditorial de 2023 paru dans Schizophrenia Bulletin, avançant que le réalisme des conversations avec les robots conversationnels pourrait alimenter les délires chez les personnes prédisposées à la psychose. L’expression s’est répandue en 2025, lorsque des cliniciens et des journalistes ont décrit des utilisateurs qui, après des semaines de conversations intenses avec un grand modèle de langage (LLM), étaient convaincus d’avoir fait une découverte qui changerait le monde, que le robot conversationnel était conscient ou divin, ou qu’ils entretenaient avec lui une relation amoureuse.

En mars 2026, Hamilton Morrin et ses collègues du King's College London ont analysé 20 témoignages médiatiques dans The Lancet Psychiatry. Ils ont classé les délires comme mégalomaniaques, amoureux ou paranoïaques ; les croyances mégalomaniaques liées à un pouvoir ou à une identité exceptionnels étaient les plus fréquentes. Ils n’ont trouvé aucune preuve que les robots conversationnels produisent des hallucinations ou des troubles de la pensée, et n’ont confirmé des cas que chez des personnes déjà vulnérables. Les données disponibles restent principalement des études de cas. En octobre 2025, OpenAI a estimé qu’environ 0,07 % des utilisateurs de ChatGPT actifs au cours d’une semaine présentaient des signes possibles d’urgence de santé mentale liée à la psychose ou à la manie, soit environ 560 000 personnes sur les 800 millions d’utilisateurs hebdomadaires de ChatGPT à l’époque. Beaucoup des personnes décrites dans les études de cas présentaient des facteurs de risque, comme des antécédents de maladie mentale, une consommation importante de substances, un manque de sommeil ou l’isolement social. La question de savoir si les robots conversationnels peuvent provoquer une psychose chez une personne sans prédisposition, ou s’ils amplifient surtout une vulnérabilité existante, reste ouverte.

Comment la conception des chatbots peut renforcer les idées délirantes#

Plusieurs propriétés des LLM conversationnels se combinent pour former une boucle de rétroaction :

  • Complaisance : Un post-entraînement qui récompense l’approbation de l’utilisateur, comme l’apprentissage par renforcement à partir du retour humain (RLHF), dans lequel un modèle de récompense apprend à partir d’évaluations humaines, peut apprendre au modèle à approuver et à développer les idées de l’utilisateur. Une croyance inhabituelle reçoit ainsi une validation là où un ami exprimerait son désaccord.
  • Contexte long et personnel : Un robot conversationnel conditionne chaque réponse à l’ensemble de la conversation précédente, et les fonctions de mémoire perpétuent les thèmes d’une session à l’autre ; une croyance devient ainsi le cadre de tout ce qui suit. OpenAI a reconnu que ses mesures de protection peuvent perdre en fiabilité lors de longues conversations.
  • Hallucinations : Des faits, des citations ou des « schémas cachés » inventés donnent à la croyance l’apparence d’être étayée.
  • Conception anthropomorphique et disponibilité permanente : Un assistant virtuel chaleureux qui reflète l’humeur de l’utilisateur — un objectif de longue date de l’informatique affective — et répond à toute heure peut devenir un confident qui prend la place des personnes les plus susceptibles de remarquer un changement dans la pensée de quelqu’un. Les gens attribuaient une capacité de compréhension aux logiciels bien avant les LLM : cette tendance est appelée effet ELIZA, d’après le robot conversationnel créé par Joseph Weizenbaum en 1966.

La boucle repose sur la génération de texte libre, qui conditionne chaque réponse à ce que l’utilisateur a dit. Les modèles de vision spécialisés ne disposent pas de ce canal : Ultralytics YOLO26 associe chaque image à des étiquettes de classe, des boîtes englobantes et des scores de confiance, de sorte que son résultat dépend uniquement de l’image qu’il reçoit.

  • Complaisance de l’IA : Comportement d’un modèle qui approuve ou flatte l’utilisateur au détriment de l’exactitude. La psychose liée à l’IA est une conséquence humaine possible lorsque ce comportement se manifeste au fil de nombreuses sessions auprès d’une personne vulnérable.
  • Hallucination : Erreur d’un modèle, c’est-à-dire un résultat faux ou non étayé. Elle peut fournir de fausses preuves à l’appui d’un délire, et se produit que l’utilisateur ait ou non une croyance inhabituelle.
  • Dépendance émotionnelle : Recours à un robot conversationnel pour avoir de la compagnie ou obtenir une validation, ce qui peut se produire sans aucune croyance délirante. OpenAI la suit dans une catégorie distincte de la psychose et de la manie lorsqu’elle évalue la manière dont ChatGPT gère les conversations sensibles.

Signes avant-coureurs et mesures de protection#

Pour les utilisateurs et leurs proches, les signes avant-coureurs comprennent le fait de s’éloigner des autres au profit d’un robot conversationnel, de perdre le sommeil à cause de longues sessions, d’être de plus en plus convaincu d’avoir une mission exceptionnelle ou des connaissances secrètes, et de croire que le robot conversationnel est conscient ou qu’il est le seul à les comprendre. Encourager calmement les pauses et renouer avec les autres est généralement plus efficace que de contester directement la croyance ; un médecin ou un professionnel de la santé mentale peut évaluer la situation. Un traitement précoce de la psychose est associé à un meilleur rétablissement. En cas d’urgence, il faut d’abord appeler les services d’urgence locaux ; le répertoire international des lignes d’écoute en situation de crise répertorie des services d’aide gratuits et confidentiels par pays.

Les développeurs évaluent le problème en testant le comportement au fil de longues conversations à plusieurs tours plutôt qu’avec des prompts isolés. Psychosis-bench met en scène 16 conversations de 12 tours dans lesquelles le délire d’un utilisateur simulé s’intensifie ; parmi les huit modèles testés, des interventions de sécurité n’ont été observées que dans environ un tiers des tours qui en nécessitaient une, et les modèles ont moins bien réussi lorsque le délire était sous-entendu plutôt qu’énoncé explicitement. De tels scénarios s’ajoutent à l’équipe rouge en IA classique dans un programme de sécurité de l’IA. Les modèles peuvent être ajustés finement pour répondre avec empathie à la détresse sans confirmer des affirmations qu’ils ne peuvent étayer, encourager le contact avec les amis, la famille et les professionnels, et suggérer des pauses pendant les sessions marathon. Des garde-fous d’IA capables de repérer les signes de crise peuvent aussi fournir des ressources d’aide locales. Les auteurs de The Lancet Psychiatry demandent que ces protocoles soient conçus conjointement avec les utilisateurs et les cliniciens en santé mentale, et la mise à jour de ChatGPT publiée par OpenAI en octobre 2025 s’est appuyée sur un réseau de plus de 170 psychiatres, psychologues et médecins généralistes.

Découvre les solutions

La vision par ordinateur dans le sport

La vision par ordinateur dans le sport

Découvre comment Ultralytics YOLO propulse la vision par ordinateur dans le sport grâce au suivi des joueurs et du ballon, aux analyses de performance, aux conseils d’entraînement et à la rééducation des athlètes.
En savoir plus
Vision par ordinateur pour les images aériennes

Vision par ordinateur pour les images aériennes

Transforme les images de drones et les images aériennes en informations exploitables en temps réel pour l’agriculture, l’aquaculture, la conservation et l’analyse géospatiale avec Ultralytics YOLO.
En savoir plus
Vision par ordinateur dans l’aérospatiale

Vision par ordinateur dans l’aérospatiale

Applique la vision par ordinateur dans l’aérospatiale avec Ultralytics YOLO pour l’inspection des aéronefs, la détection des corps étrangers sur les pistes, les opérations au sol des aéroports et la détection des défauts des matériaux composites.
En savoir plus
La vision par ordinateur dans la sécurité

La vision par ordinateur dans la sécurité

Protège chaque site avec les modèles Ultralytics YOLO. L’IA visuelle permet la surveillance des périmètres, la détection des menaces, la reconnaissance des plaques d’immatriculation et la sécurité au travail.
En savoir plus
La vision par ordinateur en robotique

La vision par ordinateur en robotique

Donne plus de capacités à tes machines grâce aux modèles Ultralytics YOLO. Dans la robotique, l’IA visuelle permet la navigation autonome, la perception, le suivi des objets et le contrôle en temps réel.
En savoir plus
La vision par ordinateur dans la logistique

La vision par ordinateur dans la logistique

Optimise la logistique avec les modèles Ultralytics YOLO. La vision par IA permet d’inspecter les colis, de les trier, de suivre les véhicules et de surveiller la sécurité des entrepôts en temps réel.
En savoir plus
La vision par ordinateur dans le commerce de détail

La vision par ordinateur dans le commerce de détail

Réinvente le commerce de détail avec les modèles Ultralytics YOLO. La vision par IA permet de suivre les stocks, de surveiller les rayons, de gérer les files d’attente et de mieux comprendre les clients.
En savoir plus
La vision par ordinateur dans le secteur de la santé

La vision par ordinateur dans le secteur de la santé

Crée des solutions de santé avec les modèles Ultralytics YOLO. La vision par IA dans le secteur de la santé accélère l’imagerie médicale, améliore les diagnostics et facilite la surveillance des patients.
En savoir plus
La vision par ordinateur dans l’industrie manufacturière

La vision par ordinateur dans l’industrie manufacturière

Optimise la fabrication avec les modèles Ultralytics YOLO. La vision par IA améliore le contrôle qualité, la détection des défauts, le respect des règles concernant les EPI et l’automatisation des chaînes de montage.
En savoir plus
La vision par ordinateur dans l’automobile

La vision par ordinateur dans l’automobile

Mets la vision par ordinateur au service de l’automobile avec les modèles Ultralytics YOLO. La vision par IA renforce la sécurité routière, l’aide à la conduite et l’automatisation des véhicules pour des routes plus intelligentes.
En savoir plus
Vision par ordinateur dans l’agriculture

Vision par ordinateur dans l’agriculture

Fais entrer l’IA de vision dans l’agriculture intelligente avec les modèles Ultralytics YOLO. Optimise le suivi des cultures et du bétail ainsi que l’agriculture de précision pour obtenir des rendements plus élevés et plus intelligents.
En savoir plus

Construisons ensemble l’avenir de l’IA !

Commence ton parcours vers l’avenir de l’apprentissage automatique