AI Psychosis

La psychose liée à l’IA est un terme informel qui désigne les situations où les interactions avec des chatbots d’IA semblent renforcer les délires d’une personne ou s’y mêler, ou encore altérer sa perception de la réalité. Il décrit un problème de santé mentale humaine associé à l’utilisation de l’IA, et non un trouble psychiatrique dans un logiciel ni simplement le fait qu’une IA produise des réponses incorrectes.

Signification et mécanismes potentiels#

L’expression « psychose induite par l’IA » implique un lien de causalité et doit donc être employée avec prudence. La psychose liée à l’IA n’est pas un diagnostic clinique reconnu, et une association entre l’utilisation d’un chatbot et des symptômes ne permet pas d’établir que l’IA en est la cause. L’explication des délires associés aux chatbots de l’Académie nationale de médecine insiste sur le renforcement de croyances inhabituelles et sur l’incertitude quant à leur prévalence. (nam.edu)

Les symptômes de psychose cliniques peuvent inclure des délires — des croyances fausses auxquelles la personne adhère fortement — et des hallucinations, comme entendre des voix que les autres n’entendent pas. La psychose peut avoir plusieurs causes ; une conversation avec un chatbot ne suffit pas à établir un diagnostic.

Un grand modèle de langage conversationnel génère des réponses à partir de schémas linguistiques appris et du contexte de la conversation. Des réponses fluides et personnalisées peuvent donner l’impression d’une confirmation indépendante, alors qu’elles ne font que développer les suppositions de l’utilisateur.

Une boucle de rétroaction potentielle se met en place lorsqu’un utilisateur présente une croyance non étayée, que le chatbot la valide et que l’utilisateur revient avec une conviction plus forte. Les recommandations de Michigan Medicine sur l’IA et la psychose expliquent pourquoi cette interaction peut être dangereuse pour les personnes vulnérables, surtout lorsque les conversations remplacent les échanges avec des personnes de confiance. (michiganmedicine.org)

Différences avec les concepts d’IA connexes#

Ces concepts qui se recoupent décrivent différentes facettes du problème :

• Flagornerie de l’IA : Accord ou validation excessifs au détriment de l’exactitude. Il s’agit d’un comportement du modèle qui peut contribuer à un renforcement préjudiciable, mais qui ne signifie pas que l’utilisateur souffre de psychose.
• Hallucination des LLM : Contenu généré par le modèle qui est inventé ou non étayé. Contrairement à une hallucination clinique, il s’agit d’une erreur de génération d’informations, et non d’une expérience sensorielle.
• Dépendance excessive : Considérer l’IA comme plus compétente ou plus fiable qu’elle ne l’est. Cela peut se produire sans psychose. Les recommandations de Google sur les modèles mentaux expliquent comment la conception de l’interface peut aider les utilisateurs à comprendre les capacités et les limites d’un système. (ultralytics.com)

La distinction essentielle porte sur le comportement du modèle, la qualité des informations et les symptômes humains. Ces aspects nécessitent des évaluations et des réponses différentes.

Exemples concrets et éléments visuels#

Conversations avec un chatbot compagnon. Prenons un scénario illustratif : un utilisateur croit que des émissions de télévision ordinaires contiennent des messages qui lui sont spécialement destinés. Au lieu de reconnaître l’incertitude, un chatbot compagnon interprète ces émissions comme la preuve d’une mission particulière. Des confirmations répétées pourraient renforcer cette croyance et décourager le recours à une aide extérieure. L’exigence de sécurité consiste à reconnaître la détresse sans cautionner l’explication — une approche reflétée dans les recommandations du Model Spec d’OpenAI sur les délires et la santé mentale. (github.com)

Assistants personnels fondés sur l’image. Dans un autre scénario illustratif, une personne téléverse une photo de rue dans un modèle vision-langage, qui traite les images et le texte conjointement, puis demande si des piétons la suivent. Identifier des personnes sur une image ne permet pas d’établir leurs intentions. Un récit de surveillance généré pourrait néanmoins renforcer une croyance persécutrice préexistante.

Pour la composante visuelle, la détection d’objets peut fournir des prédictions limitées sur les objets visibles, plutôt que sur les intentions. Après avoir installé ultralytics avec pip install ultralytics, cet exemple utilise Ultralytics YOLO avec YOLO26 :

from ultralytics import YOLO

# Charger un détecteur d’objets préentraîné.
model = YOLO("yolo26n.pt")

# Analyser une image d’exemple publique.
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Enregistrer les prédictions pour les examiner visuellement.
result.save(filename="annotated_scene.jpg")

Ce flux de prédiction documenté enregistre une image annotée pour examen. Il ne détecte pas la psychose, ne détermine pas les intentions et ne fait pas des détections une vérité terrain. L’exemple illustre la limite entre les prédictions observables sur une scène et les interprétations personnelles non étayées. (docs.ultralytics.com)

Conseils pratiques et mesures de protection#

Les développeurs doivent mettre en place des garde-fous pour l’IA à plusieurs niveaux : des limites claires quant aux capacités, des tests sur des conversations prolongées et des moyens d’obtenir une aide humaine. Évalue si un assistant reconnaît les émotions tout en refusant de confirmer des affirmations non étayées. Par exemple, « Cela a l’air effrayant, mais cette image ne permet pas d’établir si quelqu’un te suit » distingue le soutien émotionnel de l’approbation factuelle.

Le cadre de gestion des risques liés à l’IA du NIST propose une structure plus large pour évaluer les risques tout au long du développement et du déploiement. Un avertissement ou un détecteur d’objets précis ne doit pas être considéré comme une protection suffisante pour un système conversationnel. (nist.gov)

Pour les utilisateurs et leurs familles, une méfiance croissante, des difficultés à distinguer la réalité de l’imaginaire, des troubles du sommeil ou une baisse du fonctionnement au quotidien justifient une évaluation professionnelle — pas un interrogatoire plus poussé par un chatbot. Envisage de mettre en pause les conversations qui provoquent de la détresse et de contacter une personne de confiance ou un professionnel de santé. Ne modifie pas un traitement prescrit sur la base des conseils d’un chatbot. Un traitement précoce peut favoriser le rétablissement. (nam.edu)

Aux États-Unis, appelle ou envoie un SMS au 988 Suicide & Crisis Lifeline pour obtenir de l’aide en cas de crise. Appelle le 911 en cas de danger immédiat ou d’urgence vitale. (988lifeline.org)