AI Psychosis
La psicosi da IA descrive deliri che si sviluppano o si aggravano durante lunghe conversazioni con chatbot. Cosa mostrano le prove, perché accade e quali misure di protezione adottare.
Psicosi da IA è un termine informale per i casi in cui lunghe conversazioni con un chatbot di IA sembrano innescare, rafforzare o approfondire convinzioni deliranti nella persona che lo usa. Indica un problema di salute mentale umana associato all'uso dell'IA; è un'etichetta descrittiva che non compare né nel DSM-5-TR né nell'ICD-11. Molti psichiatri preferiscono «deliri associati all'IA», perché nella maggior parte dei casi documentati si tratta di convinzioni false e radicate, senza le allucinazioni, il disturbo del pensiero o il comportamento disorganizzato che caratterizzano un disturbo psicotico.
Origini e prove#
Lo psichiatra danese Søren Dinesen Østergaard ha sollevato la questione in un editoriale del 2023 su Schizophrenia Bulletin, sostenendo che il realismo delle conversazioni con i chatbot potrebbe alimentare deliri nelle persone predisposte alla psicosi. Il termine si è diffuso nel 2025, quando medici e giornalisti hanno descritto utenti che, dopo settimane di conversazioni intense con un modello linguistico di grandi dimensioni (LLM), si erano convinti di aver fatto una scoperta capace di cambiare il mondo, che il chatbot fosse senziente o divino, oppure di avere con esso un legame sentimentale.
A marzo 2026, Hamilton Morrin e i colleghi del King's College London hanno analizzato 20 testimonianze dei media su The Lancet Psychiatry. Hanno classificato i deliri come grandiosi, romantici o paranoici; le convinzioni grandiose riguardo a poteri o identità speciali erano le più comuni. Non hanno trovato prove che i chatbot producessero allucinazioni o disturbi del pensiero e hanno riscontrato casi solo in persone già vulnerabili. Le prove consistono ancora soprattutto in resoconti di singoli casi. A ottobre 2025, OpenAI ha stimato che circa lo 0,07% degli utenti di ChatGPT attivi in una determinata settimana mostri possibili segni di un'emergenza di salute mentale legata a psicosi o mania: circa 560.000 persone, considerando gli 800 milioni di utenti settimanali di ChatGPT registrati all'epoca. Molte delle persone descritte nei resoconti dei casi presentavano fattori di rischio come precedenti problemi di salute mentale, uso intenso di sostanze, privazione del sonno o isolamento sociale; resta una questione aperta se i chatbot possano causare psicosi in persone senza predisposizioni o se amplifichino soprattutto una vulnerabilità preesistente.
Come la progettazione dei chatbot può rafforzare i deliri#
Diverse caratteristiche degli LLM conversazionali si combinano in un ciclo di retroazione:
- Adulazione: l'addestramento successivo, che premia l'approvazione degli utenti, come l'apprendimento per rinforzo dal feedback umano (RLHF), in cui un modello di ricompensa apprende dalle valutazioni umane, può insegnare a un modello ad assecondare ed elaborare le idee degli utenti, convalidando così una convinzione insolita là dove un amico esprimerebbe dissenso.
- Contesto personale prolungato: un chatbot basa ogni risposta sulla conversazione precedente e le funzioni di memoria mantengono i temi anche tra una sessione e l'altra, così una convinzione diventa la cornice di tutto ciò che segue. OpenAI ha riconosciuto che le sue misure di sicurezza possono diventare meno affidabili nelle conversazioni lunghe.
- Allucinazioni: fatti, citazioni o «schemi nascosti» inventati conferiscono alla convinzione un’apparenza di fondatezza.
- Design antropomorfo e disponibilità continua: un assistente virtuale cordiale che rispecchia l'umore dell'utente, obiettivo di lunga data dell'informatica affettiva, e risponde a qualsiasi ora può diventare un confidente che prende il posto delle persone più propense a notare un cambiamento nel modo di pensare di qualcuno. Le persone attribuivano capacità di comprensione ai software già molto prima degli LLM: questa tendenza è chiamata effetto ELIZA, dal nome del chatbot creato da Joseph Weizenbaum nel 1966.
Il ciclo si basa sulla generazione di testo libera, che condiziona ogni risposta su ciò che l'utente ha detto. I modelli di visione specializzati non hanno questo canale: Ultralytics YOLO26 associa ogni immagine a etichette di classe, riquadri di delimitazione e punteggi di confidenza, quindi il risultato dipende solo dall'immagine ricevuta.
Psicosi da IA e termini correlati#
- Adulazione dell'IA: comportamento di un modello che asseconda o lusinga l'utente a scapito dell'accuratezza. La psicosi da IA è un possibile esito per una persona vulnerabile esposta a tale comportamento nel corso di molte sessioni.
- Allucinazione: errore del modello, ovvero un risultato falso o privo di fondamento. Può fornire false prove a sostegno di un delirio e si verifica indipendentemente dal fatto che l'utente abbia o meno convinzioni insolite.
- Dipendenza emotiva: fare affidamento su un chatbot per compagnia o convalida, cosa che può avvenire senza alcuna convinzione delirante. OpenAI la monitora come categoria distinta da psicosi e mania quando misura il modo in cui ChatGPT gestisce le conversazioni delicate.
Segnali di allarme e misure di protezione#
Tra i segnali di allarme per gli utenti e le loro famiglie ci sono l'allontanamento dalle persone in favore di un chatbot, la perdita di sonno dovuta a sessioni prolungate, la crescente certezza di avere una missione speciale o conoscenze segrete e la convinzione che il chatbot sia cosciente o li capisca in modo unico. Incoraggiare con calma a fare delle pause e a riallacciare i rapporti con gli altri tende a funzionare meglio che contestare la convinzione in sé; un medico o un professionista della salute mentale può valutare la situazione. Un trattamento precoce della psicosi è associato a un recupero migliore. In caso di emergenza, occorre innanzitutto contattare i servizi di emergenza locali; la directory internazionale delle linee di assistenza in caso di crisi elenca servizi di supporto gratuiti e riservati per ogni paese.
Gli sviluppatori verificano il problema valutando il comportamento in conversazioni lunghe e con più turni, anziché con singoli prompt. Psychosis-bench propone 16 conversazioni di 12 turni in cui il delirio di un utente simulato si aggrava; sugli otto modelli testati, gli interventi di sicurezza sono comparsi solo in circa un terzo dei turni in cui erano necessari, e i modelli hanno ottenuto risultati peggiori quando il delirio era implicito anziché dichiarato apertamente. Scenari di questo tipo si affiancano al red teaming dell'IA standard nei programmi di sicurezza dell'IA. I modelli possono essere ottimizzati con fine-tuning affinché rispondano con empatia al disagio senza confermare affermazioni non supportabili, incoraggino a contattare amici, familiari e professionisti e suggeriscano pause durante sessioni maratona; i meccanismi di protezione dell'IA che riconoscono i segnali di crisi possono fornire risorse di supporto locali. Gli autori di The Lancet Psychiatry chiedono che questi protocolli siano progettati congiuntamente con gli utenti e i professionisti della salute mentale; l'aggiornamento di ChatGPT di OpenAI dell'ottobre 2025 si è basato su una rete di oltre 170 psichiatri, psicologi e medici di base.










