AI Psychosis
A psicose associada à IA descreve delírios que surgem ou se intensificam durante conversas prolongadas com chatbots. O que mostram as evidências, por que acontece e que medidas de proteção existem.
Psicose de IA é um termo informal para casos em que conversas longas com um chatbot de IA parecem desencadear, reforçar ou aprofundar crenças delirantes na pessoa que o usa. O termo designa uma preocupação de saúde mental humana associada ao uso de IA e é um rótulo descritivo que não aparece nem no DSM-5-TR nem na CID-11. Muitos psiquiatras preferem «delírios associados à IA», porque a maioria dos casos relatados envolve falsas crenças fixas sem as alucinações, o transtorno do pensamento ou o comportamento desorganizado que caracterizam um transtorno psicótico.
Origens e evidências#
O psiquiatra dinamarquês Søren Dinesen Østergaard levantou essa preocupação num editorial de 2023 na Schizophrenia Bulletin, argumentando que o realismo das conversas com chatbots poderia alimentar delírios em pessoas propensas à psicose. O termo se disseminou em 2025, quando médicos e jornalistas descreveram usuários que, após semanas de conversas intensas com um modelo de linguagem de grande porte (LLM), se convenceram de que haviam feito uma descoberta capaz de mudar o mundo, de que o chatbot era senciente ou divino, ou de que compartilhavam um vínculo romântico com ele.
Em março de 2026, Hamilton Morrin e colegas do King's College London analisaram 20 relatos da mídia na The Lancet Psychiatry. Eles agruparam os delírios em grandiosos, românticos ou paranoicos; crenças grandiosas sobre poderes ou identidade especiais eram as mais comuns. Não encontraram evidências de que os chatbots produzissem alucinações ou transtornos do pensamento e confirmaram casos apenas em pessoas que já eram vulneráveis. As evidências ainda consistem principalmente em relatos de casos. Em outubro de 2025, a OpenAI estimou que cerca de 0,07% dos usuários do ChatGPT ativos numa determinada semana apresentavam possíveis sinais de emergência de saúde mental relacionados à psicose ou à mania, o que corresponde a aproximadamente 560.000 pessoas, considerando os 800 milhões de usuários semanais do ChatGPT na época. Muitas pessoas descritas em relatos de casos tinham fatores de risco, como doença mental anterior, consumo intenso de substâncias, privação de sono ou isolamento social; ainda é uma questão de pesquisa em aberto se os chatbots podem causar psicose em alguém sem predisposição ou se apenas ampliam uma vulnerabilidade existente.
Como a conceção de chatbots pode reforçar delírios#
Várias propriedades dos LLMs conversacionais se combinam para criar um ciclo de retroalimentação:
- Bajulação: O treinamento posterior que recompensa a aprovação do usuário, como a aprendizagem por reforço com feedback humano (RLHF), na qual um modelo de recompensa aprende com avaliações humanas, pode ensinar um modelo a concordar com as ideias do usuário e desenvolvê-las, fazendo com que uma crença incomum receba validação onde um amigo contestaria.
- Contexto longo e pessoal: Um chatbot condiciona cada resposta a toda a conversa até aquele momento, e os recursos de memória mantêm temas entre sessões, fazendo com que uma crença se torne o enquadramento de tudo o que vem depois. A OpenAI reconheceu que as suas salvaguardas podem se tornar menos confiáveis em conversas longas.
- Alucinações: Factos, citações ou «padrões ocultos» inventados conferem à crença uma aparência de prova.
- Design humano e disponibilidade constante: Um assistente virtual acolhedor que espelha o humor do usuário, um objetivo antigo da computação afetiva, e responde a qualquer hora pode se tornar um confidente que afasta as pessoas com maior probabilidade de notar mudanças no pensamento de alguém. As pessoas atribuíam compreensão a softwares muito antes dos LLMs, uma tendência chamada efeito ELIZA, em referência ao chatbot de Joseph Weizenbaum de 1966.
O ciclo opera por meio da geração de texto livre, que condiciona cada resposta ao que o usuário disse. Modelos de visão específicos para tarefas não têm esse canal: o Ultralytics YOLO26 mapeia cada imagem para rótulos de classe, caixas delimitadoras e pontuações de confiança, portanto, o resultado depende apenas da imagem recebida.
Psicose de IA vs. termos relacionados#
- Bajulação da IA: Comportamento de um modelo que concorda com o usuário ou o elogia em detrimento da precisão. A psicose de IA é um possível resultado humano quando esse comportamento interage com uma pessoa vulnerável ao longo de muitas sessões.
- Alucinação: Erro de um modelo, ou seja, um resultado falso ou sem fundamento. Pode fornecer evidências falsas para um delírio e ocorre independentemente de o usuário ter ou não alguma crença incomum.
- Dependência emocional: Recorrer a um chatbot em busca de companhia ou validação, o que pode acontecer sem qualquer crença delirante. A OpenAI acompanha essa situação como uma categoria separada da psicose e da mania ao avaliar como o ChatGPT lida com conversas delicadas.
Sinais de alerta e salvaguardas#
Os sinais de alerta para usuários e familiares incluem afastar-se das pessoas em favor de um chatbot, perder o sono em sessões longas, ter cada vez mais certeza de uma missão especial ou de conhecimentos secretos e acreditar que o chatbot é consciente ou que é o único que os compreende. Incentivar calmamente pausas e a reconexão com outras pessoas costuma funcionar melhor do que contestar a própria crença, e um médico ou profissional de saúde mental pode avaliar o que está acontecendo; o tratamento precoce da psicose está associado a uma recuperação melhor. Numa emergência, o primeiro contato deve ser com os serviços de emergência locais, e o diretório internacional de linhas de apoio em situações de crise lista serviços gratuitos e confidenciais por país.
Os desenvolvedores testam esse problema avaliando o comportamento em conversas longas com várias interações, em vez de usar prompts isolados. O Psychosis-bench simula 16 conversas de 12 turnos em que o delírio de um usuário simulado se intensifica; entre os oito modelos testados, as intervenções de segurança apareceram em apenas cerca de um terço dos turnos que exigiam uma, e os modelos tiveram resultados piores quando o delírio era implícito do que quando era declarado diretamente. Cenários como esses se somam à equipa vermelha de IA padrão num programa de segurança de IA. Os modelos podem ser ajustados finamente para responder com empatia a situações de sofrimento, sem confirmar afirmações que não podem sustentar; para incentivar o contato com amigos, familiares e profissionais; e para sugerir pausas durante sessões maratonas. Salvaguardas de IA que reconhecem sinais de crise também podem apresentar recursos de apoio locais. Os autores da The Lancet Psychiatry defendem que esses protocolos sejam concebidos em conjunto com usuários e profissionais de saúde mental, e a atualização do ChatGPT da OpenAI, em outubro de 2025, se baseou numa rede com mais de 170 psiquiatras, psicólogos e médicos de atenção primária.










