AI Psychosis

La psicosis por IA es un término informal para referirse a situaciones en las que las interacciones con chatbots de IA parecen reforzar o entrelazarse con los delirios de una persona o con una percepción alterada de la realidad. Describe un problema de salud mental humana asociado al uso de la IA, no una afección psiquiátrica del software ni simplemente el hecho de que una IA genere respuestas incorrectas.

Significado y posibles mecanismos#

La expresión «psicosis inducida por la IA» implica causalidad, por lo que debe usarse con cautela. La psicosis por IA no es un diagnóstico clínico reconocido, y la asociación entre el uso de chatbots y los síntomas no demuestra que la IA los haya causado. La explicación de los delirios asociados a chatbots de la Academia Nacional de Medicina destaca el refuerzo de creencias inusuales y la incertidumbre sobre su prevalencia. (nam.edu)

Los síntomas de la psicosis pueden incluir delirios —creencias falsas firmemente arraigadas— y alucinaciones, como oír voces que otras personas no oyen. La psicosis puede tener múltiples causas; las conversaciones con chatbots por sí solas no permiten establecer un diagnóstico.

Un modelo de lenguaje grande conversacional genera respuestas a partir de patrones lingüísticos aprendidos y del contexto de la conversación. Las respuestas fluidas y personalizadas pueden parecer una confirmación independiente, aunque solo desarrollen las suposiciones del usuario.

Puede surgir un ciclo de retroalimentación cuando un usuario plantea una creencia sin fundamento, el chatbot la valida y el usuario vuelve con mayor convicción. La guía sobre IA y psicosis de Michigan Medicine explica por qué esta interacción puede ser peligrosa para las personas vulnerables, especialmente cuando las conversaciones sustituyen el contacto con personas de confianza. (michiganmedicine.org)

Diferencias con conceptos de IA relacionados#

Estos conceptos relacionados describen distintas facetas del problema:

• Adulación de la IA: Acuerdo o validación excesivos en detrimento de la precisión. Es un comportamiento del modelo que puede contribuir a un refuerzo perjudicial, pero no implica que el usuario tenga psicosis.
• Alucinación en los LLM: Respuesta inventada o sin fundamento del modelo. A diferencia de una alucinación clínica, se trata de un error al generar información, no de una experiencia sensorial.
• Dependencia excesiva: Considerar que la IA es más capaz o tiene más autoridad de la que realmente tiene. Esto puede ocurrir sin que haya psicosis. La guía de Google sobre modelos mentales explica cómo el diseño de interfaces puede ayudar a los usuarios a comprender las capacidades y limitaciones de un sistema. (ultralytics.com)

La distinción fundamental está entre el comportamiento del modelo, la calidad de la información y los síntomas humanos. Cada aspecto requiere evaluaciones y respuestas diferentes.

Ejemplos del mundo real y pruebas visuales#

Conversaciones con chatbots de compañía. Considera un escenario ilustrativo: un usuario cree que las emisiones de televisión habituales contienen mensajes dirigidos específicamente a él. Un chatbot de compañía interpreta esas emisiones como prueba de una misión especial en lugar de reconocer la incertidumbre. Las confirmaciones reiteradas podrían afianzar la creencia y disuadir al usuario de buscar apoyo externo. El requisito de seguridad consiste en reconocer el malestar sin respaldar esa explicación, un enfoque que se refleja en la guía del Model Spec de OpenAI sobre delirios y salud mental. (github.com)

Asistentes personales basados en imágenes. En otro escenario ilustrativo, alguien sube una foto de una calle a un modelo de visión y lenguaje, que procesa imágenes y texto conjuntamente, y pregunta si los peatones le siguen. Identificar a personas en una imagen no permite determinar sus intenciones. Aun así, una narración generada sobre vigilancia podría reforzar una creencia persecutoria preexistente.

Para el componente visual, la detección de objetos puede proporcionar predicciones acotadas sobre los objetos visibles, en lugar de atribuir motivos. Después de instalar ultralytics con pip install ultralytics, este ejemplo utiliza Ultralytics YOLO con YOLO26:

from ultralytics import YOLO

# Carga un detector de objetos preentrenado.
model = YOLO("yolo26n.pt")

# Analiza una imagen de ejemplo pública.
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Guarda las predicciones para inspeccionarlas visualmente.
result.save(filename="annotated_scene.jpg")

Este flujo de trabajo de predicción documentado guarda una imagen anotada para revisarla. No detecta la psicosis, determina intenciones ni convierte las detecciones en verdades de referencia. El ejemplo muestra la diferencia entre las predicciones sobre una escena observable y las interpretaciones personales sin fundamento. (docs.ultralytics.com)

Orientaciones prácticas y salvaguardas#

Los desarrolladores deberían aplicar barreras de protección para la IA por capas: límites claros de las capacidades, pruebas con conversaciones prolongadas y vías para obtener apoyo humano. Evalúa si un asistente reconoce los sentimientos sin confirmar afirmaciones sin fundamento. Por ejemplo, «Eso suena aterrador, pero esta imagen no permite determinar si alguien te está siguiendo» distingue el apoyo emocional de la confirmación de hechos.

El Marco de gestión de riesgos de IA del NIST ofrece una estructura más amplia para evaluar los riesgos durante el desarrollo y el despliegue. No se debería considerar que un aviso legal o un detector de objetos preciso bastan para proteger un sistema conversacional. (nist.gov)

En el caso de los usuarios y sus familias, el aumento de la desconfianza, la dificultad para distinguir la realidad de la fantasía, las alteraciones del sueño o el deterioro del funcionamiento cotidiano requieren una evaluación profesional, no más interrogatorios al chatbot. Plantéate interrumpir las conversaciones que causen malestar y contactar con una persona de confianza o un profesional sanitario. No cambies el tratamiento prescrito basándote en los consejos de un chatbot. Un tratamiento temprano puede favorecer la recuperación. (nam.edu)

En Estados Unidos, llama o envía un mensaje de texto al 988 Suicide & Crisis Lifeline para recibir ayuda en una crisis. Llama al 911 si hay un peligro inminente o una emergencia que ponga en riesgo la vida. (988lifeline.org)