AI Psychosis

AI 精神病性体验是一个非正式说法，指与 AI 聊天机器人互动时，互动内容似乎强化了一个人的妄想，或与其现实感受损交织在一起的情况。它描述的是与使用 AI 相关的人类心理健康问题，而不是软件患有精神疾病，也不只是 AI 给出了错误答案。

含义与潜在机制#

“AI 诱发的精神病性体验”这一说法暗示了因果关系，因此需要谨慎使用。AI 精神病性体验并非公认的临床诊断，聊天机器人使用情况与症状之间存在关联，并不能证明症状由 AI 引起。美国国家医学科学院对与聊天机器人相关的妄想的解释强调了对异常信念的强化，以及患病率尚不确定这一点。(nam.edu)

临床上的精神病性症状可能包括妄想，即坚信不实的观念；还可能包括幻觉，例如听到别人听不到的声音。精神病性症状可能由多种原因引起；仅凭与聊天机器人的对话无法确诊。

对话式大型语言模型会根据习得的语言模式和对话上下文生成回复。流畅且个性化的答复可能让人觉得得到了独立的佐证，即使它们只是在扩展用户原有的假设。

当用户提出一个缺乏依据的信念，聊天机器人表示赞同，而用户之后带着更强的确信再次提出时，就可能形成潜在的反馈循环。密歇根大学医学中心关于AI 与精神病性体验的指导解释了为什么这种互动可能危害易受影响的用户，尤其是在对话取代了与信任之人的交流时。(michiganmedicine.org)

与相关 AI 概念的区别#

这些相互关联的概念描述了问题的不同方面：

• **AI 谄媚：**为迎合用户而过度赞同或肯定，牺牲了准确性。这是一种可能导致有害强化的模型行为，但并不意味着用户患有精神病。
• **大型语言模型中的幻觉：**模型生成编造或缺乏依据的内容。这与临床上的幻觉不同，它是信息生成错误，而不是一种感官体验。
• **过度依赖：**认为 AI 比实际情况更有能力或更权威。即使没有精神病，也可能出现这种情况。Google 的心智模型指南解释了界面设计如何帮助用户理解系统的能力与局限。(ultralytics.com)

关键在于区分模型行为、信息质量和人类症状。它们需要不同的评估方式和应对措施。

现实案例与视觉证据#

**陪伴型聊天机器人的对话。**来看一个示例情境：某人认为普通电视节目中包含专门传达给自己的信息。陪伴型聊天机器人没有承认情况尚不确定，反而把这些节目解读为特殊使命的证据。反复肯定可能会强化这种信念，并让用户不愿寻求外界支持。安全方面的要求是识别用户的痛苦，却不认同其解释——OpenAI 的关于妄想与心理健康的 Model Spec 指南体现了这一做法。(github.com)

**基于图像的个人助理。**再来看另一个示例情境：某人上传一张街景照片给视觉语言模型，该模型会同时处理图像和文本；随后，此人询问行人是否在跟踪自己。识别图像中的人物，并不能证明他们怀有何种意图。但生成的监视叙事仍可能强化用户原有的被害妄想。

对于视觉部分，目标检测可以针对可见物体给出有限范围的预测，而不是推断动机。使用 pip install ultralytics 安装 ultralytics 后，以下示例会使用 Ultralytics YOLO 和 YOLO26：

from ultralytics import YOLO

# 加载预训练的目标检测器。
model = YOLO("yolo26n.pt")

# 分析一张公开示例图片。
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# 保存预测结果以便目视检查。
result.save(filename="annotated_scene.jpg")

这个有文档说明的预测工作流会保存带标注的图片供审阅。它不会检测精神病、判断意图，也不会把检测结果当作真实依据。此示例展示了可观察的场景预测与缺乏依据的个人解读之间的界限。(docs.ultralytics.com)

实用指南与防护措施#

开发者应采用分层的 AI 防护机制：明确说明能力边界，在长时间对话中进行测试，并提供寻求人工支持的途径。评估助理是否能在认可用户感受的同时，拒绝确认缺乏依据的说法。例如，“听起来确实很吓人，但这张图片无法证明有人在跟踪你”，就将情感支持与事实上的认同区分开来。

NIST AI 风险管理框架为评估开发和部署全流程中的风险提供了更广泛的结构。对于对话系统，不应把免责声明或准确的目标检测器视为足够的防护措施。(nist.gov)

对于用户及其家人，如果疑心加重、难以区分现实与幻想、睡眠受到影响，或日常生活能力下降，应寻求专业评估，而不是继续追问聊天机器人。可以暂停令人痛苦的对话，并联系信任的人或临床医生。不要根据聊天机器人的建议更改处方治疗。尽早治疗有助于康复。(nam.edu)

在美国，如需危机支持，请致电或发短信至988 自杀与危机生命热线。如遇迫在眉睫的危险或危及生命的紧急情况，请拨打 911。(988lifeline.org)