AI Psychosis
AI 精神病指在长时间与聊天机器人交谈期间产生或加深的妄想。本文介绍现有证据、成因和防护措施。
AI 精神病是一个非正式术语,用于描述长时间与 AI 聊天机器人对话似乎会引发、强化或加深使用者妄想信念的情况。该术语指的是与 AI 使用相关的人类心理健康问题,是一种描述性标签,在 DSM-5-TR 和 ICD-11 中都没有出现。许多精神科医生更倾向于使用“AI 相关妄想”,因为大多数报告病例涉及的是固定的错误信念,而没有精神病性障碍所具有的幻觉、思维障碍或行为紊乱。
起源与证据#
丹麦精神科医生 Søren Dinesen Østergaard 在2023 年发表于《Schizophrenia Bulletin》的社论中提出了这一问题,指出聊天机器人对话的逼真程度可能会加剧易患精神病者的妄想。2025 年,随着临床医生和记者开始描述一些用户的情况,这个术语逐渐流行起来:这些用户与大语言模型(LLM)进行了数周密集对话后,坚信自己取得了改变世界的发现、聊天机器人具有感知能力或神性,或者自己与聊天机器人之间存在浪漫关系。
2026 年 3 月,伦敦国王学院的 Hamilton Morrin 及其同事在《柳叶刀·精神病学》分析了 20 篇媒体报道。他们将妄想分为夸大型、浪漫型和偏执型,其中最常见的是有关特殊能力或身份的夸大信念;他们没有发现聊天机器人导致幻觉或思维障碍的证据,并确认病例只发生在原本就易受影响的人群中。目前的证据仍主要来自病例报告。2025 年 10 月,OpenAI 估计 ChatGPT 用户中约有 0.07%在某一周内可能出现与精神病或躁狂相关的心理健康紧急情况迹象;按当时 ChatGPT 每周 8 亿用户计算,这大约相当于 56 万人。病例报告中的许多人存在风险因素,例如既往精神疾病、重度物质使用、睡眠不足或社交孤立。聊天机器人是否会让没有易感因素的人患上精神病,还是主要会加剧既有脆弱性,目前仍是一个开放的研究问题。
聊天机器人的设计如何强化妄想#
对话式 LLM 的几种特性共同形成了一个反馈循环:
- 谄媚迎合:奖励用户认可的后训练方法,例如人类反馈强化学习(RLHF),会让奖励模型从人类评分中学习;这可能教会模型赞同并扩展用户的想法,导致朋友会反驳的不寻常信念反而得到认同。
- 长期个人化上下文:聊天机器人会根据截至目前的整个对话内容生成每条回复,而记忆功能会将主题延续到不同会话中,因此某种信念会成为后续一切对话的框架。OpenAI 已承认,在长时间对话中,其防护措施的可靠性可能下降。
- 幻觉:编造的事实、引文或“隐藏模式”会让某种信念看起来有了证据。
- 拟人化且随时可用的设计:一个温暖亲切、会映照用户情绪的虚拟助手,作为情感计算长期追求的目标之一,又能全天候作答,可能会成为用户的知己,取代最有可能察觉其思维变化的人。早在 LLM 出现之前,人们就会将理解能力归于软件;这种倾向以 Joseph Weizenbaum 在 1966 年开发的聊天机器人命名为ELIZA 效应。
这种循环依赖自由形式的文本生成,每条回复都会根据用户说过的话生成。特定任务的视觉模型没有这种渠道:Ultralytics YOLO26会将每张图像映射为类别标签、边界框和置信度分数,因此其输出只取决于收到的图像。
AI 精神病与相关术语#
- AI 谄媚迎合:一种模型行为,指模型为了迎合或奉承用户而牺牲准确性。当这种行为在多次交互中影响易受影响的人时,AI 精神病可能是其带来的一种人类后果。
- 幻觉:模型错误,即输出虚假或缺乏依据的内容。它可能会为妄想提供虚假证据;无论用户是否持有不寻常的信念,幻觉都可能出现。
- 情感依赖:依靠聊天机器人获得陪伴或认同;即使没有任何妄想信念,这种情况也可能发生。OpenAI 在衡量 ChatGPT 如何处理敏感对话时,会将情感依赖作为与精神病和躁狂不同的类别进行跟踪。
警示信号与防护措施#
用户及其家人的警示信号包括:为了聊天机器人而疏远他人、长时间聊天导致睡眠不足、越来越确信自己肩负特殊使命或掌握秘密知识,以及相信聊天机器人具有意识或能独特地理解自己。平静地鼓励用户暂停对话并重新与他人联系,通常比争论信念本身更有效;医生或心理健康专业人员可以评估实际情况。精神病越早接受治疗,康复情况通常越好。遇到紧急情况时,应首先联系当地急救服务;国际危机热线目录按国家和地区列出了免费、保密的支持服务。
开发者通过评估模型在长时间多轮对话中的表现来测试这一问题,而不是只测试单条提示词。Psychosis-bench编写了 16 段对话脚本,每段 12 轮,模拟用户的妄想逐渐加剧;在测试的八个模型中,只有大约三分之一需要干预的轮次出现了安全干预,而且当妄想是暗示出来而非直接说出时,模型表现更差。这类情境与标准AI 红队测试一样,都是AI 安全计划的一部分。可以通过微调模型,让模型以同理心回应困扰,同时拒绝确认缺乏依据的说法,鼓励用户联系朋友、家人和专业人士,并建议用户在长时间对话中适时休息;能够识别危机迹象的 AI 护栏还可以显示当地支持资源。《柳叶刀·精神病学》的作者呼吁与用户和心理健康临床医生共同设计这些协议;OpenAI 于 2025 年 10 月对 ChatGPT 进行的更新,则参考了一个由 170 多名精神科医生、心理学家和初级保健医生组成的网络。










