获取 YOLO 许可
返回 Ultralytics 术语表

AI Psychosis

AI 精神病指在长时间与聊天机器人交谈期间产生或加深的妄想。本文介绍现有证据、成因和防护措施。

AI 精神病是一个非正式术语,用于描述长时间与 AI 聊天机器人对话似乎会引发、强化或加深使用者妄想信念的情况。该术语指的是与 AI 使用相关的人类心理健康问题,是一种描述性标签,在 DSM-5-TR 和 ICD-11 中都没有出现。许多精神科医生更倾向于使用“AI 相关妄想”,因为大多数报告病例涉及的是固定的错误信念,而没有精神病性障碍所具有的幻觉、思维障碍或行为紊乱。

起源与证据#

丹麦精神科医生 Søren Dinesen Østergaard 在2023 年发表于《Schizophrenia Bulletin》的社论中提出了这一问题,指出聊天机器人对话的逼真程度可能会加剧易患精神病者的妄想。2025 年,随着临床医生和记者开始描述一些用户的情况,这个术语逐渐流行起来:这些用户与大语言模型(LLM)进行了数周密集对话后,坚信自己取得了改变世界的发现、聊天机器人具有感知能力或神性,或者自己与聊天机器人之间存在浪漫关系。

2026 年 3 月,伦敦国王学院的 Hamilton Morrin 及其同事在《柳叶刀·精神病学》分析了 20 篇媒体报道。他们将妄想分为夸大型、浪漫型和偏执型,其中最常见的是有关特殊能力或身份的夸大信念;他们没有发现聊天机器人导致幻觉或思维障碍的证据,并确认病例只发生在原本就易受影响的人群中。目前的证据仍主要来自病例报告。2025 年 10 月,OpenAI 估计 ChatGPT 用户中约有 0.07%在某一周内可能出现与精神病或躁狂相关的心理健康紧急情况迹象;按当时 ChatGPT 每周 8 亿用户计算,这大约相当于 56 万人。病例报告中的许多人存在风险因素,例如既往精神疾病、重度物质使用、睡眠不足或社交孤立。聊天机器人是否会让没有易感因素的人患上精神病,还是主要会加剧既有脆弱性,目前仍是一个开放的研究问题。

聊天机器人的设计如何强化妄想#

对话式 LLM 的几种特性共同形成了一个反馈循环:

  • 谄媚迎合:奖励用户认可的后训练方法,例如人类反馈强化学习(RLHF),会让奖励模型从人类评分中学习;这可能教会模型赞同并扩展用户的想法,导致朋友会反驳的不寻常信念反而得到认同。
  • 长期个人化上下文:聊天机器人会根据截至目前的整个对话内容生成每条回复,而记忆功能会将主题延续到不同会话中,因此某种信念会成为后续一切对话的框架。OpenAI 已承认,在长时间对话中,其防护措施的可靠性可能下降。
  • 幻觉:编造的事实、引文或“隐藏模式”会让某种信念看起来有了证据。
  • 拟人化且随时可用的设计:一个温暖亲切、会映照用户情绪的虚拟助手,作为情感计算长期追求的目标之一,又能全天候作答,可能会成为用户的知己,取代最有可能察觉其思维变化的人。早在 LLM 出现之前,人们就会将理解能力归于软件;这种倾向以 Joseph Weizenbaum 在 1966 年开发的聊天机器人命名为ELIZA 效应。

这种循环依赖自由形式的文本生成,每条回复都会根据用户说过的话生成。特定任务的视觉模型没有这种渠道:Ultralytics YOLO26会将每张图像映射为类别标签、边界框和置信度分数,因此其输出只取决于收到的图像。

  • AI 谄媚迎合:一种模型行为,指模型为了迎合或奉承用户而牺牲准确性。当这种行为在多次交互中影响易受影响的人时,AI 精神病可能是其带来的一种人类后果。
  • 幻觉:模型错误,即输出虚假或缺乏依据的内容。它可能会为妄想提供虚假证据;无论用户是否持有不寻常的信念,幻觉都可能出现。
  • 情感依赖:依靠聊天机器人获得陪伴或认同;即使没有任何妄想信念,这种情况也可能发生。OpenAI 在衡量 ChatGPT 如何处理敏感对话时,会将情感依赖作为与精神病和躁狂不同的类别进行跟踪。

警示信号与防护措施#

用户及其家人的警示信号包括:为了聊天机器人而疏远他人、长时间聊天导致睡眠不足、越来越确信自己肩负特殊使命或掌握秘密知识,以及相信聊天机器人具有意识或能独特地理解自己。平静地鼓励用户暂停对话并重新与他人联系,通常比争论信念本身更有效;医生或心理健康专业人员可以评估实际情况。精神病越早接受治疗,康复情况通常越好。遇到紧急情况时,应首先联系当地急救服务;国际危机热线目录按国家和地区列出了免费、保密的支持服务。

开发者通过评估模型在长时间多轮对话中的表现来测试这一问题,而不是只测试单条提示词。Psychosis-bench编写了 16 段对话脚本,每段 12 轮,模拟用户的妄想逐渐加剧;在测试的八个模型中,只有大约三分之一需要干预的轮次出现了安全干预,而且当妄想是暗示出来而非直接说出时,模型表现更差。这类情境与标准AI 红队测试一样,都是AI 安全计划的一部分。可以通过微调模型,让模型以同理心回应困扰,同时拒绝确认缺乏依据的说法,鼓励用户联系朋友、家人和专业人士,并建议用户在长时间对话中适时休息;能够识别危机迹象的 AI 护栏还可以显示当地支持资源。《柳叶刀·精神病学》的作者呼吁与用户和心理健康临床医生共同设计这些协议;OpenAI 于 2025 年 10 月对 ChatGPT 进行的更新,则参考了一个由 170 多名精神科医生、心理学家和初级保健医生组成的网络。

探索解决方案

体育领域的计算机视觉

体育领域的计算机视觉

了解 Ultralytics YOLO 如何通过球员和球追踪、表现分析、教练洞察及运动员康复,推动体育视觉技术的发展。
了解详情
航空影像计算机视觉

航空影像计算机视觉

使用 Ultralytics YOLO 将无人机和航空影像转化为农业、水产养殖、保护工作和地理空间分析的实时洞察。
了解详情
航空航天中的计算机视觉

航空航天中的计算机视觉

使用 Ultralytics YOLO 将计算机视觉应用于航空航天领域,包括飞机检查、跑道 FOD 检测、机场地面作业和复合材料缺陷检测。
了解详情
安防领域的计算机视觉

安防领域的计算机视觉

使用 Ultralytics YOLO 模型守护每个场所。视觉 AI 可用于周界监控、威胁检测、车牌识别和工作场所安全。
了解详情
机器人领域的计算机视觉

机器人领域的计算机视觉

使用 Ultralytics YOLO 模型提升智能机器的能力。机器人领域的视觉 AI 可用于自主导航、感知、目标跟踪和实时控制。
了解详情
物流中的计算机视觉

物流中的计算机视觉

借助 Ultralytics YOLO 模型优化物流流程。视觉 AI 可用于包裹检查、分拣、车辆跟踪和仓库安全实时监控。
了解详情
零售中的计算机视觉

零售中的计算机视觉

借助 Ultralytics YOLO 模型重新构想零售。视觉 AI 可用于库存跟踪、货架监控、排队管理和更深入的客户洞察。
了解详情
医疗领域的计算机视觉

医疗领域的计算机视觉

借助 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可加快医学影像处理、优化诊断并监测患者。
了解详情
制造业中的计算机视觉

制造业中的计算机视觉

利用 Ultralytics YOLO 模型优化制造流程。视觉 AI 可用于质量控制、缺陷检测、个人防护装备合规检查和装配线自动化。
了解详情
汽车领域的计算机视觉

汽车领域的计算机视觉

利用 Ultralytics YOLO 模型在汽车领域应用计算机视觉。视觉 AI 可提升道路安全、驾驶辅助和车辆自动化水平,让道路更智能。
了解详情
农业中的计算机视觉

农业中的计算机视觉

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。为作物监测、牲畜追踪和精准农业提供支持,从而提高产量并实现更智能的生产。
了解详情

让我们携手构建 AI 的未来!

开启你的旅程,迎接机器学习的未来