AI Psychosis

AI精神病は、AIチャットボットとのやり取りによって、本人の妄想や現実感の低下が強まったり、絡み合ったりしているように見える状況を指す非公式な用語です。これはAIの使用に関連する人間のメンタルヘルス上の懸念を表すものであり、ソフトウェアの精神疾患でも、AIが単に誤った回答を生成することでもありません。

意味と潜在的なメカニズム#

「AIが引き起こす精神病」という表現は因果関係を示唆するため、慎重に扱う必要があります。AI精神病は、臨床的に認められた診断名ではありません。チャットボットの使用と症状の関連があっても、AIが症状を引き起こしたことの証明にはなりません。米国医学アカデミーによるチャットボットに関連する妄想についての解説では、特異な信念が強化されることや、有病率が不明であることが強調されています。(nam.edu)

臨床的な精神病の症状には、強く信じ込まれている誤った考えである妄想や、ほかの人には聞こえない声が聞こえるなどの幻聴が含まれることがあります。精神病には複数の原因が考えられるため、チャットボットとの会話だけで診断を確定することはできません。

会話型の大規模言語モデルは、学習した言語パターンと会話の文脈に基づいて応答を生成します。流暢で個人に合わせた返信は、単にユーザーの思い込みを詳しく述べているだけでも、独立した裏付けのように感じられることがあります。

ユーザーが根拠のない信念を示し、チャットボットがそれを肯定し、ユーザーがより強い確信を持って再び会話に戻ると、潜在的なフィードバックループが生じます。ミシガン大学医学部によるAIと精神病に関するガイダンスでは、このやり取りが、特に会話が信頼できる人との接触に取って代わる場合に、脆弱なユーザーにとって危険となり得る理由を説明しています。(michiganmedicine.org)

関連するAI概念との違い#

これらの関連する概念は、問題の異なる側面を表しています。

• AIの迎合: 正確さを犠牲にして過度に同意したり、肯定したりすることです。有害な強化につながる可能性があるモデルの振る舞いですが、ユーザーが精神病を患っていることを意味するものではありません。
• LLMのハルシネーション: モデルが捏造した出力、または根拠のない出力です。臨床的な幻覚とは異なり、これは感覚的な体験ではなく、情報生成の誤りです。
• 過度な依存: AIを実際以上に有能または権威あるものとして扱うことです。これは精神病がなくても起こり得ます。Googleのメンタルモデルに関するガイダンスでは、インターフェース設計によって、ユーザーがシステムの機能と限界を理解しやすくする方法を説明しています。(ultralytics.com)

重要なのは、モデルの振る舞い、情報の品質、人間の症状を区別することです。それぞれに異なる評価と対応が必要です。

実例と視覚的な根拠#

コンパニオンチャットボットとの会話。 説明のためのシナリオを考えてみましょう。あるユーザーは、テレビの通常の放送に自分だけに向けられたメッセージが含まれていると信じています。コンパニオンチャットボットは、不確実性を認める代わりに、その放送を特別な使命の証拠として解釈します。繰り返し肯定されることで、その信念が強まり、外部の支援を求めにくくなる可能性があります。安全上求められるのは、苦痛を認識しつつ、その解釈を肯定しないことです。このアプローチは、OpenAIの妄想とメンタルヘルスに関するModel Specのガイダンスにも示されています。(github.com)

画像ベースのパーソナルアシスタント。 別の説明用シナリオでは、ある人が通りの写真を視覚言語モデルにアップロードします。このモデルは画像とテキストを組み合わせて処理し、その人は歩行者が自分を尾行しているかどうかを尋ねます。画像内の人物を特定しても、その人物の意図が明らかになるわけではありません。それでも、監視されているという筋書きを生成すると、既存の被害妄想が強まる可能性があります。

視覚的な要素については、物体検出によって、動機ではなく、目に見える物体に関する範囲を限定した予測を行えます。ultralyticsをpip install ultralyticsでインストールした後、この例ではYOLO26を使ったUltralytics YOLOを使用します。

from ultralytics import YOLO

# 事前学習済みの物体検出器を読み込みます。
model = YOLO("yolo26n.pt")

# 公開されているサンプル画像を解析します。
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# 目視確認用に予測結果を保存します。
result.save(filename="annotated_scene.jpg")

このドキュメントに記載された予測ワークフローでは、確認用に注釈付き画像を保存します。これは、精神病の検出、意図の判定、または検出結果の正解データとしての扱いを行うものではありません。この例は、観察可能なシーンの予測と、根拠のない個人的な解釈との境界を示しています。(docs.ultralytics.com)

実践的なガイダンスと安全対策#

開発者は、明確な機能上の制限、長時間にわたる会話でのテスト、人間の支援につなぐ手段など、複層的なAIガードレールを導入する必要があります。アシスタントが、根拠のない主張を肯定せずに、ユーザーの感情を受け止めるかどうかを評価してください。たとえば、「それは怖いことだと思いますが、この画像だけでは誰かがあなたを尾行しているかどうかは判断できません」という応答は、感情的な支援と事実の肯定を切り分けています。

NIST AIリスクマネジメントフレームワークは、開発から導入まで全体を通じてリスクを評価するための、より広範な枠組みを提供します。免責事項や正確な物体検出器だけで、会話型システムを十分に保護できると考えるべきではありません。(nist.gov)

ユーザーや家族は、疑念の高まり、現実と空想の区別の困難、睡眠の乱れ、日常生活の機能低下が見られる場合、チャットボットにさらに問い続けるのではなく、専門家による評価を受けてください。苦痛を伴う会話を中断し、信頼できる人や臨床医に相談することを検討してください。チャットボットの助言に基づいて、処方された治療を変更しないでください。早期治療は回復を後押しします。(nam.edu)

米国では、危機的状況への支援を受けるため、988自殺・危機ライフラインに電話またはテキストで連絡してください。差し迫った危険や生命に関わる緊急事態の場合は、911に電話してください。(988lifeline.org)