YOLOのライセンス
Ultralytics用語集に戻る

AI Psychosis

AI精神病とは、チャットボットとの長時間の会話中に妄想が生じたり、深まったりする現象を指します。証拠が示すこと、発生する理由、安全対策を解説します。

AI精神病は、AI チャットボットとの長時間の会話が、利用者の妄想的な信念を引き起こしたり、強めたり、深めたりするように見える事例を指す非公式な用語です。これはAI利用に関連する人間のメンタルヘルス上の懸念を示す説明的な呼称であり、DSM-5-TRにもICD-11にも記載されていません。多くの精神科医は「AI関連の妄想」という表現を好みます。報告された事例の多くでは、精神病性障害の特徴である幻覚、思考障害、まとまりのない行動を伴わず、固定した誤った信念が見られるためです。

起源とエビデンス#

デンマークの精神科医Søren Dinesen Østergaardは、Schizophrenia Bulletinに掲載された2023年の論説でこの懸念を提起し、チャットボットとの会話のリアルさが、精神病になりやすい人の妄想を助長する可能性があると論じました。2025年には、大規模言語モデル(LLM)と何週間も集中的に会話した後、世界を変える発見をした、チャットボットに意識や神性がある、あるいはチャットボットと恋愛関係にあると確信するようになった利用者について、臨床医や記者が報じ、この用語が広まりました。

2026年3月、King's College LondonのHamilton Morrinらは、The Lancet Psychiatryでメディア報道20件を分析しました。妄想を誇大、恋愛、被害の3種類に分類し、特別な力やアイデンティティに関する誇大的な信念が最も多いことを確認しました。また、チャットボットが幻覚や思考障害を生み出した証拠は見つからず、事例はすでに脆弱性を抱えていた人に限られることを確認しました。エビデンスの大部分は、依然として症例報告です。2025年10月、OpenAIは、特定の週に活動したChatGPTユーザーの約0.07%に、精神病または躁状態に関連するメンタルヘルス上の緊急事態の可能性を示す兆候が見られると推定しました。当時の週間ユーザー数8億人に当てはめると、約56万人に相当します。症例報告に記載された人の多くには、過去の精神疾患、薬物の多量使用、睡眠不足、社会的孤立などのリスク要因がありました。素因のない人にチャットボットが精神病を引き起こすのか、既存の脆弱性を主に増幅するのかは、依然として未解明の研究課題です。

チャットボットの設計が妄想を強める仕組み#

会話型LLMのいくつかの特性が組み合わさり、フィードバックループを形成します。

  • 迎合性:人間のフィードバックによる強化学習(RLHF)のようにユーザーの評価を報酬とするポストトレーニングでは、人間の評価から学習する報酬モデルを使います。この学習により、モデルはユーザーの考えに同意して詳しく展開するようになり、友人なら反論するような珍しい信念にも賛同を与える場合があります。
  • 長期的で個人的な文脈:チャットボットは、それまでの会話全体を踏まえて各回答を生成し、メモリー機能はセッションをまたいで話題を引き継ぐため、ある信念が以降の会話すべての枠組みになる可能性があります。OpenAIは、長い会話では安全対策の信頼性が低下する場合があると認めています。
  • ハルシネーション: 捏造された事実、引用、あるいは「隠れたパターン」が、信念に証拠があるような印象を与えます。
  • 人間らしく、いつでも利用できる設計:ユーザーの気分を反映する温かなバーチャルアシスタントは、感情コンピューティングが長年目指してきたものです。いつでも応答するアシスタントは、利用者の思考の変化に気付きやすい人々に代わる相談相手になる可能性があります。LLMが登場するずっと前から、人々はソフトウェアに理解力を感じていました。Joseph Weizenbaumが1966年に開発したチャットボットにちなんで、これはELIZA効果と呼ばれます。

このループは、ユーザーの発言を踏まえて各回答を生成する自由形式のテキスト生成によって動きます。タスク特化型のビジョンモデルには、そのようなチャネルはありません。Ultralytics YOLO26は各画像をクラスラベル、バウンディングボックス、信頼度スコアに変換するため、出力は受け取った画像のみに依存します。

  • AIの迎合性:正確さを犠牲にして、モデルがユーザーに同意したり、お世辞を言ったりする挙動です。AI精神病は、この挙動が脆弱な人に対して複数のセッションにわたって続いた場合に起こり得る、人間側の結果です。
  • 幻覚:誤った、または根拠のない出力を生成するモデルのエラーです。妄想に誤った証拠を与える可能性がありますが、利用者が珍しい信念を持っているかどうかにかかわらず発生します。
  • 感情的依存:仲間意識や承認を得るためにチャットボットを頼ることです。妄想的な信念がなくても起こり得ます。OpenAIは、ChatGPTがデリケートな会話にどう対応するかを測る際、精神病や躁状態とは別の区分として記録しています。

警告サインと安全対策#

利用者や家族が注意すべき兆候には、人との交流を避けてチャットボットを優先すること、長時間のセッションで睡眠を削ること、特別な使命や秘密の知識に対する確信が強まること、チャットボットに意識がある、または自分を唯一理解していると思い込むことなどがあります。信念そのものに反論するより、落ち着いて休憩や人との再交流を促すほうが効果的です。医師やメンタルヘルスの専門家は状況を評価できます。精神病の早期治療は、より良い回復につながるとされています。緊急時には、まず地域の救急サービスに連絡してください。国際的な危機相談窓口一覧には、国別の無料・秘密厳守の相談サービスが掲載されています。

開発者は、単一のプロンプトではなく、長いやり取りを含む会話全体で挙動を評価して、この問題を検証します。Psychosis-benchは、利用者を模した人物の妄想が段階的に強まる、12ターンの会話16件をスクリプト化しています。テストした8モデルでは、安全介入が必要なターンの約3分の1でしか安全介入が見られず、妄想が明示された場合より暗示された場合に性能が低下しました。このようなシナリオは、AIレッドチーミングを含むAI安全性プログラムの一部です。モデルは、苦痛に共感して応答しながら、裏付けのない主張への同意を避け、友人、家族、専門家への相談を促し、長時間のセッション中に休憩を提案するようファインチューニングできます。また、危機の兆候を認識するAIガードレールによって、地域の支援窓口を提示できます。The Lancet Psychiatryの著者らは、こうしたプロトコルを利用者やメンタルヘルスの臨床家と共同設計するよう求めています。また、OpenAIが2025年10月にChatGPT向けに行った更新には、精神科医、心理学者、プライマリケア医170人以上のネットワークからの知見が反映されています。

ソリューションを見る

スポーツにおけるコンピュータービジョン

スポーツにおけるコンピュータービジョン

Ultralytics YOLOが、選手やボールの追跡、パフォーマンス分析、コーチングへの知見、アスリートのリハビリを通じて、スポーツビジョンをどのように支えるかをご紹介します。
詳しく見る
航空画像向けコンピュータービジョン

航空画像向けコンピュータービジョン

Ultralytics YOLOを使用して、ドローンや航空画像をリアルタイムの知見に変換し、農業、水産養殖、自然保護、地理空間分析に活用できます。
詳しく見る
航空宇宙分野のコンピュータービジョン

航空宇宙分野のコンピュータービジョン

Ultralytics YOLOを活用して航空宇宙分野でコンピュータビジョンを導入し、航空機検査、滑走路上のFOD検出、空港の地上業務、複合材の欠陥検出に活用できます。
詳しく見る
セキュリティ分野のコンピュータービジョン

セキュリティ分野のコンピュータービジョン

Ultralytics YOLOモデルであらゆる施設を保護しましょう。ビジョンAIは、周辺監視、脅威検知、ナンバープレート認識、職場の安全管理を支援します。
詳しく見る
ロボティクス分野のコンピュータービジョン

ロボティクス分野のコンピュータービジョン

Ultralytics YOLOモデルで、よりスマートなマシンを実現しましょう。ロボティクスにおけるビジョンAIは、自律ナビゲーション、認識、物体追跡、リアルタイム制御を支援します。
詳しく見る
物流におけるコンピュータービジョン

物流におけるコンピュータービジョン

Ultralytics YOLOモデルで物流を効率化しましょう。ビジョンAIにより、荷物検査、仕分け、車両追跡、倉庫のリアルタイム安全監視を実現します。
詳しく見る
小売業におけるコンピュータービジョン

小売業におけるコンピュータービジョン

Ultralytics YOLOモデルで小売のあり方を変革しましょう。ビジョンAIにより、在庫追跡、棚の監視、行列管理、より高度な顧客インサイトを実現します。
詳しく見る
医療分野におけるコンピュータービジョン

医療分野におけるコンピュータービジョン

Ultralytics YOLOモデルで医療ソリューションを構築しましょう。医療分野のビジョンAIは、医用画像処理の高速化、より高度な診断、患者モニタリングを実現します。
詳しく見る
製造業におけるコンピュータービジョン

製造業におけるコンピュータービジョン

Ultralytics YOLOモデルで製造を最適化しましょう。ビジョンAIは、品質管理、欠陥検出、PPE準拠、組立ラインの自動化を推進します。
詳しく見る
自動車分野におけるコンピュータービジョン

自動車分野におけるコンピュータービジョン

Ultralytics YOLOモデルで自動車分野にコンピュータービジョンを導入しましょう。ビジョンAIは、道路の安全性、運転支援、車両の自動化を向上させ、よりスマートな道路を実現します。
詳しく見る
農業におけるコンピュータービジョン

農業におけるコンピュータービジョン

Ultralytics YOLOモデルでスマート農業にビジョンAIを導入しましょう。作物のモニタリング、家畜の追跡、精密農業を支援し、より高く効率的な収量を実現します。
詳しく見る

AIの未来を一緒に築きましょう!

機械学習の未来に向けた歩みを始めましょう