YOLO 라이선스 받기
Ultralytics 용어집으로 돌아가기

AI Psychosis

AI 정신증은 챗봇과 장시간 대화하는 동안 형성되거나 심화되는 망상을 가리킵니다. 근거가 보여 주는 것, 발생 원인, 안전장치를 다룹니다.

AI 정신병은 AI 챗봇과의 긴 대화가 사용자에게 망상적 믿음을 유발하거나 강화하거나 심화하는 것으로 보이는 사례를 가리키는 비공식 용어입니다. AI 사용과 관련된 인간의 정신 건강 문제를 가리키는 서술적 표현이며, DSM-5-TR이나 ICD-11에는 없는 용어입니다. 많은 정신과 의사는 'AI 연관 망상'이라는 표현을 선호합니다. 보고된 사례 대부분에서 정신병적 장애의 특징인 환각, 사고 장애, 와해된 행동 없이 고정된 허위 믿음만 나타났기 때문입니다.

기원과 근거#

덴마크의 정신과 의사 Søren Dinesen Østergaard는 2023년 Schizophrenia Bulletin 사설에서 이 문제를 제기하며, 챗봇 대화의 현실감이 정신병에 취약한 사람의 망상을 부추길 수 있다고 주장했습니다. 2025년에 이 용어가 널리 퍼지면서 임상의와 언론인들은 대규모 언어 모델(LLM)과 몇 주간 집중적으로 대화한 뒤 세상을 바꿀 발견을 했거나, 챗봇이 지각이 있거나 신성하거나, 챗봇과 연애 관계를 맺었다고 확신하게 된 사용자 사례를 설명했습니다.

2026년 3월 King's College London의 Hamilton Morrin과 동료들은 The Lancet Psychiatry에 미디어 보도 20건을 분석한 결과를 발표했습니다. 연구진은 망상을 과대성, 낭만적 믿음, 피해망상으로 분류했으며, 특별한 능력이나 정체성에 대한 과대적 믿음이 가장 흔했습니다. 챗봇이 환각이나 사고 장애를 일으킨다는 증거는 찾지 못했고, 이미 취약성이 있었던 사람에게서만 사례를 확인했습니다. 현재 근거는 대부분 사례 보고로 구성됩니다. 2025년 10월 OpenAI는 특정 주간에 활동한 ChatGPT 사용자 중 약 0.07%가 정신병이나 조증과 관련된 정신 건강 위급 상황의 징후를 보일 가능성이 있다고 추산했습니다. 당시 ChatGPT의 주간 사용자 8억 명을 기준으로 하면 약 56만 명에 해당합니다. 사례 보고에 등장한 많은 사람은 과거 정신 질환, 과도한 약물 사용, 수면 부족, 사회적 고립과 같은 위험 요인을 갖고 있었습니다. 기존 취약성이 없는 사람에게 챗봇이 정신병을 일으킬 수 있는지, 아니면 기존 취약성을 주로 증폭하는지는 여전히 연구가 필요한 문제입니다.

챗봇 설계가 망상을 강화하는 방식#

대화형 LLM의 몇 가지 특성이 결합해 피드백 루프를 만듭니다.

  • 아첨 성향: 사용자의 승인을 보상하는 사후 학습은 모델이 사용자의 생각에 동의하고 이를 확장하도록 학습시킬 수 있습니다. 그 한 예인 인간 피드백 기반 강화 학습(RLHF)에서는 보상 모델이 사람의 평가를 바탕으로 학습합니다. 이로 인해 친구라면 반박했을 특이한 믿음도 모델이 인정하고 강화할 수 있습니다.
  • 길고 개인적인 맥락: 챗봇은 지금까지의 대화 내용을 바탕으로 모든 답변을 생성하고, 메모리 기능은 여러 세션에 걸쳐 주제를 이어가므로 하나의 믿음이 이후 대화 전체의 틀이 될 수 있습니다. OpenAI는 긴 대화에서 안전장치의 신뢰성이 낮아질 수 있음을 인정했습니다.
  • 환각: 조작된 사실이나 인용, "숨겨진 패턴"은 해당 믿음에 겉보기 근거를 제공합니다.
  • 인간을 닮았고 언제든 이용 가능한 설계: 사용자의 기분을 맞춰 주고 언제든 답하는 다정한 가상 비서는 감성 컴퓨팅의 오랜 목표이기도 하며, 사용자의 생각 변화를 알아차릴 가능성이 가장 높은 사람들을 밀어내는 믿을 만한 상담 상대가 될 수 있습니다. 사람들은 LLM이 등장하기 훨씬 전부터 소프트웨어에 이해 능력이 있다고 여겼습니다. Joseph Weizenbaum의 1966년 챗봇을 따라 이러한 경향을 ELIZA 효과라고 부릅니다.

이 루프는 사용자가 말한 내용을 바탕으로 각 답변을 생성하는 자유 형식 텍스트 생성에 기반합니다. 특정 작업용 비전 모델에는 이러한 경로가 없습니다. Ultralytics YOLO26은 각 이미지를 클래스 레이블, 바운딩 박스, 신뢰도 점수로 매핑하므로 출력은 입력 이미지에만 좌우됩니다.

  • AI 아첨 성향: 정확성을 희생하면서 사용자에게 동의하거나 아첨하는 모델의 동작입니다. AI 정신병은 이러한 동작이 취약한 사람과 여러 세션에 걸쳐 상호작용할 때 나타날 수 있는 인간의 결과입니다.
  • 환각: 거짓이거나 근거가 없는 출력을 생성하는 모델 오류입니다. 망상에 허위 증거를 제공할 수 있으며, 사용자가 특이한 믿음을 갖고 있는지와 관계없이 발생합니다.
  • 정서적 의존: 챗봇에 교제나 인정을 의지하는 것으로, 망상적 믿음 없이도 발생할 수 있습니다. OpenAI는 ChatGPT의 민감한 대화 처리 방식을 측정할 때 이를 정신병 및 조증과 별도의 범주로 추적합니다.

경고 신호와 안전장치#

사용자와 가족이 주의해야 할 경고 신호에는 사람들과 어울리기보다 챗봇을 찾는 행동, 긴 대화로 인한 수면 부족, 특별한 사명이나 비밀 지식에 대한 확신이 커지는 현상, 챗봇이 의식이 있거나 자신을 유일하게 이해한다고 믿는 행동이 포함됩니다. 믿음 자체를 논박하기보다 차분하게 휴식과 주변 사람들과의 관계 회복을 권하는 편이 더 효과적입니다. 의사나 정신 건강 전문가가 상황을 평가할 수 있으며, 정신병은 조기 치료와 더 나은 회복이 관련되어 있습니다. 위급한 상황에서는 현지 응급 서비스에 먼저 연락해야 하며, 국제 위기 상담 전화 디렉터리에서 국가별 무료 비밀 보장 지원 서비스를 확인할 수 있습니다.

개발자는 단일 프롬프트가 아니라 길고 여러 차례 이어지는 대화에서 동작을 평가해 이 문제를 테스트합니다. Psychosis-bench는 모의 사용자의 망상이 점차 심해지는 12회 대화 16개를 구성합니다. 테스트한 8개 모델에서 안전 개입은 개입이 필요했던 대화 차례의 약 3분의 1에서만 나타났으며, 망상을 노골적으로 표현한 경우보다 암시한 경우 모델 성능이 더 나빴습니다. 이러한 시나리오는 AI 안전성 프로그램의 표준 AI 레드팀 테스트와 함께 수행됩니다. 모델을 미세 조정해 근거가 없는 주장을 확인해 주지 않으면서도 고통에 공감하도록 하고, 친구와 가족, 전문가에게 연락하도록 권하며, 장시간 대화 중 휴식을 제안할 수 있습니다. 위기 징후를 인식하는 AI 가드레일은 현지 지원 자원을 안내할 수 있습니다. The Lancet Psychiatry 논문 저자들은 이러한 프로토콜을 사용자 및 정신 건강 임상의와 공동 설계할 것을 제안했으며, OpenAI의 2025년 10월 ChatGPT 업데이트는 정신과 의사, 심리학자, 일차 진료 의사 170여 명으로 구성된 네트워크의 자문을 받았습니다.

솔루션 살펴보기

스포츠 분야의 컴퓨터 비전

스포츠 분야의 컴퓨터 비전

Ultralytics YOLO가 선수 및 공 추적, 경기력 분석, 코칭 인사이트, 선수 재활을 통해 스포츠 비전을 구현하는 방법을 알아보세요.
자세히 알아보기
항공 이미지 컴퓨터 비전

항공 이미지 컴퓨터 비전

Ultralytics YOLO를 활용해 드론 및 항공 이미지를 농업, 양식업, 보전, 지리 공간 분석을 위한 실시간 인사이트로 전환하세요.
자세히 알아보기
항공우주 분야의 컴퓨터 비전

항공우주 분야의 컴퓨터 비전

Ultralytics YOLO를 활용해 항공기 검사, 활주로 FOD 감지, 공항 지상 운영, 복합재 결함 감지 등 항공우주 분야에 컴퓨터 비전을 적용하세요.
자세히 알아보기
보안 분야의 컴퓨터 비전

보안 분야의 컴퓨터 비전

Ultralytics YOLO 모델로 모든 시설을 보호하세요. Vision AI는 경계 모니터링, 위협 감지, 번호판 인식, 작업장 안전을 지원합니다.
자세히 알아보기
로보틱스 분야의 컴퓨터 비전

로보틱스 분야의 컴퓨터 비전

Ultralytics YOLO 모델로 더 스마트한 머신을 구현하세요. 로보틱스 분야의 Vision AI는 자율 주행, 인식, 객체 추적, 실시간 제어를 지원합니다.
자세히 알아보기
물류 분야의 컴퓨터 비전

물류 분야의 컴퓨터 비전

Ultralytics YOLO 모델로 물류를 간소화하세요. 비전 AI는 화물 검사, 분류, 차량 추적, 실시간 창고 안전 모니터링을 지원합니다.
자세히 알아보기
리테일 분야의 컴퓨터 비전

리테일 분야의 컴퓨터 비전

Ultralytics YOLO 모델로 리테일의 새로운 가능성을 열어 보세요. 비전 AI는 재고 추적, 선반 모니터링, 대기열 관리, 더욱 심층적인 고객 인사이트를 지원합니다.
자세히 알아보기
의료 분야의 컴퓨터 비전

의료 분야의 컴퓨터 비전

Ultralytics YOLO 모델로 의료 솔루션을 구축하세요. 의료 분야의 비전 AI는 의료 영상 판독을 가속화하고, 진단을 개선하며, 환자 모니터링을 지원합니다.
자세히 알아보기
제조 분야의 컴퓨터 비전

제조 분야의 컴퓨터 비전

Ultralytics YOLO 모델로 제조 공정을 최적화하세요. 비전 AI는 품질 관리, 결함 탐지, PPE 규정 준수, 조립 라인 자동화를 지원합니다.
자세히 알아보기
자동차 분야의 컴퓨터 비전

자동차 분야의 컴퓨터 비전

Ultralytics YOLO 모델로 자동차 분야에 컴퓨터 비전을 적용하세요. 비전 AI는 도로 안전, 운전자 지원, 차량 자동화를 개선해 더 스마트한 도로를 구현합니다.
자세히 알아보기
농업 분야의 컴퓨터 비전

농업 분야의 컴퓨터 비전

Ultralytics YOLO 모델로 스마트 농업에 비전 AI를 도입하세요. 작물 모니터링, 가축 추적, 정밀 농업을 지원하여 더 높은 수확량과 더 스마트한 농업을 실현합니다.
자세히 알아보기

함께 AI의 미래를 만들어 가세요!

머신러닝의 미래와 함께 여정을 시작하세요