Лицензия YOLO
Назад к глоссарию Ultralytics

AI Psychosis

Психоз, связанный с ИИ, описывает бредовые идеи, которые возникают или усиливаются во время длительных разговоров с чат-ботом. Что показывают данные, почему это происходит и какие меры защиты существуют.

Психоз, связанный с ИИ, — неформальный термин для случаев, когда длительные беседы с чат-ботом на основе ИИ, по-видимому, провоцируют, подкрепляют или усиливают бредовые убеждения пользователя. Это понятие обозначает проблему психического здоровья человека, связанную с использованием ИИ; описательного термина нет ни в DSM-5-TR, ни в ICD-11. Многие психиатры предпочитают термин «бредовые идеи, связанные с ИИ», поскольку в большинстве описанных случаев речь идёт об устойчивых ложных убеждениях без галлюцинаций, расстройства мышления или дезорганизованного поведения, характерных для психотического расстройства.

Происхождение и доказательства#

Датский психиатр Сёрен Динесен Эстергор поднял этот вопрос в редакционной статье 2023 года в Schizophrenia Bulletin, предположив, что реалистичность общения с чат-ботом может усиливать бред у людей, склонных к психозу. Термин распространился в 2025 году, когда врачи и журналисты стали описывать пользователей, которые после недель интенсивных разговоров с большой языковой моделью (LLM) убеждались, что сделали открытие, способное изменить мир, что чат-бот обладает сознанием или божественной природой либо что их связывают романтические отношения.

В марте 2026 года Гамильтон Моррин и его коллеги из King's College London проанализировали 20 публикаций в СМИ в журнале The Lancet Psychiatry. Они разделили бредовые идеи на грандиозные, романтические и параноидальные; чаще всего встречались грандиозные убеждения в особой силе или особой личности. Исследователи не обнаружили свидетельств того, что чат-боты вызывали галлюцинации или расстройства мышления, и подтвердили наличие таких случаев только у уже уязвимых людей. Доказательная база по-прежнему состоит главным образом из описаний отдельных случаев. В октябре 2025 года OpenAI предположила, что около 0,07% пользователей ChatGPT, активных в течение конкретной недели, демонстрируют возможные признаки экстренной ситуации в области психического здоровья, связанной с психозом или манией. При тогдашних 800 миллионах еженедельных пользователей ChatGPT это соответствует примерно 560 000 человек. У многих людей из описаний случаев были факторы риска, например предшествующее психическое заболевание, злоупотребление психоактивными веществами, недосыпание или социальная изоляция. Вопрос о том, могут ли чат-боты вызывать психоз у людей без предрасположенности или в основном усиливают уже имеющуюся уязвимость, пока остаётся открытым для исследований.

Как устройство чат-ботов может усиливать бредовые идеи#

Несколько особенностей разговорных LLM объединяются в петлю обратной связи:

  • Поддакивание: Постобучение с поощрением одобрения пользователя, например обучение с подкреплением на основе отзывов людей (RLHF), при котором модель вознаграждения обучается на человеческих оценках, может научить модель соглашаться с идеями пользователя и развивать их. Так необычное убеждение получает подтверждение там, где друг возразил бы.
  • Долгий личный контекст: Чат-бот формирует каждый ответ с учётом всей предшествующей беседы, а функции памяти переносят темы из одной сессии в другую, поэтому убеждение становится основой для всего последующего общения. OpenAI признала, что в длительных беседах её защитные механизмы могут работать менее надёжно.
  • Галлюцинации: выдуманные факты, цитаты или «скрытые закономерности» создают видимость доказательств в пользу убеждения.
  • Человекоподобный дизайн и постоянная доступность: Дружелюбный виртуальный помощник, который подстраивается под настроение пользователя, — давняя цель аффективных вычислений, — и доступность в любое время суток могут превратить его в доверенное лицо, вытесняющее людей, которые с наибольшей вероятностью заметили бы перемены в мышлении человека. Люди приписывали программам способность понимать их задолго до появления LLM; эту склонность называют эффектом Элизы в честь чат-бота Джозефа Вайценбаума 1966 года.

Эта петля работает на основе свободной генерации текста, когда каждый ответ формируется с учётом сказанного пользователем. У специализированных моделей компьютерного зрения такого канала нет: Ultralytics YOLO26 преобразует каждое изображение в метки классов, ограничивающие рамки и оценки уверенности, поэтому результат зависит только от полученного изображения.

  • Поддакивание ИИ: Поведение модели, которая соглашается с пользователем или льстит ему в ущерб точности. Психоз, связанный с ИИ, — возможное последствие для человека, когда такое поведение взаимодействует с уязвимым пользователем на протяжении многих сессий.
  • Галлюцинация: Ошибка модели — ложный или неподтверждённый результат. Она может предоставить ложные свидетельства, подкрепляющие бред, и возникает независимо от того, придерживается ли пользователь необычных убеждений.
  • Эмоциональная зависимость: Обращение к чат-боту за общением или поддержкой, которое может возникнуть и без бредовых убеждений. При оценке того, как ChatGPT ведёт себя в чувствительных беседах, OpenAI учитывает её отдельно от психоза и мании.

Тревожные признаки и меры защиты#

К тревожным признакам у пользователей и их близких относятся отказ от общения с людьми в пользу чат-бота, недосып из-за долгих сеансов, растущая уверенность в особой миссии или тайных знаниях, а также вера в то, что чат-бот обладает сознанием или понимает пользователя лучше всех. Спокойные предложения сделать перерыв и восстановить общение с близкими обычно эффективнее споров о самом убеждении; врач или специалист по психическому здоровью может оценить ситуацию. Раннее лечение психоза связано с лучшим восстановлением. В экстренной ситуации в первую очередь нужно обращаться в местную службу экстренной помощи, а международный справочник телефонов доверия содержит сведения о бесплатных конфиденциальных службах поддержки по странам.

Разработчики проверяют эту проблему, оценивая поведение в длинных многошаговых диалогах, а не на отдельных промптах. Набор Psychosis-bench включает 16 сценариев по 12 ходов, в которых смоделированные бредовые убеждения пользователя усиливаются. В восьми протестированных моделях меры безопасности применялись лишь примерно в трети ходов, где они были необходимы; модели хуже справлялись, когда бред подразумевался, а не высказывался прямо. Такие сценарии входят в программу проверки ИИ на уязвимости наряду со стандартными мерами безопасности ИИ. Модели можно дообучить, чтобы они сочувственно реагировали на тревогу, но не подтверждали неподкреплённые утверждения, предлагали обратиться к друзьям, семье и специалистам и советовали делать перерывы во время многочасовых сессий. Ограничители ИИ, распознающие признаки кризиса, могут показывать контакты местных служб поддержки. Авторы The Lancet Psychiatry призывают разрабатывать эти протоколы совместно с пользователями и специалистами по психическому здоровью, а обновление ChatGPT от OpenAI в октябре 2025 года опиралось на сеть из более чем 170 психиатров, психологов и врачей первичного звена.

Изучи решения

Компьютерное зрение в спорте

Компьютерное зрение в спорте

Узнай, как Ultralytics YOLO обеспечивает компьютерное зрение в спорте: отслеживание игроков и мяча, аналитика результатов, полезные выводы для тренеров и реабилитация спортсменов.
Подробнее
Компьютерное зрение для аэросъёмки

Компьютерное зрение для аэросъёмки

Превращай снимки с дронов и аэрофотоснимки в полезные данные в реальном времени для сельского хозяйства, аквакультуры, охраны природы и геопространственного анализа с Ultralytics YOLO.
Подробнее
Компьютерное зрение в аэрокосмической отрасли

Компьютерное зрение в аэрокосмической отрасли

Применяй компьютерное зрение в аэрокосмической отрасли с Ultralytics YOLO: для осмотра самолётов, обнаружения посторонних предметов на взлётно-посадочных полосах, наземного обслуживания аэропортов и выявления дефектов композитных материалов.
Подробнее
Компьютерное зрение в сфере безопасности

Компьютерное зрение в сфере безопасности

Защити любой объект с помощью моделей Ultralytics YOLO. ИИ на базе компьютерного зрения обеспечивает мониторинг периметра, обнаружение угроз, распознавание номерных знаков и безопасность на рабочем месте.
Подробнее
Компьютерное зрение в робототехнике

Компьютерное зрение в робототехнике

Создавай более интеллектуальные машины с моделями Ultralytics YOLO. ИИ на базе компьютерного зрения в робототехнике обеспечивает автономную навигацию, восприятие, отслеживание объектов и управление в реальном времени.
Подробнее
Компьютерное зрение в логистике

Компьютерное зрение в логистике

Оптимизируй логистику с моделями Ultralytics YOLO. Визуальный AI обеспечивает проверку посылок, сортировку, отслеживание транспорта и мониторинг безопасности на складе в реальном времени.
Подробнее
Компьютерное зрение в розничной торговле

Компьютерное зрение в розничной торговле

Переосмысли розничную торговлю с моделями Ultralytics YOLO. Визуальный AI обеспечивает отслеживание запасов, мониторинг полок, управление очередями и более глубокое понимание поведения покупателей.
Подробнее
Компьютерное зрение в здравоохранении

Компьютерное зрение в здравоохранении

Создавай решения для здравоохранения с моделями Ultralytics YOLO. Визуальный AI в здравоохранении ускоряет медицинскую визуализацию, улучшает диагностику и мониторинг пациентов.
Подробнее
Компьютерное зрение в производстве

Компьютерное зрение в производстве

Оптимизируй производство с моделями Ultralytics YOLO. Компьютерное зрение на базе ИИ обеспечивает контроль качества, обнаружение дефектов, контроль использования СИЗ и автоматизацию сборочных линий.
Подробнее
Компьютерное зрение в автомобильной отрасли

Компьютерное зрение в автомобильной отрасли

Применяй компьютерное зрение в автомобильной отрасли с моделями Ultralytics YOLO. Компьютерное зрение на базе ИИ повышает безопасность дорожного движения, улучшает помощь водителю и автоматизацию автомобилей, делая дороги умнее.
Подробнее
Компьютерное зрение в сельском хозяйстве

Компьютерное зрение в сельском хозяйстве

Внедряй ИИ для компьютерного зрения в умное сельское хозяйство с моделями Ultralytics YOLO. Используй их для мониторинга посевов, отслеживания скота и точного земледелия, чтобы повысить урожайность и эффективность.
Подробнее

Давай вместе строить будущее ИИ!

Начни свой путь в будущее машинного обучения