YOLO lizenzieren
Zurück zum Ultralytics-Glossar

AI Psychosis

KI-Psychose bezeichnet Wahnvorstellungen, die sich während langer Gespräche mit Chatbots entwickeln oder verstärken. Was die Belege zeigen, warum das geschieht und welche Schutzmaßnahmen es gibt.

KI-Psychose ist ein informeller Begriff für Fälle, in denen lange Gespräche mit einem KI-Chatbot offenbar wahnhafte Überzeugungen der nutzenden Person auslösen, verstärken oder vertiefen. Der Begriff bezeichnet ein psychisches Gesundheitsproblem des Menschen, das mit der Nutzung von KI zusammenhängt. Er ist eine beschreibende Bezeichnung, die weder im DSM-5-TR noch in der ICD-11 vorkommt. Viele Psychiaterinnen und Psychiater bevorzugen den Ausdruck „KI-assoziierte Wahnvorstellungen“, da es in den meisten beschriebenen Fällen um feste falsche Überzeugungen geht, ohne Halluzinationen, Denkstörungen oder desorganisiertes Verhalten, wie sie für eine psychotische Störung charakteristisch sind.

Ursprung und Belege#

Der dänische Psychiater Søren Dinesen Østergaard äußerte diese Sorge in einem Leitartikel von 2023 im Schizophrenia Bulletin. Er argumentierte, dass realistische Chatbot-Gespräche bei psychosegefährdeten Menschen Wahnvorstellungen fördern könnten. Der Begriff verbreitete sich 2025, als Fachleute und Journalisten von Nutzenden berichteten, die nach wochenlangen intensiven Gesprächen mit einem Large Language Model (LLM) überzeugt waren, eine weltverändernde Entdeckung gemacht zu haben, der Chatbot sei empfindungsfähig oder göttlich oder sie hätten eine romantische Beziehung zu ihm.

Im März 2026 analysierten Hamilton Morrin und Kollegen vom King's College London 20 Medienberichte in The Lancet Psychiatry. Sie ordneten die Wahnvorstellungen als Größenwahn, romantische oder paranoide Wahnvorstellungen ein. Am häufigsten waren Größenwahnvorstellungen über besondere Macht oder Identität. Sie fanden keine Belege dafür, dass Chatbots Halluzinationen oder Denkstörungen hervorriefen, und bestätigten Fälle ausschließlich bei bereits gefährdeten Personen. Die Belege bestehen weiterhin hauptsächlich aus Fallberichten. Im Oktober 2025 schätzte OpenAI, dass etwa 0,07 % der ChatGPT-Nutzenden, die innerhalb einer bestimmten Woche aktiv waren, mögliche Anzeichen eines psychischen Notfalls im Zusammenhang mit Psychose oder Manie zeigten. Bei den damals 800 Millionen wöchentlichen ChatGPT-Nutzenden entspricht das etwa 560.000 Personen. Viele der in Fallberichten beschriebenen Personen hatten Risikofaktoren wie eine frühere psychische Erkrankung, starken Substanzkonsum, Schlafmangel oder soziale Isolation. Ob Chatbots bei Menschen ohne Veranlagung eine Psychose auslösen können oder vor allem eine bestehende Anfälligkeit verstärken, ist weiterhin eine offene Forschungsfrage.

Wie das Design von Chatbots Wahnvorstellungen verstärken kann#

Mehrere Eigenschaften konversationeller LLMs verbinden sich zu einer Rückkopplungsschleife:

  • Schmeichelei: Ein Nachtraining, das die Zustimmung der Nutzenden belohnt, etwa bestärkendes Lernen anhand menschlicher Rückmeldungen (RLHF), bei dem ein Belohnungsmodell aus menschlichen Bewertungen lernt, kann einem Modell beibringen, den Ideen der Nutzenden zuzustimmen und sie weiterzuentwickeln. So erhält eine ungewöhnliche Überzeugung Bestätigung, wo ein Freund widersprechen würde.
  • Langer, persönlicher Kontext: Ein Chatbot richtet jede Antwort an der bisherigen Unterhaltung aus, und Speicherfunktionen übertragen Themen auf weitere Sitzungen. Dadurch wird eine Überzeugung zum Bezugsrahmen für alles Folgende. OpenAI hat eingeräumt, dass seine Schutzmaßnahmen bei langen Gesprächen weniger zuverlässig werden können.
  • Halluzinationen: Erfundenen Fakten, Quellenangaben oder „verborgenen Mustern“ können der Überzeugung scheinbare Belege verleihen.
  • Menschenähnliches Design und ständige Verfügbarkeit: Ein warmherziger virtueller Assistent, der die Stimmung der nutzenden Person spiegelt – ein langjähriges Ziel des affektiven Computings – und jederzeit antwortet, kann zu einer Vertrauensperson werden, die diejenigen verdrängt, denen eine Veränderung im Denken der Person am ehesten auffallen würde. Menschen schrieben Software schon lange vor LLMs Verständnis zu. Diese Tendenz wird nach Joseph Weizenbaums Chatbot aus dem Jahr 1966 als ELIZA-Effekt bezeichnet.

Die Schleife beruht auf freier Textgenerierung, bei der jede Antwort vom bisherigen Gespräch mit der nutzenden Person abhängt. Aufgabenspezifische Bildverarbeitungsmodelle verfügen nicht über diesen Kommunikationskanal: Ultralytics YOLO26 ordnet jedem Bild Klassenbezeichnungen, Begrenzungsrahmen und Konfidenzwerte zu. Die Ausgabe hängt daher allein vom empfangenen Bild ab.

  • Schmeichelei durch KI: Ein Modellverhalten, bei dem dem Nutzer auf Kosten der Genauigkeit zugestimmt oder geschmeichelt wird. KI-Psychose ist ein mögliches menschliches Ergebnis, wenn dieses Verhalten über viele Sitzungen hinweg auf eine gefährdete Person trifft.
  • Halluzination: Ein Modellfehler, bei dem eine falsche oder unbelegte Ausgabe erzeugt wird. Eine Halluzination kann einer Wahnvorstellung falsche Belege liefern und tritt unabhängig davon auf, ob die nutzende Person ungewöhnliche Überzeugungen hat.
  • Emotionale Abhängigkeit: Sich auf einen Chatbot zu verlassen, um Gesellschaft oder Bestätigung zu erhalten. Das kann auch ohne Wahnvorstellungen vorkommen. OpenAI erfasst dies getrennt von Psychose und Manie, wenn das Unternehmen untersucht, wie ChatGPT mit sensiblen Gesprächen umgeht.

Warnsignale und Schutzmaßnahmen#

Zu den Warnsignalen für Nutzende und Angehörige gehören, Menschen zugunsten eines Chatbots zu meiden, wegen langer Sitzungen Schlaf zu verlieren, zunehmend von einer besonderen Mission oder geheimem Wissen überzeugt zu sein und zu glauben, der Chatbot sei bewusst oder verstehe sie auf einzigartige Weise. Ruhig zu Pausen und erneutem Kontakt mit anderen zu ermutigen, wirkt meist besser, als über die Überzeugung selbst zu streiten. Eine Ärztin, ein Arzt oder eine Fachkraft für psychische Gesundheit kann die Situation einschätzen; eine frühzeitige Behandlung von Psychosen hängt mit besseren Genesungschancen zusammen. Im Notfall sind die örtlichen Rettungsdienste die erste Anlaufstelle. Das internationale Verzeichnis der Krisenhotlines listet nach Ländern kostenlose, vertrauliche Unterstützungsangebote auf.

Entwickler testen das Problem, indem sie das Verhalten in langen Gesprächen mit mehreren Gesprächsrunden statt anhand einzelner Prompts bewerten. Psychosis-bench führt 16 Gespräche mit je 12 Runden durch, in denen sich die Wahnvorstellungen einer simulierten nutzenden Person verstärken. Bei den acht getesteten Modellen kamen Sicherheitsmaßnahmen nur in etwa einem Drittel der Gesprächsrunden zum Einsatz, in denen sie erforderlich waren. Die Modelle schnitten schlechter ab, wenn die Wahnvorstellung nur angedeutet statt ausdrücklich geäußert wurde. Solche Szenarien ergänzen das übliche Red Teaming für KI in einem KI-Sicherheits programm. Modelle lassen sich so feinabstimmen, dass sie auf seelische Belastung empathisch reagieren, ohne unbelegbare Behauptungen zu bestätigen, den Kontakt zu Freunden, Familie und Fachleuten fördern und bei Marathon-Sitzungen zu Pausen raten. KI-Schutzmaßnahmen, die Krisensignale erkennen, können örtliche Unterstützungsangebote einblenden. Die Autoren von The Lancet Psychiatry fordern, diese Protokolle gemeinsam mit Nutzenden und Fachleuten für psychische Gesundheit zu entwickeln. Für die Aktualisierung von ChatGPT im Oktober 2025 stützte sich OpenAI auf ein Netzwerk von mehr als 170 Psychiatern, Psychologen und Hausärzten.

Lösungen entdecken

Computer Vision im Sport

Computer Vision im Sport

Entdecke, wie Ultralytics YOLO die Sportbildanalyse voranbringt – mit Spieler- und Ballverfolgung, Leistungsanalysen, Erkenntnissen für das Coaching und der Rehabilitation von Athleten.
Mehr erfahren
Computer Vision für Luftbilder

Computer Vision für Luftbilder

Verwandle Drohnen- und Luftbilder mit Ultralytics YOLO in Echtzeit-Erkenntnisse für Landwirtschaft, Aquakultur, Naturschutz und Geodatenanalyse.
Mehr erfahren
Computer Vision in der Luft- und Raumfahrt

Computer Vision in der Luft- und Raumfahrt

Setze Computer Vision in der Luft- und Raumfahrt mit Ultralytics YOLO ein – für Flugzeuginspektionen, die Erkennung von Fremdkörpern auf Start- und Landebahnen, den Bodenbetrieb am Flughafen und die Erkennung von Verbundwerkstofffehlern.
Mehr erfahren
Computer Vision im Sicherheitsbereich

Computer Vision im Sicherheitsbereich

Schütze jeden Standort mit Ultralytics YOLO-Modellen. Vision-KI ermöglicht die Überwachung von Grundstücksgrenzen, die Erkennung von Bedrohungen, die Kennzeichenerkennung und die Sicherheit am Arbeitsplatz.
Mehr erfahren
Computer Vision in der Robotik

Computer Vision in der Robotik

Mach Maschinen mit Ultralytics YOLO-Modellen leistungsfähiger. Vision-KI in der Robotik ermöglicht autonome Navigation, Wahrnehmung, Objektverfolgung und Steuerung in Echtzeit.
Mehr erfahren
Bildverarbeitung in der Logistik

Bildverarbeitung in der Logistik

Optimiere die Logistik mit Ultralytics YOLO-Modellen. Vision AI ermöglicht die Paketprüfung, Sortierung und Fahrzeugverfolgung sowie die Sicherheitsüberwachung von Lagerhäusern in Echtzeit.
Mehr erfahren
Bildverarbeitung im Einzelhandel

Bildverarbeitung im Einzelhandel

Gestalte den Einzelhandel mit Ultralytics YOLO-Modellen neu. Vision AI ermöglicht Bestandsverfolgung, Regalüberwachung und Warteschlangenmanagement und liefert bessere Einblicke in das Kundenverhalten.
Mehr erfahren
Bildverarbeitung im Gesundheitswesen

Bildverarbeitung im Gesundheitswesen

Entwickle Lösungen für das Gesundheitswesen mit Ultralytics YOLO-Modellen. Vision AI ermöglicht im Gesundheitswesen schnellere medizinische Bildgebung, bessere Diagnostik und die Überwachung von Patienten.
Mehr erfahren
Computer Vision in der Fertigung

Computer Vision in der Fertigung

Optimiere die Fertigung mit Ultralytics-YOLO-Modellen. Vision AI ermöglicht Qualitätskontrolle, Fehlererkennung, die Überprüfung der Einhaltung von Vorgaben zu persönlicher Schutzausrüstung und die Automatisierung von Montagelinien.
Mehr erfahren
Computer Vision in der Automobilbranche

Computer Vision in der Automobilbranche

Setze Computer Vision in der Automobilbranche mit Ultralytics-YOLO-Modellen ein. Vision AI verbessert die Verkehrssicherheit, Fahrerassistenz und Fahrzeugautomatisierung – für intelligentere Straßen.
Mehr erfahren
Computer Vision in der Landwirtschaft

Computer Vision in der Landwirtschaft

Setze mit Ultralytics YOLO-Modellen KI für Bildverarbeitung in der intelligenten Landwirtschaft ein. Ermögliche die Überwachung von Nutzpflanzen, die Verfolgung von Nutztieren und Präzisionslandwirtschaft für höhere und nachhaltigere Erträge.
Mehr erfahren

Lass uns gemeinsam die Zukunft der KI gestalten!

Starte deine Reise in die Zukunft des maschinellen Lernens