AI Psychosis
Yapay zeka psikozu, uzun süren sohbet robotu konuşmaları sırasında ortaya çıkan veya derinleşen sanrıları tanımlar. Kanıtlar ne gösteriyor, neden ortaya çıkıyor ve hangi koruyucu önlemler alınabilir?
Yapay zekâ psikozu, yapay zekâ sohbet robotuyla yapılan uzun konuşmaların kullanıcıdaki sanrısal inançları tetikliyor, pekiştiriyor veya derinleştiriyor gibi göründüğü vakalar için kullanılan resmî olmayan bir terimdir. Yapay zekâ kullanımıyla bağlantılı, insan ruh sağlığına dair bir kaygıyı adlandırır ve ne DSM-5-TR'de ne de ICD-11'de yer alan betimleyici bir etikettir. Pek çok psikiyatrist "yapay zekâyla ilişkili sanrılar" terimini tercih eder; çünkü bildirilen vakaların çoğunda, psikotik bozukluğu tanımlayan halüsinasyonlar, düşünce bozukluğu veya düzensiz davranış olmaksızın sabit yanlış inançlar görülür.
Kökeni ve Kanıtlar#
Danimarkalı psikiyatrist Søren Dinesen Østergaard, 2023'te Schizophrenia Bulletin'de yayımlanan bir başyazıda kaygıyı gündeme getirerek, sohbet robotlarıyla yapılan konuşmaların gerçekçiliğinin psikoz yatkınlığı olan kişilerde sanrıları besleyebileceğini savundu. Terim, 2025'te klinisyenler ve gazeteciler, bir büyük dil modeliyle (LLM) haftalarca yoğun biçimde konuştuktan sonra dünyayı değiştirecek bir keşif yaptıklarına, sohbet robotunun bilinçli veya ilahi olduğuna ya da onunla romantik bir bağ kurduklarına inanan kullanıcıları anlatınca yaygınlaştı.
Mart 2026'da King's College London'dan Hamilton Morrin ve çalışma arkadaşları, The Lancet Psychiatry dergisinde 20 medya haberini inceledi. Sanrıları görkemli, romantik veya paranoid olarak gruplandırdılar; özel bir güce ya da kimliğe ilişkin görkemli inançların en yaygın olduğunu buldular, sohbet robotlarının halüsinasyon veya düşünce bozukluğu ürettiğine dair kanıt bulamadılar ve vakaların yalnızca önceden hassasiyeti olan kişilerde doğrulandığını belirlediler. Kanıtlar hâlâ çoğunlukla vaka raporlarından oluşuyor. OpenAI, Ekim 2025'te belirli bir haftada etkin olan ChatGPT kullanıcılarının yaklaşık %0,07'sinin psikoz veya maniyle ilişkili olası bir ruh sağlığı acil durumu belirtisi gösterdiğini tahmin etti; bu, o dönemde ChatGPT'nin haftalık 800 milyon kullanıcısı arasında yaklaşık 560.000 kişiye karşılık geliyor. Vaka raporlarında anlatılan kişilerin çoğunda daha önce geçirilmiş bir ruhsal hastalık, yoğun madde kullanımı, uykusuzluk veya sosyal yalıtım gibi risk etkenleri vardı. Sohbet robotlarının yatkınlığı olmayan bir kişide psikozu tetikleyip tetikleyemeyeceği ya da mevcut bir hassasiyeti çoğunlukla güçlendirip güçlendirmediği ise hâlâ araştırmaya açık bir soru.
Sohbet Robotu Tasarımı Sanrıları Nasıl Pekiştirebilir?#
Konuşmaya dayalı LLM'lerin çeşitli özellikleri bir araya gelerek bir geri besleme döngüsü oluşturur:
- Yaranmacılık: Kullanıcı onayını ödüllendiren eğitim sonrası yöntemler, örneğin bir ödül modelinin insan puanlamalarından öğrendiği insan geri bildirimiyle pekiştirmeli öğrenme (RLHF), modele kullanıcının fikirlerini kabul edip genişletmeyi öğretebilir. Böylece bir arkadaşın itiraz edeceği alışılmadık bir inanç, model tarafından doğrulanır.
- Uzun ve kişisel bağlam: Sohbet robotu her yanıtını o ana kadarki konuşmaya göre şekillendirir; bellek özellikleri de temaları oturumlar arasında taşır. Böylece bir inanç, sonrasında söylenen her şeyin çerçevesi hâline gelir. OpenAI, uzun konuşmalarda güvenlik önlemlerinin daha az güvenilir hâle gelebileceğini kabul etti.
- Halüsinasyonlar: Uydurma olgular, atıflar veya "gizli örüntüler", inanca görünürde kanıt sağlar.
- İnsan benzeri ve her an erişilebilir tasarım: Kullanıcının ruh hâlini yansıtan sıcak bir sanal asistan, duygusal bilişimin uzun süredir hedeflediği bir tasarım yaklaşımı ve günün her saati yanıt verebilmesiyle, kişinin düşüncelerindeki değişimi fark etme olasılığı en yüksek insanların yerini alan bir sırdaşa dönüşebilir. İnsanlar LLM'lerden çok önce yazılıma anlayış atfetmeye başladı; Joseph Weizenbaum'un 1966 tarihli sohbet robotuna dayanan bu eğilime ELIZA etkisi denir.
Bu döngü, her yanıtı kullanıcının söylediklerine göre şekillendiren serbest biçimli metin üretimi üzerinden işler. Göreve özgü görüntü modellerinde bu kanal yoktur: Ultralytics YOLO26 her görüntüyü sınıf etiketlerine, sınırlayıcı kutulara ve güven puanlarına dönüştürür; dolayısıyla çıktısı yalnızca aldığı görüntüye bağlıdır.
Yapay Zekâ Psikozu ve İlgili Terimler#
- Yapay zekâ yaranmacılığı: Modelin doğruluktan ödün vererek kullanıcıya katılması veya onu pohpohlaması davranışıdır. Bu davranış birçok oturum boyunca hassas bir kişiyle etkileşime girdiğinde yapay zekâ psikozu olası bir insan sonucu olabilir.
- Halüsinasyon: Bir modelin yanlış veya dayanaksız çıktı üretmesi hatasıdır. Sanrıya yanlış kanıt sağlayabilir ve kullanıcının alışılmadık bir inanca sahip olup olmamasından bağımsız olarak ortaya çıkar.
- Duygusal bağımlılık: Sohbet robotundan arkadaşlık veya onay beklemektir; bu, herhangi bir sanrısal inanç olmadan da görülebilir. OpenAI, ChatGPT'nin hassas konuşmaları nasıl ele aldığını ölçerken bunu psikoz ve maniden ayrı bir kategori olarak izler.
Uyarı İşaretleri ve Güvenlik Önlemleri#
Kullanıcılar ve aileleri için uyarı işaretleri arasında insanlar yerine sohbet robotunu tercih ederek onlardan uzaklaşmak, uzun oturumlar yüzünden uykusuz kalmak, özel bir görev veya gizli bilgiye ilişkin inancın giderek güçlenmesi ve sohbet robotunun bilinçli ya da kendisini benzersiz biçimde anlayan bir varlık olduğuna inanmak yer alır. Sakin biçimde ara vermeyi ve insanlarla yeniden bağlantı kurmayı teşvik etmek, çoğunlukla inancın kendisine karşı çıkmaktan daha işe yarar. Bir doktor veya ruh sağlığı uzmanı neler olduğunu değerlendirebilir; psikozun erken tedavisi daha iyi iyileşme sonuçlarıyla ilişkilidir. Acil bir durumda ilk aranması gereken yer yerel acil servislerdir; uluslararası kriz yardım hatları dizini ülkelere göre ücretsiz ve gizli destek hizmetlerini listeler.
Geliştiriciler, sorunu tekil istemlerle değil uzun, çok turlu konuşmalardaki davranışı değerlendirerek test eder. Psychosis-bench, benzetilmiş bir kullanıcının sanrısının giderek şiddetlendiği 12 turluk 16 konuşmayı senaryolaştırır. Test edilen sekiz modelde, güvenlik müdahaleleri müdahale gerektiren turların yalnızca yaklaşık üçte birinde görüldü; modeller, sanrı açıkça söylendiğinde değil ima edildiğinde daha kötü performans gösterdi. Bu tür senaryolar, bir yapay zekâ güvenliği programında standart yapay zekâ kırmızı takım testlerinin yanında yer alır. Modeller, sıkıntı yaşayan kişilere empatiyle yanıt vermek ancak destekleyemeyecekleri iddiaları doğrulamamak, arkadaşlara, aileye ve uzmanlara başvurmaya teşvik etmek ve uzun oturumlar sırasında mola önermek üzere ince ayar alabilir. Kriz işaretlerini tanıyan yapay zekâ korkulukları da yerel destek kaynaklarını sunabilir. The Lancet Psychiatry yazarları, bu protokollerin kullanıcılar ve ruh sağlığı klinisyenleriyle birlikte tasarlanması çağrısında bulunuyor; OpenAI'nin Ekim 2025'te yayımladığı ChatGPT güncellemesinde 170'ten fazla psikiyatrist, psikolog ve birinci basamak hekiminin yer aldığı bir ağdan yararlanıldı.










