Halüsinasyon (LLM'lerde)

Büyük Dil Modelleri (LLM'ler) bağlamında, halüsinasyon, modelin kendinden emin ve makul görünen, ancak olgusal olarak yanlış, anlamsız veya sağlanan kaynak verilerine dayanmayan metinler üretmesi olgusunu ifade eder. Gelişmiş metin oluşturma için tasarlanan bu modeller, bazen gerçekmiş gibi sunarak gerçekleri, kaynakları veya ayrıntıları icat edebilir. Bunun nedeni, bir LLM'nin birincil amacının, oluşturduğu bilgilerin doğruluğunu doğrulamak değil, tutarlı cümleler oluşturmak için bir dizideki bir sonraki kelimeyi tahmin etmektir. Halüsinasyonları anlamak ve azaltmak, Üretken Yapay Zeka'yı daha güvenilir hale getirmenin temel bir zorluğudur.

Büyük Dil Modelleri (LLM) Neden Halüsinasyon Görür?

Halüsinasyonlar kasıtlı aldatmalar değildir, ancak LLM'lerin nasıl oluşturulduğunun ve eğitildiğinin yan ürünleridir. Başlıca nedenleri şunlardır:

• Eğitim Verisi Kusurları: GPT-3 ve GPT-4 gibi modeller, kaçınılmaz olarak hatalar, güncel olmayan bilgiler ve algoritmik önyargı içeren internetten elde edilen muazzam miktarda metinden öğrenir. Model, gerçeği tam olarak anlamadan eğitim verilerinden bu kalıpları öğrenir.
• Mimari Tasarım: Altta yatan Transformer mimarisi, olgusal hatırlama veya mantıksal akıl yürütme için değil, örüntü eşleştirme ve dil modelleme için optimize edilmiştir. Bu, bazı araştırmacıların "stokastik papağan" olarak adlandırdığı, anlamını anlamadan dili taklit edebilen bir varlığa yol açabilir.
• Çıkarım Zamanı Belirsizliği: Oluşturma sırasında, model bir sonraki en iyi token hakkında emin değilse, olası ancak uydurma bilgilerle "boşlukları doldurabilir". Sıcaklık gibi çıkarım parametrelerini ayarlamak bazen bunu azaltabilir, ancak bu temel bir zorluk olmaya devam etmektedir. Teknik bir genel bakış için, arXiv'den LLM halüsinasyonları üzerine bu ankete bakın.

Halüsinasyonun Gerçek Dünya Örnekleri

• Yasal Araştırma: Dava araştırması için bir yapay zeka asistanı kullanan bir avukat, ondan yasal emsaller bulmasını istedi. Sohbet robotu, vaka adları ve yasal analizler de dahil olmak üzere tamamen uydurulmuş, akla yatkın ancak var olmayan çeşitli mahkeme davaları sundu. Bu gerçek olay, yüksek riskli alanlarda LLM'lerin sağlam bir olgu kontrolü olmadan konuşlandırılmasının ciddi risklerini vurguladı.
• Ürün Önerileri: Bir kullanıcı, bir sohbet robotundan "dahili güneş paneli olan en iyi yürüyüş sırt çantasını" ister. Büyük dil modeli (LLM), belirli bir modelin özelliklerini ayrıntılı olarak açıklayarak, söz konusu ürün veya özellik kombinasyonu mevcut olmasa bile güvenle önerebilir. Model, olası ancak hayali bir ürün oluşturmak için eğitim verilerindeki kavramları birleştirir.

Halüsinasyonlar Nasıl Azaltılır

Araştırmacılar ve geliştiriciler, çeşitli azaltma stratejileri üzerinde aktif olarak çalışıyorlar:

• Retrieval-Augmented Generation (RAG): Bu teknik, bir LLM'yi cevap oluşturmadan önce harici, yetkili bir bilgi tabanından (bir vektör veritabanı gibi) bilgi alma yeteneği ile donatır. Modelin doğrulanabilir gerçeklere dayanmasını sağlayarak, RAG uydurma olaylarını önemli ölçüde azaltır. RAG'ın nasıl çalıştığı hakkında IBM Research'ten daha fazla bilgi edinebilirsiniz.
• Daha İyi İstek Teknikleri (Better Prompting Techniques): Düşünce Zinciri istemi (Chain-of-Thought prompting) gibi yöntemler, modeli akıl yürütmesini adım adım parçalamaya teşvik eder ve bu da daha doğru çıktılara yol açabilir. Düşünce Zinciri üzerine orijinal araştırma makalesi etkinliğini göstermektedir.
• İnsan Geri Bildiriminden Pekiştirmeli Öğrenme (RLHF): Modeller, insan incelemecilerin farklı model yanıtlarını derecelendirdiği RLHF kullanılarak iyileştirilir. Bu geri bildirim, modeli OpenAI ve Anthropic gibi kuruluşlar tarafından detaylandırılan bir süreç olan dürüst ve yardımcı cevapları tercih etmesi için eğitir.
• Gerçek Kontrolü ve Doğrulama Katmanları (Fact-Checking and Verification Layers): Bir LLM tarafından yapılan iddiaları, çıktıyı kullanıcıya sunmadan önce güvenilir kaynaklara karşı çapraz olarak kontrol etmek için ayrı bir süreç uygulamak. Bu, bir sorumlu yapay zeka geliştirme (responsible AI development) katmanı ekler.
• Yüksek Kaliteli Veri Kümeleri ve İnce Ayar: Eğitim için kullanılan verilerin kalitesini sürekli olarak iyileştirmek ve belirli, yüksek kaliteli veri kümeleri üzerinde ince ayar yapmak, bir temel modelin olgusal doğruluğa uyum sağlamasına yardımcı olabilir.

Halüsinasyon ve Diğer Yapay Zeka Hataları

• Yapay Zekada Yanlılık (Bias in AI): Yapay zekada yanlılık (Bias in AI), bir modelin çıktılarının belirli grupları haksız bir şekilde desteklediği sistematik hataları ifade eder ve genellikle toplumsal veya veri kümesi yanlılıklarını (dataset biases) yansıtır. Halüsinasyon, mutlaka önyargı değil, olgusal yanlışlıkla ilgilidir. Her ikisi de YZ etiğinde (AI ethics) ciddi endişelerdir.
• Bilgisayarlı Görü Hataları: Halüsinasyon kavramı öncelikle Doğal Dil İşleme (NLP) ile ilişkilidir. Bilgisayarlı Görü (CV) içinde, bir hata genellikle Ultralytics YOLO gibi bir modelin nesne tespitinde bir hata yapması (örneğin, bir kediyi köpek olarak yanlış sınıflandırması) veya bir nesneyi tespit edememesi anlamına gelir, bu da onun doğruluğuyla ilgilidir. Bu, bilgi uydurma değil, bir algı hatasıdır. Ancak, vizyonu ve dili birleştiren çok modlu modeller daha yaygın hale geldikçe, görüntülerin yanlış açıklamalarını da "halüsinasyon" görebilirler. Her iki model türünü de yönetmek, Ultralytics HUB gibi platformlarda kolaylaştırılabilir.