Hallucination (in LLMs)

Yapay Zeka (AI) alanında halüsinasyon, bir Büyük Dil Modelinin (LLM) kendinden emin ve sözdizimsel olarak doğru görünen ancak gerçekte yanlış, anlamsız veya kaynak girdiye sadık olmayan içerikler üretmesi olgusunu ifade eder. Çökmeye veya görünür bir hataya yol açabilen standart yazılım hatalarının aksine halüsinasyon gören bir model, geçerli gerçeklerle aynı otoriteyle yanlış bilgiler sunan ikna edici bir uydurmacı gibi davranır. Bu durum, veri bütünlüğünün büyük önem taşıdığı sağlık, hukuk ve finans gibi hassas alanlarda [Üretken Yapay Zeka](https://ultralytics-translation-1.invalid kullanan kuruluşlar için önemli zorluklar oluşturur.

Halüsinasyonlar Neden Oluşur?#

Modellerin neden halüsinasyon gördüğünü anlamak için nasıl oluşturulduklarına bakmak faydalıdır. LLM'ler genellikle gelişmiş bir tahmin motoru gibi çalışan Transformer mimarisini temel alır. Model, doğrulanmış gerçeklerden oluşan yapılandırılmış bir veritabanını sorgulamak yerine, eğitim verilerinden türetilen istatistiksel olasılıklara dayanarak bir dizideki sonraki token'ı tahmin eder.

Bu davranışı yönlendiren çeşitli faktörler vardır:

• Olasılıksal Tahmin: Model, olgusal doğruluk yerine akıcılığa ve tutarlılığa öncelik verir. Belirli bir sözcük dizisi, gerçekte yanlış olsa bile istatistiksel olarak olasıysa model bunu üretebilir. Bu kavram, modellerin anlamı kavramadan dil kalıplarını taklit ettiği stokastik papağanlar hakkındaki araştırmalarda sıkça ele alınır.
• Veri Kalitesi Sorunları: Eğitim için kullanılan büyük metin derlemi çelişkiler, güncelliğini yitirmiş bilgiler veya kurgu içeriyorsa model bu yanlışlıkları yeniden üretebilir.
• Kaynak Amnezisi: LLM'ler çok büyük miktarlardaki bilgiyi model ağırlıklarında sıkıştırır. Bu süreçte belirli kaynaklara olan bağlantıyı sıklıkla kaybeder ve bunun sonucunda farklı kavramların veya olayların yanlış biçimde birleştirildiği "uydurma" ortaya çıkar.

Gerçek Dünyadan Halüsinasyon Örnekleri#

Halüsinasyonlar zararsız yaratıcı süslemelerden ciddi olgusal hatalara kadar çeşitli şekillerde ortaya çıkabilir:

• Hukuki Uydurma: Hukuk profesyonellerinin dilekçe taslağı hazırlamak için AI kullandığı, ancak modelin bir iddiayı desteklemek üzere var olmayan mahkeme davaları ve atıflar uydurduğunun görüldüğü belgelenmiş örnekler vardır.
• Kod Üretimi: AI asistanlarını kullanan geliştiriciler, modelin yalnızca ad standart adlandırma kurallarına uyduğu için gerçekte var olmayan bir yazılım kütüphanesinin içe aktarılmasını veya mevcut olmayan bir işlevin çağrılmasını önerdiği "paket halüsinasyonlarıyla" karşılaşabilir.
• Biyografik Hatalar: Daha az tanınan kişiler hakkında soru sorulduğunda modeller, yanlış başarıları, doğum yerlerini veya kariyer geçmişlerini kendinden emin bir şekilde bu kişilere atfedebilir ve farklı insanlara ait ayrıntıları etkili biçimde harmanlayabilir.

Azaltma Stratejileri#

Halüsinasyonların sıklığını azaltmak Yapay Zeka Güvenliği alanının başlıca odak noktalarından biridir. Mühendisler ve araştırmacılar, modelleri gerçekliğe dayandırmak için çeşitli teknikler kullanır:

• Getirmeyle Zenginleştirilmiş Üretim (RAG): Bu yöntem, LLM'yi genellikle bir vektör veritabanında dizinlenmiş harici ve güvenilir bir bilgi tabanına bağlar. Model, yanıtı üretmeden önce ilgili belgeleri getirerek gerçek verilerle sınırlandırılır.
• Düşünce Zinciri İstemleme: Bu istem mühendisliği tekniği, karmaşık akıl yürütmeyi ara adımlara bölerek modeli "çalışmasını göstermeye" teşvik eder ve bu da genellikle mantık hatalarını azaltır.
• İnsan Geri Bildiriminden Takviyeli Öğrenme (RLHF): İnce ayar aşamasında insan değerlendiriciler modelin yanıtlarını sıralar. Halüsinasyonları cezalandırıp doğruluğu ödüllendirerek model, insan beklentileriyle daha iyi uyum sağlamayı öğrenir.

LLM'leri Bilgisayarlı Görmeyle Temellendirme#

Çok Modlu Yapay Zeka sistemlerinde metin üretimi görsel veriler kullanılarak temellendirilebilir. Bir LLM'den bir sahneyi açıklaması istendiğinde, orada olmayan nesneler hakkında halüsinasyon görebilir. Geliştiriciler, YOLO26 gibi yüksek hassasiyetli bir nesne algılayıcıyı entegre ederek LLM'ye mevcut nesnelerin olgusal bir listesini sağlayabilir ve çıktısını doğrulanmış algılamalarla kesin biçimde sınırlandırabilir.

Aşağıdaki Python örneği, daha sonra bir dil modeli istemi için olgusal bir kısıt olarak kullanılabilecek doğrulanmış bir nesne listesini çıkarmak üzere ultralytics paketinin nasıl kullanılacağını gösterir.

from ultralytics import YOLO

# Load the YOLO26n model (latest generation, efficient and accurate)
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# This factual list prevents the LLM from hallucinating items
print(f"Verified Objects for Prompt Context: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

İlişkili Kavramları Birbirinden Ayırma#

Halüsinasyonları diğer yaygın AI hatalarından ayırt etmek önemlidir:

• Yapay Zekada Önyargıya Karşı: Önyargı, çıktılardaki sistematik taraflılığı ifade eder (ör. bir demografik grubu diğerine tercih etmek); halüsinasyon ise olgusal doğruluğun başarısız olmasıdır. Bir yanıt önyargısız olduğu hâlde halüsinasyon içerebilir (ör. "Ay peynirden yapılmıştır").
• Aşırı Öğrenmeye Karşı: Aşırı öğrenme, bir model eğitim verilerini aşırı yakından ezberlediğinde ve yeni girdilere genelleme yapamadığında ortaya çıkar. Halüsinasyonlar genellikle bir model, veri eksikliği yaşadığı alanlara fazla genelleme yapmaya çalıştığında meydana gelir.
• Yanlış Sınıflandırmaya Karşı: Nesne algılamada bir otomobilin kamyon olarak etiketlenmesi bir sınıflandırma hatasıdır (doğruluk sorunu), halüsinasyon değildir. Halüsinasyon, yanlış içeriğin üretken biçimde oluşturulmasına özgüdür.

Aşağı akış hatalarını önlemek için veri bütünlüğü yüksek veri kümelerini yönetmek ve modeller eğitmek isteyenler için Ultralytics Platformu, açıklama ve veri kümesi yönetimi için kapsamlı araçlar sunar. Ayrıca NIST Yapay Zeka Risk Yönetimi Çerçevesi, üretim ortamlarında bu riskleri değerlendirmek ve azaltmak için standartlar sağlar.