Hallucination (in LLMs)

Yapay Zeka (AI) alanında halüsinasyon, bir Büyük Dil Modeli (LLM) tarafından üretilen içeriğin özgüvenli ve sözdizimsel olarak doğru ancak olgusal olarak yanlış, anlamsız veya kaynak girdiye sadık olmadığını ifade eden bir olguyu belirtir. Çöküşe veya görünür bir hataya yol açabilen standart yazılım hatalarının aksine halüsinasyon gören bir model, yanlış bilgileri geçerli gerçeklerle aynı yetkinlikle sunarak ikna edici bir uydurucu gibi davranır. Bu durum, veri bütünlüğünün en üst düzeyde önemli olduğu sağlık, hukuk ve finans gibi hassas alanlarda Üretken Yapay Zeka devreye sokan kuruluşlar için önemli zorluklar doğurur.

Halüsinasyonlar Neden Ortaya Çıkar?#

Modellerin neden halüsinasyon gördüğünü anlamak için nasıl oluşturulduklarına bakmak faydalı olur. LLM'ler tipik olarak sofistike bir tahmin motoru olarak işlev gören Transformer mimarisine dayanır. Doğrulanmış gerçeğe ait yapılandırılmış bir veritabanını sorgulamak yerine model, eğitim verilerinden elde edilen istatistiksel olasılıklara dayalı olarak bir dizideki sonraki belirteci tahmin eder.

Bu davranışı tetikleyen çeşitli faktörler şunlardır:

• Olasılıksal Tahmin: Model, olgusal doğruluk yerine akıcılığa ve tutarlılığa öncelik verir. Belirli bir kelime dizisi istatistiksel olarak olasıysa (olgusal olarak yanlış olsa bile) model bunu üretebilir. Bu kavram genellikle modellerin anlamı anlamadan dil kalıplarını taklit ettiği stokastik papağanlar hakkındaki araştırmalarda ele alınır.
• Veri Kalitesi Sorunları: Eğitim için kullanılan devasa metin külliyatı çelişkiler, güncel olmayan bilgiler veya kurgu içeriyorsa, model bu yanlışlıkları tekrarlayabilir.
• Kaynak Amnezisi: LLM'ler büyük miktardaki bilgiyi model ağırlıkları içinde sıkıştırır. Bu süreçte genellikle belirli kaynaklara olan bağlantıyı kaybederler; bu da farklı kavramların veya olayların yanlış bir şekilde birleştirildiği "konfabülasyona" yol açar.

Gerçek Dünyadan Halüsinasyon Örnekleri#

Halüsinasyonlar, zararsız yaratıcı süslemelerden ciddi olgusal hatalara kadar çeşitli şekillerde ortaya çıkabilir:

• Hukuki Uydurma: Hukuk profesyonellerinin yapay zekayı dilekçe taslağı hazırlamak için kullandığı ve modelin bir argümanı desteklemek için var olmayan mahkeme davalarını ve alıntıları uydurduğunu fark ettiği belgelenmiş örnekler olmuştur.
• Kod Üretimi: YZ asistanlarını kullanan geliştiriciler, modelin standart adlandırma kurallarına uyduğu için aslında var olmayan bir yazılım kütüphanesini içe aktarmayı veya bir fonksiyonu çağırmayı önerdiği "paket halüsinasyonları" ile karşılaşabilirler.
• Biyografik Hatalar: Daha az ünlü kişiler hakkında soru sorulduğunda, modeller kendinden emin bir şekilde onlara yanlış başarılar, doğum yerleri veya kariyer geçmişleri atfedebilir ve birden fazla kişinin ayrıntılarını etkili bir şekilde harmanlayabilir.

Azaltma Stratejileri#

Halüsinasyon sıklığını azaltmak, Yapay Zeka Güvenliği konusunun başlıca odak noktasıdır. Mühendisler ve araştırmacılar, modelleri gerçekliğe dayandırmak için birkaç teknik kullanır:

• Retrieval-Augmented Generation (RAG): Bu yöntem, LLM'yi genellikle bir vektör veritabanında indekslenmiş harici ve güvenilir bir bilgi tabanına bağlar. Model, bir yanıt üretmeden önce ilgili belgeleri alarak gerçek verilerle sınırlandırılır.
• Düşünce Zinciri İstemi: Bu istem mühendisliği tekniği, karmaşık akıl yürütmeyi genellikle mantık hatalarını azaltan ara adımlara bölerek modelin "çalışmasını göstermesini" teşvik eder.
• İnsan Geri Bildirimli Pekiştirmeli Öğrenme (RLHF): İnce ayar aşamasında, insan değerlendiriciler modelin yanıtlarını sıralar. Halüsinasyonları cezalandırarak ve doğruluğu ödüllendirerek, model insan beklentileriyle daha iyi uyum sağlamayı öğrenir.

LLM'leri Bilgisayarlı Görü ile Temellendirme#

Çok Modlu Yapay Zeka sistemlerinde metin üretimi görsel veriler kullanılarak temellendirilebilir. Bir LLM'den bir sahneyi tanımlaması istenirse orada olmayan nesnelerin hayalini görebilir. Geliştiriciler YOLO26 gibi yüksek hassasiyetli bir nesne dedektörünü entegre ederek LLM'ye mevcut nesnelerin olgusal bir listesini sağlayabilir ve çıktısını kesin olarak doğrulanan tespitlerle sınırlandırabilir.

Aşağıdaki Python örneği, bir dil modeli istemi için olgusal bir kısıtlama görevi görebilecek doğrulanmış bir nesne listesini çıkarmak için ultralytics paketinin nasıl kullanılacağını gösterir.

from ultralytics import YOLO

# Load the YOLO26n model (latest generation, efficient and accurate)
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# This factual list prevents the LLM from hallucinating items
print(f"Verified Objects for Prompt Context: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

İlgili Kavramları Ayırt Etme#

Halüsinasyonları diğer yaygın YZ hatalarından ayırt etmek önemlidir:

• Yapay Zekada Önyargı ile Karşılaştırma: Önyargı, çıktılardaki sistematik önyargıyı ifade eder (ör. bir demografiyi diğerine tercih etmek), halüsinasyon ise olgusal doğruluk hatasıdır. Bir yanıt önyargısız olabilir ancak yine de halüsinasyon içerebilir (ör. "Ay peynirden yapılmıştır").
• Aşırı Uyum ile Karşılaştırma: Aşırı uyum, bir model eğitim verilerini çok yakından ezberlediğinde ve yeni girdilere genelleme yapamadığında ortaya çıkar. Halüsinasyonlar genellikle bir model veriden yoksun olduğu alanlarda aşırı derecede genelleme yapmaya çalıştığında meydana gelir.
• Yanlış Sınıflandırma ile Karşılaştırma: Nesne tespiti bağlamında bir arabayı kamyon olarak etiketlemek bir sınıflandırma hatasıdır (doğruluk sorunu), halüsinasyon değildir. Halüsinasyon, yanlış içeriğin üretken olarak yaratılmasına özgüdür.

Akış aşağı hataları önlemek için veri setlerini yönetmek ve modelleri yüksek veri bütünlüğüyle eğitmek isteyenler için Ultralytics Platformu, etiketleme ve veri seti yönetimi için kapsamlı araçlar sunar. Dahası, NIST Yapay Zeka Risk Yönetimi Çerçevesi rehberliği, üretim ortamlarında bu risklerin değerlendirilmesi ve azaltılması için standartlar sağlar.