Context Rot

Bağlam çürümesi, bir yapay zekâ modeli etkili biçimde kullanabileceğinden daha fazla bağlam aldığında güvenilirliğinin kademeli olarak azalmasıdır. Duyurulan bağlam penceresi teknik olarak yüz binlerce belirteci tutabilse bile, girdi büyüdükçe büyük bir dil modeli ilgili olguları gözden kaçırabilir, güncelliğini yitirmiş talimatları izleyebilir veya daha az isabetli akıl yürütebilir. 2025 tarihli Chroma bağlam çürümesi çalışması, 18 modelde ve denetimli çeşitli görevlerde bu performansın eşit biçimde dağılmadığını gözlemledi.

Bağlam Çürümesi Nasıl Gerçekleşir#

Uzun girdiler, modelin dikkat mekanizmasını daha fazla zorlar. Önemli kanıtlar tekrarlanan talimatlarla, ilgisiz belgelerle, araç çıktılarıyla ve önceki konuşma bölümleriyle rekabet etmek zorundadır. Bağlamdaki konum, anlamsal benzerlik, çelişkili olgular ve görev karmaşıklığı modelin hangi bilgileri kullanacağını etkileyebilir.

2024 tarihli RULER uzun bağlam kıyaslaması, basit erişim görevlerinde başarılı olan modellerin dizi uzunluğu ve görev karmaşıklığı arttıkça performans kaybı yaşadığını ortaya koydu. 2025 tarihli NoLiMa kıyaslaması, yanıtı bulmanın aynı kelimeleri eşleştirmek yerine anlamsal akıl yürütme gerektirdiği durumlarda daha büyük düşüşler olduğunu gösterdi. Dolayısıyla Gemini modelleri dâhil tüm modeller için bağlam çürümesinin başladığı evrensel bir belirteç sayısı yoktur; eşik modele, istem yapısına ve göreve bağlıdır.

Gerçek Dünya Örnekleri#

• Müşteri destek asistanları: Yıllara yayılan destek kayıtlarıyla beslenen bir sohbet robotu, güncelliğini yitirmiş bir ilkeye öncelik verebilir veya hesaptaki son güncellemeyi gözden kaçırabilir. LongMemEval konuşma belleğini ve çok modlu LoCoMo kıyaslamasını kullanan araştırmalar, uzun etkileşim geçmişlerinden bilgi çıkarmanın, bu bilgileri güncellemenin ve bunlar üzerinde akıl yürütmenin hâlâ zor olduğunu gösteriyor.
• Görsel inceleme aracıları: Bir fabrikayı izleyen görme-dil modeli, her kareyi, tespiti ve bakım günlüğünü tek bir isteme eklersen daha az güvenilir hâle gelebilir. Daha iyi bir iş akışı, dil modeliyle akıl yürütmeden önce kısa ve öz görsel bilgileri çıkarmak için Ultralytics YOLO26 kullanır.
• Kodlama aracıları: Tüm bir depoyu, her araç tanımını ve tüm terminal geçmişini yüklemek mevcut hedefi belirsizleştirebilir. Anthropic'in bağlam mühendisliği kılavuzu bağlamın özenle seçilmesini önerirken Agent Skills yaklaşımı, ayrıntılı kaynakları yalnızca gerektiğinde yükler.

Bu YOLO tahmin iş akışı, ham tespitlerin kısa ve yapılandırılmış bir bağlama dönüştürülmesini gösterir:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
result = model("https://ultralytics.com/images/bus.jpg")[0]
labels = [model.names[int(cls)] for cls in result.boxes.cls]
context = {"frame": 1, "objects": sorted(set(labels))}
print(context)

Bağlam Çürümesi Nasıl Azaltılır#

• Yalnızca ilgili kanıtları getir: Mevcut tüm belgeleri göndermek yerine anlamsal parçalama ve bir yeniden sıralayıcı kullan.
• Eski bilgileri sıkıştır: Uzun geçmişleri doğrulanmış özetlerle, kararlarla ve çözülmemiş görevlerle değiştir. Araştırmalar, başarılı erişimin ardından bile girdi uzunluğunun performansı düşürebileceğini gösteriyor.
• Kararlı önekleri koru: OpenAI istem önbelleğe alma ve Gemini bağlam önbelleğe alma, tekrarlanan işleme maliyetlerini azaltabilir; ancak tek başına önbelleğe alma bağlam kalitesini artırmaz.
• Kayan pencereler kullan: Google, yakın tarihli bilgileri korurken eski belirteçleri çıkaran uzun canlı oturumlar için bağlam penceresi sıkıştırmasını öneriyor.
• Gerçekçi uzunluklarda değerlendir: Model izlemeyi uygula ve açık bağlam çürümesi araç setiyle kontrollü testleri yeniden gerçekleştir.

Bağlam çürümesi, desteklenmeyen bir çıktı olan halüsinasyondan, eğitim sırasında model bilgisini değiştiren felaket niteliğinde unutmadan ve değişen üretim girdilerini yansıtan veri kaymasından farklıdır. Bağlam çürümesi öncelikle bağlam seçimi ve akıl yürütmede çıkarım zamanı yaşanan bir başarısızlıktır; bu nedenle etkili bağlam mühendisliği temel savunma yöntemidir.