Context Rot

Bağlam çürümesi, bir yapay zeka modelinin etkili bir şekilde kullanabileceğinden daha fazla bağlam aldığında meydana gelen kademeli güvenilirlik kaybıdır. Reklamı yapılan bir context window teknik olarak yüz binlerce token tutabilse bile, bir large language model girdi büyüdükçe ilgili gerçekleri gözden kaçırabilir, eski talimatları takip edebilir veya daha az doğru mantık yürütebilir. 2025 tarihli bir Chroma context rot study, 18 model ve çeşitli kontrollü görevlerde bu tekdüze olmayan performansı gözlemlemiştir. (trychroma.com)

Link to this sectionBağlam Çürümesi Nasıl Gerçekleşir?#

Uzun girdiler, modelin attention mechanism üzerinde daha fazla baskı oluşturur. Önemli kanıtlar; tekrarlanan talimatlar, konuyla ilgisi olmayan belgeler, araç çıktıları ve daha eski konuşma sıraları ile rekabet etmek zorundadır. Bağlam konumu, anlamsal benzerlik, çelişkili gerçekler ve görev karmaşıklığının tümü modelin neleri kullanacağını etkileyebilir.

2024 tarihli RULER long-context benchmark, basit geri almada iyi performans gösteren modellerin, dizi uzunluğu ve görev karmaşıklığı arttıkça genellikle performanslarının düştüğünü bulmuştur. 2025 tarihli NoLiMa benchmark, bir cevabı bulmanın özdeş kelimeleri eşleştirmek yerine anlamsal muhakeme gerektirdiği durumlarda daha büyük düşüşler olduğunu ortaya koymuştur. Bu nedenle, Gemini modelleri dahil olmak üzere, bağlam çürümesinin başladığı evrensel bir token sayısı yoktur; eşik değer modele, istem yapısına ve göreve bağlıdır. (arxiv.org)

Link to this sectionGerçek Dünya Örnekleri#

• Müşteri destek asistanları: Yıllarca süren destek talepleri verilen bir sohbet botu, eski bir politikaya öncelik verebilir veya yakın zamanda gerçekleşen bir hesap güncellemesini kaçırabilir. LongMemEval conversational memory ve çok modlu LoCoMo benchmark kullanan araştırmalar, uzun etkileşim geçmişlerini ayıklamanın, güncellemenin ve bunlar üzerinde mantık yürütmenin zorlu olmaya devam ettiğini göstermektedir. (arxiv.org)
• Görsel denetim aracıları: Bir fabrikada izleme yapan bir vision-language model, her kare, algılama ve bakım günlüğü tek bir isteme yerleştirilirse daha az güvenilir hale gelebilir. Daha iyi bir iş akışı, dil modeli mantık yürütmesinden önce özlü görsel gerçekleri çıkarmak için Ultralytics YOLO26 kullanır.
• Kodlama aracıları: Tüm depoyu, her araç tanımını ve eksiksiz terminal geçmişini yüklemek mevcut hedefi belirsizleştirebilir. Anthropic’s context-engineering guidance bağlamı düzenlemeyi önerirken, Agent Skills approach detaylı kaynakları yalnızca gerektiğinde yükler. (anthropic.com)

Bu YOLO predict workflow, ham algılamaların kompakt, yapılandırılmış bağlama nasıl dönüştürüleceğini gösterir:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
result = model("https://ultralytics.com/images/bus.jpg")[0]
labels = [model.names[int(cls)] for cls in result.boxes.cls]
context = {"frame": 1, "objects": sorted(set(labels))}
print(context)

Link to this sectionBağlam Çürümesi Nasıl Azaltılır?#

• Retrieve only relevant evidence: Mevcut her belgeyi göndermek yerine semantic chunking ve bir reranker kullan.
• Compress older information: Uzun geçmişleri doğrulanmış özetler, kararlar ve çözülmemiş görevlerle değiştir. Araştırmalar, başarılı bir geri almadan sonra bile girdi uzunluğunun performansı düşürebileceğini öne sürmektedir. (arxiv.org)
• Kararlı önekleri koru: OpenAI prompt caching ve Gemini context caching, tekrarlanan işleme maliyetlerini düşürebilir, ancak yalnızca önbelleğe alma bağlam kalitesini iyileştirmez.
• Kayan pencereler kullan: Google, context-window compression for long live sessions yöntemini önerir; bu yöntem, eski tokenleri çıkarırken yakın zamandaki bilgileri tutar. (ai.google.dev)
• Gerçekçi uzunluklarda değerlendir: model monitoring uygula ve open context rot toolkit ile kontrollü testleri tekrarla.

Bağlam çürümesi, desteklenmeyen bir çıktı olan halüsinasyondan; eğitim sırasında model bilgisini değiştiren katastrofik unutmadan; ve değişen üretim girdilerini yansıtan veri kaymasından farklıdır. Bağlam çürümesi öncelikle bir çıkarım zamanı bağlam seçimi ve mantık yürütme hatasıdır, bu da etkili context engineering çalışmasını temel savunma mekanizması haline getirir.