Context Engineering

Bağlam mühendisliği, bir yapay zekâ uygulamasının her adımında modelin bağlam penceresine hangi bilgilerin gireceğine karar verme pratiğidir: talimatlar, örnekler, getirilen belgeler, araç tanımları, araç sonuçları, bellek ve konuşma geçmişi; ayrıca bunların her birinden ne kadarının, hangi sırayla ekleneceği ve nelerin dışarıda bırakılacağı. Terim, AI ajanları onlarca hatta yüzlerce adımdan oluşan görevleri yürütmeye başladıkça 2025 ortalarında yaygınlaştı. Andrej Karpathy bunu, "bir sonraki adım için tam da doğru bilgileri bağlam penceresine yerleştirmenin hassas sanat ve bilimi" olarak nitelendirdi; Anthropic'in AI Ajanları için Etkili Bağlam Mühendisliği başlıklı yazısı da bunu çıkarım sırasında "en uygun token kümesini" düzenlemek olarak tanımlıyor. Talimatların kendisini yazmayı kapsayan istem mühendisliği, bunun bir parçasıdır.

Bağlam Neden Mühendislik Gerektirir#

Bir büyük dil modeli (LLM) yalnızca eğitim verilerini ve bağlamında bulunanları bilir; bu nedenle eksik bağlam genel yanıtlar veya halüsinasyonlar üretir. Bağlamın fazlası da sorun yaratır. Girdiler büyüdükçe doğruluk düşer; bu etki bağlam çürümesi olarak adlandırılır. Ortada Kaybolma çalışması, modellerin uzun bir girdinin başındaki veya sonundaki bilgileri en iyi, ortasındaki bilgileri ise en kötü şekilde kullandığını ortaya koymuştur. Anthropic, bağlamı azalan getirili bir dikkat bütçesi olarak tanımlar; eklenen her token bu bütçeyi azaltır. Her token ayrıca maliyet ve çıkarım gecikmesi ekler. Bir ajan bu sorunu daha da belirgin hâle getirir; çünkü her adım araç çağrılarını ve sonuçlarını ekler, dolayısıyla yeni içerik hâlâ önemli olsun ya da olmasın, bağlam her eylemle büyür.

Temel Stratejiler#

LangChain'in bağlam mühendisliğine genel bakışı, teknikleri Anthropic'in tanımladığı uzun süreli yöntemlerle örtüşen dört strateji altında topluyor:

• Yaz: Bilgileri, konuşma ilerledikten sonra da korunmaları için bir karalama alanına, not dosyasına veya uzun süreli belleğe, yani bağlam penceresinin dışına kaydet. Anthropic buna yapılandırılmış not alma adını veriyor.
• Seç: Yalnızca mevcut adımın ihtiyaç duyduğu ilgili bölümleri, anıları veya araç açıklamalarını bağlama al. Anthropic, dosya yolları ya da sorgular gibi hafif referansları saklayıp içeriği tam gerektiği anda yükleyen ajanları anlatıyor.
• Sıkıştır: Özetleyerek veya kısaltarak yalnızca görevin ihtiyaç duyduğu tokenları tut. Sıkıştırma, neredeyse dolmuş bir bağlamı özetler ve yeni bir pencerede bu özetten devam eder.
• Yalıt: İşi, temiz bağlam pencereleri kullanan ve yoğunlaştırılmış sonuçları ana ajana döndüren alt ajanlara böl ya da büyük verileri bağlam yerine bir korumalı alanda veya durum nesnesinde tut.

İçerik kadar sıralama ve kararlılık da önemlidir. İstem önbelleğe alma yalnızca özdeş bir öneki yeniden kullanır; bu nedenle bağlamlar genellikle önce sabit talimatlar ve araç tanımları, en sona ise değişen içerik gelecek şekilde düzenlenir. Lingrui Mei ve çalışma arkadaşlarının 1.400'den fazla makaleyi inceleyen taraması, alanı bağlam getirme ve üretme, bağlam işleme ve bağlam yönetimi başlıklarında düzenler; bunlar getirme destekli üretim, bellek sistemleri, araç bütünleşik akıl yürütme ve çok ajanlı sistemlerde uygulanır.

Araçlar, Protokoller ve Beceriler#

Bir ajanın bağlamının büyük bölümü araçlardan gelir. Anthropic'in Kasım 2024'te tanıttığı ve daha sonra Linux Foundation bünyesindeki bir vakfa bağışladığı Model Bağlam Protokolü (MCP), uygulamaların araçları ve verileri modellere sunma biçimini standartlaştırır. Araç tanımları da bağlamın parçasıdır: bir ajanın çağırabileceği her araç, her istekte token tüketir; bu nedenle bazı ajanlar araç tanımlarını yalnızca görev gerektirdiğinde yükler. Ajan becerileri aynı yaklaşımı talimatlara uygular; yönergeleri ve referans dosyalarını, ajan yalnızca görev gerektirdiğinde yükleyeceği klasörler hâlinde paketler.

Ultralytics Ajan Becerileri, Ultralytics YOLO ile çalışan kodlama ajanları için bu tasarımı kullanır. Beceriler yalnızca ilgili bir görev istendiğinde yüklenir; bir yolo yönlendirici becerisi her isteği veri kümeleri, eğitim veya dışa aktarma gibi ilgili yaşam döngüsü aşamasıyla eşleştirir. Ağırlık adları, eğitim argümanları ve dışa aktarma biçimleri gibi sürüme duyarlı bilgiler, sabitlenmiş bir ultralytics sürümüne göre doğrulanan kataloglarda tutulur; iki kaynak farklılık gösterdiğinde her beceri ajana kurulu paketi esas almasını söyler.

Bağlam Mühendisliği ve İlgili Terimler#

• İstem mühendisliği: Talimatların ve örneklerin nasıl ifade edileceğiyle ilgilenir. Bağlam mühendisliği ise bir uygulamanın her adımında modele ulaşan diğer tüm unsurları da yönetir.
• İstem zenginleştirme: Bağlam mühendisliğindeki seçme işlemlerinden biri olarak, modele ulaşmadan önce tek bir isteğe veri ekler.
• Bağlam penceresi: Modelin bütçeyi belirleyen azami girdi uzunluğudur. Bağlam mühendisliği bu bütçenin nasıl kullanılacağına karar verir; pencerenin büyümesi ihtiyacı ortadan kaldırmaz, çünkü pencere doldukça doğruluk düşer.
• İnce ayar: Ağırlıklarını güncelleyerek modelin bildiklerini değiştirir. Bağlam mühendisliği, çıkarım sırasında modelin gördüklerini değiştirir ve ağırlıklara dokunmaz.