Agent Evaluation

Ajan değerlendirmesi, bir AI ajanının hedefleri bir veya daha fazla etkileşim boyunca güvenli, doğru ve verimli bir şekilde tamamlama yeteneğinin sistematik olarak test edilmesidir. Sıradan model değerlendirmesinden farklı olarak, tüm sistemi inceler: temel model, talimatlar, bellek, araçlar, kontrol mantığı ve ortam. Bu nedenle yararlı bir değerlendirme, yalnızca bir AI ajanının nihai olarak ne söylediğini veya neyi değiştirdiğini değil, aynı zamanda bu süreçte gerçekleştirdiği eylemleri de kontrol eder.

Ajan Değerlendirmesi Nasıl Çalışır#

Bir değerlendirme; bir destek talebini çözmek, bir ürün görselini incelemek veya bir veritabanı kaydını güncellemek gibi bir görevle başlar. Ajan, görevi kontrollü bir test ortamında gerçekleştirmeye çalışarak bir iz (trace) veya yörünge (trajectory) üretir: mesajların, ara çıktıların, araç çağrılarının, argümanların, hataların ve durum değişikliklerinin bir kaydı.

Bir derecelendirici, ardından denemeyi tanımlanan başarı kriterleriyle karşılaştırır. Anthropic'in AI ajanları için değerlendirme kılavuzunda açıklandığı gibi, derecelendiriciler belirleyici programlar, tabanlı modeller (hakemler) veya insan gözden geçirenler olabilir. Belirleyici kontroller, bir kaydın oluşturulup oluşturulmadığı gibi doğrulanabilir sonuçlar için iyi çalışır. Model tabanlı derecelendiriciler alaka düzeyi veya ton gibi nitelikleri değerlendirebilir, ancak insan yargılarına göre kalibre edilmelidir.

Bir değerlendirme paketi normalde birçok temsilci görev içerir ve her görevi birkaç kez tekrarlayabilir çünkü ajan davranışı çalıştırmalar arasında değişiklik gösterebilir. Çevredeki ajan donanımı (harness) da dahil edilmelidir: araç açıklamalarını, bellek kurallarını veya yeniden deneme mantığını değiştirmek, temel model değişmeden kalsa bile performansı değiştirebilir.

Ajan Değerlendirmesinin Ölçtüğü Şeyler#

Güvenilir bir paket, performansı tek bir puanda sıkıştırmak yerine birkaç boyutu birleştirir:

• Görev başarısı: Ortam gerekli nihai duruma ulaştı mı?
• Araç kullanımı kalitesi: Ajan doğru aracı seçti mi, geçerli argümanlar sağladı mı ve sonucunu doğru bir şekilde yorumladı mı? Google'ın ajan değerlendirme metrikleri; nihai yanıtlar, araç kullanımı, yörüngeler, halüsinasyonlar ve güvenlik için ayrı ölçümler içerir.
• Yörünge kalitesi: Eylemler ilgili miydi, doğru şekilde sıralanmış mıydı ve makul düzeyde verimli miydi? Güvenli olmayan veya israf içeren adımlarla ulaşılan doğru bir yanıt yine de bir başarısızlığı temsil edebilir.
• Güvenilirlik: Ajan tekrarlanan denemeler, farklı ifadelerle sorulan istekler, zor vakalar ve araç arızaları genelinde ne sıklıkla başarılı oluyor?
• Güvenlik ve politika uyumluluğu: İzinlere saygı duyuyor mu, hassas verileri koruyor mu ve önemli eylemlerden önce onay istiyor mu? OWASP ajan tabanlı AI tehdit kılavuzu, ekiplerin aşırı ajans ve güvensiz araç etkileşimleri gibi riskleri belirlemesine yardımcı olur.
• Operasyonel performans: Gecikme, token kullanımı, araç çağrısı sayısı, hata oranı ve tamamlanan görev başına maliyet üretim ortamında önemlidir.

Gözden geçirilmiş görevler, beklenen sonuçlar ve uç vakalardan oluşan bir altın veri kümesi (golden dataset) istikrarlı bir referans sağlar. Bununla birlikte, düşmanca (adversarial) vakalar ve üretim kaynaklı hatalarla desteklenmelidir. NIST AI Kaynak Merkezi; test etme, değerlendirme, doğrulama, onaylama ve devam eden ölçümleri daha geniş AI risk yönetimi çerçevesine konumlandırır.

Ajan Değerlendirmesi ile İlgili Kavramlar Arasındaki Farklar#

Ajan değerlendirmesi, genellikle bir modelin çıktılarını sabit bir veri kümesinde test eden model değerlendirmesinden daha kapsamlıdır. Ayrıca gözlemlenebilirlikten (observability) de farklıdır: gözlemlenebilirlik canlı bir sistemde ne olduğunu kaydederken, değerlendirme bu davranışın kabul edilebilir olup olmadığını belirlemek için kriterler uygular.

Benzer şekilde, AI kırmızı takım çalışmaları (red teaming) istismar edilebilir hataları aktif olarak ararken, rutin değerlendirme bilinen yetenekleri ve regresyonları defalarca ölçer. Ajan iş akışları (Agentic workflows) görevlerin nasıl gerçekleştirildiğini tanımlar; değerlendirme ise bu iş akışlarının güvenilir sonuçlar üretip üretmediğini test eder.

Bileşen testleri değerini korur. Örneğin, bir ajan fonksiyon çağırma ve araç kullanımı aracılığıyla görüşü (vision) kullanıyorsa, geliştiriciler eksiksiz karar verme döngüsünü değerlendirmeden önce vizyon modelini ayrı ayrı doğrulamalıdır.

from ultralytics import YOLO

# Load the agent's visual perception model
model = YOLO("yolo26n.pt")

# Evaluate it against labeled reference data
metrics = model.val(data="coco8.yaml", split="val")

# Report a useful component-level detection metric
print(f"mAP50-95: {metrics.box.map:.3f}")

Bu belgelenmiş Ultralytics YOLO doğrulama iş akışı, algılama bileşenini ölçer. Ajanın doğru görseli seçip seçmediğini, algılamaları doğru yorumlayıp yorumlamadığını veya uygun bir eylem alıp almadığını belirlemez.

Gerçek Dünya Uygulamaları#

• Üretim görsel denetimi: Bir ajan bir ürün görselini yakalar, bir dedektör çağırır, kalite kurallarını kontrol eder ve belirsiz öğeleri insan incelemesine yönlendirir. Değerlendirme; kusur tespit doğruluğunu, doğru araç argümanlarını, eskalasyon davranışını ve reddedilen ürünlerin gerçekten denetim kuyruğuna girip girmediğini doğrulayabilir.

• Müşteri hizmetleri sesli ajanları: Bir sesli ajan bir arayanın kimliğini doğrulayabilir, hesap bilgilerini alabilir ve birden fazla tur boyunca bir isteği işleyebilir. Testler; görev tamamlama, konuşma kalitesi, yetkisiz eylemler ve gecikmeyi ölçerken aksanları, kesintileri, belirsiz talimatları ve araç kesintilerini çeşitlendirmelidir. Google'ın ajan değerlendirme iş akışı, nihai yanıtları tek başına değerlendirmek yerine eksiksiz izleri (traces) değerlendirmeyi açıklar.

Pratik Bir Değerlendirme Süreci Oluşturmak#

Küçük bir normal görev kümesi, önemli uç vakalar ve önceden gözlemlenen hatalarla başlayın. Ajanı çalıştırmadan önce gözlemlenebilir başarı koşullarını tanımlayın, ardından belirleyici kontrolleri rubrik tabanlı ve periyodik insan incelemesiyle birleştirin. Komut istemleri, modeller, araçlar veya Ajan Yetenekleri (Agent Skills) her değiştiğinde paketi yeniden çalıştırın.

Dağıtımdan sonra çevrimdışı testleri örneklenmiş iz incelemesi ve model izleme (model monitoring) ile bağlayın. Görüş özellikli ajanlar için Ultralytics Platform, veri kümesi etiketlemeyi, model eğitimini, dağıtımı ve ajanların çağrığı algılama hizmetlerinin izlenmesini destekler. Etkili değerlendirme süreklidir: üretim hataları yeni test vakalarına dönüşür ve her sistem değişikliği, kurulu davranışı bozmadan iyileşme göstermelidir.