AI Guardrails

AI korumaları, yapay zeka sistemlerini tanımlanmış güvenlik, emniyet, gizlilik ve operasyonel sınırlar içinde tutan teknik ve organizasyonel kontrollerdir. Zararlı çıktılar, prompt injection, yetkisiz eylemler ve hassas veri ifşası gibi riskleri azaltırlar. Daha geniş kapsamlı AI safety kavramından farklı olarak korumalar, model çıkarımı öncesinde, sırasında ve sonrasında uygulanan spesifik güvenlik önlemleridir. NIST Generative AI Profile, bu kontrollerin tüm AI yaşam döngüsü boyunca yönetilmesini önerir. (nist.gov)

Link to this sectionAI Korumaları Nasıl Çalışır#

Korumalar birbirini tamamlayan birkaç katman kullanır çünkü hiçbir tekil filtre her hata modunu ele alamaz:

• Input Validation And Content Filtering: Kötü niyetli talimatlar, yasaklı içerik veya data privacy ihlalleri için istemleri, görüntüleri, dosyaları ve API isteklerini tarar.
• Agent Tool Controls: Bir AI agent aracının hangi araçlara erişebileceğini kısıtlar, izinleri sınırlar ve ödemeler veya veritabanı değişiklikleri gibi yüksek etkili eylemler için onay gerektirir.
• Secure AI Architecture: Sadece sistem istemlerine güvenmek yerine kimlik kontrollerini, altyapı güvenliğini, model korumalarını ve insan gözetimini birleştirir.
• Output Validation: Yanıtların, sonraki yazılımlar tarafından kullanılmadan önce gerekli şemalara, politikalara, güven sınırlarına ve iş kurallarına uyup uymadığını kontrol eder.
• Production Monitoring: Beklenmedik davranışları, hataları ve data drift durumlarını tespit eder. Ultralytics Platform, uç nokta sağlığı, gecikme, istek, hata ve günlük kaydı sinyalleri aracılığıyla dağıtım izlemeyi destekler.

Güncel araştırmalar ölçülebilir değerlendirmeyi vurguluyor. GuardBench, çok sayıda güvenlik veri kümesini kapsayan büyük ölçekli bir kıyaslama sunarken, ACL 2025 guardrails tutorial katmanlı savunmaları, güvenlik değerlendirmesini ve otomatik AI red teaming süreçlerini öne çıkardı. (aclanthology.org)

Link to this sectionGerçek Dünya Uygulamaları#

• Ulaşım güvenliği: Bir görüntü sistemi yayaları ve araçları tespit edebilir ancak tespitler onaylanmış bir eşiğin altına düştüğünde otomatik hareketi engelleyebilir. Bu, NHTSA automated vehicle safety guidance tarafından teşvik edilen hata payı güvenli (fail-safe) davranışı destekler.
• Tıbbi görüntüleme: Tanı yazılımı, özerk kararlar almak yerine belirsiz bulguları klinisyenlere yönlendirebilir. FDA Digital Health Center of Excellence, ilgili tıbbi yazılımlar için gözetim sağlarken, computer vision in healthcare alanında klinik riski azaltmak için genellikle insan incelemesi kullanılır.

Link to this sectionVision AI Örneği#

This example uses Ultralytics YOLO26 to prevent low-confidence detections from automatically reaching downstream logic:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
result = model("https://ultralytics.com/images/bus.jpg", conf=0.25)[0]
approved = [box for box in result.boxes if float(box.conf) >= 0.70]
if len(approved) != len(result.boxes):
    print("Guardrail: send frame for human review")

Bu eşik sadece bir katmandır; üretim sistemleri bunu doğrulama veri kümeleri, günlük kaydı, erişim kontrolleri ve human-in-the-loop machine learning ile birleştirmelidir.

Link to this sectionGüncel En İyi Uygulamalar#

Derinlemesine savunma kullan, hem yanlış onayları hem de gereksiz reddetmeleri test et ve güvenli bir yedek durum koru. Korumalar ayrıca uyum sağlamalıdır: AGrail research, aracılar için gelişen kontrolleri araştırırken, LS-Guard modele özgü koruma önerir. MrGuard tarafından gösterildiği üzere çok dilli testler de önemlidir. Daha güçlü kısıtlamalar kullanılabilirliği azaltabilir, bu nedenle ekipler korumaları tek seferlik bir yapılandırma olarak görmek yerine güvenliği, gecikmeyi ve görev tamamlama oranlarını sürekli ölçmelidir. (aclanthology.org)