Agent Sandboxing

Ajan korumalı alanı (sandboxing), bir AI agent uygulamasını, araçlarını veya oluşturulan kodu kısıtlı bir yürütme ortamında çalıştırma uygulamasıdır. Korumalı alan; ajanın erişebileceği dosyaları, ağları, kimlik bilgilerini, süreçleri ve bilgi işlem kaynaklarını sınırlandırır. Ajan güvenli olmayan bir karar verirse veya kötü amaçlı talimatları işlerse, bu sınırlar üretim sistemleri ve hassas veriler üzerindeki potansiyel etkiyi azaltır.

Ajan Korumalı Alanı Nasıl Çalışır#

Bir ajan genellikle bir modeli araçlara, belleğe, API'lere ve yürütme döngülerine bağlayan bir agent harness aracılığıyla çalışır. Korumalı alan, bu yeteneklerin etrafına bir uygulama katmanı ekler. Modeline "özel dosyalara erişme" gibi bir istemi takip etmesi için güvenmek yerine, işletim ortamı teknik olarak bu erişimi engeller.

Pratik bir korumalı alan şunları birleştirebilir:

• Görevden sonra yok edilen geçici bir konteyner veya sanal makine.
• Küçük bir yazılabilir çalışma alanına sahip salt okunur temel dosya sistemi.
• Yalnızca onaylanan alan adlarına veya dahili servislere izin veren ağ çıkış kuralları.
• Mevcut kullanıcı ve görev için kapsamlandırılmış kısa ömürlü kimlik bilgileri.
• CPU, bellek, depolama, süreç ve yürütme süresi sınırları.
• Araç çağrılarını, dosya değişikliklerini, ağ isteklerini ve ilke ihlallerini kapsayan denetim günlükleri.

Docker default seccomp profile gibi Linux kontrolleri sistem çağrılarını kısıtlayabilirken, Docker resource constraints kaynak tüketimini sınırlar. Küme ölçeğinde, Kubernetes NetworkPolicies bir ajan iş yükünün hangi servislerle iletişim kuracağını kontrol edebilir.

Ajan Korumalı Alanı Neden Önemlidir#

Ajanlar function calling and tool use aracılığıyla eylemler gerçekleştirebilir, bu da hatalarını yanlış bir sohbet botu yanıtından daha önemli hale getirir. Bir kodlama ajanı kabuk komutları çalıştırabilirken, bir operasyon ajanı kayıtları güncelleyebilir veya dağıtımları tetikleyebilir.

OWASP AI Agent Security guidance rehberliği; araç kötüye kullanımı, ayrıcalık yükseltme, bellek zehirlenmesi ve veri sızdırma dahil olmak üzere riskleri tanımlar. Korumalı alan, özellikle bir ajan web sayfasında, belgede, görüntü meta verilerinde veya araç yanıtında gizlenmiş prompt injection ile karşılaştığında bu riskleri içermeye yardımcı olur. OWASP prompt injection prevention guidance rehberliği, yalnızca girdi filtrelemenin her düşmanca talimatı güvenilir bir şekilde tanımlayamaması nedeniyle katmanlı savunmalar önermektedir.

Korumalı alan ayrıca aşırı ajanslığı (excessive agency) ele alır. Gereksiz araçlara, geniş kimlik bilgilerine ve kısıtlanmamış özerkliğe sahip bir ajan, model hatası veya manipüle edilmiş girdiden sonra zararlı eylemler gerçekleştirebilir. OWASP guidance on excessive agency rehberliği, yalnızca model davranışına güvenmek yerine araç işlevselliğini, izinlerini ve özerkliğini en aza indirmeyi önerir.

Korumalı Alan ve İlgili Kontroller#

Ajan korumalı alanı diğer güvenlik mekanizmalarını tamamlar ancak bunların yerini almaz:

• AI guardrails: Koruma rayları girdileri, çıktıları veya önerilen eylemleri inceler. Bir koruma rayı bir tehdidi kaçırdığında bile bir korumalı alan çevresel sınırları zorunlu kılar.
• Erişim kontrolü: Yetkilendirme, bir eyleme izin verilip verilmediğini belirler. Korumalı alan, yetkilendirme mantığı atlandığında kullanılabilen kaynakları sınırlar. AWS identity and access management best practices en iyi uygulamaları, geçici kimlik bilgilerini ve en az ayrıcalık izinlerini vurgular.
• Konteynerleştirme: Konteynerler süreçleri paketler ve yalıtır, ancak varsayılan konteyner ayarları mutlaka güçlü bir güvenlik sınırı değildir. Ultralytics Docker Quickstart kılavuzu tutarlı, yalıtılmış bilgisayarlı görü ortamlarını desteklerken, üretim korumalı alanları ek dosya sistemi, yetenek, ağ ve kaynak kısıtlamaları gerektirir.
• Test ortamları: Geliştirme "korumalı alanı" bir sistemin üretim dışı bir kopyasıdır. Ajan korumalı alanı özellikle yürütmeyi sınırlar ve geliştirme ile üretimde uygulanabilir.

Ultralytics Agent Skills kodlama ajanları için yeniden kullanılabilir talimatlar sağlar, ancak yetenekler bir yalıtım sınırı oluşturmaz. Komut dosyaları ve bağımlılıkları yine de incelenmeli ve uygun izinlerle çalıştırılmalıdır.

Gerçek Dünya Uygulamaları#

Kurumsal kodlama ajanları: Bir kodlama ajanı bir depoyu inceleyebilir, dosyaları değiştirebilir ve geçici bir çalışma alanında testler çalıştırabilir. Korumalı alan yalnızca atanmış depoyu bağlar, üretim kimlik bilgilerini engeller, giden trafiği onaylanmış paket kayıt defterleriyle kısıtlar ve birleştirmeden veya dağıtmadan önce insan onayını gerektirir. Bu nedenle tehlikeye atılmış bir bağımlılık veya eklenmiş talimat dahili depolamayı özgürce tarayamaz veya kaynak kodunu iletemez.

Görüntü tabanlı operasyon ajanları: Bir depo ajanı Ultralytics YOLO26 ile kamera görüntülerini analiz edebilir, engellenen koridorları tanımlayabilir ve bakım biletleri açabilir. Korumalı alanı, gelen görüntülere salt okunur erişim ve yalnızca çıkarım ve biletleme API'lerine ağ erişimi sağlayabilir. Kısıtlanmamış kamera yönetimi, çalışan kayıtları veya dağıtım kimlik bilgileri almamalıdır.

Algılama adımı belgelenmiş Ultralytics YOLO predict workflow iş akışını kullanabilir:

from pathlib import Path

from ultralytics import YOLO

source = "https://ultralytics.com/images/bus.jpg"
output_path = Path("sandbox_result.jpg")

# Run visual inference inside the restricted workspace
model = YOLO("yolo26n.pt")
results = model(source)

result = results[0]
result.save(filename=str(output_path))

Python kodu sıradan çıkarım gerçekleştirir; çevreleyen çalışma zamanı dosyaları, ağı, kimlik bilgilerini ve kaynakları kısıtlayarak korumalı alanı sağlar.

Pratik Tasarım Rehberliği#

Hiçbir erişim olmadan başlayın ve yalnızca her görevin gerektirdiklerine açıkça izin verin. Geçici çalışma alanları, kısa ömürlü kimlik bilgileri, salt okunur bağlamalar, giden ağ izin verilenler listeleri, zaman aşumları ve kaynak kotaları kullanın. Geri alınamaz eylemler için onay isteyin ve yetkilendirme kontrollerini modelin dışında tutun.

Günlüklerde sırları ifşa etmeden, engellenen işlemler dahil denenen her eylemi günlüğe kaydedin. Ekipler, ajan iş akışları içindeki görü uç noktası isteklerini, gecikmeyi, hataları ve sağlığı gözlemlemek için Ultralytics Platform deployment monitoring izlemesini kullanabilir. Son olarak, tam sistemi kötü amaçlı dosyalara, dolaylı istemlere, tekrarlanan araç çağrılarına ve kaynak tükenmesi girişimlerine karşı test edin. NIST AI Risk Management Framework Playbook oyun kitabı, bu riskleri yönetmek, ölçmek ve sürekli olarak ele almak için daha geniş bir yapı sağlar.