Agent Sandboxing

عزل العميل هو ممارسة تشغيل وكيل ذكاء اصطناعي أو أدواته أو الكود الذي يولده داخل بيئة تنفيذ مقيدة. يحدد العزل الملفات، والشبكات، وبيانات الاعتماد، والعمليات، وموارد الحوسبة التي يمكن للعميل الوصول إليها. إذا اتخذ العميل قراراً غير آمن أو عالج تعليمات ضارة، فإن هذه الحدود تقلل من التأثير المحتمل على أنظمة الإنتاج والبيانات الحساسة.

كيف يعمل عزل العميل#

غالباً ما يعمل الوكيل من خلال إطار عمل الوكيل الذي يربط النموذج بالأدوات، والذاكرة، وواجهات برمجة التطبيقات، وحلقات التنفيذ. يضيف العزل طبقة فرض حول هذه الإمكانات. وبدلاً من الوثوق بالنموذج ليتبع توجيهاً مثل "لا تصل إلى الملفات الخاصة"، تمنع بيئة التشغيل ذلك الوصول تقنياً.

قد يجمع العزل العملي بين ما يلي:

• حاوية مؤقتة أو جهاز افتراضي يتم تدميره بعد إتمام المهمة.
• نظام ملفات أساسي للقراءة فقط مع مساحة عمل قابلة للكتابة صغيرة.
• قواعد خروج الشبكة التي تسمح فقط بالنطاقات الموافقة عليها أو الخدمات الداخلية.
• بيانات اعتماد قصيرة الأجل مخصصة للمستخدم الحالي والمهمة الحالية.
• حدود لوحدة المعالجة المركزية، والذاكرة، والتخزين، والعمليات، ووقت التنفيذ.
• سجلات التدقيق التي تغطي استدعاءات الأدوات، وتغييرات الملفات، وطلبات الشبكة، وانتهاكات السياسات.

يمكن لعوازل Linux مثل ملف seccomp الافتراضي لـ Docker تقييد استدعاءات النظام، بينما تقيد قيود موارد Docker استهلاك الموارد. وعلى مستوى المجموعات، يمكن لـ سياسات شبكة Kubernetes التحكم في الخدمات التي يتواصل معها عبء عمل الوكيل.

لماذا يعتبر عزل العميل مهمًا#

يمكن للوكلاء اتخاذ إجراءات من خلال استدعاء الوظائف واستخدام الأدوات، مما يجعل إخفاقاتهم أكثر تأثيراً من استجابة روبوت المحادثة غير الصحيحة. قد يقوم وكيل البرمجة بتنفيذ أوامر الصدفة، بينما قد يقوم وكيل العمليات بتحديث السجلات أو تشغيل عمليات النشر.

تحدد إرشادات أمان وكيل الذكاء الاصطناعي من OWASP المخاطر بما في ذلك إساءة استخدام الأدوات، وتصعيد الامتيازات، وتسمم الذاكرة، وتسريب البيانات. يساعد العزل في احتواء هذه المخاطر، خاصة عندما يواجه الوكيل حقن التوجيه المخفي في صفحة ويب، أو مستند، أو البيانات الوصفية للصورة، أو استجابة الأداة. توصي إرشادات منع حقن التوجيه من OWASP بدفاعات متعددة الطبقات لأن تصفية المدخلات وحدها لا يمكنها تحديد كل تعليمات عدائية بشكل موثوق.

يعالج العزل أيضاً الوكالة المفرطة. الوكيل الذي يحتوي على أدوات غيرจำเป็นة، وبيانات اعتماد واسعة النطاق، واستقلال ذاتي غير مقيد قد يودع إجراءات مدمرة بعد خطأ في النموذج أو مدخلات تم التلاعب بها. توصي إرشادات OWASP بشأن الوكالة المفرطة تقليل وظائف الأداة، والأذونات، والاستقلال الذاتي بدلاً من الاعتماد على سلوك النموذج وحده.

العزل مقابل الضوابط ذات الصلة#

يكمل عزل الوكيل آليات الأمان الأخرى ولكنه لا يحل محلها:

• حواجز حماية الذكاء الاصطناعي: تفحص الحواجز المدخلات، أو المخرجات، أو الإجراءات المقترحة. يفرض العزل حدوداً بيئية حتى عندما يخطئ حاجز الحماية في رصد تهديد.
• التحكم في الوصول: يحدد التفويض ما إذا كان الإجراء مسموحاً به. يحد العزل من الموارد المتاحة في حالة تجاوز منطق التفويض. تؤكد أفضل ممارسات إدارة الهوية والوصول في AWS على بيانات الاعتماد المؤقتة وأذونات الحد الأدنى من الامتيازات.
• الحوسبة في حاويات: تحزم الحوايا العمليات وتعزلها، لكن إعدادات الحاوية الافتراضية ليست بالضرورة حداً أمنياً قوياً. يدعم البدء السريع لـ Docker من Ultralytics بيئات رؤية حاسوبية متسقة ومعزولة، بينما تتطلب بيئات الإنتاج قيوداً إضافية على ملفات النظام، والقدرات، والشبكة، والموارد.
• بيئات الاختبار: "البيئة المعزولة" للتطوير هي نسخة غير إنتاجية من النظام. يقيد عزل الوكيل التنفيذ على وجه التحديد وقد يتم تطبيقه في التطوير والإنتاج.

توفر مهارات وكيل Ultralytics تعليمات قابلة لإعادة الاستخدام لوكلاء البرمجة، لكن المهارات لا تخلق حد عزل. يجب مع ذلك مراجعة نصوصها البرمجية وتبعياتها وتنفيذها بأذونات مناسبة.

تطبيقات العالم الحقيقي#

وكلاء البرمجة للمؤسسات: يمكن لوكيل البرمجة فحص مستودع، وتعديل الملفات، وتشغيل الاختبارات داخل مساحة عمل مؤقتة. يثبت العزل المستودع المعين فقط، ويحظر بيانات اعتماد الإنتاج، ويقيد حركة المرور الصادرة إلى سجلات الحزم المعتمدة، ويتطلب موافقة بشرية قبل الدمج أو النشر. لذلك لا يمكن للتبعيات المخترقة أو التعليمات المحقونة فحص التخزين الداخلي بحرية أو نقل الكود المصدري.

وكلاء العمليات المدعومون بالرؤية: يمكن لوكيل المستودع تحليل صور الكاميرا باستخدام Ultralytics YOLO26، وتحديد الممرات المسدودة، وفتح تذاكر الصيانة. يمكن لعزله توفير الوصول للقراءة فقط إلى الصور الواردة والوصول إلى الشبكة فقط لواجهات برمجة تطبيقات الاستدلال والتذاكر. يجب ألا يتلقى إدارة كاميرا غير مقيدة، أو سجلات الموظفين، أو بيانات اعتماد النشر.

يمكن لخطوة الإدراك استخدام سير عمل تنبؤ Ultralytics YOLO الموثق:

from pathlib import Path

from ultralytics import YOLO

source = "https://ultralytics.com/images/bus.jpg"
output_path = Path("sandbox_result.jpg")

# Run visual inference inside the restricted workspace
model = YOLO("yolo26n.pt")
results = model(source)

result = results[0]
result.save(filename=str(output_path))

يقوم كود Python بإجراء استدلال عادي؛ وتوفر وقت التشغيل المحيط العزل عن طريق تقييد الملفات، والشبكات، وبيانات الاعتماد، والموارد.

إرشادات التصميم العملي#

ابدأ بدون أي وصول واسمح صراحة بما تتطلبه كل مهمة فقط. استخدم مساحات العمل المؤقتة، وبيانات الاعتماد قصيرة الأجل، والمثبتات للقراءة فقط، وقوائم السماح للشبكة الصادرة، ومهلات العمل، وحصص الموارد. تطلب الموافقة على الإجراءات التي لا رجعة فيها والاحتفاظ بفحص التفويض خارج النموذج.

قم بتسجيل كل إجراء محاول، بما في ذلك العمليات المحظورة، دون كشف الأسرار في السجلات. يمكن للفرق استخدام مراقبة نشر منصة Ultralytics لمراقبة طلبات نقطة نهاية الرؤية، ووقت الاستجابة، والأخطاء، والحالة الصحية داخل سير عمل الوكيل. وأخيراً، اختبار النظام الكامل ضد الملفات الضارة، والتوجيهات غير المباشرة، واستدعاءات الأدوات المتكررة، ومحاولات استنفاد الموارد. يوفر دليل إطار إدارة مخاطر الذكاء الاصطناعي من NIST هيكلاً أوسع لحوكمة هذه المخاطر، وقياسها، وإدارتها باستمرار.