AI Gateway
تعلّم ماهية بوابة الذكاء الاصطناعي، وكيف توجّه النماذج وتتحكم في التكاليف وتحمي الطلبات وتراقب الاستدلال لضمان ذكاء اصطناعي موثوق وعمليات نشر Ultralytics YOLO.
بوابة الذكاء الاصطناعي هي طبقة تحكم توضع بين التطبيقات وخدمة واحدة أو أكثر من خدمات الذكاء الاصطناعي. وكما هو الحال في بوابة API، تستقبل الطلبات وتعيد توجيهها إلى أنظمة الواجهة الخلفية، لكنها تضيف عناصر تحكم خاصة بالذكاء الاصطناعي لاختيار النماذج، واستخدام الرموز المميزة أو موارد الحوسبة، والسلامة، والخصوصية، والتكلفة، والأداء. ويمكنها توفير نقطة نهاية مستقرة واحدة للنماذج السحابية، والأنظمة المستضافة ذاتيًا، وتقديم نماذج Ultralytics YOLO، مما يسهل إدارة أنظمة الذكاء الاصطناعي في بيئات الإنتاج مع تغير نماذجها ومزوديها. (learn.microsoft.com)
آلية عمل بوابة الذكاء الاصطناعي#
تقيّم البوابة كل طلب وارد قبل إرساله إلى محرك الاستدلال. واستنادًا إلى السياسات المُهيّأة، قد تقوم بما يلي:
- مصادقة الطلبات وحمايتها: تطبيق عناصر التحكم في الوصول، والحصص، والتحقق من المدخلات، ووسائل الدفاع المستندة إلى أفضل 10 ممارسات OWASP لتطبيقات LLM، إلى جانب ممارسات أمن البيانات الأوسع نطاقًا.
- توجيه حركة المرور بذكاء: اختيار نموذج أو نقطة نهاية استنادًا إلى زمن الاستجابة، أو التوافر، أو التكلفة، أو المنطقة، أو المهمة، أو حمل الأجهزة. تعمل إضافة الاستدلال إلى Gateway API في Kubernetes على توحيد التوجيه المراعي للنماذج للنماذج التوليدية المستضافة ذاتيًا.
- تحسين الموثوقية: استخدام إعادة المحاولات، وموازنة الحمل، والبدائل الاحتياطية لنماذج Vercel AI Gateway عندما يصبح أحد المزودين أو النماذج غير متاح.
- التحكم في الاستهلاك: فرض حدود للطلبات أو الرموز المميزة أو موارد الحوسبة من خلال سياسات مثل تحديد معدل الطلبات في Envoy Gateway.
- تسجيل بيانات القياس عن بُعد: التقاط زمن الاستجابة، والأخطاء، واختيارات النماذج، والاستخدام من خلال أنظمة قابلية المراقبة باستخدام معايير مثل سمات OpenTelemetry GenAI. (gateway.envoyproxy.io)
التطبيقات الواقعية#
- فحص الرؤية في متاجر التجزئة: ترسل الكاميرات صور المنتجات عبر بوابة إلى نموذج YOLO26 لاكتشاف الأجسام. تصادق البوابة على كل متجر، وتحد من حجم الطلبات، وتوجه حركة المرور إلى أقرب عملية نشر، وترسل حالات الفشل إلى نقطة نهاية احتياطية، مما يدعم الاستدلال في الوقت الفعلي الموثوق.
- مساعد العملاء متعدد النماذج: يستخدم أحد التطبيقات واجهة API الموحدة لـ Vercel AI Gateway أو Cloudflare AI Gateway لتوجيه الأسئلة البسيطة إلى نموذج أقل تكلفة والطلبات المعقدة إلى نموذج أكثر قدرة. وتدعم السجلات تحليل التكلفة، وتصحيح الأخطاء، ومراقبة النماذج.
- الوصول المؤسسي إلى الذكاء الاصطناعي: يمكن للمؤسسات استخدام إمكانات بوابة الذكاء الاصطناعي في Azure API Management لإدارة النماذج، والأدوات، وخدمات بروتوكول سياق النموذج عن بُعد من خلال المصادقة المركزية، والحصص، والتسجيل، وسياسات سلامة المحتوى. (learn.microsoft.com)
مثال على الرؤية الحاسوبية#
يبقى رمز الاستدلال م focusedًا على التنبؤ، بينما تتولى البوابة إدارة الوصول، والتوجيه، والحدود، وبيانات القياس عن بُعد:
from ultralytics import YOLO
model = YOLO("yolo26n.pt")
results = model.predict("https://ultralytics.com/images/bus.jpg")
detections = len(results[0].boxes)
print({"detections": detections})يمكن تشغيل هذا المعالج خلف نقطة نهاية نشر Ultralytics Platform، حيث تتتبع مراقبة النشر الطلبات، وزمن الاستجابة، والأخطاء، والسجلات، وفحوصات السلامة. (learn.microsoft.com)
بوابة الذكاء الاصطناعي مقابل المصطلحات ذات الصلة#
تدير بوابة الذكاء الاصطناعي حركة المرور قبل تنفيذ النموذج وبعده، بينما يضع نشر النموذج نموذجًا في بيئة الإنتاج، ويتولى تقديم النموذج تنفيذ التنبؤات. وتكون بوابة الاستدلال أكثر تخصصًا، إذ تعمل على تحسين التوجيه بين نُسخ النموذج أو المسرّعات. وفي المقابل، ينسق تنظيم وكلاء الذكاء الاصطناعي القرارات والأدوات متعددة الخطوات بدلًا من التحكم في الوصول إلى الشبكة.
تشمل أفضل الممارسات الحالية تقليل المحتوى الحساس المسجل إلى الحد الأدنى، وتطبيق ضوابط خصوصية البيانات، واختبار مسارات البدائل الاحتياطية، وتتبع الجودة والتكلفة لكل نموذج، واتباع ملف إدارة مخاطر الذكاء الاصطناعي التوليدي من NIST. كما تُبرز الأبحاث الحديثة حول مستويات التحكم في LLM والمخاطر العدائية في توجيه النماذج أهمية السياسات القابلة للتدقيق وقرارات التوجيه الآمنة. (nist.gov)
