AI Gateway

بوابة الذكاء الاصطناعي هي طبقة تحكم توضع بين التطبيقات وخدمة أو أكثر من خدمات الذكاء الاصطناعي. ومثل بوابة واجهة برمجة التطبيقات (API)، فإنها تتلقى الطلبات وتوجهها إلى الأنظمة الخلفية، لكنها تضيف ضوابط خاصة بالذكاء الاصطناعي لاختيار النماذج، أو استخدام الرموز أو الحوسبة، أو الأمان، أو الخصوصية، أو التكلفة، أو الأداء. يمكنها توفير نقطة نهاية ثابتة واحدة لنماذج السحابة، والأنظمة المستضافضة ذاتياً، وخدمة نموذج Ultralytics YOLO، مما يجعل نظم الذكاء الاصطناعي الإنتاجية أسهل في الحوكمة كلما تغيرت نماذجها وممزودوها. (learn.microsoft.com)

كيف تعمل بوابة الذكاء الاصطناعي#

تقيم البوابة كل طلب وارد قبل إرساله إلى محرك الاستدلال. وبناءً على السياسات المكوّنة، قد تقوم بما يلي:

• المصادقة وحماية الطلبات: تطبيق ضوابط الوصول، والحصص، والتحقق من المدخلات، والدفاعات استناداً إلى قائمة OWASP Top 10 لتطبيقات LLM، إلى جانب ممارسات أمن البيانات الأوسع نطاقاً.
• توجيه حركة المرور بذكاء: اختيار نموذج أو نقطة نهاية بناءً على زمن الوصول، أو التوافر، أو التكلفة، أو المنطقة، أو المهمة، أو حمل الأجهزة. يقوم ملحق واجهة برمجة تطبيقات بوابة Kubernetes للاستدلالتوحيد التوجيه المدرك للنموذج لننماذج التوليد المستضافة ذاتياً.
• تحسين موثوقية الخدمة: استخدام المحاولات المتكررة، وتوزيع الأحمال، وبدائل نموذج بوابة Vercel AI عندما يصبح المزود أو النموذج غير متاح.
• التحكم في الاستهلاك: فرض ميزانيات الطلبات، أو الرموز، أو الحوسبة من خلال سياسات مثل تحديد معدل بوابة Envoy.
• تسجيل القياس عن بعد: التقاط زمن الوصول، والأخطاء، واختيارات النماذج، والاستخدام من خلال أنظمة القابلية للملاحظة باستخدام معايير مثل سمات OpenTelemetry GenAI. (gateway.envoyproxy.io)

تطبيقات العالم الحقيقي#

• فحص الرؤية بالتجزئة: ترسل الكاميرات صور المنتجات عبر بوابة إلى نموذج كشف الكائنات YOLO26. تقوم البوابة بمصادقة كل متجر، وتحديد حجم الطلبات، وتوجيه حركة المرور إلى أقرب نشر، وإرسال حالات الفشل إلى نقطة نهاية احتياطية، مما يدعم الاستدلال الفوري الموثوق.
• مساعد عملاء متعدد النماذج: يستخدم التطبيق بوابة Vercel AI الموحدة لواجهة برمجة التطبيقات أو بوابة Cloudflare AI لتوجيه الأسئلة البسيطة إلى نموذج أقل تكلفة والطلبات المعقدة إلى نموذج أكثر قدرة. تدعم السجلات تحليل التكلفة، وتصحيح الأخطاء، ومراقبة النماذج.
• الوصول إلى الذكاء الاصطناعي للمؤسسات: يمكن للمؤسسات استخدام إمكانيات بوابة Azure API Management للذكاء الاصطناعي لحوكمة النماذج، والأدوات، وخدمات بروتوكول سياق النموذج البعيدة من خلال المصادقة المركزية، والحصص، والتسجيل، وسياسات أمان المحتوى. (learn.microsoft.com)

مثال على الرؤية الحاسوبية#

يظل كود الاستدلال مركزًا على التنبؤ بينما تتولى البوابة التعامل مع الوصول، والتوجيه، والحدود، والقياسات:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
results = model.predict("https://ultralytics.com/images/bus.jpg")
detections = len(results[0].boxes)
print({"detections": detections})

يمكن تشغيل هذا المعالج خلف نقطة نهاية نشر منصة Ultralytics، حيث تتابع مراقبة النشر الطلبات، وزمن الوصول، والأخطاء، والسجلات، وفحوصات الصحة. (learn.microsoft.com)

بوابة الذكاء الاصطناعي مقابل المصطلحات ذات الصلة#

تدير بوابة الذكاء الاصطناعي حركة المرور قبل وبعد تنفيذ النموذج، بينما يضع نشر النموذج نموذجاً قيد الإنتاج وتقوم خدمة النموذج بتنفيذ التنبؤات. بوابة الاستدلال تكون أكثر تخصصاً، حيث تحسن التوجيه بين نسخ النماذج أو المسارعات. وفي الوقت نفسه، يقوم تنسيق وكيل الذكاء الاصطناعي بتنسيق القرارات والأدوات متعددة الخطوات بدلاً من التحكم في الوصول إلى الشبكة.

تشمل أفضل الممارسات الحالية تقليل المحتوى الحساس المسجل، وتطبيق ضوابط خصوصية البيانات، واختبار مسارات البديل، وتتبع جودة وتكلفة كل نموذج، واتباع ملف تعريف إدارة مخاطر الذكاء الاصطناعي التوليدي من NIST. كما تسلط الأبحاث الحديثة حول طائرات التحكم في نماذج LLM والمخاطر العدائية في توجيه النماذج الضوء على أهمية السياسات القابلة للمراجعة وقرارات التوجيه الآمنة. (nist.gov)