AI Gateway

تُعد بوابة الذكاء الاصطناعي طبقة تحكم توضع بين التطبيقات وخدمة واحدة أو أكثر من خدمات الذكاء الاصطناعي. ومثل بوابة API، فهي تتلقى الطلبات وتعيد توجيهها إلى الأنظمة الخلفية، ولكنها تضيف عناصر تحكم خاصة بالذكاء الاصطناعي لاختيار النموذج، واستخدام الرموز أو الموارد الحوسبية، والأمان، والخصوصية، والتكلفة، والأداء. يمكنها توفير نقطة نهاية واحدة مستقرة لنماذج السحابة، والأنظمة المستضافة ذاتيًا، وخدمة نماذج Ultralytics YOLO، مما يسهل إدارة أنظمة الذكاء الاصطناعي في بيئات الإنتاج مع تغير نماذجها ومزوديها. (learn.microsoft.com)

Link to this sectionكيف تعمل بوابة الذكاء الاصطناعي#

تقوم البوابة بتقييم كل طلب وارد قبل إرساله إلى محرك الاستدلال. وبناءً على السياسات المكونة، قد تقوم بما يلي:

• مصادقة الطلبات وحمايتها: تطبيق عناصر التحكم في الوصول، والحصص، والتحقق من صحة المدخلات، والدفاعات استنادًا إلى قائمة OWASP العشرة الأولى لتطبيقات LLM، إلى جانب ممارسات أوسع لـ أمن البيانات.
• توجيه حركة البيانات بذكاء: اختيار نموذج أو نقطة نهاية بناءً على زمن الاستجابة، والتوافر، والتكلفة، والمنطقة، والمهمة، أو حمل الأجهزة. يقوم امتداد استدلال بوابة Kubernetes بتوحيد التوجيه المدرك للنماذج لنماذج الذكاء الاصطناعي التوليدي المستضافة ذاتيًا.
• تحسين الموثوقية: استخدام عمليات إعادة المحاولة، وموازنة الأحمال، ونماذج الاحتياط في Vercel AI Gateway عندما يصبح مزود أو نموذج ما غير متاح.
• التحكم في الاستهلاك: فرض ميزانيات للطلبات، أو الرموز، أو الموارد الحوسبية من خلال سياسات مثل تحديد معدل Envoy Gateway.
• تسجيل القياسات (Telemetry): التقاط زمن الاستجابة، والأخطاء، واختيارات النماذج، والاستخدام من خلال أنظمة قابلية المراقبة باستخدام معايير مثل سمات OpenTelemetry GenAI. (gateway.envoyproxy.io)

Link to this sectionتطبيقات العالم الحقيقي#

• فحص الرؤية في التجزئة: تقوم الكاميرات بإرسال صور المنتجات عبر بوابة إلى نموذج كشف الكائنات YOLO26. تقوم البوابة بمصادقة كل متجر، وتحديد حجم الطلبات، وتوجيه حركة البيانات إلى أقرب نقطة نشر، وإرسال حالات الفشل إلى نقطة نهاية احتياطية، مما يدعم الاستدلال في الوقت الفعلي الموثوق.
• مساعد عملاء متعدد النماذج: يستخدم تطبيق ما واجهة برمجة التطبيقات الموحدة لـ Vercel AI Gateway أو Cloudflare AI Gateway لتوجيه الأسئلة البسيطة إلى نموذج منخفض التكلفة والطلبات المعقدة إلى نموذج أكثر قدرة. تدعم السجلات تحليل التكلفة، وتصحيح الأخطاء، ومراقبة النماذج.
• الوصول المؤسسي للذكاء الاصطناعي: يمكن للمؤسسات استخدام إمكانيات بوابة الذكاء الاصطناعي في Azure API Management لإدارة النماذج، والأدوات، وخدمات بروتوكول سياق النموذج (Model Context Protocol) عن بُعد من خلال المصادقة المركزية، والحصص، والتسجيل، وسياسات أمان المحتوى. (learn.microsoft.com)

Link to this sectionمثال على الرؤية الحاسوبية#

يظل كود الاستدلال مركزًا على التنبؤ بينما تتولى البوابة التعامل مع الوصول، والتوجيه، والحدود، والقياسات:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
results = model.predict("https://ultralytics.com/images/bus.jpg")
detections = len(results[0].boxes)
print({"detections": detections})

This handler could run behind an Ultralytics Platform deployment endpoint, where deployment monitoring tracks requests, latency, errors, logs, and health checks. (learn.microsoft.com)

Link to this sectionبوابة الذكاء الاصطناعي مقابل المصطلحات ذات الصلة#

تدير بوابة الذكاء الاصطناعي حركة البيانات قبل وبعد تنفيذ النموذج، بينما يضع نشر النموذج النموذج في بيئة الإنتاج وتقوم خدمة النماذج بتنفيذ التنبؤات. تعد بوابة الاستدلال أكثر تخصصًا، حيث تعمل على تحسين التوجيه بين نسخ النماذج أو المسرعات. وفي الوقت نفسه، يقوم تنسيق وكلاء الذكاء الاصطناعي بتنسيق القرارات والأدوات متعددة الخطوات بدلًا من التحكم في الوصول إلى الشبكة.

تشمل أفضل الممارسات الحالية تقليل تسجيل المحتوى الحساس، وتطبيق عناصر التحكم في خصوصية البيانات، واختبار مسارات الاحتياط، وتتبع جودة وتكلفة كل نموذج، واتباع ملف إدارة مخاطر الذكاء الاصطناعي التوليدي من NIST. تسلط البحوث الحديثة حول طائرات التحكم في LLM والمخاطر العدائية في توجيه النماذج الضوء أيضًا على أهمية السياسات القابلة للتدقيق وقرارات التوجيه الآمنة. (nist.gov)