Model Routing

توجيه النماذج هو عملية تحديد نموذج الذكاء الاصطناعي الذي يجب أن يتعامل مع كل طلب وارد. بدلاً من إرسال كل إدخال إلى نموذج واحد، تقيم طبقة التوجيه إشارات مثل المهمة المطلوبة، أو نوع الإدخال، أو التعقيد، أو زمن الانتقال المستهدف، أو حد التكلفة، أو توفر الأجهزة، أو متطلبات الثقة. ثم تُحوِّل الطلب إلى المرشح الأكثر ملاءمة. في هذا السياق، يُعد "الموجه" مكون قرار للااستدلال، وليس موجهاً شبكياً ماديياً. يساعد التوجيه أنظمة التعلم الآلي متعددة النماذج على موازنة جودة التنبؤ، واستخدام الموارد، وزمن استجابة الاستدلال.

كيف يعمل توجيه النماذج#

يحتوي نظام التوجيه عموماً على مجموعة من النماذج المنشورة، ومنطق القرار، واجهة تطبيق مشتركة. يقدم التطبيق طلباً واحد نموذجاً، ويختار الموجه نموذجاً مؤهلاً، وتُرجع طبقة خدمة النماذج مخرجات نموذج الذكاء الاصطناعي.

يمكن أن تكون قرارات التوجيه على النحو التالي:

• قائم على القواعد: حدد نموذجاً باستخدام بيانات وصفية صريحة، مثل توجيه الصور التي تطلب أقنعة إلى نموذج تجزئة.
• قائم على النقاط: قَدِّر الجودة المتوقعة لكل مرشح، أو التكلفة، أو وقت الاستجابة، واختر الخيار الحاصل على أعلى نقاط.
• قائم على التعلم: استخدم مصنفاً خفيف الوزن أو نموذج توجيه للاستدلال حول المرشح الذي يتطابق بشكل أفضل مع الإدخال.
• متسلسل: قم بتشغيل نموذج سريع أولاً، ثم صعّد النتائج غير المؤكدة أو عالية المخاطر إلى نموذج أكثر قدرة.

على سبيل المثال، يتنبأ توجيه المطالبات الذكي من Amazon Bedrock بجودة الاستجابة قبل الاختيار بين نماذج اللغة، بينما يصف إرشادات استراتيجية توجيه النماذج من Microsoft التوجيه القائم على التكلفة والجودة والتوجيه المتوازن. تنطبق مبادئ مشابهة على الرؤية الحاسوبية: يمكن توجيه الطلبات حسب المهمة، أو موقع الكاميرا، أو دقة الصورة، أو تفاصيل التنبؤ المطلوبة.

المفاهيم ذات الصلة والفروق الرئيسية#

يرتبط توجيه النماذج ارتباطاً وثيقاً بتقنيات أخرى متعددة النماذج، لكن المصطلحات ليست قابلة للتبادل.

• بوابات الذكاء الاصطناعي: توفر بوابة الذكاء الاصطناعي طبقة تحكم أوسع للمصادقة، والحصص، وتَسجيل السجلات، وإدارة حركة المرور. قد يكون اختيار النماذج إحدى قدرات البوابة. تُميز واجهة برمجة تطبيقات بوابة Kubernetes Gateway API Inference Extension أيضاً بين التوجيه المدرك للنماذج واختيار نقاط النهاية وموازنة الحمل.
• مجموعات النماذج: عادة ما تُشغِّل مجموعة النماذج نماذج متعددة وتدمج توقعاتها. يختار الموجه عادة نموذجاً واحداً، مما يقلل الحساب. تحدد نماذج تجميع NVIDIA Triton بدلاً من ذلك تدفقات بيانات ثابتة عبر عدة نماذج.
• خليط الخبراء: يوجه معماري خليط الخبراء التمثيلات الداخلية إلى مكونات داخل شبكة عصبية واحدة. يختار توجيه النماذج بين نماذج أو نقاط نهاية قابلة للنشر بشكل منفصل.
• توجيه الوكيل: يختار موجه الوكيل وكيلاً متخصصاً، أو سير عمل، أو أداة. يختار توجيه النماذج النموذج الأساسي الذي يورّث خطوة استدلال. في النظام الوكيل، قد يكون كلا الشكلين من التوجيه موجودين.

موازنة الحمل هي تمييز مهم آخر. فهي توزع الطلبات بين نسخ متطابقة من نفس الخدمة لتحسين التوفر أو الإنتاجية. يختار توجيه النماذج بين نماذج ذات قدرات أو تكاليف أو مخرجات مختلفة.

التطبيقات الواقعية#

الفحص البصري: قد يستخدم نظام التصنيع اكتشاف الكائنات لعد القطع الروتينية ولكن يوجه عيوب السطح المشتبه بها إلى تجزئة المثيلات لتحديد الحدود بدقة. يدعم Ultralytics YOLO26 كلاً من اكتشاف الكائنات وتجزئة المثيلات، مما يجعل التوجيه القائم على المهام ممكناً ضمن واجهة برمجة تطبيقات متسقة. هذا يتجنب دفع تكلفة التجزئة عندما تكون الصناديق كافية.

مساعدو الذكاء الاصطناعي: يمكن لمساعد الدعم إرسال طلبات التصنيف والبحث البسيط إلى نموذج لغة صغير وسريع مع الاحتفاظ بننموذج أقوى للاستدلال المعقد أو استخدام الأدوات. تصف إرشادات العمارة الوكيلة لـ Google Cloud هذا النمط كطريقة لموازنة الجودة وزمن الانتقال والتكلفة. على عكس التناوب الثابت، يمكن للتوجيه الديناميكي اختيار النموذج الأقوى قبل توليد إجابة أولية.

تنفيذ وتقييم موجه#

يوجه هذا المثال البسيط من Ultralytics صورة إلى الاكتشاف أو التجزئة وفقاً للمخرجات المطلوبة بواسطة تطبيق:

from ultralytics import YOLO

models = {
    "detect": YOLO("yolo26n.pt"),
    "segment": YOLO("yolo26n-seg.pt"),
}

requested_task = "segment"
source = "https://ultralytics.com/images/bus.jpg"

model = models.get(requested_task)
if model is None:
    raise ValueError(f"Unsupported task: {requested_task}")

results = model(source)
result = results[0]
result.save(filename=f"{requested_task}_result.jpg")

القاعدة بسيطة عمداً: الطلبات التي تحتاج إلى أقنعة كائنات تذهب إلى التجزئة، بينما يمكن للطلبات التي تحتاج إلى صناديق فقط استخدام الاكتشاف. يمكن لموجهات الإنتاج أيضاً مراعاة الدقة المقاسة، أو عمق قائمة الانتظار، أو نوع الجهاز، أو قيود الخصوصية، أو صحة الخدمة.

قيّم التوجيه على حركة مرور ممثلة بدلاً من متوسطات النماذج وحدها. تتبع توزيع مسار التوجيه، وزمن انتقال من البداية إلى النهاية، والتكلفة، والإخفاقات، والجودة على مستوى المهام لكل نموذج محدد. تشرح إرشادات المراقبة OpenTelemetry كيف يمكن للتتبع والمقاييس والسجلات متابعة الطلبات الفردية عبر الخدمات الموزعة. يدعم مراقبة انتشار منصة Ultralytics بالمثل فحص زمن استجابة نقطة النهاية، والأخطاء، والصحة، ونشاط الطلبات.

يمكن أن يؤدي التوجيه الخاطئ إلى زيادة التكاليف، أو تفويت أهداف زمن الاستجابة، أو إرسال مدخلات صعبة إلى نموذج غير كافٍ. يجب على الفرق بالتالي تحديد سلوك التراجع، وتقييد النماذج المؤهلة لأحمال العمل الحساسة، وتسجيل المسار المحدد، وإعادة اختبار السياسة بشكل دوري. تتماشى هذه الضوابط مع قرارات التوجيه مع الممارسات الأوسع في إطار إدارة مخاطر الذكاء الاصطناعي لـ NIST.