Model Serving

خدمة النماذج هي عملية استضافة نموذج تعلّم آلي مُدرَّب وإتاحة وظائفه لتطبيقات البرمجيات عبر واجهة شبكة. وهي تعمل كجسر بين ملف نموذج ثابت محفوظ على قرص ونظام حي يعالج بيانات العالم الحقيقي. بعد إكمال النموذج مرحلة تدريب التعلّم الآلي (ML)، يجب دمجه في بيئة إنتاج يمكنه فيها استقبال المدخلات—مثل الصور أو النصوص أو البيانات الجدولية—وإرجاع التنبؤات. ويتحقق ذلك عادةً من خلال تغليف النموذج ضمن واجهة برمجة التطبيقات (API)، مما يتيح له التواصل مع خوادم الويب أو تطبيقات الأجهزة المحمولة أو أجهزة إنترنت الأشياء.

دور خدمة النماذج في الذكاء الاصطناعي#

يتمثل الهدف الأساسي من خدمة النماذج في تفعيل إمكانات النمذجة التنبؤية تشغيليًا بفعالية. وبينما يركّز التدريب على الدقة وتقليل الخسارة، تركز الخدمة على مقاييس أداء مثل زمن الاستجابة (مدى سرعة إرجاع التنبؤ) ومعدل المعالجة (عدد الطلبات التي يمكن معالجتها في الثانية). وتضمن البنية التحتية المتينة لخدمة النماذج بقاء أنظمة الرؤية الحاسوبية (CV) موثوقة تحت الأحمال العالية. وغالبًا ما تتضمن تقنيات مثل الحاويات باستخدام أدوات مثل Docker، الذي يجمع النموذج مع تبعياته لضمان سلوك متسق عبر بيئات الحوسبة المختلفة.

التطبيقات الواقعية#

تدعم خدمة النماذج ميزات الذكاء الاصطناعي واسعة الانتشار في مختلف القطاعات، من خلال تمكين اتخاذ القرارات الفورية استنادًا إلى البيانات.

• التصنيع الذكي: تستخدم أنظمة الذكاء الاصطناعي في التصنيع في البيئات الصناعية النماذج المُخدَّمة لفحص خطوط التجميع. وتُرسل صور عالية الدقة للمكوّنات إلى خادم محلي، حيث يكتشف نموذج YOLO26 عيوبًا مثل الخدوش أو حالات عدم المحاذاة، مما يؤدي إلى إطلاق تنبيهات فورية لإزالة العناصر المعيبة.
• أتمتة البيع بالتجزئة: يستفيد تجار التجزئة من الذكاء الاصطناعي في قطاع التجزئة لتحسين تجارب العملاء. وتحدد الكاميرات التي تخدمها نماذج اكتشاف الأجسام المنتجات في منطقة الدفع، وتحسب التكلفة الإجمالية تلقائيًا دون الحاجة إلى مسح الرموز الشريطية يدويًا.

التنفيذ العملي#

لتقديم خدمة فعّالة لنموذج ما، غالبًا ما يكون من المفيد تصدير النماذج إلى تنسيق قياسي مثل ONNX، مما يعزز قابلية التشغيل البيني بين أطر التدريب ومحركات الخدمة المختلفة. يوضح المثال التالي كيفية تحميل نموذج وتشغيل الاستدلال، محاكيًا المنطق الذي سيُنفَّذ داخل نقطة نهاية للخدمة باستخدام Python.

from ultralytics import YOLO

# Load the YOLO26 model (this typically happens once when the server starts)
model = YOLO("yolo26n.pt")

# Simulate an incoming API request with an image source URL
image_source = "https://ultralytics.com/images/bus.jpg"

# Run inference to generate predictions for the user
results = model.predict(source=image_source)

# Process results (e.g., simulating a JSON response to a client)
print(f"Detected {len(results[0].boxes)} objects in the image.")

اختيار الاستراتيجية المناسبة#

يعتمد اختيار استراتيجية الخدمة بدرجة كبيرة على حالة الاستخدام المحددة. توفر الخدمة عبر الإنترنت استجابات فورية عبر بروتوكولات مثل REST أو gRPC، وهو أمر أساسي لتطبيقات الويب الموجهة للمستخدمين. وعلى العكس، تعالج الخدمة الدفعية كميات كبيرة من البيانات دون اتصال، وتناسب مهام مثل إنشاء التقارير الليلية. وبالنسبة إلى التطبيقات التي تتطلب الخصوصية أو زمن استجابة منخفضًا دون الاعتماد على الإنترنت، تنقل الذكاء الاصطناعي الطرفي عملية الخدمة مباشرةً إلى الجهاز، باستخدام تنسيقات محسّنة مثل TensorRT لتحقيق أقصى أداء على الأجهزة محدودة الموارد. وتستفيد مؤسسات كثيرة من منصة Ultralytics لتبسيط نشر هذه النماذج إلى نقاط نهاية متنوعة، بما في ذلك واجهات API السحابية والأجهزة الطرفية.

التمييز عن المصطلحات ذات الصلة#

رغم ارتباطهما الوثيق، فإن «خدمة النماذج» تختلف عن نشر النماذج والاستدلال.

• نشر النماذج: يشير ذلك إلى المرحلة الأوسع من دورة حياة النموذج، والمتمثلة في إصدار النموذج إلى بيئة إنتاج. أما الخدمة فهي الآلية أو البرنامج المحدد (مثل خادم استدلال NVIDIA Triton أو TorchServe) المستخدم لتنفيذ النموذج المنشور.
• الاستدلال: هو العملية الرياضية لحساب تنبؤ من مدخل. وتوفر خدمة النماذج البنية التحتية (الشبكات، وقابلية التوسع، والأمان) التي تتيح تنفيذ الاستدلال بصورة موثوقة للمستخدمين النهائيين.
• الخدمات المصغّرة: غالبًا ما تُبنى الخدمة على شكل مجموعة من الخدمات المصغّرة، حيث يعمل النموذج كخدمة مستقلة يمكن لأجزاء أخرى من التطبيق الاستعلام عنها، مع تبادل البيانات غالبًا بتنسيقات خفيفة مثل JSON.