نشر النموذج

يمثل نشر النموذج المرحلة الحاسمة في دورة حياة التعلّم الآلي حيث يتم دمج نموذج التعلّم الآلي المدرّب يتم دمج نموذج التعلّم الآلي المدرّب في بيئة الإنتاج للعمل على البيانات الحية. وهي تسد الفجوة بين التطوير - حيث يتم تدريب النماذج والتحقق من صحتها في إعدادات محكومة والتحقق من صحتها في إعدادات خاضعة للرقابة - والتطبيق في العالم الحقيقي، حيث تولد قيمة من خلال توفير رؤى قابلة للتنفيذ. بدون النشر الفعال، حتى أكثر الشبكات العصبية تطوراً الشبكة العصبية (NN) الأكثر تطوراً تظل ملفاً ثابتاً غير قادر على التفاعل مع المستخدمين النهائيين أو أنظمة البرمجيات الخارجية. يتمثل الهدف الأساسي في جعل القدرات التنبؤية للنموذج وموثوقة وقابلة للتطوير للتطبيقات التي تتراوح من تطبيقات الأجهزة المحمولة إلى الخدمات السحابية للمؤسسات للمؤسسات.

خط أنابيب النشر

عادةً ما يتضمن نقل نموذج ما من بيئة بحثية إلى بيئة إنتاجية خط إنتاج منظم مصمم لضمان الأداء والاستقرار.

1. تحسين النموذج: قبل أن يغادر النموذج بيئة التدريب، غالبًا ما يخضع النموذج إلى تحسين النموذج من أجل لتحسين سرعة التنفيذ وتقليل استخدام الذاكرة. تقنيات مثل التكميم لتقليل دقة أوزان النموذج (على سبيل المثال، من 32 بت نقطة عائمة إلى 8 بت عدد صحيح)، مما يقلل بشكل كبير من المتطلبات الحسابية مع الحد الأدنى من التأثير على الدقة.
2. تصدير النموذج: يتم تحويل النموذج المُحسَّن إلى تنسيق قياسي مستقل عن إطار التدريب. تنسيقات مثل ONNX (تبادل الشبكة العصبية المفتوحة) تسمح بتشغيل النماذج المدرّبة على PyTorch على محركات استدلالية مختلفة. بالنسبة للتسريع الخاص بالأجهزة، يمكن للمطورين يمكن للمطورين التصدير إلى TensorRT لوحدات معالجة الرسوميات NVIDIA أو OpenVINO لوحدات المعالجة المركزية لوحدات المعالجة المركزية Intel .
3. الاحتواء: لضمان تشغيل النموذج بشكل متسق عبر بيئات الحوسبة المختلفة، من الشائع استخدام من الممارسات الشائعة استخدام الحاويات. تقوم أدوات مثل Docker بتجميع النموذج، وتوابعه وتوابعه وبيئة وقت التشغيل في وحدة واحدة خفيفة الوزن، مما يلغي مشكلة "إنه يعمل على على جهازي".
4. التنسيق والتوسع: في السيناريوهات عالية الطلب، تتم إدارة الحاويات المنشورة بواسطة أنظمة التنسيق مثل Kubernetes. تتعامل هذه المنصات مع قابلية التوسع، حيث تقوم تلقائيًا بتدوير نماذج جديدة للتعامل مع الطفرات في حركة المرور وضمان التوافر العالي.

بيئات النشر

يعتمد اختيار البيئة بشكل كبير على متطلبات التطبيق فيما يتعلق بما يلي زمن الاستنتاج، وخصوصية البيانات، و والاتصال.

• النشر السحابي: استضافة النماذج على المنصات السحابية مثل AWS SageMaker أو Google فيرتكس للذكاء الاصطناعي يوفر قوة حسابية غير محدودة تقريبًا و وسهولة التوسع. وهذا مثالي للنماذج اللغوية المعقدة النماذج اللغوية الكبيرة المعقدة (LLMs) أو لمهام معالجة حيث تكون الاستجابة في الوقت الحقيقي أقل أهمية.
• الذكاء الاصطناعي المتطور: للتطبيقات التي تتطلب الاستدلال في الوقت الحقيقي دون الاعتماد على الإنترنت يتم نشر النماذج مباشرة على الأجهزة المحلية. يستخدم الذكاء الاصطناعي المتطور أجهزة مدمجة، مثل NVIDIA Jetson أو Raspberry Pi، لمعالجة البيانات من المصدر. يقلل هذا النهج من زمن الاستجابة ويعزز خصوصية البيانات من خلال الاحتفاظ المعلومات الحساسة على الجهاز.
• قائم على المتصفح: تسمح أطر العمل مثل TensorFlow.js بتشغيل النماذج بالكامل داخل متصفح الويب باستخدام أجهزة العميل. هذا النهج الخالي من التثبيت ممتاز ل لتطبيقات الويب التفاعلية ومهام خفيفة الوزن لمهام الرؤية الحاسوبية.

تطبيقات واقعية

• مراقبة جودة التصنيع الآلي: في بيئة المصنع، فإن YOLO11 يتم نشر نموذج الكشف عن الأجسام على حافة متصل بكاميرا فوق حزام ناقل. أثناء مرور المنتجات، يقوم النموذج بتنفيذ عملية اكتشاف الشذوذ في الوقت الفعلي اكتشاف الشذوذ في الوقت الفعلي لتحديد العيوب مثل الشقوق أو الملصقات المنحرفة. يقوم النظام على الفور بتشغيل ذراع ميكانيكية لإزالة العناصر المعيبة، مما يؤدي إلى زيادة الكفاءة مقارنةً بالفحص اليدوي. تعرف على المزيد حول الذكاء الاصطناعي في التصنيع.
• تحليلات التجزئة الذكية: ينشر تجار التجزئة نماذج تتبع الكائنات لتحليل سلوك العملاء سلوك العملاء داخل المتاجر. من خلال معالجة موجزات الفيديو على خادم محلي، يُنشئ النظام خرائط حرارية للمناطق التي تشهد ازدحاماً كبيراً ومراقبة أطوال طوابير الانتظار. تساعد هذه البيانات المديرين على تحسين تخطيطات المتاجر ومستويات التوظيف. شاهد كيف يعمل الذكاء الاصطناعي في مجال البيع بالتجزئة على تغيير تجربة التسوق.

المفاهيم ذات الصلة: النشر مقابل الخدمة مقابل الخدمة مقابل MLOps

من المهم التمييز بين "نشر النموذج" والمصطلحات ذات الصلة في النظام البيئي:

• نشر النموذج مقابل خدمة النموذج: يشير النشر إلى العملية الشاملة لإدخال النموذج في الإنتاج. أما خدمة النموذج فهي آلية أو برنامج محدد (مثل خادم استدلالNVIDIA Triton Inference Server أو TorchServe) الذي يستمع إلى طلبات واجهة برمجة التطبيقات ويقوم بتشغيل النموذج من أجل لتوليد تنبؤات. الخدمة هي أحد مكونات النشر.
• نشر النموذج مقابل نشر النموذج عمليات تعلّم الآلة: النشر هو مرحلة واحدة ضمن إطار عمل عمليات تعلّم الآلة الأوسع نطاقاً. تشمل عمليات تعلّم الآلة (عمليات تعلّم الآلة) دورة الحياة بأكملها، بما في ذلك جمع البيانات، والتدريب، والتقييم، والنشر، و المراقبة المستمرة للنموذج detect مشاكل مثل انجراف البيانات.

تصدير نموذج للنشر

الخطوة الأولى الشائعة في النشر هي تصدير نموذج مدرّب إلى تنسيق متوافق للغاية. المثال التالي التالي يوضح كيفية تصدير نموذج YOLO11 إلى تنسيق ONNX باستخدام ultralytics حزمة، مما يجعلها جاهزة للنشر عبر منصات مختلفة.

from ultralytics import YOLO

# Load a pretrained YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to ONNX format for broad compatibility
# This creates 'yolo11n.onnx' which can be used in deployment environments
model.export(format="onnx")