Inference Engine

محرك الاستدلال هو مكون برمجي متخصص مصمم لتنفيذ نماذج التعلم الآلي المدربة وتوليد التنبؤات من البيانات الجديدة. على عكس مرحلة التدريب، التي تركز على تعلم الأنماط من خلال عمليات كثيفة الحوسبة مثل الانتشار العكسي، فإن محرك الاستدلال مُحسَّن بدقة للمرحلة التشغيلية المعروفة باسم نشر النموذج. هدفه الأساسي هو تشغيل الحسابات بأعلى كفاءة ممكنة، وتقليل زمن انتقال الاستدلال إلى أدنى حد، وتعظيم إنتاجية الأجهزة المستهدفة، سواء كانت خادم سحابي قابل للتوسع أو جهاز Edge AI يعمل بالبطارية. من خلال التخلص من العبء الزائد المطلوب للتدريب، تتيح هذه المحركات لـ الشبكات العصبية المعقدة العمل في التطبيقات الفورية.

كيف تحسن محركات الاستدلال الأداء#

يتضمن الانتقال من بيئة التدريب إلى محرك الاستدلال عادةً عدة خطوات تحسين لتبسيط هيكل النموذج. نظرًا لأن النموذج لم يعد بحاجة إلى التعلم، يمكن للمحرك التخلص من البيانات المطلوبة لتحديثات التدرج، مما يؤدي فعليًا إلى تجميد أوزان النموذج. تشمل التقنيات الشائعة التي تستخدمها محركات الاستدلال دمج الطبقات، حيث يتم دمج عمليات متعددة في خطوة واحدة تقليل الوصول إلى الذاكرة، وتكميم النموذج، الذي يحول الأوزان من تنسيق الفاصلة العائمة عالية الدقة إلى أعداد صحيحة أقل دقة (مثل INT8).

تتيح هذه التحسينات للبنى المتقدمة مثل Ultralytics YOLO26 العمل بسرعات عالية بشكل لا يصدق دون فقدان كبير في الدقة. غالبًا ما يتم تصميم محركات مختلفة خصيصًا لتناسب النظم البيئية للأجهزة لتحقيق أقصى أداء:

• NVIDIA TensorRT: يوفر استدلال عالي الأداء على وحدات معالجة الرسومات من NVIDIA باستخدام نواة مخصصة للأجهزة وتحسين رسم الشبكة البياني.
• Intel OpenVINO: يحسّن أداء التعلم العميق على بنيات Intel، بما في ذلك وحدات المعالجة المركزية والرسومات المدمجة، مما يجعله مثاليًا للحوسبة المتطرفة.
• ONNX Runtime: مسرع متعدد اللغات يدعم النماذج بتنسيق ONNX، مما يوفر جسرًا بين الأطُر المختلفة وخلفيات الأجهزة.

تطبيقات العالم الحقيقي#

محركات الاستدلال هي المحركات الصامتة وراء العديد من وسائل الراحة الحديثة للذكاء الاصطناعي، مما يتيح لأنظمة الرؤية الحاسوبية التفاعل الفوري مع بيئتها.

1. المركبات المستقلة: في السيارات ذاتية القيادة، يجب أن تحدد نماذج اكتشاف الكائنات المشاة وإشارات المرور والمركبات الأخرى في غضون أجزاء من الألف من الثانية. يضمن محرك الاستدلال الذي يعمل محليًا على أجهزة السيارة حدوث هذه المعالجة بسرعة استدلال فورية، حيث أن الاعتماد على الاتصال السحابي سيؤدي إلى تأخيرات خطيرة.

2. التصنيع الذكي: تستخدم المصانع كاميرات إنترنت الأشياء الصناعي لفحص المنتجات على خطوط التجميع. يعالج محرك الاستدلال تدفقات الفيديو لتنفيذ اكتشاف الشذوذ، مما يشير إلى العيوب على الفور. تقلل هذه الأتمتة من الهدر وتضمن مراقبة صارمة للجودة دون إبطاء الإنتاج.

محرك الاستدلال مقابل إطار عمل التدريب#

من المفيد التمييز بين البرامج المستخدمة لإنشاء النموذج والمحرك المستخدم لتشغيله. يوفر إطار عمل التدريب (مثل PyTorch أو TensorFlow) الأدوات اللازمة لتصميم البنى، وحساب الخسارة، وتحديث المعلمات عبر التعلم الخاضع للإشراف. وهو يمنح الأولوية للمرونة وقدرات تصحيح الأخطاء.

في المقابل، يأخذ محرك الاستدلال العنصر النهائي من إطار عمل التدريب ويعطي الأولوية لسرعة التنفيذ وكفاءة الذاكرة. بينما يمكنك تشغيل الاستدلال داخل إطار عمل التدريب، فإنه نادراً ما يكون فعالاً مثل استخدام محرك مخصص، خاصة للنشر على الهواتف المحمولة أو الأجهزة المضمنة عبر أدوات مثل TensorFlow Lite أو Apple Core ML.

استخدام محرك الاستدلال مع Ultralytics YOLO26#

تختزل حزمة ultralytics الكثير من تعقيد محركات الاستدلال، مما يسمح للمستخدمين بتشغيل التنبؤات بسلاسة. خلف الكواليس، تتعامل مع المعالجة المسبقة للصور وتنفيذ النموذج. بالنسبة للمستخدمين الذين يتطلعون إلى التوسع، تعمل منصة Ultralytics على تبسيط عملية تدريب النماذج وتصديرها إلى تنسيقات محسّنة متوافقة مع محركات الاستدلال المختلفة.

يوضح المثال التالي كيفية تحميل نموذج YOLO26 مدرب مسبقًا وتشغيل الاستدلال على صورة:

from ultralytics import YOLO

# Load the YOLO26n model (nano version for speed)
model = YOLO("yolo26n.pt")

# Run inference on an image from a URL
# The 'predict' method acts as the interface to the inference process
results = model.predict("https://ultralytics.com/images/bus.jpg")

# Display the results
results[0].show()