محرك الاستدلال

محرك الاستدلال هو مكون برمجي متخصص يقوم بتنفيذ نموذج تعلم آلي مدرب لإنشاء تنبؤات من بيانات جديدة وغير مرئية. بعد تدريب النموذج باستخدام إطار عمل مثل PyTorch أو TensorFlow، يتولى محرك الاستدلال تشغيله بكفاءة في بيئة إنتاج. هدفه الأساسي هو تحسين النموذج لتحقيق السرعة واستخدام الموارد على النحو الأمثل، مما يجعل من الممكن تحقيق استدلال في الوقت الفعلي على مختلف منصات الأجهزة، من خوادم سحابية قوية إلى أجهزة طرفية محدودة الموارد.

دور محرك الاستدلال

تتمثل الوظيفة الأساسية لمحرك الاستدلال في سد الفجوة بين النموذج المدرب وتطبيقه في العالم الحقيقي. فهو يجري العديد من التحسينات الهامة لتقليل زمن انتقال الاستدلال وزيادة الإنتاجية إلى أقصى حد دون المساس بالدقة بشكل كبير.

تشمل تقنيات التحسين الرئيسية:

• تحسين الرسم البياني: يحلل المحرك الرسم البياني الحسابي للنموذج ويطبق تحسينات مثل "دمج الطبقات"، الذي يجمع بين عمليات متسلسلة متعددة في عملية واحدة لتقليل النفقات الحسابية.
• التحسين الخاص بالأجهزة: يقوم بتجميع النموذج للتشغيل على أجهزة معينة، مثل وحدات المعالجة المركزية (CPUs) أو وحدات معالجة الرسومات (GPUs) أو مسرّعات الذكاء الاصطناعي المتخصصة مثل وحدات TPU من Google. يتضمن ذلك استخدام نوى حسابية محسّنة للغاية ومصممة خصيصًا لبنية الجهاز.
• تقليل الدقة: تُستخدم تقنيات مثل تكميم النموذج model quantization لتحويل أوزان النموذج من أرقام الفاصلة العائمة 32 بت إلى أعداد صحيحة أكثر كفاءة 16 بت أو 8 بت. هذا يقلل بشكل كبير من استخدام الذاكرة ويسرع الحسابات، وهو أمر مهم بشكل خاص للحوسبة الحافة edge computing.
• تقليم النموذج: يمكن لمحرك الاستدلال تسهيل تشغيل النماذج حيث تمت إزالة الأوزان غير الضرورية من خلال تقليم النموذج، مما يقلل من حجم النموذج والطلب الحسابي.

محركات الاستدلال الشائعة

قامت العديد من المؤسسات بتطوير محركات استدلال عالية الأداء لتسريع نماذج التعلم العميق. تتضمن الخيارات الشائعة ما يلي:

• NVIDIA TensorRT: مُحسِّن ووقت تشغيل عالي الأداء لوحدات معالجة الرسومات NVIDIA، مما يوفر أحدث سرعات الاستدلال. تقدم Ultralytics تكاملًا سلسًا مع TensorRT لنشر نماذج YOLO.
• OpenVINO من Intel: مجموعة أدوات مفتوحة المصدر لتحسين ونشر النماذج على أجهزة Intel، بما في ذلك وحدات المعالجة المركزية ووحدات معالجة الرسوميات المدمجة. يمكن بسهولة تصدير نماذج Ultralytics إلى OpenVINO.
• وقت تشغيل ONNX: محرك عبر الأنظمة الأساسية تم تطويره بواسطة Microsoft ويمكنه تشغيل النماذج بتنسيق ONNX (تبادل الشبكة العصبية المفتوحة) عبر مجموعة واسعة من الأجهزة.
• TensorFlow Lite (TFLite): حل خفيف الوزن مصمم خصيصًا لنشر النماذج على الأجهزة المحمولة والمضمنة، مثل تلك التي تعمل بنظامي التشغيل Android و iOS.
• Apache TVM: إطار عمل مفتوح المصدر لمترجم التعلم الآلي يمكنه تحسين النماذج لمختلف الواجهات الخلفية للأجهزة.

تطبيقات واقعية

تعتبر محركات الاستدلال العمود الفقري التشغيلي للعديد من تطبيقات الذكاء الاصطناعي.

1. في مجال حلول الذكاء الاصطناعي للسيارات، يعمل محرك استدلال على جهاز الكمبيوتر الموجود في السيارة لمعالجة البيانات من الكاميرات وأجهزة الاستشعار. يقوم بتنفيذ نموذج اكتشاف الكائنات مثل Ultralytics YOLO11 لتحديد المشاة وإشارات المرور والمركبات الأخرى في غضون أجزاء من الثانية، مما يتيح ميزات السلامة الهامة.
2. بالنسبة إلى التصنيع الذكي، يقوم محرك الاستدلال في أرضية المصنع بتشغيل نظام رؤية الكمبيوتر لمراقبة الجودة. يقوم بتحليل الصور من خط الإنتاج في الوقت الفعلي لاكتشاف العيوب، مما يضمن أن المنتجات تلبي معايير الجودة بسرعة وموثوقية عالية.

محرك الاستدلال مقابل المفاهيم ذات الصلة

من المفيد تمييز محرك الاستدلال عن المصطلحات الأخرى ذات الصلة في MLOps.

• إطار عمل تعلم الآلة مقابل محرك الاستدلال: إطار عمل تعلم الآلة مثل PyTorch هو مكتبة شاملة لتدريب النماذج ونشرها. يتضمن أدوات لبناء الشبكات العصبية وإدارة مجموعات البيانات وتشغيل حلقات التدريب. في المقابل، محرك الاستدلال هو أداة متخصصة للغاية تركز حصريًا على مرحلة النشر. في حين أن إطار العمل لديه قدرات استدلال أساسية، فإن محرك الاستدلال المخصص يوفر أداءً فائقًا من خلال تحسينات قوية خاصة بالأجهزة.

• Model Serving مقابل محرك الاستدلال: يشير تقديم النموذج إلى البنية التحتية الأوسع لجعل النموذج متاحًا عبر الشبكة، والذي يتضمن مكونات مثل نقاط نهاية API وموازنات التحميل وأدوات المراقبة. محرك الاستدلال هو المكون الأساسي داخل نظام تقديم النموذج الذي ينفذ طلبات التنبؤ. يمكنك استكشاف خيارات نشر النموذج المختلفة لمعرفة كيف تتناسب محركات الاستدلال مع الصورة الأكبر. تعمل منصات مثل Ultralytics HUB على تبسيط هذه العملية بأكملها، من التدريب إلى النشر الأمثل.