محرك الاستدلال

محرك الاستدلال هو مكوّن برمجي متخصص يقوم بتنفيذ نموذج تعلّم آلي مدرّب لتوليد تنبؤات من بيانات جديدة غير مرئية. بعد أن يتم تدريب النموذج باستخدام إطار عمل مثل PyTorch أو TensorFlow، يتولى محرك الاستدلال تشغيله بكفاءة في بيئة الإنتاج. ويتمثل هدفه الأساسي في تحسين النموذج من حيث السرعة واستخدام الموارد، مما يجعل من الممكن تحقيق الاستدلال في الوقت الفعلي على منصات أجهزة مختلفة، بدءًا من الخوادم السحابية القوية إلى الأجهزة الطرفية المحدودة الموارد.

دور محرك الاستدلال

تتمثل الوظيفة الأساسية لمحرك الاستدلال في سد الفجوة بين النموذج المدرّب وتطبيقه في العالم الحقيقي. حيث يقوم بإجراء العديد من التحسينات الهامة لتقليل زمن الاستجابة للاستدلال وزيادة الإنتاجية دون المساس بالدقة بشكل كبير.

تتضمن تقنيات التحسين الرئيسية ما يلي:

• تحسين الرسم البياني: يقوم المحرك بتحليل الرسم البياني الحسابي للنموذج ويطبق تحسينات مثل "دمج الطبقات"، والتي تجمع بين عدة عمليات متسلسلة في عملية واحدة لتقليل النفقات الحسابية الزائدة.
• التحسين الخاص بالأجهزة: يقوم بتجميع النموذج ليعمل على أجهزة معينة، مثل وحدات المعالجة المركزية أو وحدات معالجة الرسومات أو مسرعات الذكاء الاصطناعي المتخصصة مثل وحدات معالجة الرسوميات من Google. ويتضمن ذلك استخدام نواة حوسبة مُحسَّنة للغاية مصممة خصيصاً لتناسب بنية الجهاز.
• تقليل الدقة: تُستخدم تقنيات مثل التكميم الكمي للنموذج لتحويل أوزان النموذج من أرقام ذات فاصلة عائمة 32 بت إلى أعداد صحيحة أكثر كفاءة 16 بت أو 8 بت. يقلل هذا من استخدام الذاكرة بشكل كبير ويسرّع العمليات الحسابية، وهو أمر مهم بشكل خاص للحوسبة المتطورة.
• تشذيب النماذج: يمكن لمحرّك الاستدلال أن يسهّل تشغيل النماذج التي تمت إزالة الأوزان غير الضرورية منها من خلال تشذيب النماذج، مما يقلل من حجم النموذج والطلب الحسابي.

محركات الاستدلال الشائعة

طورت العديد من المؤسسات محركات استدلال عالية الأداء لتسريع نماذج التعلم العميق. تشمل الخيارات الشائعة ما يلي:

• NVIDIA TensorRT: مُحسِّن عالي الأداء ووقت تشغيل لوحدات معالجة الرسومات NVIDIA، مما يوفر سرعات استدلالية فائقة. يوفر Ultralytics تكاملاً سلساً مع TensorRT لنشر نماذج YOLO.
• OpenVINO من Intel: مجموعة أدوات مفتوحة المصدر لتحسين النماذج ونشرها على أجهزة Intel، بما في ذلك وحدات المعالجة المركزية ووحدات معالجة الرسومات المدمجة. يمكن تصدير نماذج Ultralytics بسهولة إلى OpenVINO.
• وقت تشغيل ONNX: محرك متعدد المنصات طورته مايكروسوفت يمكنه تشغيل النماذج بتنسيق ONNX (تبادل الشبكة العصبية المفتوحة) عبر مجموعة واسعة من الأجهزة.
• TensorFlow Lite (TFLite): حل خفيف الوزن مصمم خصيصًا لنشر النماذج على الأجهزة المحمولة والأجهزة المدمجة، مثل تلك التي تعمل بنظامي Android و iOS.
• Apache TVM: إطار عمل مترجم للتعلّم الآلي مفتوح المصدر يمكنه تحسين النماذج لمختلف الأجهزة الخلفية.

التطبيقات الواقعية

محركات الاستدلال هي العمود الفقري التشغيلي لعدد لا يحصى من تطبيقات الذكاء الاصطناعي.

1. في الذكاء الاصطناعي لحلول السيارات، يعمل محرك الاستدلال على الكمبيوتر الموجود على متن السيارة لمعالجة البيانات من الكاميرات وأجهزة الاستشعار. يقوم بتنفيذ نموذج اكتشاف الأجسام مثل Ultralytics YOLO11 لتحديد المشاة وإشارات المرور والمركبات الأخرى في أجزاء من الثانية، مما يتيح ميزات السلامة الهامة.
2. بالنسبة للتصنيع الذكي، يعمل محرك الاستدلال على أرضية المصنع على تشغيل نظام رؤية حاسوبية لمراقبة الجودة. حيث يقوم بتحليل الصور من خط الإنتاج في الوقت الفعلي للكشف عن العيوب، مما يضمن استيفاء المنتجات لمعايير الجودة بسرعة وموثوقية عالية.

محرك الاستدلال مقابل المفاهيم ذات الصلة

من المفيد التمييز بين محرك الاستدلال والمصطلحات الأخرى ذات الصلة في MLOPS.

• إطار عمل التعلم الآلي مقابل محرك الاستدلال: إطار عمل التعلم الآلي مثل PyTorch هو مكتبة شاملة لتدريب النماذج ونشرها. ويتضمن أدوات لبناء الشبكات العصبية وإدارة مجموعات البيانات وتشغيل حلقات التدريب. وعلى النقيض من ذلك، فإن محرك الاستدلال هو أداة متخصصة للغاية تركز حصريًا على مرحلة النشر. بينما يمتلك إطار العمل قدرات استدلالية أساسية، فإن محرك الاستدلال المخصص يوفر أداءً فائقًا من خلال التحسينات القوية الخاصة بالأجهزة.

• خدمة النموذج مقابل محرك الاستدلال: تشير خدمة النماذج إلى البنية التحتية الأوسع لإتاحة النموذج عبر الشبكة، والتي تتضمن مكونات مثل نقاط نهاية واجهة برمجة التطبيقات، وموازنات التحميل، وأدوات المراقبة. محرك الاستدلال هو المكون الأساسي في نظام عرض النماذج الذي ينفذ طلبات التنبؤ. يمكنك استكشاف خيارات نشر النماذج المختلفة لمعرفة كيف تتناسب محركات الاستدلال مع الصورة الأكبر. تعمل المنصات مثل Ultralytics HUB على تبسيط هذه العملية بأكملها، بدءًا من التدريب وحتى النشر الأمثل.