نشر نماذج Ultralytics YOLO باستخدام تكامل ExecuTorch

تحقق بعض تطبيقات الرؤية الحاسوبية، مثل الفحص الآلي للجودة أو الطائرات بدون طيار ذاتية القيادة أو أنظمة الأمن الذكية، أفضل أداء عندما تعمل نماذج Ultralytics YOLO11، مثل Ultralytics YOLO11، بالقرب من المستشعر الذي يلتقط الصور. بعبارة أخرى، تحتاج هذه النماذج إلى معالجة البيانات مباشرةً حيث يتم إنشاؤها، على الكاميرات أو الطائرات بدون طيار أو الأنظمة المدمجة، بدلاً من إرسالها إلى السحابة. 

هذا النهج، المعروف باسم الذكاء الاصطناعي المتطور، يمكّن النماذج من إجراء الاستدلال مباشرةً على الجهاز الذي يتم فيه التقاط البيانات. من خلال معالجة المعلومات محلياً بدلاً من الاعتماد على الخوادم عن بُعد، يمكن للأنظمة تحقيق زمن استجابة أقل، وخصوصية بيانات محسّنة، وموثوقية أكبر، حتى في البيئات ذات الاتصال المحدود بالإنترنت أو بدون اتصال بالإنترنت.

على سبيل المثال، لا يمكن لكاميرا التصنيع التي تفحص آلاف المنتجات كل دقيقة، أو طائرة بدون طيار تتنقل في بيئات معقدة، تحمل التأخير الذي يأتي مع المعالجة السحابية. يتيح تشغيل YOLO11 مباشرةً على الجهاز إمكانية الاستدلال الفوري على الجهاز.

لجعل تشغيل نماذج Ultralytics YOLO على الحافة أسهل وأكثر كفاءة، يوفر تكامل ExecuTorch الجديد المدعوم من Ultralytics طريقة مبسطة لتصدير النماذج ونشرها مباشرةً على الأجهزة المحمولة والمضمنة. يعد ExecuTorch جزءًا من نظام PyTorch Edge البيئي ويوفر حلاً شاملاً لتشغيل نماذج الذكاء الاصطناعي مباشرةً على الأجهزة المحمولة والأجهزة المتطورة، بما في ذلك الهواتف والأجهزة القابلة للارتداء واللوحات المدمجة ووحدات التحكم الدقيقة.

هذا التكامل يجعل من السهل نقل نموذج Ultralytics YOLO، مثل YOLO11، من التدريب إلى النشر على الأجهزة المتطورة. من خلال الجمع بين قدرات YOLO11 في الرؤية مع وقت تشغيل ExecuTorch الخفيف الوزن وخط أنابيب تصدير PyTorch، يمكن للمستخدمين نشر نماذج تعمل بكفاءة على الأجهزة المتطورة مع الحفاظ على دقة وأداء الاستدلال القائم على PyTorch.

في هذه المقالة، سوف نلقي نظرة فاحصة على كيفية عمل تكامل ExecuTorch، ولماذا يعد مناسبًا تمامًا لتطبيقات الذكاء الاصطناعي المتطورة، وكيف يمكنك البدء في نشر نماذج Ultralytics YOLO مع ExecuTorch. هيا بنا نبدأ!

ما هو إكسيكوتورش؟

عادة، عندما تقوم بتدريب نموذج في PyTorch، فإنه يعمل على خوادم قوية أو وحدات معالجة رسومات (GPU) في السحابة. ومع ذلك، يتطلب نشر نفس النموذج على جهاز محمول أو جهاز مدمج، مثل الهاتف الذكي أو طائرة بدون طيار أو متحكم دقيق، حلاً متخصصًا يمكنه التعامل مع طاقة الحوسبة والذاكرة والاتصال المحدودة.

وهذا بالضبط ما تقدمه ExecuTorch. ExecuTorch هو حل شامل تم تطويره كجزء من نظام PyTorch Edge البيئي الذي يتيح الاستدلال الفعال على الأجهزة عبر المنصات المحمولة والمضمنة والمتطورة. وهو يوسع قدرات PyTorch إلى ما وراء السحابة، مما يتيح تشغيل نماذج الذكاء الاصطناعي مباشرةً على الأجهزة المحلية.

جلب استدلال PyTorch إلى الحافة

At its core, ExecuTorch provides a lightweight C++ runtime that allows PyTorch models to execute directly on the device. ويستخدم ExecuTorch تنسيق نموذج PyTorch ExecuTorch (.pte)، وهو نموذج مُحسَّن مصمم لتحميل أسرع، وبصمة ذاكرة أصغر، وقابلية نقل محسَّنة. 

يدعم XNNPACK كواجهة خلفية افتراضية لاستدلال وحدة المعالجة المركزية (CPU) الفعال ويوسع نطاق التوافق عبر مجموعة كبيرة من الواجهات الخلفية للأجهزة، بما في ذلك Core ML وMetal وVulkan وCualcomm وMediaTek وArm EthosU وOpenVINO وغيرها. 

تتيح هذه الدعائم الخلفية تسريعًا محسنًا على الأجهزة المحمولة والمضمنة والأجهزة المتطورة المتخصصة. تتكامل ExecuTorch أيضًا مع خط أنابيب تصدير PyTorch، مما يوفر دعمًا للميزات المتقدمة مثل التكميم ومعالجة الشكل الديناميكي لتحسين الأداء والقدرة على التكيف عبر بيئات النشر المختلفة.

يقلل التحويل الكمي من حجم النموذج ويعزز سرعة الاستدلال من خلال تحويل القيم عالية الدقة (مثل القيم العائمة 32 بت) إلى قيم أقل دقة، بينما تُستخدم معالجة الشكل الديناميكي لتمكين النماذج من معالجة أحجام المدخلات المتغيرة بكفاءة. كلتا الميزتين ضروريتان لتشغيل نماذج الذكاء الاصطناعي على الأجهزة ذات الموارد المحدودة.

‍

طبقة موحدة لأجهزة الحافة

بالإضافة إلى وقت التشغيل، تعمل ExecuTorch أيضاً كطبقة تجريد موحدة للعديد من الأجهزة الخلفية. ببساطة، فهي ببساطة تلخص التفاصيل الخاصة بالأجهزة وتدير كيفية تفاعل النماذج مع وحدات المعالجة المختلفة، بما في ذلك وحدات المعالجة المركزية ووحدات معالجة الرسومات ووحدات المعالجة العصبية (NPU).

بمجرد تصدير النموذج، يمكن تهيئة ExecuTorch لاستهداف الواجهة الخلفية الأنسب لجهاز معين. يمكن للمطوّرين نشر النماذج بكفاءة عبر أجهزة متنوعة دون كتابة كود مخصص لجهاز معين أو الحفاظ على سير عمل تحويل منفصل.

نظرًا لتصميمه المعياري والمحمول وتكامله السلس مع PyTorch، يعد ExecuTorch خيارًا رائعًا لنشر نماذج الرؤية الحاسوبية مثل Ultralytics YOLO11 على الأنظمة المحمولة والمضمنة. فهو يعمل على سد الفجوة بين تدريب النموذج والنشر في العالم الحقيقي، مما يجعل الذكاء الاصطناعي المتطور أسرع وأكثر كفاءة وأسهل في التنفيذ.

الميزات الرئيسية لـ ExecuTorch

قبل أن نلقي نظرة على كيفية تصدير نماذج UltecuTorch YOLO إلى تنسيق ExecuTorch، دعنا نستكشف ما الذي يجعل ExecuTorch خيارًا موثوقًا لنشر الذكاء الاصطناعي على الحافة.

إليك لمحة عن بعض ميزاته الرئيسية:

• دعم التكميم: يدعم ExecuTorch التكميم الكمّي للنموذج، وهي تقنية تحوّل القيم عالية الدقة إلى قيم أقل دقة لتقليل حجم النموذج وتسريع الاستدلال. يساعد ذلك على تشغيل النماذج بشكل أسرع واستخدام ذاكرة أقل على الأجهزة المتطورة مع الحفاظ على نفس مستوى الدقة تقريبًا.
• استخدام فعال للذاكرة: تتمثل إحدى أكبر مزايا ExecuTorch في كيفية تعامله مع الذاكرة. فبدلاً من الاعتماد على التخصيص الديناميكي للذاكرة، والذي يمكن أن يؤدي إلى تأخير في الوقت وتحميل الطاقة الزائدة، يستخدم ExecuTorch تخطيط الذاكرة قبل الوقت (AOT). أثناء التصدير، يقوم بتحليل الرسم البياني للنموذج ويحسب مسبقًا مقدار الذاكرة اللازمة لكل عملية. يسمح هذا لوقت التشغيل بتنفيذ النماذج باستخدام خطة ذاكرة ثابتة، مما يضمن أداءً يمكن التنبؤ به ويمنع التباطؤ أو التعطل على الأجهزة ذات ذاكرة الوصول العشوائي أو سعة المعالجة المحدودة.
• بيانات وصفية مدمجة للنموذج: عند التصدير باستخدام التكامل المدعوم من Ultralytics، يتضمن كل نموذج ملف YAML يحتوي على بيانات وصفية مهمة مثل حجم صورة الإدخال وأسماء الفئات ومعلمات التكوين. يعمل هذا الملف الإضافي على تبسيط تكامل النموذج في تطبيقات مختلفة ويضمن سلوكًا متسقًا عبر منصات الحافة المختلفة.

كيفية تصدير نماذج Ultralytics YOLO إلى تنسيق ExecuTorch

والآن بعد أن أصبح لدينا فهم أفضل لما يقدمه ExecuTorch، دعنا نتعرف على كيفية تصدير نماذج Ultralytics YOLO إلى تنسيق ExecuTorch.

الخطوة 1: تثبيت حزمة Ultralytics Python

للبدء، ستحتاج إلى تثبيت حزمة Ultralytics Python باستخدام pip، وهي أداة تثبيت الحزمة. يمكنك القيام بذلك عن طريق تشغيل "pip install ultralytics" في جهازك الطرفي أو موجه الأوامر. 

إذا كنت تعمل في بيئة Jupyter Notebook أو Google Colab، ما عليك سوى إضافة علامة تعجب قبل الأمر، مثل "!pip install ultralytics". بمجرد التثبيت، توفر حزمة Ultralytics جميع الأدوات التي تحتاجها لتدريب واختبار وتصدير نماذج الرؤية الحاسوبية، بما في ذلك Ultralytics YOLO11.

إذا واجهت أي مشاكل أثناء التثبيت أو أثناء تصدير النموذج الخاص بك، فإن وثائق Ultralytics الرسمية ودليل المشكلات الشائعة يحتويان على خطوات مفصلة لاستكشاف الأخطاء وإصلاحها وأفضل الممارسات لمساعدتك على العمل بسلاسة.

الخطوة 2: تصدير Ultralytics YOLO11

بعد تثبيت حزمة Ultralytics، يمكنك تحميل متغير من نموذج YOLO11 وتصديره إلى تنسيق ExecuTorch. على سبيل المثال، يمكنك استخدام نموذج مُدرَّب مسبقًا مثل "yolo11n.pt" وتصديره عن طريق استدعاء دالة التصدير مع ضبط التنسيق على "execuTorch". 

ينشئ هذا دليلًا باسم "yolo11n_executorch_model"، والذي يتضمن ملف النموذج المُحسَّن (.pte) وملف YAML بيانات وصفية منفصل يحتوي على تفاصيل مهمة مثل حجم الصورة وأسماء الفئات.

إليك الكود لتصدير النموذج الخاص بك:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")

model.export(format="executorch")

الخطوة 3: تشغيل الاستدلالات بعد تصدير النموذج

بمجرد التصدير، يصبح النموذج جاهزًا للنشر على الأجهزة المتطورة والأجهزة المحمولة باستخدام وقت تشغيل ExecuTorch. يمكن تحميل ملف النموذج .pte الذي تم تصديره إلى تطبيقك لتشغيل الاستدلال في الوقت الحقيقي على الجهاز دون الحاجة إلى اتصال سحابي.

على سبيل المثال، يوضح مقتطف الشيفرة أدناه كيفية تحميل النموذج المُصدَّر وتشغيل الاستدلال. الاستدلال يعني ببساطة استخدام نموذج مُدرَّب لإجراء تنبؤات على بيانات جديدة. هنا، يتم اختبار النموذج على صورة حافلة مأخوذة من عنوان URL عام.

نموذج_منفذ_موديل = YOLO("yolo11n_executorch_model")

النتائج = منفذ_موديل_موديل_موديل.predict("https://ultralytics.com/images/bus.jpg"، حفظ=صحيح)

بعد تشغيل الشيفرة، ستجد صورة الإخراج مع الكائنات المكتشفة محفوظة في مجلد "run/detect/petredict". 

‍

‍

فوائد استخدام تكامل ExecuTorch

أثناء استكشاف خيارات التصدير المختلفة التي يدعمها Ultralytics، قد تتساءل ما الذي يجعل تكامل ExecuTorch فريداً من نوعه. يكمن الاختلاف الرئيسي في مدى قدرته على الجمع بين الأداء والبساطة والمرونة، مما يجعل من السهل نشر نماذج الذكاء الاصطناعي القوية مباشرةً على الأجهزة المحمولة والأجهزة المتطورة.

فيما يلي نظرة على بعض المزايا الرئيسية لاستخدام تكامل ExecuTorch:

• خيارات نشر مرنة: يمكن نشر نماذج ExecuTorch عبر تطبيقات الأجهزة المحمولة، والأنظمة المدمجة، وأجهزة إنترنت الأشياء، وأجهزة الذكاء الاصطناعي المتطورة المتخصصة. تُمكِّن هذه المرونة المطورين من بناء حلول ذكاء اصطناعي قابلة للتطوير تعمل بشكل متسق عبر منصات وبيئات متنوعة.
• أداء مثبت بالمعايير: تُظهر الاختبارات على أجهزة مثل Raspberry Pi 5 أن نماذج YOLO11 المصدَّرة إلى تنسيق ExecuTorch تعمل أسرع مرتين تقريبًا من نظيراتها من PyTorch، بدقة متطابقة تقريبًا.
• واجهات برمجة تطبيقات تكامل مرنة: توفّر ExecuTorch واجهات برمجة تطبيقات C++، و Kotlin، و Objective-C لنظام التشغيل iOS، و Android، و Linux المدمج، مما يسمح للمطورين بدمج نماذج YOLO مباشرةً في التطبيقات الأصلية.
• دعم تسريع الأجهزة: يدعم ExecuTorch العديد من خلفيات تسريع الأجهزة، بما في ذلك Vulkan وMetal لوحدات معالجة الرسومات المحمولة، مع تكامل اختياري ل OpenCL وواجهات برمجة التطبيقات الأخرى الخاصة بالمورّد. ويمكنه أيضًا الاستفادة من المسرعات المخصصة مثل وحدات المعالجة العصبية NPU و DSPs لتحقيق سرعات كبيرة مقارنةً بالاستدلال بوحدة المعالجة المركزية فقط.

تطبيقات العالم الحقيقي لـ YOLO11 وتصدير ExecuTorch

في الآونة الأخيرة، تم الاعتراف بشركة Ultralytics كقصة نجاح PyTorch ExecuTorch، مما يسلط الضوء على دعمنا المبكر للاستدلال على الأجهزة ومساهماتنا المستمرة في نظام PyTorch البيئي. يعكس هذا التكريم هدفاً مشتركاً يتمثل في جعل الذكاء الاصطناعي عالي الأداء أكثر سهولة على منصات الأجهزة المحمولة والمنصات المتطورة.

من السحابة إلى الحافة: كيف تجلب ExecuTorch و YOLO11 رؤية الذكاء الاصطناعي إلى الحياة

من الناحية العملية، يبدو ذلك على أرض الواقع مثل حلول الذكاء الاصطناعي للرؤية الواقعية التي تعمل بكفاءة على كل شيء بدءاً من الهواتف الذكية وحتى الأنظمة المدمجة. على سبيل المثال، في مجال التصنيع، تلعب الأجهزة المتطورة دوراً حاسماً في مراقبة خطوط الإنتاج واكتشاف العيوب في الوقت الفعلي.

‍

‍

فبدلاً من إرسال الصور أو بيانات المستشعر إلى السحابة للمعالجة، الأمر الذي قد يؤدي إلى تأخيرات ويعتمد على الاتصال بالإنترنت، يتيح تكامل ExecuTorch تشغيل نماذج YOLO11 مباشرةً على الأجهزة المحلية. هذا يعني أنه يمكن للمصانع اكتشاف مشكلات الجودة على الفور، وتقليل وقت التعطل، والحفاظ على خصوصية البيانات، كل ذلك أثناء العمل بموارد حوسبة محدودة.

فيما يلي بعض الأمثلة الأخرى على كيفية تطبيق تكامل ExecuTorch ونماذج YOLO الخاصة بـ Ultralytics:

• المدن الذكية: من خلال تشغيل نماذج YOLO11 محلياً باستخدام ExecuTorch، يمكن للمدن اتخاذ قرارات أسرع تعتمد على البيانات، بدءاً من اكتشاف الاختناقات المرورية إلى تحديد المخاطر، وتحسين التنقل والسلامة بشكل عام.
• البيع بالتجزئة والتخزين: من خلال الاستدلال على الجهاز، يمكن لتجار التجزئة أتمتة مراقبة الرفوف وتتبع المخزون وفحص الطرود بسرعة وأمان دون الاعتماد على الاتصالات السحابية.
• الروبوتات والطائرات بدون طيار: تُمكِّن نماذج YOLO11 المحسّنة على الحافة الروبوتات والطائرات بدون طيار من التعرف على الأشياء والتنقل في البيئات واتخاذ القرارات في الوقت الفعلي حتى بدون الوصول إلى الإنترنت.

‍

‍

النقاط الرئيسية

إن تصدير نماذج Ultralytics YOLO إلى تنسيق ExecuTorch يجعل من السهل نشر نماذج الرؤية الحاسوبية عبر العديد من الأجهزة، بما في ذلك الهواتف الذكية والأجهزة اللوحية والأنظمة المدمجة مثل Raspberry Pi. وهذا يعني أنه من الممكن تشغيل الاستدلال المحسّن على الجهاز دون الاعتماد على الاتصال السحابي، مما يحسّن السرعة والخصوصية والموثوقية.

إلى جانب ExecuTorch، يدعم Ultralytics مجموعة واسعة من عمليات التكامل، بما في ذلك TensorRT وOpenVINO وCoreML وغيرها، مما يمنح المطورين المرونة اللازمة لتشغيل نماذجهم عبر المنصات. مع تزايد اعتماد Vision AI، تعمل عمليات التكامل هذه على تبسيط نشر الأنظمة الذكية المصممة للأداء بكفاءة في ظروف العالم الحقيقي.

هل لديك فضول بشأن الذكاء الاصطناعي؟ اطّلع على مستودع GitHub الخاص بنا، وانضم إلى مجتمعنا، واستكشف خيارات الترخيص لدينا لبدء مشروعك في مجال الذكاء الاصطناعي البصري. تعرّف على المزيد حول الابتكارات مثل الذكاء الاصطناعي في مجال البيع بالتجزئة والرؤية الحاسوبية في مجال الخدمات اللوجستية من خلال زيارة صفحات الحلول الخاصة بنا.