نشر نماذج Ultralytics YOLO باستخدام تكامل ExecuTorch

تعمل بعض تطبيقات رؤية الحاسوب، مثل الفحص الآلي للجودة، والطائرات بدون طيار المستقلة، أو أنظمة الأمان الذكية، بأفضل أداء عندما تعمل نماذج Ultralytics YOLO، مثل Ultralytics YOLO11، بالقرب من المستشعر الذي يلتقط الصور. وبعبارة أخرى، تحتاج هذه النماذج إلى معالجة البيانات مباشرة حيث يتم إنشاؤها، على الكاميرات أو الطائرات بدون طيار أو الأنظمة المدمجة، بدلاً من إرسالها إلى السحابة.

هذا النهج، المعروف باسم الذكاء الاصطناعي على الحافة (edge AI)، يمكّن النماذج من إجراء الاستنتاج مباشرة على الجهاز الذي يتم التقاط البيانات عليه. من خلال معالجة المعلومات محليًا بدلاً من الاعتماد على خوادم بعيدة، يمكن للأنظمة تحقيق زمن انتقال أقل، وخصوصية بيانات محسنة، وموثوقية أكبر، حتى في البيئات ذات الاتصال المحدود أو المنعدم بالإنترنت.

على سبيل المثال، لا يمكن لكاميرا تصنيع تفحص آلاف المنتجات كل دقيقة، أو طائرة بدون طيار تتنقل في بيئات معقدة، تحمل التأخيرات التي تصاحب المعالجة السحابية. يتيح تشغيل YOLO11 مباشرة على الجهاز استنتاجًا فوريًا على الجهاز.

لتسهيل تشغيل نماذج Ultralytics YOLO على الحافة وجعله أكثر كفاءة، يوفر تكامل ExecuTorch المدعوم من Ultralytics طريقة مبسطة لتصدير النماذج ونشرها مباشرة على الأجهزة المحمولة والمدمجة. يُعد ExecuTorch جزءًا من نظام PyTorch Edge ويوفر حلاً شاملاً لتشغيل نماذج الذكاء الاصطناعي مباشرة على أجهزة المحمول والحافة، بما في ذلك الهواتف، والأجهزة القابلة للارتداء، واللوحات المدمجة، والمتحكمات الدقيقة.

يجعل هذا التكامل من السهل نقل نموذج Ultralytics YOLO، مثل YOLO11، من التدريب إلى النشر على أجهزة الحافة. من خلال الجمع بين قدرات الرؤية في YOLO11 ووقت التشغيل خفيف الوزن الخاص بـ ExecuTorch وخط تصدير PyTorch، يمكن للمستخدمين نشر نماذج تعمل بكفاءة على أجهزة الحافة مع الحفاظ على دقة وأداء الاستنتاج القائم على PyTorch.

في هذه المقالة، سنلقي نظرة فاحصة على كيفية عمل تكامل ExecuTorch، ولماذا يُعد خيارًا ممتازًا لتطبيقات الذكاء الاصطناعي على الحافة، وكيف يمكنك البدء في نشر نماذج Ultralytics YOLO باستخدام ExecuTorch. لنبدأ!

Link to this sectionما هو ExecuTorch؟#

عادةً، عند تدريب نموذج في PyTorch، فإنه يعمل على خوادم قوية أو وحدات معالجة الرسومات (GPUs) في السحابة. ومع ذلك، فإن نشر النموذج نفسه على جهاز محمول أو مدمج، مثل الهاتف الذكي أو الطائرة بدون طيار أو المتحكم الدقيق، يتطلب حلاً متخصصًا يمكنه التعامل مع محدودية قوة الحوسبة والذاكرة والاتصال.

هذا بالضبط ما يجلبه ExecuTorch. ExecuTorch هو حل شامل تم تطويره كجزء من نظام PyTorch Edge الذي يتيح استنتاجًا فعالاً على الجهاز عبر منصات المحمول والمدمجة والحافة. إنه يوسع قدرات PyTorch إلى ما بعد السحابة، مما يسمح لنماذج الذكاء الاصطناعي بالعمل مباشرة على الأجهزة المحلية.

Link to this sectionجلب استنتاج PyTorch إلى الحافة#

في جوهره، يوفر ExecuTorch وقت تشغيل خفيف الوزن بلغة C++ يسمح لنماذج PyTorch بالتنفيذ مباشرة على الجهاز. يستخدم ExecuTorch تنسيق النموذج PyTorch ExecuTorch (.pte)، وهو تصدير محسن مصمم لتحميل أسرع، وبصمة ذاكرة أصغر، وقابلية نقل محسنة.

يدعم XNNPACK كخلفية افتراضية لاستنتاج فعال لوحدة المعالجة المركزية (CPU) ويوسع التوافق عبر مجموعة واسعة من خلفيات الأجهزة، بما في ذلك CoreML وMetal وVulkan وQualcomm وMediaTek وArm EthosU وOpenVINO وغيرها.

تمكّن هذه الخلفيات تسريعًا محسنًا على أجهزة المحمول والمدمجة وأجهزة الحافة المتخصصة. يتكامل ExecuTorch أيضًا مع خط تصدير PyTorch، مما يوفر دعمًا للميزات المتقدمة مثل التكميم (quantization) ومعالجة الشكل الديناميكي لتحسين الأداء والقدرة على التكيف عبر بيئات النشر المختلفة.

يقلل التكميم من حجم النموذج ويعزز سرعة الاستنتاج عن طريق تحويل القيم عالية الدقة (مثل القيم العائمة 32-بت) إلى قيم أقل دقة، بينما تُستخدم معالجة الشكل الديناميكي لتمكين النماذج من معالجة أحجام المدخلات المتغيرة بكفاءة. كلاهما ميزتان ضروريتان لتشغيل نماذج الذكاء الاصطناعي على أجهزة الحافة ذات الموارد المحدودة.

الشكل 1. نظرة على كيفية عمل ExecuTorch (المصدر)

Link to this sectionطبقة موحدة لأجهزة الحافة#

بصرف النظر عن وقت التشغيل، يعمل ExecuTorch أيضًا كطبقة تجريد موحدة لخلفيات أجهزة متعددة. ببساطة، إنه يجرد تفاصيل الأجهزة المحددة ويدير كيفية تفاعل النماذج مع وحدات المعالجة المختلفة، بما في ذلك وحدات المعالجة المركزية (CPUs) ووحدات معالجة الرسومات (GPUs) ووحدات المعالجة العصبية (NPUs).

بمجرد تصدير النموذج، يمكن تكوين ExecuTorch لاستهداف الخلفية الأكثر ملاءمة لجهاز معين. يمكن للمطورين نشر النماذج بكفاءة عبر أجهزة متنوعة دون كتابة كود مخصص خاص بالجهاز أو الحفاظ على سير عمل تحويل منفصل.

بفضل تصميمه المعياري والقابل للنقل وتكامله السلس مع PyTorch، يُعد ExecuTorch خيارًا رائعًا لنشر نماذج رؤية الحاسوب مثل Ultralytics YOLO11 على أنظمة المحمول والأنظمة المدمجة. إنه يسد الفجوة بين تدريب النماذج والنشر في العالم الحقيقي، مما يجعل الذكاء الاصطناعي على الحافة أسرع وأكثر كفاءة وأسهل في التنفيذ.

Link to this sectionالميزات الرئيسية لـ ExecuTorch#

قبل أن ننظر في كيفية تصدير نماذج Ultralytics YOLO إلى تنسيق ExecuTorch، دعنا نستكشف ما يجعل ExecuTorch خيارًا موثوقًا لنشر الذكاء الاصطناعي على الحافة.

إليك لمحة عن بعض ميزاته الرئيسية:

• دعم التكميم (Quantization support): يدعم ExecuTorch تكميم النموذج، وهي تقنية تحول القيم عالية الدقة إلى قيم أقل دقة لتقليل حجم النموذج وتسريع الاستنتاج. يساعد هذا النماذج على العمل بشكل أسرع واستخدام ذاكرة أقل على أجهزة الحافة مع الحفاظ على نفس مستوى الدقة تقريبًا.
• الاستخدام الفعال للذاكرة: إحدى أكبر مزايا ExecuTorch هي كيفية تعامله مع الذاكرة. بدلاً من الاعتماد على تخصيص الذاكرة الديناميكي، الذي يمكن أن يؤدي إلى زمن انتقال واستهلاك إضافي للطاقة، يستخدم ExecuTorch تخطيط الذاكرة المسبق (AOT). أثناء التصدير، يقوم بتحليل رسم النموذج مسبقًا ويحسب مقدار الذاكرة المطلوبة لكل عملية. يسمح هذا لوقت التشغيل بتنفيذ النماذج باستخدام خطة ذاكرة ثابتة، مما يضمن أداءً يمكن التنبؤ به ويمنع التباطؤ أو الانهيارات على الأجهزة ذات ذاكرة الوصول العشوائي (RAM) أو سعة المعالجة المحدودة.
• بيانات وصفية مدمجة للنموذج: عند التصدير باستخدام التكامل المدعوم من Ultralytics، يتضمن كل نموذج ملف YAML يحتوي على بيانات وصفية مهمة مثل حجم صورة الإدخال، وأسماء الفئات، ومعلمات التكوين. يبسط هذا الملف الإضافي تكامل النموذج في تطبيقات مختلفة ويضمن سلوكًا متسقًا عبر منصات الحافة المختلفة.

Link to this sectionكيفية تصدير نماذج Ultralytics YOLO إلى تنسيق ExecuTorch#

الآن وبعد أن أصبح لدينا فهم أفضل لما يقدمه ExecuTorch، دعنا نتناول كيفية تصدير نماذج Ultralytics YOLO إلى تنسيق ExecuTorch.

Link to this sectionالخطوة 1: تثبيت حزمة Ultralytics Python#

للبدء، ستحتاج إلى تثبيت حزمة Ultralytics Python باستخدام pip، وهو أداة تثبيت الحزم. يمكنك القيام بذلك عن طريق تشغيل "pip install ultralytics" في المحطة الطرفية أو موجه الأوامر الخاص بك.

إذا كنت تعمل في بيئة Jupyter Notebook أو Google Colab، فما عليك سوى إضافة علامة تعجب قبل الأمر، مثل "!pip install ultralytics". بمجرد التثبيت، توفر حزمة Ultralytics جميع الأدوات التي تحتاجها لتدريب واختبار وتصدير نماذج رؤية الحاسوب، بما في ذلك Ultralytics YOLO11.

إذا واجهت أي مشكلات أثناء التثبيت أو أثناء تصدير نموذجك، فإن وثائق Ultralytics الرسمية ودليل المشكلات الشائعة تحتوي على خطوات استكشاف الأخطاء وإصلاحها مفصلة وأفضل الممارسات لمساعدتك على البدء والعمل بسلاسة.

Link to this sectionالخطوة 2: تصدير Ultralytics YOLO11#

بعد تثبيت حزمة Ultralytics، يمكنك تحميل متغير من نموذج YOLO11 وتصديره إلى تنسيق ExecuTorch. على سبيل المثال، يمكنك استخدام نموذج مدرب مسبقًا مثل "yolo11n.pt" وتصديره عن طريق استدعاء دالة التصدير مع ضبط التنسيق على "executorch".

يؤدي هذا إلى إنشاء دليل يسمى "yolo11n_executorch_model"، والذي يتضمن ملف النموذج المحسن (.pte) وملف YAML بيانات وصفية منفصل يحتوي على تفاصيل مهمة مثل حجم الصورة وأسماء الفئات.

إليك الكود لتصدير نموذجك:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="executorch")

Link to this sectionالخطوة 3: إجراء الاستنتاجات بعد تصدير النموذج#

بمجرد التصدير، يصبح النموذج جاهزًا للنشر على أجهزة الحافة والمحمولة باستخدام وقت تشغيل ExecuTorch. يمكن تحميل ملف النموذج المصدّر .pte في تطبيقك لتشغيل استنتاج فوري على الجهاز دون الحاجة إلى اتصال بالسحابة.

على سبيل المثال، يوضح مقتطف الكود أدناه كيفية تحميل النموذج المصدّر وتشغيل الاستنتاج. يعني الاستنتاج ببساطة استخدام نموذج مدرب لعمل تنبؤات على بيانات جديدة. هنا، يتم اختبار النموذج على صورة حافلة مأخوذة من رابط عام.

executorch_model = YOLO("yolo11n_executorch_model")
results = executorch_model.predict("https://ultralytics.com/images/bus.jpg", save=True)

بعد تشغيل الكود، ستجد صورة المخرجات مع الكائنات المكتشفة محفوظة في المجلد "runs/detect/predict".

الشكل 2. اكتشاف الكائنات باستخدام نموذج YOLO11 مصدّر بتنسيق ExecuTorch.

Link to this sectionفوائد استخدام تكامل ExecuTorch#

أثناء استكشاف خيارات التصدير المختلفة المدعومة من Ultralytics، قد تتساءل عما يجعل تكامل ExecuTorch فريدًا. الاختلاف الرئيسي هو مدى جمعه الجيد بين الأداء والبساطة والمرونة، مما يجعل من السهل نشر نماذج ذكاء اصطناعي قوية مباشرة على الأجهزة المحمولة وأجهزة الحافة.

إليك نظرة على بعض المزايا الرئيسية لاستخدام تكامل ExecuTorch:

• خيارات نشر مرنة: يمكن نشر نماذج ExecuTorch عبر تطبيقات الهاتف المحمول، والأنظمة المدمجة، وأجهزة إنترنت الأشياء (IoT)، وأجهزة الذكاء الاصطناعي المتخصصة على الحافة. تمكّن هذه المرونة المطورين من بناء حلول ذكاء اصطناعي قابلة للتوسع تعمل بشكل متسق عبر منصات وبيئات متنوعة.
• أداء مثبت بالمعايير: تظهر الاختبارات على أجهزة مثل Raspberry Pi 5 أن نماذج YOLO11 المصدّرة إلى تنسيق ExecuTorch تعمل أسرع بمرتين تقريبًا من نظيراتها في PyTorch، مع دقة متطابقة تقريبًا.
• واجهات برمجة تطبيقات (API) تكامل مرنة: يوفر ExecuTorch واجهات برمجة تطبيقات C++ وKotlin وObjective-C لنظامي iOS وAndroid وأنظمة Linux المدمجة، مما يسمح للمطورين بدمج نماذج YOLO مباشرة في التطبيقات الأصلية.
• دعم تسريع الأجهزة: يدعم ExecuTorch خلفيات متعددة لتسريع الأجهزة، بما في ذلك Vulkan وMetal لوحدات معالجة الرسومات للهواتف المحمولة، مع تكامل اختياري لـ OpenCL وواجهات برمجة تطبيقات أخرى خاصة بالبائعين. يمكنه أيضًا الاستفادة من المسرعات المخصصة مثل وحدات المعالجة العصبية (NPUs) ومعالجات الإشارات الرقمية (DSPs) لتحقيق تسريعات كبيرة مقارنة بالاستنتاج المعتمد على وحدة المعالجة المركزية (CPU) فقط.

Link to this sectionتطبيقات العالم الحقيقي لـ YOLO11 وتصدير ExecuTorch#

مؤخرًا، تم الاعتراف بـ Ultralytics كـ قصة نجاح PyTorch ExecuTorch، مما يبرز دعمنا المبكر للاستنتاج على الجهاز ومساهماتنا المستمرة في نظام PyTorch البيئي. يعكس هذا الاعتراف هدفًا مشتركًا يتمثل في جعل الذكاء الاصطناعي عالي الأداء أكثر سهولة على منصات المحمول والحافة.

Link to this sectionمن السحابة إلى الحافة: كيف تجعل ExecuTorch وYOLO11 ذكاء الرؤية الاصطناعي ينبض بالحياة#

في الواقع، يبدو هذا كحلول ذكاء اصطناعي للرؤية في العالم الحقيقي تعمل بكفاءة على كل شيء من الهواتف الذكية إلى الأنظمة المدمجة. على سبيل المثال، في التصنيع، تلعب أجهزة الحافة دورًا حاسمًا في مراقبة خطوط الإنتاج واكتشاف العيوب في الوقت الفعلي.

الشكل 3. مثال على استخدام YOLO11 لتحليل خط تجميع التصنيع. (المصدر)

بدلاً من إرسال الصور أو بيانات المستشعرات إلى السحابة للمعالجة، وهو ما قد يسبب تأخيرات ويعتمد على اتصال الإنترنت، يمكّن تكامل ExecuTorch نماذج YOLO11 من العمل مباشرة على الأجهزة المحلية. هذا يعني أن المصانع يمكنها اكتشاف مشاكل الجودة على الفور، وتقليل وقت التوقف، والحفاظ على خصوصية البيانات، كل ذلك أثناء العمل بموارد حوسبة محدودة.

إليك بعض الأمثلة الأخرى على كيفية تطبيق تكامل ExecuTorch ونماذج Ultralytics YOLO:

• المدن الذكية: من خلال تشغيل نماذج YOLO11 محليًا باستخدام ExecuTorch، يمكن للمدن اتخاذ قرارات أسرع وقائمة على البيانات، بدءًا من اكتشاف الاختناقات المرورية وحتى تحديد المخاطر، مما يحسن التنقل والسلامة بشكل عام.
• البيع بالتجزئة والتخزين: من خلال الاستنتاج على الجهاز، يمكن لتجار التجزئة أتمتة مراقبة الأرفف، وتتبع المخزون، وفحص الطرود بسرعة وأمان دون الاعتماد على اتصالات سحابية.
• الروبوتات والطائرات بدون طيار: تتيح نماذج YOLO11 المحسنة للحافة للروبوتات والطائرات بدون طيار التعرف على الكائنات، والتنقل في البيئات، واتخاذ قرارات في الوقت الفعلي حتى بدون اتصال بالإنترنت.

الشكل 4. اكتشاف وحساب السيارات في حركة المرور باستخدام YOLO11 (المصدر)

Link to this sectionأبرز النقاط#

تسهّل عملية تصدير نماذج Ultralytics YOLO إلى تنسيق ExecuTorch نشر نماذج رؤية الحاسوب عبر العديد من الأجهزة، بما في ذلك الهواتف الذكية والأجهزة اللوحية والأنظمة المدمجة مثل Raspberry Pi. هذا يعني أنه من الممكن تشغيل استنتاج محسن على الجهاز دون الاعتماد على الاتصال بالسحابة، مما يحسن السرعة والخصوصية والموثوقية.

إلى جانب ExecuTorch، تدعم Ultralytics مجموعة واسعة من التكاملات، بما في ذلك TensorRT وOpenVINO وCoreML والمزيد، مما يمنح المطورين المرونة لتشغيل نماذجهم عبر المنصات. مع نمو اعتماد الذكاء الاصطناعي في الرؤية، تبسط هذه التكاملات نشر الأنظمة الذكية المصممة للعمل بكفاءة في ظروف العالم الحقيقي.

هل تشعر بالفضول تجاه الذكاء الاصطناعي؟ تحقق من مستودع GitHub الخاص بنا، وانضم إلى مجتمعنا، واستكشف خيارات الترخيص لدينا لبدء مشروعك في مجال الذكاء الاصطناعي للرؤية. تعرف على المزيد حول الابتكارات مثل الذكاء الاصطناعي في البيع بالتجزئة ورؤية الحاسوب في الخدمات اللوجستية من خلال زيارة صفحات الحلول الخاصة بنا.