نشر نماذج Ultralytics YOLOv8 المكممة على أجهزة الحافة باستخدام DeGirum

مرحباً بك في ملخص لخطاب آخر مليء بالرؤى من فعالية YOLO VISION 2023 (YV23) الخاصة بنا، والتي أقيمت في حرم Google for Startups الحيوي في مدريد. تم تقديم هذا الخطاب بواسطة Shashi Chilappagar، كبير المهندسين المعماريين والمؤسس المشارك في شركة DeGirum. وقد تعمق في عالم الكمية المذهل ونشر النمزجة الكمية، مستكشفاً التحديات والحلول الرئيسية والإمكانيات المستقبلية.

مقدمة حول التكميم ونشر النماذج المكممة#

قدم Shashi نظرة عامة شاملة عن الكمية، مسلطاً الضوء على أهميتها في تحسين نماذج Ultralytics YOLO لنشرها على أجهزة الحافة. من مناقشة الأساسيات إلى استكشاف النهج لتحسين الكمية، اكتسب الحاضرون رؤى قيمة حول تعقيدات نقل النماذج ونشرها.

تحديات تكميم نماذج YOLO#

غالباً ما تطرح الكمية تحديات، لا سيما مع نماذج YOLO في TFLite. لقد علم جمهورنا بالانخفاض الكبير في الدقة الملوحظ عند كمية جميع المخرجات بنفس المقياس/نقطة الصفر، مما سلط الضوء على تعقيدات الحفاظ على دقة النماذج أثناء عملية الكمية.

تحسين تكميم نماذج YOLO#

لحسن الحظ، توجد حلول لمعالجة هذه التحديات. يوفر تقديم نسخة DeGirum نهجاً صديقاً للتكميم من خلال فصل المخرجات وتحسين فك تشفير المربعات المحيطة. ومع هذه التحسينات، تشهد دقة النماذج المكممة تحسناً ملحوظاً عن مستويات خط الأساس.

بنيات نماذج أكثر ملاءمة للتكميم#

يعد استكشاف بنيات نماذج جديدة أمراً أساسياً لتقليل فقدان التكميم. اكتشف الحضور كيف يؤدي استبدال SiLU بدالة التنشيط Bounded ReLU6 إلى حد أدنى من فقدان التكميم، مما يوفر نتائج واعدة للحفاظ على الدقة في النماذج المكممة.

نشر النماذج المكممة#

لم يكن نشر النماذج الكمية أسهل من ذي قبل، حيث يلزم خمسة أسطر فقط من التعليمات البرمجية لتشغيل أي نموذج على منصة سحابة DeGirum. عرض توضيحي مباشر للتعليمات البرمجية أظهر بساطة اكتشاف الكائنات باستخدام نموذج Ultralytics YOLOv5 الكمي، مسلطاً الضوء على التكامل السلس للنماذج الكمية في التطبيقات الواقعية.

لهذه الغاية، توفر Ultralytics مجموعة متنوعة من خيارات نشر النماذج، مما يتيح للمستخدمين النهائيين نشر تطبيقاتهم بفعالية على الأجهزة المضمنة وأجهزة الحافة. تشمل تنسيقات التصدير المختلفة OpenVINO، وTorchScript، وTensorRT، وCoreML، وTFLite، وTFLite Edge TPU، مما يوفر المرونة والتوافق.

يسمح هذا التكامل مع تطبيقات الطرف الثالث للنشر للمستخدمين بتقييم أداء نماذجنا في سيناريوهات واقعية.

استخدام نماذج مختلفة على أجهزة مختلفة#

اكتسب الحضور أيضاً رؤى حول تنوع نشر نماذج مختلفة على منصات أجهزة متنوعة، مما يوضح كيف يمكن لقاعدة كود واحدة دعم نماذج متعددة عبر مسرعات مختلفة. أوضحت أمثلة تشغيل مهام اكتشاف مختلفة على منصات أجهزة متنوعة المرونة وقابلية التوسع لنهجنا.

الموارد والوثائق#

لتمكين الحاضرين بشكل أكبر، قدمنا قسم موارد شامل، يوفر الوصول إلى منصتنا السحابية، والأمثلة، والتوثيق، والمزيد. هدفنا هو ضمان حصول الجميع على الأدوات والدعم الذي يحتاجونه للنجاح في نشر النماذج الكمية بفعالية.

ختاماً#

مع تطور مجال الكمية، من الضروري البقاء على اطلاع ومشاركة. نحن ملتزمون بتوفير الدعم المستمر والموارد لمساعدتك في التنقل في هذه الرحلة المثيرة. تحقق من الخطاب الكامل Watch the full talk!

انضم إلينا بينما نواصل استكشاف أحدث الاتجاهات والابتكارات في التعلم الآلي والذكاء الاصطناعي. معاً، نشكل مستقبل التكنولوجيا ونقود تغييراً إيجابياً في العالم.