تحسين نماذج Ultralytics YOLO باستخدام تكامل TensorRT

تخيّل سيارة ذاتية القيادة تسير في شارع مزدحم، ولا يفصلها سوى أجزاء من الألف من الثانية عن اكتشاف أحد المشاة وهو ينزل عن الرصيف. وفي الوقت نفسه، قد تحتاج إلى التعرّف على إشارة توقف يحجبها جزئيًا شجر، أو الاستجابة بسرعة لمركبة قريبة تنحرف إلى مسارها. وفي مثل هذه المواقف، تكون السرعة والاستجابة في الزمن الفعلي أمرين حاسمين.

هنا يؤدي الذكاء الاصطناعي (AI)، وتحديدًا الرؤية الحاسوبية، وهي فرع من الذكاء الاصطناعي يساعد الآلات على تفسير البيانات المرئية، دورًا أساسيًا. ولكي تعمل حلول الرؤية الحاسوبية بموثوقية في بيئات العالم الحقيقي، غالبًا ما تحتاج إلى معالجة المعلومات بسرعة، والتعامل مع مهام متعددة في آن واحد، واستخدام الذاكرة بكفاءة.

تتمثل إحدى طرق تحقيق ذلك في تسريع العتاد، باستخدام أجهزة متخصصة مثل وحدات معالجة الرسوميات (GPUs) لتشغيل النماذج بسرعة أكبر. وتشتهر وحدات NVIDIA GPU على نحو خاص بهذه المهام، بفضل قدرتها على توفير زمن استجابة منخفض ومعدل نقل عالٍ.

لكن تشغيل نموذج على GPU كما هو لا يضمن دائمًا تحقيق الأداء الأمثل. وتتطلب نماذج ذكاء الرؤية عادةً تحسينًا للاستفادة الكاملة من إمكانات الأجهزة. ولتحقيق الأداء الكامل على عتاد محدد، علينا ترجمة النموذج لاستخدام مجموعة التعليمات الخاصة بذلك العتاد.

على سبيل المثال، TensorRT هو تنسيق تصدير ومكتبة تحسين طورتها NVIDIA لتعزيز الأداء على وحدات GPU من NVIDIA. ويستخدم تقنيات متقدمة لتقليل زمن الاستدلال بدرجة كبيرة مع الحفاظ على الدقة.

الشكل 1. يتيح NVIDIA TensorRT تشغيل النماذج على النحو الأمثل على أجهزة NVIDIA المختلفة.

في هذه المقالة، سنستكشف تكامل TensorRT الذي تدعمه Ultralytics، ونوضح كيفية تصدير نموذج YOLO11 لتشغيله بسرعة وكفاءة أكبر عند نشره على عتاد NVIDIA. لنبدأ!

نظرة عامة على TensorRT#

TensorRT مجموعة أدوات طورتها NVIDIA لمساعدة نماذج الذكاء الاصطناعي على العمل بسرعة وكفاءة أكبر على وحدات NVIDIA GPU. وقد صُممت للتطبيقات الواقعية التي تكون فيها السرعة والأداء بالغَي الأهمية، مثل السيارات ذاتية القيادة ومراقبة الجودة في التصنيع والصناعات الدوائية.

يتضمن TensorRT أدوات مثل المترجمات ومحسّنات النماذج، التي تعمل في الخلفية لضمان انخفاض زمن استجابة النماذج وقدرتها على التعامل مع معدل نقل أعلى.

يعمل تكامل TensorRT الذي تدعمه Ultralytics على تحسين نموذج YOLO لتشغيله بكفاءة أكبر على وحدات GPU باستخدام أساليب مثل تقليل الدقة. ويعني ذلك استخدام تنسيقات أقل عددًا من البتات، مثل الفاصلة العائمة ذات 16 بت (FP16) أو الأعداد الصحيحة ذات 8 بت (INT8)، لتمثيل بيانات النموذج، ما يقلل استخدام الذاكرة ويسرّع العمليات الحسابية مع تأثير ضئيل في الدقة.

كذلك، تُدمج طبقات الشبكات العصبية المتوافقة في نماذج TensorRT المحسّنة لتقليل استهلاك الذاكرة، ما يؤدي إلى استدلال أسرع وأكثر كفاءة.

الشكل 2. نظرة على تقنية دمج الطبقات في TensorRT.

الميزات الرئيسية لتنسيق تصدير TensorRT#

قبل مناقشة كيفية تصدير Ultralytics YOLO11 باستخدام تكامل TensorRT، دعونا نلقي نظرة على بعض الميزات الرئيسية لتنسيق نموذج TensorRT:

• سهولة التكامل مع أطر العمل: يدعم TensorRT التكامل المباشر مع أطر عمل الذكاء الاصطناعي الشائعة، مثل PyTorch وHugging Face وONNX، ويوفر أداءً أسرع بما يصل إلى 6 أضعاف. كما يدعم MATLAB، ما يتيح تطوير محركات ذكاء اصطناعي عالية السرعة على منصات مثل Jetson وNVIDIA DRIVE ومراكز البيانات.
• نشر قابل للتوسع باستخدام Triton: يمكن نشر النماذج المحسّنة بتنسيق TensorRT على نطاق واسع باستخدام NVIDIA Triton Inference Server، الذي يعزز الكفاءة بميزات مثل تجميع المدخلات على دفعات، والتنفيذ المتزامن للنماذج، ودعم تجميع النماذج، والبث الصوتي والمرئي في الزمن الفعلي.
• مرونة عبر الأجهزة: يعمل TensorRT على امتداد منظومة NVIDIA بأكملها، من الأجهزة الطرفية الصغيرة إلى الخوادم القوية، ويدعم أدوات مثل DeepStream للفيديو وRiva للذكاء الاصطناعي الصوتي، وأدوات أخرى للأمن السيبراني والتوصيات وغير ذلك.

كيف يعمل تكامل TensorRT؟#

من السهل تصدير نماذج Ultralytics YOLO، مثل Ultralytics YOLO11، إلى تنسيق نموذج TensorRT. دعونا نستعرض الخطوات اللازمة.

للبدء، يمكنك تثبيت حزمة Ultralytics Python باستخدام مدير حزم مثل pip. ويمكنك ذلك بتشغيل الأمر pip install ultralytics في موجه الأوامر أو الطرفية.

بعد تثبيت حزمة Ultralytics Python بنجاح، يمكنك تدريب النماذج واختبارها وضبطها الدقيق وتصديرها ونشرها لمهام الرؤية الحاسوبية المختلفة، مثل اكتشاف العناصر والتصنيف والتقسيم على مستوى المثيلات. وإذا واجهت أي صعوبات أثناء تثبيت الحزمة، يمكنك الرجوع إلى دليل المشكلات الشائعة للاطلاع على الحلول والنصائح.

في الخطوة التالية، ستحتاج إلى جهاز NVIDIA. استخدم مقتطف التعليمات البرمجية أدناه لتحميل YOLO11 وتصديره إلى تنسيق نموذج TensorRT. فهو يحمّل إصدار نانو مدرّبًا مسبقًا من نموذج YOLO11 (yolo11n.pt) ويصدّره كملف محرك TensorRT (yolo11n.engine)، ليصبح جاهزًا للنشر على أجهزة NVIDIA المختلفة.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="engine")

بعد تحويل النموذج إلى تنسيق TensorRT، يمكنك نشره في تطبيقات مختلفة.

يوضح المثال أدناه كيفية تحميل نموذج YOLO11 المُصدّر (yolo11n.engine) وتشغيل الاستدلال باستخدامه. يتضمن الاستدلال استخدام النموذج المدرّب لإجراء تنبؤات على بيانات جديدة. وفي هذه الحالة، سنستخدم صورة مُدخلة لكلب لاختبار النموذج.

tensorrt_model = YOLO("yolo11n.engine")
results = tensorrt_model("https://images.pexels.com/photos/1254140/pexels-photo-1254140.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

عند تشغيل هذه التعليمات البرمجية، ستُحفظ صورة المخرجات التالية في المجلد runs/detect/predict.

الشكل 3. نتيجة إجراء استدلال باستخدام نموذج Ultralytics YOLO11 المُصدّر بتنسيق TensorRT.

متى تستفيد من تكامل TensorRT؟#

تدعم حزمة Ultralytics Python عمليات تكامل متنوعة تتيح تصدير نماذج YOLO إلى تنسيقات مختلفة، مثل TorchScript وCoreML وONNX وTensorRT. فمتى ينبغي اختيار تكامل TensorRT؟

فيما يلي بعض العوامل التي تميز تنسيق نموذج TensorRT عن خيارات التكامل الأخرى للتصدير:

• حجم نموذج أصغر: يمكن أن يؤدي تصدير نموذج YOLO إلى تنسيق TensorRT بدقة INT8 (quantize=8) إلى تقليل حجم النموذج بدرجة كبيرة. وقد يؤدي التكميم من FP32 إلى INT8 إلى خفض حجم النموذج بمقدار 4x، ما يتيح تنزيلًا أسرع ومتطلبات تخزين أقل وحجمًا أصغر للذاكرة أثناء النشر.
• استهلاك طاقة أقل: لا يقلل تكميم INT8 حجم النموذج فحسب، بل يخفض أيضًا استهلاك الطاقة. ويمكن أن تستهلك العمليات ذات الدقة المخفضة في نماذج YOLO المُصدّرة بتنسيق INT8 طاقة أقل مقارنةً بنماذج FP32، وهو ما يفيد خصوصًا الأجهزة العاملة بالبطارية، مثل الطائرات المسيّرة والهواتف الذكية والأجهزة الطرفية.
• أداء أسرع: يمكن أن يؤدي الجمع بين بنية YOLO الفعالة وتحسين INT8 في TensorRT إلى زيادة سرعة الاستدلال.

تطبيقات Ultralytics YOLO11 وتنسيق نموذج TensorRT#

يمكن نشر نماذج Ultralytics YOLO المُصدّرة بتنسيق TensorRT في مجموعة واسعة من سيناريوهات العالم الحقيقي. وتفيد هذه النماذج المحسّنة على نحو خاص عندما يكون الأداء السريع والفعال للذكاء الاصطناعي أساسيًا. دعونا نستكشف بعض الأمثلة المثيرة للاهتمام على استخدامها.

نقاط الدفع الذكية في متاجر التجزئة#

لا يزال الموظفون يتولون يدويًا طيفًا واسعًا من المهام في متاجر التجزئة، مثل مسح الرموز الشريطية ووزن المنتجات وتغليف السلع. لكن الاعتماد على الموظفين وحدهم قد يبطئ العمليات ويؤدي إلى استياء العملاء، لا سيما عند الدفع. فالطوابير الطويلة مزعجة للمتسوقين وأصحاب المتاجر على حد سواء. وتُعد نقاط الدفع الذاتي الذكية حلًا ممتازًا لهذه المشكلة.

تستخدم هذه النقاط الرؤية الحاسوبية ووحدات GPU لتسريع العملية والمساعدة على تقليل أوقات الانتظار. وتمكّن الرؤية الحاسوبية هذه الأنظمة من رؤية بيئتها وفهمها عبر مهام مثل اكتشاف العناصر. ويمكن للنماذج المتقدمة، مثل Ultralytics YOLO11، أن تعمل بسرعة أكبر بكثير على أجهزة GPU عند تحسينها بأدوات مثل TensorRT.

تتناسب هذه النماذج المُصدّرة جيدًا مع تجهيزات البيع بالتجزئة الذكية التي تستخدم أجهزة عتادية مدمجة لكنها قوية، مثل NVIDIA Jetson Nano، المصمم خصيصًا لتطبيقات الذكاء الاصطناعي الطرفي.

الشكل 4. مثال على نقطة دفع ذكية.

اكتشاف العيوب آليًا في التصنيع#

يمكن تدريب نموذج للرؤية الحاسوبية، مثل Ultralytics YOLO11، تدريبًا مخصصًا لاكتشاف المنتجات المعيبة في قطاع التصنيع. وبعد تدريبه، يمكن تصدير النموذج إلى تنسيق TensorRT لنشره في منشآت مجهزة بأنظمة ذكاء اصطناعي عالية الأداء.

أثناء تحرك المنتجات على سيور النقل، تلتقط الكاميرات صورًا لها، ويحللها نموذج Ultralytics YOLO11، الذي يعمل بتنسيق TensorRT، في الزمن الفعلي لاكتشاف العيوب. ويتيح هذا الإعداد للشركات رصد المشكلات بسرعة ودقة، ما يقلل الأخطاء ويحسن الكفاءة.

وبالمثل، تستخدم قطاعات مثل الصناعات الدوائية هذه الأنظمة لاكتشاف العيوب في العبوات الطبية. ومن المتوقع أن ينمو حجم السوق العالمية لـأنظمة اكتشاف العيوب الذكية إلى 5 مليارات دولار بحلول عام 2026.

الشكل 5. استخدام YOLO لاكتشاف العيوب في صناعة الأدوية.

اعتبارات يجب مراعاتها عند استخدام TensorRT#

رغم أن تكامل TensorRT يوفر مزايا عديدة، مثل تسريع الاستدلال وتقليل زمن الانتقال، فإليك بعض القيود التي ينبغي مراعاتها:

• انخفاض طفيف في الدقة: عند تصدير النموذج بتنسيق TensorRT، قد يكون النموذج المُصدّر أقل دقة من النموذج الأصلي. وقد تنخفض قليلًا مقاييس الأداء، مثل الدقة والاستدعاء ومدى جودة اكتشاف النموذج للأجسام (درجات mAP). ويمكن الحد من ذلك باستخدام مجموعة بيانات معايرة تمثيلية (الوسيطة data) أثناء التكميم إلى INT8.
• زيادة تعقيد تصحيح الأخطاء: قد تجعل التحسينات التي يجريها TensorRT تتبُّع الأخطاء أو فهم السلوك غير المتوقع أكثر صعوبة، لا سيما عند مقارنة النتائج بنتائج النموذج الأصلي.
• الحساسية لحجم الدفعة: تبرز مكاسب الأداء التي يحققها TensorRT أكثر مع أحجام الدفعات الكبيرة. أما التطبيقات التي تعالج صورًا مفردة أو دفعات صغيرة، فقد تكون تحسينات الأداء فيها أقل وضوحًا.

أبرز النقاط#

يؤدي تصدير نماذج Ultralytics YOLO إلى تنسيق TensorRT إلى تشغيلها بسرعة وكفاءة أكبر بكثير، ما يجعلها مثالية للمهام الآنية، مثل اكتشاف العيوب في المصانع، وتشغيل أنظمة الدفع الذكية، ومراقبة المناطق الحضرية المزدحمة.

يساعد هذا التحسين النماذج على الأداء بشكل أفضل على وحدات معالجة الرسومات من NVIDIA، من خلال تسريع التنبؤات وتقليل استهلاك الذاكرة والطاقة. وعلى الرغم من وجود بعض القيود، فإن تعزيز الأداء يجعل تكامل TensorRT خيارًا ممتازًا لكل من يبني أنظمة رؤية حاسوبية عالية السرعة على أجهزة NVIDIA.

هل ترغب في معرفة المزيد عن الذكاء الاصطناعي؟ استكشف مستودع GitHub، وتواصل مع مجتمعنا، واطّلع على خيارات الترخيص لبدء مشروعك في الرؤية الحاسوبية. تعرّف على المزيد عن ابتكارات مثل الذكاء الاصطناعي في التصنيع والرؤية الحاسوبية في قطاع الخدمات اللوجستية عبر صفحات حلولنا.