تحسين نماذج Ultralytics YOLO باستخدام تكامل TensorRT

تخيل سيارة ذاتية القيادة تتحرك في شارع مزدحم، حيث لا تملك سوى أجزاء من الثانية لاكتشاف أحد المشاة الذي يهم بعبور الطريق. في الوقت نفسه، قد تحتاج السيارة إلى التعرف على لافتة توقف مخفية جزئياً خلف شجرة أو الاستجابة بسرعة لمركبة قريبة تنحرف إلى مسارها. في مثل هذه المواقف، تعد السرعة والاستجابات في الوقت الفعلي أمراً بالغ الأهمية.

هنا يأتي دور الذكاء الاصطناعي (AI)، وتحديداً الرؤية الحاسوبية، وهو فرع من الذكاء الاصطناعي يساعد الآلات على تفسير البيانات المرئية، والذي يلعب دوراً رئيسياً. لكي تعمل حلول الرؤية الحاسوبية بشكل موثوق في البيئات الواقعية، غالباً ما تحتاج إلى معالجة المعلومات بسرعة، والتعامل مع مهام متعددة في آن واحد، واستخدام الذاكرة بكفاءة.

إحدى الطرق لتحقيق ذلك هي من خلال تسريع الأجهزة، باستخدام أجهزة متخصصة مثل وحدات معالجة الرسومات (GPUs) لتشغيل النماذج بشكل أسرع. تشتهر وحدات معالجة الرسومات NVIDIA بشكل خاص بهذه المهام، بفضل قدرتها على توفير زمن انتقال منخفض وإنتاجية عالية.

ومع ذلك، فإن تشغيل نموذج على GPU كما هو لا يضمن دائماً الأداء الأمثل. تتطلب نماذج الرؤية الحاسوبية القائمة على الذكاء الاصطناعي عادةً تحسيناً للاستفادة الكاملة من إمكانات أجهزة العتاد. ومن أجل تحقيق الأداء الكامل مع عتاد معين، نحتاج إلى تجميع النموذج لاستخدام مجموعة التعليمات المحددة لذلك العتاد.

على سبيل المثال، TensorRT هو تنسيق تصدير ومكتبة تحسين طورتها NVIDIA لتعزيز الأداء على الأجهزة عالية المواصفات. ويستخدم تقنيات متقدمة لتقليل وقت الاستدلال بشكل كبير مع الحفاظ على الدقة.

شكل 1. تُمكّن NVIDIA TensorRT النماذج من العمل بشكل أمثل على مختلف أجهزة NVIDIA.

في هذه المقالة، سنستكشف تكامل TensorRT المدعوم من Ultralytics وسنستعرض كيفية تصدير نموذج YOLO11 الخاص بك لنشره بشكل أسرع وأكثر كفاءة على عتاد NVIDIA. لنبدأ!

Link to this sectionنظرة عامة على TensorRT#

TensorRT عبارة عن مجموعة أدوات طورتها NVIDIA لمساعدة نماذج الذكاء الاصطناعي على العمل بشكل أسرع وأكثر كفاءة على وحدات معالجة الرسومات من NVIDIA. وهي مصممة للتطبيقات الواقعية حيث تعد السرعة والأداء أمراً جوهرياً، مثل السيارات ذاتية القيادة ومراقبة الجودة في التصنيع والصناعات الدوائية.

يتضمن TensorRT أدوات مثل المجمعات (compilers) ومحسنات النماذج التي تعمل في الخلفية لضمان تشغيل نماذجك بزمن انتقال منخفض وقدرة على التعامل مع إنتاجية أعلى.

يعمل تكامل TensorRT المدعوم من Ultralytics على تحسين نموذج YOLO الخاص بك ليعمل بكفاءة أكبر على وحدات معالجة الرسومات باستخدام طرق مثل تقليل الدقة. يشير هذا إلى استخدام تنسيقات ذات بتات أقل، مثل الفاصلة العائمة 16-بت (FP16) أو الأعداد الصحيحة 8-بت (INT8)، لتمثيل بيانات النموذج، مما يقلل من استخدام الذاكرة ويسرع عملية الحساب مع تأثير ضئيل على الدقة.

بالإضافة إلى ذلك، يتم دمج طبقات الشبكة العصبية المتوافقة في نماذج TensorRT المحسنة لتقليل استخدام الذاكرة، مما يؤدي إلى استدلال أسرع وأكثر كفاءة.

شكل 2. نظرة على تقنية دمج الطبقات في TensorRT.

Link to this sectionالميزات الرئيسية لتنسيق تصدير TensorRT#

قبل أن نناقش كيفية تصدير YOLO11 باستخدام تكامل TensorRT، دعونا نلقي نظرة على بعض الميزات الرئيسية لتنسيق نموذج TensorRT:

• تكامل سهل مع الأطر البرمجية: يدعم TensorRT التكامل المباشر مع أطر الذكاء الاصطناعي الشهيرة مثل PyTorch وHugging Face وONNX، مما يوفر أداءً أسرع بما يصل إلى 6 مرات. كما أنه يدعم MATLAB، مما يتيح تطوير محركات ذكاء اصطناعي عالية السرعة على منصات مثل Jetson وNVIDIA DRIVE ومراكز البيانات.

• نشر قابل للتوسع مع Triton: يمكن نشر النماذج المحسنة بتنسيق TensorRT على نطاق واسع باستخدام NVIDIA Triton Inference Server، مما يعزز الكفاءة من خلال ميزات مثل تجميع المدخلات (input batching)، وتنفيذ النماذج المتزامن، ودعم مجموعات النماذج، والبث الصوتي/المرئي في الوقت الفعلي.

• مرونة عبر الأجهزة: من أجهزة الحافة الصغيرة إلى الخوادم القوية، يعمل TensorRT عبر نظام NVIDIA البيئي بأكمله، ويدعم أدوات مثل DeepStream للفيديو، وRiva للذكاء الاصطناعي الصوتي، وغيرها من الأدوات للأمن السيبراني، والتوصيات، والمزيد.

Link to this sectionكيف يعمل تكامل TensorRT؟#

يعد تصدير نماذج Ultralytics YOLO مثل Ultralytics YOLO11 إلى تنسيق نموذج TensorRT أمراً سهلاً. دعونا نستعرض الخطوات المتبعة.

للبدء، يمكنك تثبيت حزمة Ultralytics Python باستخدام مدير حزم مثل 'pip'. يمكن القيام بذلك عن طريق تشغيل الأمر “pip install ultralytics” في موجه الأوامر أو المحطة الطرفية (terminal).

بعد تثبيت حزمة Ultralytics Python بنجاح، يمكنك تدريب النماذج واختبارها وضبطها وتصديرها ونشرها لمختلف مهام الرؤية الحاسوبية، مثل اكتشاف الكائنات، والتصنيف، وتجزئة المثيلات. أثناء تثبيت الحزمة، إذا واجهت أي صعوبات، يمكنك الرجوع إلى دليل المشكلات الشائعة للحصول على الحلول والنصائح.

للخطوة التالية، ستحتاج إلى جهاز NVIDIA. استخدم مقتطف الشفرة أدناه لتحميل وتصدير YOLO11 إلى تنسيق نموذج TensorRT. يقوم المقتطف بتحميل نسخة nano المدربة مسبقاً من نموذج YOLO11 (yolo11n.pt) وتصديرها كملف محرك TensorRT (yolo11n.engine)، مما يجعله جاهزاً للنشر عبر أجهزة NVIDIA.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="engine")

بعد تحويل نموذجك إلى تنسيق TensorRT، يمكنك نشره لتطبيقات متنوعة.

يوضح المثال أدناه كيفية تحميل نموذج YOLO11 المُصدّر (yolo11n.engine) وإجراء الاستدلال باستخدامه. يتضمن الاستدلال استخدام النموذج المدرب لعمل تنبؤات على بيانات جديدة. في هذه الحالة، سنستخدم صورة إدخال لكلب لاختبار النموذج.

tensorrt_model = YOLO("yolo11n.engine")
results = tensorrt_model("https://images.pexels.com/photos/1254140/pexels-photo-1254140.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

عند تشغيل هذه الشفرة، سيتم حفظ صورة المخرجات الناتجة في المجلد runs/detect/predict.

شكل 3. نتيجة تشغيل استدلال باستخدام نموذج YOLO11 المصدر بتنسيق TensorRT.

Link to this sectionمتى يجب الاستفادة من تكامل TensorRT#

تدعم حزمة Ultralytics Python تكاملات متنوعة تسمح بـ تصدير نماذج YOLO إلى تنسيقات مختلفة مثل TorchScript وCoreML وONNX وTensorRT. إذن، متى يجب عليك اختيار استخدام تكامل TensorRT؟

فيما يلي بعض العوامل التي تميز تنسيق نموذج TensorRT عن خيارات التكامل الأخرى للتصدير:

• حجم نموذج أصغر: يمكن أن يؤدي تصدير نموذج YOLO إلى تنسيق TensorRT بدقة INT8 إلى تقليل حجم النموذج بشكل كبير. يمكن أن يؤدي التكميم (Quantization) من FP32 إلى INT8 إلى تقليل حجم النموذج بمقدار 4 مرات، مما يتيح أوقات تنزيل أسرع، ومتطلبات تخزين أقل، وبصمة ذاكرة منخفضة أثناء النشر.

• استهلاك طاقة أقل: لا يؤدي تكميم INT8 إلى تقليل حجم النموذج فحسب، بل يقلل أيضاً من استهلاك الطاقة. يمكن لعمليات الدقة المنخفضة لنماذج YOLO المصدرة بنظام INT8 أن تستهلك طاقة أقل مقارنة بنماذج FP32، وهو أمر مفيد بشكل خاص للأجهزة التي تعمل بالبطارية مثل الطائرات بدون طيار، والهواتف الذكية، أو أجهزة الحافة.

• أداء أسرع: الجمع بين بنية YOLO الفعالة وتحسين INT8 في TensorRT يمكن أن يحسن سرعات الاستدلال.

Link to this sectionتطبيقات YOLO11 وتنسيق نموذج TensorRT#

يمكن نشر نماذج Ultralytics YOLO المصدرة إلى تنسيق TensorRT عبر مجموعة واسعة من السيناريوهات الواقعية. تعد هذه النماذج المحسنة مفيدة بشكل خاص حيث يكون أداء الذكاء الاصطناعي السريع والفعال أمراً أساسياً. دعونا نستكشف بعض الأمثلة المثيرة للاهتمام حول كيفية استخدامها.

Link to this sectionأكشاك الدفع الذكية في متاجر التجزئة#

لا تزال مجموعة واسعة من المهام في متاجر التجزئة، مثل مسح الباركود، أو وزن المنتجات، أو تغليف العناصر، تُدار يدوياً من قبل الموظفين. ومع ذلك، فإن الاعتماد الكلي على الموظفين يمكن أن يبطئ العمليات ويؤدي إلى إحباط العملاء، خاصة عند الدفع. الطوابير الطويلة غير مريحة لكل من المتسوقين وأصحاب المتاجر. تعد أكشاك الدفع الذاتي الذكية حلاً رائعاً لهذه المشكلة.

تستخدم هذه الأكشاك الرؤية الحاسوبية ووحدات معالجة الرسومات لتسريع العملية، مما يساعد في تقليل أوقات الانتظار. تُمكّن الرؤية الحاسوبية هذه الأنظمة من رؤية وفهم بيئتها من خلال مهام مثل اكتشاف الكائنات. النماذج المتقدمة مثل YOLO11، عند تحسينها بأدوات مثل TensorRT، يمكن أن تعمل بشكل أسرع بكثير على أجهزة GPU.

هذه النماذج المصدرة مناسبة تماماً لإعدادات التجزئة الذكية التي تستخدم أجهزة عتاد مدمجة ولكن قوية مثل NVIDIA Jetson Nano، والمصممة خصيصاً لتطبيقات ذكاء الاصطناعي على الحافة.

شكل 4. مثال على كشك دفع ذكي.

Link to this sectionاكتشاف العيوب الآلي في التصنيع#

يمكن تدريب نموذج رؤية حاسوبية مثل YOLO11 بشكل مخصص لاكتشاف المنتجات المعيبة في صناعة التصنيع. بمجرد تدريبه، يمكن تصدير النموذج إلى تنسيق TensorRT للنشر في المنشآت المجهزة بأنظمة ذكاء اصطناعي عالية الأداء.

بينما تتحرك المنتجات على أحزمة النقل، تلتقط الكاميرات الصور، ويقوم نموذج YOLO11، الذي يعمل بتنسيق TensorRT، بتحليلها في الوقت الفعلي لاكتشاف العيوب. يسمح هذا الإعداد للشركات باكتشاف المشكلات بسرعة وبدقة، مما يقلل من الأخطاء ويحسن الكفاءة.

وبالمثل، تستخدم صناعات مثل الصناعات الدوائية هذه الأنظمة لتحديد العيوب في التغليف الطبي. في الواقع، من المتوقع أن ينمو السوق العالمي لـ أنظمة اكتشاف العيوب الذكية ليصل إلى 5 مليارات دولار بحلول عام 2026.

شكل 5. استخدام YOLO لاكتشاف العيوب في صناعة الأدوية.

Link to this sectionاعتبارات يجب وضعها في الاعتبار عند استخدام TensorRT#

على الرغم من أن تكامل TensorRT يوفر العديد من المزايا، مثل سرعات استدلال أسرع وتقليل زمن الانتقال، إلا أن هناك بعض القيود التي يجب وضعها في الاعتبار:

• انخفاض طفيف في الدقة: عند تصدير نموذجك بتنسيق TensorRT، قد لا يكون النموذج المصدر بنفس دقة النموذج الأصلي. مقاييس الأداء مثل الدقة، والاستدعاء، ومدى جودة اكتشاف النموذج للكائنات (نتائج mAP) قد تنخفض قليلاً. يمكن تخفيف هذا عن طريق استخدام مجموعة بيانات تمثيلية أثناء التكميم.

• زيادة تعقيد التصحيح (Debugging): يمكن للتحسينات التي يقوم بها TensorRT أن تجعل تتبع الأخطاء أو فهم السلوك غير المتوقع أكثر صعوبة، خاصة عند مقارنة النتائج بالنموذج الأصلي.

• الحساسية لحجم الدفعة (Batch Size): تكون مكاسب أداء TensorRT أكثر وضوحاً مع أحجام الدفعات الأكبر. بالنسبة للتطبيقات التي تعالج صوراً فردية أو دفعات صغيرة، قد تكون تحسينات الأداء أقل أهمية.

Link to this sectionأبرز النقاط#

إن تصدير نماذج Ultralytics YOLO إلى تنسيق TensorRT يجعلها تعمل بشكل أسرع وأكثر كفاءة بشكل ملحوظ، مما يجعلها مثالية للمهام في الوقت الفعلي مثل اكتشاف العيوب في المصانع، أو تشغيل أنظمة الدفع الذكية، أو مراقبة المناطق الحضرية المزدحمة.

يساعد هذا التحسين النماذج على العمل بشكل أفضل على وحدات معالجة الرسومات NVIDIA من خلال تسريع التنبؤات وتقليل استخدام الذاكرة والطاقة. على الرغم من وجود بعض القيود، فإن تعزيز الأداء يجعل من تكامل TensorRT خياراً رائعاً لأي شخص يبني أنظمة رؤية حاسوبية عالية السرعة على عتاد NVIDIA.

هل ترغب في معرفة المزيد عن الذكاء الاصطناعي؟ استكشف مستودع GitHub الخاص بنا، وتواصل مع مجتمعنا، واطلع على خيارات الترخيص الخاصة بنا لبدء مشروع الرؤية الحاسوبية الخاص بك. اكتشف المزيد عن الابتكارات مثل الذكاء الاصطناعي في التصنيع والرؤية الحاسوبية في الخدمات اللوجستية على صفحات الحلول الخاصة بنا.