تصدير Ultralytics YOLO باستخدام LiteRT

في Ultralytics، نشهد تحولًا متزايدًا نحو تشغيل نماذج الرؤية الحاسوبية مباشرةً على الأجهزة التي تحتاج إليها، بدلًا من الاعتماد على الاتصال بالسحابة. تحتاج تطبيقات الأجهزة المحمولة والأنظمة المضمنة ومستشعرات إنترنت الأشياء والأدوات المستندة إلى المتصفح، على نحو متزايد، إلى إجراء الاستدلال محليًا، وغالبًا على أجهزة ذات ميزانيات محدودة للطاقة والحوسبة. لذلك يسعدنا الإعلان عن إمكانية تصدير نماذج Ultralytics YOLO مباشرةً إلى LiteRT الآن.

يتطلب تلبية هذا الطلب تنسيقًا للنماذج يعمل عبر كل هذه البيئات، من دون إجبار المطورين على صيانة مسارات تصدير منفصلة لكل منها.

كانت هذه الإمكانية متاحة سابقًا عبر حزمة غير رسمية تابعة لجهة خارجية، لكن هذا التكامل الجديد هو ثمرة تعاون رسمي مع Google. عملنا عن كثب مع فريق LiteRT لبناء مسار متكامل لتصدير نماذج Ultralytics YOLO إلى TFLite عبر LiteRT. يتيح هذا التكامل نشر نموذج Ultralytics YOLO مُصدَّر واحد عبر بيئات الأجهزة المحمولة والأنظمة المضمنة والحوسبة الطرفية والمتصفحات، موحّدًا بذلك ما كانت تتعامل معه سابقًا بشكل منفصل تنسيقات التصدير TFLite وTF.js ضمن تنسيق واحد مبسط.

ما LiteRT؟#

إن LiteRT (اختصارًا لوقت التشغيل الخفيف) هو بيئة تشغيل عالية الأداء من Google للذكاء الاصطناعي على الجهاز. وهو الجيل التالي والاسم الجديد لـ TensorFlow لايت (TFLite)، ويشغّل تنسيق النماذج .tflite نفسه الذي يعرفه المطورون بالفعل.

LiteRT إطار عمل مفتوح المصدر مصمم خصيصًا للاستدلال على الجهاز، ويُعرف أيضًا باسم الحوسبة الطرفية. ويوفر للمطورين الأدوات اللازمة لتنفيذ النماذج المدرَّبة على الأجهزة المحمولة والمضمنة وأجهزة إنترنت الأشياء، والحواسيب التقليدية، وكذلك مباشرةً في متصفحات الويب وNode.js من خلال LiteRT.js. يعمل تنسيق التصدير LiteRT على تحسين النماذج لمهام مثل اكتشاف الكائنات والتقسيم وتقدير الوضعية والتصنيف، لتعمل بسرعة ومن دون اتصال بالإنترنت على نطاق واسع من الأجهزة.

لماذا تصدير نماذج Ultralytics YOLO إلى LiteRT؟#

يغطي تنسيق واحد للنماذج الآن جميع أهداف النشر:

• الأجهزة المحمولة والأنظمة المضمنة. Android وiOS وأجهزة سطح المكتب وLinux المضمنة والمتحكمات الدقيقة (MCUs).

• مسرّعات الحوسبة الطرفية. متوافق مع Coral Edge TPU لمزيد من التسريع.

• المتصفح وNode.js. يشغّل LiteRT.js نموذج .tflite نفسه على الويب مع تسريع WebGPU/WASM، ما يلغي الحاجة إلى تصدير منفصل لـ TensorFlow.js.

• أجهزة سطح المكتب

يكتسب هذا التوحيد أهمية لأنه يزيل مصدرًا فعليًا للاحتكاك في عمليات النشر الإنتاجية. فبدلًا من صيانة مسار تصدير للأجهزة المحمولة وآخر للمتصفح وثالث لمسرّعات الحوسبة الطرفية، يمكن للفرق الآن التصدير مرة واحدة والنشر في كل مكان يعمل فيه LiteRT.

الميزات الرئيسية لنماذج LiteRT#

• التحسين للتشغيل على الجهاز. يقلل زمن الاستجابة عبر معالجة البيانات محليًا، ويعزز الخصوصية بعدم نقل البيانات الشخصية، ويقلص حجم النموذج لتوفير المساحة.

• دعم منصات متعددة. يعمل على Android وiOS وLinux المضمن والمتحكمات الدقيقة ومتصفحات الويب الحديثة.

• تسريع الأجهزة. يستفيد من XNNPACK على CPU، ومن تسريع GPU عبر OpenCL وMetal وWebGPU. ويعمل تسريع GPU افتراضيًا بدقة FP16 لتحقيق سرعة إضافية.

• التكميم. يدعم FP32 وINT8 الثابت وINT16 الثابت للتنشيطات وINT8 الديناميكي لضغط النماذج وتسريع الاستدلال مع الحد الأدنى من فقدان الدقة.

• دعم لغات متنوعة. متوافق مع Java/Kotlin وSwift وObjective-C وC++ وPython وJavaScript.

بدء استخدام تصدير LiteRT#

توفر حزمة Ultralytics لـ Python ومنصة Ultralytics بيئة متكاملة وموحدة لتدريب نماذج YOLO وتقييمها ونشرها عبر مهام الرؤية الحاسوبية الخمس جميعها. يدعم تنسيق التصدير LiteRT أوضاع التصدير والتنبؤ والتحقق، ما يتيح تصدير النموذج ثم استخدامه فورًا للاستدلال أو للتحقق من دقته محليًا.

يتطلب تصدير النموذج أمرًا واحدًا:

from ultralytics import YOLO

# ⁨تحميل نموذج YOLO26⁩
model = YOLO("yolo26n.pt")

# ⁨تصدير النموذج بتنسيق LiteRT⁩
model.export(format="litert") # ⁨ينشئ 'yolo26n.tflite'⁩

بالنسبة إلى الفرق التي تنشر النماذج على أجهزة محدودة الموارد، يدعم LiteRT أيضًا التصدير المكمَّم، ما يتيح ضغط النماذج لتسريع الاستدلال مع الحد الأدنى من فقدان الدقة:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# ⁨INT8 ديناميكي: أوزان int8 وتنشيطات FP32 - لا حاجة إلى بيانات معايرة⁩
model.export(format="litert", quantize="w8a32")

# ⁨INT8 ثابت: أوزان int8 + تنشيطات int8 - يتطلب بيانات معايرة⁩
model.export(format="litert", quantize=8, data="coco8.yaml")

بعد التصدير، يمكن تحميل النموذج وتشغيله للاستدلال مباشرةً:

from ultralytics import YOLO

# ⁨تحميل نموذج LiteRT المُصدَّر⁩
model = YOLO("yolo26n.tflite")

# ⁨تشغيل الاستدلال⁩
results = model("https://ultralytics.com/images/bus.jpg")

يتوفر حاليًا تصدير LiteRT على Linux x86_64 وmacOS. ويعمل نموذج .tflite المُصدَّر نفسه على كل المنصات التي يدعمها LiteRT، بما فيها الأجهزة المحمولة والأنظمة المضمنة والحوسبة الطرفية والمتصفح.

الشكل 1. مقارنة الأداء بين ONNX وLiteRT.

تعرض الصورة أعلاه مقارنة لمتوسط زمن الاستدلال لمهام الكشف والتقسيم وتقدير الوضعية على YOLO26n، أثناء تشغيله في المتصفح عبر @ultralytics/yolo، وهي حزمة npm من Ultralytics للاستدلال من جهة العميل على WebGPU/WASM عبر ONNX Runtime Web. أُجري القياس على Apple MacBook Pro لعام 2024 (Apple Silicon M4) في بيئة متصفح مضبوطة.

نقل Ultralytics YOLO إلى الحوسبة الطرفية#

مع LiteRT، لم يعد نشر نماذج Ultralytics YOLO عبر بيئات الأجهزة المحمولة والأنظمة المضمنة والحوسبة الطرفية والمتصفحات يتطلب مسارات تصدير منفصلة لكل هدف. تصدير واحد، وتنسيق نموذج واحد، ومسار متسق من التدريب إلى الإنتاج، أينما كان الاستدلال مطلوبًا.

هل يثيرك الذكاء الاصطناعي للرؤية؟ اكتشف خيارات الترخيص لإضافة الرؤية الحاسوبية إلى مشاريعك. تفضل بزيارة مستودع GitHub لاستكشاف المجموعة الكاملة من تكاملات التصدير لدى Ultralytics، واطّلع على منصة Ultralytics لبدء بناء مسارات عملك المتكاملة للذكاء الاصطناعي للرؤية.