Model Quantization
تعرف على كيفية تحسين تكميم النموذج (model quantization) لنموذج Ultralytics YOLO26 من أجل الذكاء الاصطناعي على الحافة. اكتشف كيفية تقليل الذاكرة، وخفض زمن الوصول، وتصدير نماذج INT8 لاستدلال أسرع.
تعتبر عملية تقييس النماذج (Quantization) تقنية متقدمة لتحسين النماذج تُستخدم لتقليل التكاليف الحسابية وذاكرة التخزين اللازمة لتشغيل نماذج التعلم العميق. في مسارات التدريب القياسية، تقوم الشبكات العصبية عادةً بتخزين المعلمات (الأوزونات والانحيازات) وخرائط التنشيط باستخدام أعداد عشرية دقيقة بحجم 32 بت (FP32). وعلى الرغم من أن هذه الدقة العالية تضمن إجراء حسابات دقيقة أثناء التدريب، إلا أنها غالباً ما تكون غير ضرورية لمرحلة الاستدلال (Inference). يقوم التقييس بتحويل هذه القيم إلى تنسيقات ذات دقة أقل، مثل الأعداد العشرية بدقة 16 بت (FP16) أو الأعداد الصحيحة بدقة 8 بت (INT8)، مما يؤدي بفعالية إلى تقليص حجم النموذج وتسريع سرعة التنفيذ دون المساس بالدقة بشكل كبير.
لماذا يعد التكميم مهماً#
الدافع الأساسي للتقييس هو الحاجة إلى نشر ذكاء اصطناعي قوي على الأجهزة ذات الموارد المحدودة. ومع ازدياد تعقيد نماذج الرؤية الحاسوبية مثل نموذج YOLO26، تزداد متطلباتها الحسابية. يعالج التقييس ثلاث اختناقات حرجة:
- بصمة الذاكرة: من خلال تقليل عرض البت للأوزان (على سبيل المثال، من 32 بت إلى 8 بت)، يتم تقليل متطلبات تخزين النموذج بما يصل إلى 4 أضعاف. هذا أمر حيوي لتطبيقات الهاتف المحمول حيث يكون حجم التطبيق مقيداً.
- زمن انتقال الاستدلال (Inference Latency): العمليات ذات الدقة الأقل تكون أرخص حسابياً. تستطيع المعالجات الحديثة، لا سيما تلك المزودة بوحدات معالجة عصبية (NPUs) مخصصة، تنفيذ عمليات INT8 بشكل أسرع بكثير من عمليات FP32، مما يقلل بشكل كبير من زمن انتقال الاستدلال.
- استهلاك الطاقة: نقل كميات أقل من البيانات عبر الذاكرة وإجراء عمليات حسابية أبسط يستهلك طاقة أقل، مما يمدد عمر البطارية في الأجهزة المحمولة والمركبات ذاتية القيادة.
مقارنة بالمفاهيم ذات الصلة#
من المهم التمييز بين التكميم وتقنيات التحسين الأخرى، حيث أنها تعدل النموذج بطرق متميزة:
- التقييس مقابل التقليم (Pruning): في حين يقلل التقييس حجم الملف عن طريق تقليل عرض البت للمعلمات، يتضمن تقليم النماذج إزالة الاتصالات غير الضرورية (الأوزان) تماماً لإنشاء شبكة متفرقة. يغير التقليم بنية النموذج، بينما يغير التقييس تمثيل البيانات.
- التقييس مقابل تقطير المعرفة (Knowledge Distillation): تقطير المعرفة هو تقنية تدريب يتعلم فيها نموذج "طالب" صغير محاكاة نموذج "معلم" كبير. وغالباً ما يتم تطبيق التقييس على نموذج الطالب بعد عملية التقطير لمزيد من تعزيز الأداء على الحافة (Edge AI).
تطبيقات العالم الحقيقي#
يُمكّن التكميم الرؤية الحاسوبية والذكاء الاصطناعي عبر مختلف الصناعات التي تكون فيها الكفاءة أمراً بالغ الأهمية.
-
الأنظمة ذاتية القيادة: في صناعة السيارات، يجب على السيارات ذاتية القيادة معالجة البيانات المرئية من الكاميرات ونظام ليدار (LiDAR) في الوقت الفعلي. تتيح النماذج المقيسة المنشورة على محركات NVIDIA TensorRT لهذه المركبات اكتشاف المشاة والعوائق بزمن انتقال قدره ميلي ثانية، مما يضمن سلامة الركاب.
-
الزراعة الذكية: تستخدم الطائرات بدون طيار (الدرونز) المزودة بكاميرات طيفية متعددة نماذج كشف الكائنات المقيسة لتحديد أمراض المحاصيل أو مراقبة مراحل النمو. إن تشغيل هذه النماذج محلياً على الأنظمة المدمجة الخاصة بالطائرة بدون طيار يلغي الحاجة إلى اتصالات خلوية غير موثوقة في الحقول النائية.
تنفيذ التكميم باستخدام Ultralytics#
تعمل مكتبة Ultralytics على تبسيط عملية التصدير، مما يتيح للمطورين تحويل النماذج مثل نموذج YOLO26 المتطور إلى تنسيقات مقيسة. كما توفر منصة Ultralytics أدوات لإدارة عمليات النشر هذه بسلاسة.
يوضح المثال التالي كيفية تصدير نموذج إلى TFLite مع تفعيل تقييس INT8. تتضمن هذه العملية خطوة معايرة حيث يراقب النموذج بيانات العينة لتحديد النطاق الديناميكي الأمثل للقيم المقيسة.
from ultralytics import YOLO
# Load a standard YOLO26 model
model = YOLO("yolo26n.pt")
# Export to TFLite format with INT8 quantization
# The 'int8' argument triggers Post-Training Quantization
# 'data' provides the calibration dataset needed for mapping values
model.export(format="tflite", int8=True, data="coco8.yaml")غالباً ما يتم نشر النماذج المُحسّنة باستخدام معايير قابلة للتشغيل البيني مثل ONNX أو محركات الاستدلال عالية الأداء مثل OpenVINO، مما يضمن توافقاً واسع النطاق عبر مختلف النظم البيئية للأجهزة.
