Quantization-Aware Training (QAT)

التدريب المدرك للكمية (QAT) هو تقنية متخصصة تُستخدم خلال مرحلة التدريب لنماذج التعلم الآلي لإعدادها للبيئات ذات الدقة المنخفضة. في سير عمل التعلم العميق القياسية، تعمل النماذج عادةً باستخدام أعداد عائمة ذات دقة عالية تبلغ 32 بت (FP32). على الرغم من أن هذه الدقة توفر دقة ممتازة، إلا أنها قد تكون مكلفة حسابياً وتستهلك الكثير من الذاكرة، خاصة على الأجهزة الطرفية. يحاكي التدريب المدرك للكمية (QAT) تأثيرات التكميم - تقليل الدقة إلى تنسيق مثل الأعداد الصحيحة بـ 8 بت (INT8) - بينما لا يزال النموذج قيد التدريب. من خلال إدخال أخطاء التكميم هذه أثناء عملية التعلم، يتعلم النموذج تكيف أوزانه واستعادة الدقة بفعالية والتي قد تضيع لولا ذلك أثناء التحويل بعد التدريب.

لماذا يهم QAT لنشر أجهزة الحافة#

يتطلب نشر نماذج الرؤية الحاسوبية على الأجهزة المحدودة الموارد غالباً تحقيق توازن بين السرعة والأداء. تطبق طرق التكميم القياسية، المعروفة باسم التكميم بعد التدريب (PTQ)، تقليل الدقة فقط بعد تدريب النموذج بالكامل. على الرغم من أن التكميم بعد التدريب (PTQ) سريع، إلا أنه يمكن أحياناً أن يقلل من دقة النماذج الحساسة نظراً لتغيير أوزان الشبكة العصبية بشكل كبير دون فرصة للتعديل.

يحل التدريب المدرك للكمية (QAT) هذه المشكلة من خلال السماح للنموذج "بالتدرب" على كونه مكمماً. خلال المرور الأمامي للتدريب، تتم محاكاة الأوزان والتنشيطات كقيم ذات دقة منخفضة. يتيح ذلك لعملية الإنخفاض التدريجي تحديث معاملات النموذج بطريقة تقلل الفقد تحديداً للحالة المكممة. والنتيجة هي نموذج قوي يحتفظ بدقة عالية حتى عند نشرها على الأجهزة مثل المتحكمات الدقيقة أو معالجات الهواتف المحمولة.

التمييز بين QAT والكمية بعد التدريب (PTQ)#

من المفيد التمييز بين التدريب المدرك للكمية (QAT) وتكميم النموذج، وتحديداً التكميم بعد التدريب (PTQ):

• الكمية بعد التدريب (PTQ): يتم تدريب النموذج بشكل طبيعي في FP32. بعد اكتمال التدريب، يتم تحويل الأوزان إلى INT8. هذه العملية أسرع ولا تتطلب إعادة تدريب ولكنها قد تؤدي إلى فقدان أكبر في الدقة للمعمارية المعقدة.
• التدريب المدرك للكمية (QAT): تتم محاكاة عملية التكميم خلال مرحلة الضبط الدقيق. يقوم النموذج بضبط معاملاته الداخلية لاستيعاب التشويش الناتج عن الدقة الأقل، وغالباً ما ينتج عنه دقة أفضل من التكميم بعد التدريب (PTQ).

تطبيقات العالم الحقيقي#

يعد QAT ضروريًا للصناعات التي يكون فيها الاستدلال في الوقت الفعلي على أجهزة الحافة أمرًا بالغ الأهمية.

• الطائرات بدون طيار المستقلة: في عمليات الطائرات بدون طيار الذكية الاصطناعية، تكون عمر البطارية وقوة المعالجة على متن الطائرة محدودة للغاية. يمكن للطائرات بدون طيار التي تستخدم نماذج محسنة عبر التدريب المدرك للكمية (QAT) اكتشاف العوائق أو تتبع الكائنات بدقة عالية أثناء استخدام مسرعات INT8، مما يمدد أوقات الطيران بشكل كبير مقارنة بنماذج FP32.
• كاميرات البيع بالتجزئة الذكية: تستخدم محلات السوبر ماركت الرؤية الحاسوبية في التجزئة لمراقبة مخزون الأرفف أو إدارة صفوف الدفع. غالباً ما تعمل هذه الأنظمة على بوابات طرفية منخفضة الطاقة. يضمن التدريب المدرك للكمية (QAT) أن تحافظ نماذج كشف الكائنات التي تعمل على هذه الأجهزة على الدقة اللازمة للتمييز بين المنتجات المتشابهة دون الحاجة إلى اتصال مكلف بالـ سحابة.

تنفيذ QAT مع Ultralytics#

تدعم منصة Ultralytics وبيئة YOLO تصدير النماذج إلى تنسيقات مكممة. على الرغم من أن التدريب المدرك للكمية (QAT) هو إجراء تدريب معقد، إلا أن الأطر الحديثة تسهل إعداد النماذج للاستدلال المكمم.

فيما يلي مثال لكيفية تصدير نموذج YOLO26 مدرب إلى تنسيق TFLite مكمم بتنسيق INT8، والذي يستخدم مبادئ التكميم لنشر الحافة الفعال.

from ultralytics import YOLO

# Load a trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite format with INT8 quantization
# This prepares the model for efficient execution on edge devices
model.export(format="tflite", int8=True)

التكامل مع أنظمة الحافة البيئية#

تم تصميم النماذج المحسنة عبر تقنيات التكميم للتشغيل على محركات استدلال مخصصة. وغالباً ما يتم نشر النماذج المدربة بالتدريب المدرك للكمية (QAT) باستخدام ONNX Runtime للتوافق عبر الأنظمة الأساسية أو OpenVINO للتحسين على أجهزة إنتل. يضمن ذلك أنه سواء كان الهدف هو Raspberry Pi أو Edge TPU مخصص، فإن النموذج يعمل بأعلى كفاءة وسرعة ممكنة.

المفاهيم الرئيسية المتعلقة بـ QAT#

لفهم QAT بالكامل، من المفيد أن تكون على دراية بالعديد من مفاهيم تعلم الآلة ذات الصلة:

• الدقة: تشير إلى مستوى التفاصيل المستخدمة لتمثيل الأرقام. نصف الدقة (FP16) وINT8 هي أهداف شائعة للتكميم.
• المعايرة: عملية تحديد نطاق قيم التنشيط الديناميكية (الحد الأدنى/الحد الأقصى) لتعيين الأرقام العائمة إلى الأعداد الصحيحة بفعالية. هذه خطوة حاسمة في نشر نماذج YOLO المكممة.
• زمن استجابة الاستدلال: تتمثل إحدى الفوائد الرئيسية للتدريب المدرك للكمية (QAT) في تقليل زمن استجابة الاستدلال، مما يتيح اتخاذ قرارات أسرع في الأنظمة في الوقت الفعلي.
• الضبط الدقيق: غالباً ما يتم إجراء التدريب المدرك للكمية (QAT) كخطوة ضبط دقيق على نموذج مدرب مسبقاً بدلاً من التدريب من الصفر، مما يوفر الموارد الحاسوبية.

من خلال دمج التدريب المدرك للكمية في خط أنابيب MLOps، يمكن للمطورين سد الفجوة بين نماذج البحث عالية الدقة وتطبيقات الذكاء الاصطناعي الطرفية الجاهزة للإنتاج وعالية الكفاءة.