Quantization-Aware Training (QAT)

التدريب الواعي بالتكميم (QAT) هو تقنية متخصصة تُستخدم أثناء مرحلة تدريب نماذج تعلّم الآلة لإعدادها للعمل في بيئات منخفضة الدقة. في سير عمل التعلّم العميق القياسي، تعمل النماذج عادةً باستخدام أعداد فاصلة عائمة عالية الدقة تبلغ 32 بت (FP32). وعلى الرغم من أن هذه الدقة توفر دقة ممتازة، فإنها قد تتطلب موارد حسابية وذاكرة كبيرتين، لا سيما على الأجهزة الطرفية. يحاكي QAT تأثيرات التكميم—أي خفض الدقة إلى تنسيقات مثل الأعداد الصحيحة ذات 8 بت (INT8)—أثناء استمرار تدريب النموذج. ومن خلال إدخال أخطاء التكميم هذه أثناء عملية التعلّم، يتعلم النموذج تكييف أوزانه واستعادة الدقة بفاعلية، وهي دقة قد تُفقد بخلاف ذلك أثناء التحويل بعد التدريب.

أهمية QAT للنشر الطرفي#

غالبًا ما يتطلب نشر نماذج الرؤية الحاسوبية على الأجهزة محدودة الموارد تحقيق توازن بين السرعة والأداء. تطبق أساليب التكميم القياسية، المعروفة باسم التكميم بعد التدريب (PTQ)، خفض الدقة فقط بعد اكتمال تدريب النموذج. وعلى الرغم من أن PTQ سريع، فإنه قد يؤدي أحيانًا إلى تدهور دقة النماذج الحساسة، لأن أوزان الشبكة العصبية تُعدَّل بدرجة كبيرة من دون إتاحة فرصة لضبطها.

يحل QAT هذه المشكلة من خلال السماح للنموذج بأن «يتدرّب» على التكميم. وأثناء المرور الأمامي في التدريب، تُحاكى الأوزان وعمليات التنشيط على هيئة قيم منخفضة الدقة. ويسمح ذلك لعملية الانحدار المتدرج بتحديث معلمات النموذج بطريقة تقلل الخسارة تحديدًا للحالة المكمّمة. والنتيجة نموذج متين يحافظ على دقة عالية حتى عند نشره على عتاد مثل المتحكمات الدقيقة أو المعالجات المحمولة.

التمييز بين QAT والتكميم بعد التدريب (PTQ)#

من المفيد التمييز بين QAT وتكميم النموذج، وتحديدًا التكميم بعد التدريب (PTQ):

• التكميم بعد التدريب (PTQ): يُدرَّب النموذج بصورة طبيعية باستخدام FP32. وبعد اكتمال التدريب، تُحوَّل الأوزان إلى INT8. وهذه العملية أسرع ولا تتطلب إعادة تدريب، لكنها قد تؤدي إلى فقدان أكبر في الدقة عند استخدام بنيات معقدة.
• التدريب الواعي بالتكميم (QAT): تُحاكى عملية التكميم أثناء مرحلة الضبط الدقيق. ويعدّل النموذج معلماته الداخلية لاستيعاب التشويش الذي تُدخله الدقة المنخفضة، مما يؤدي عادةً إلى دقة أفضل من PTQ.

التطبيقات الواقعية#

يُعد QAT ضروريًا للصناعات التي يكون فيها الاستدلال الآني على العتاد الطرفي أمرًا بالغ الأهمية.

• الطائرات المسيّرة الذاتية: في عمليات الطائرات المسيّرة المعتمدة على AI، تكون مدة البطارية وقدرة المعالجة على متن الطائرة محدودة للغاية. تستطيع الطائرات المسيّرة التي تستخدم نماذج محسّنة عبر QAT اكتشاف العوائق أو تتبّع الأجسام بدقة عالية مع استخدام مسرّعات INT8، مما يطيل أوقات الطيران بدرجة كبيرة مقارنةً بنماذج FP32.
• كاميرات البيع بالتجزئة الذكية: تستخدم محالّ السوبرماركت الرؤية الحاسوبية في قطاع البيع بالتجزئة لمراقبة مخزون الرفوف أو إدارة طوابير الدفع. وغالبًا ما تعمل هذه الأنظمة على بوابات طرفية منخفضة الاستهلاك للطاقة. ويضمن QAT حفاظ نماذج اكتشاف الأجسام التي تعمل على هذه الأجهزة على الدقة اللازمة للتمييز بين المنتجات المتشابهة، من دون الحاجة إلى اتصال سحابي مكلف.

تطبيق QAT باستخدام Ultralytics#

تدعم منصة Ultralytics ومنظومة YOLO تصدير النماذج إلى تنسيقات مكمّمة. وعلى الرغم من أن QAT إجراء تدريبي معقد، فإن أطر العمل الحديثة تسهّل إعداد النماذج للاستدلال المكمّم.

فيما يلي مثال على كيفية تصدير نموذج YOLO26 مدرَّب إلى تنسيق TFLite مكمّم باستخدام INT8، والذي يستفيد من مبادئ التكميم لتحقيق نشر طرفي فعّال.

from ultralytics import YOLO

# Load a trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite format with INT8 quantization
# This prepares the model for efficient execution on edge devices
model.export(format="tflite", int8=True)

التكامل مع منظومات الأجهزة الطرفية#

صُممت النماذج المحسّنة باستخدام تقنيات التكميم للعمل على محركات استدلال متخصصة. وغالبًا ما تُنشر النماذج المدرَّبة باستخدام QAT عبر ONNX Runtime لتحقيق التوافق عبر المنصات، أو عبر OpenVINO لتحسينها على عتاد Intel. ويضمن ذلك، سواء كان الهدف Raspberry Pi أو Edge TPU مخصصًا، أن يعمل النموذج بأعلى كفاءة وسرعة ممكنتين.

المفاهيم الأساسية المرتبطة بـ QAT#

لفهم QAT فهمًا كاملًا، من المفيد الإلمام بعدة مفاهيم مرتبطة بتعلّم الآلة:

• الدقة: تشير إلى مستوى التفاصيل المستخدم لتمثيل الأعداد. وتُعد الدقة النصفية (FP16) وINT8 هدفين شائعين للتكميم.
• المعايرة: عملية تحديد نطاق قيم التنشيط الديناميكية (الحد الأدنى/الحد الأقصى) لتعيين أعداد الفاصلة العائمة إلى أعداد صحيحة بفاعلية. وتُعد هذه خطوة حاسمة في نشر نماذج YOLO المكمّمة.
• زمن استجابة الاستدلال: تتمثل إحدى الفوائد الرئيسية لـ QAT في خفض زمن استجابة الاستدلال، مما يتيح اتخاذ قرارات أسرع في الأنظمة الآنية.
• الضبط الدقيق: غالبًا ما يُجرى QAT بوصفه خطوة للضبط الدقيق على نموذج مدرَّب مسبقًا بدلًا من التدريب من الصفر، مما يوفر الموارد الحاسوبية.

من خلال دمج التدريب الواعي بالتكميم في مسار MLOps، يستطيع المطورون ردم الفجوة بين نماذج البحث عالية الدقة وتطبيقات AI الطرفية عالية الكفاءة والجاهزة للإنتاج.