التدريب الواعي بالكمية (QAT)

كيف يعمل التدريب الواعي بالكمية

تبدأ عملية القياس الكمي عادةً بنموذج FP32 مدرب مسبقًا. يتم إدراج عقد تكميم "وهمية" في بنية النموذج، والتي تحاكي تأثير تحويل قيم الفاصلة العائمة إلى أعداد صحيحة ذات دقة أقل ثم العودة. ثم يُعاد تدريب النموذج على مجموعة بيانات تدريبية. خلال مرحلة إعادة التدريب هذه، يتعلم النموذج التكيف مع فقدان المعلومات المرتبط بالتحويل الكمي من خلال التكاثر العكسي القياسي. يسمح ذلك للنموذج بالعثور على مجموعة أكثر قوة من الأوزان الأقل حساسية للدقة المنخفضة. تقدم أطر عمل التعلم العميق الرائدة مثل PyTorch و TensorFlow أدوات وواجهات برمجة تطبيقات قوية لتنفيذ سير عمل QAT.

القياس الكمي بعد التدريب مقابل القياس الكمي بعد التدريب

غالبًا ما تتم مقارنة QAT بالتكييف الكمي بعد التدريب (PTQ)، وهي طريقة أخرى شائعة لتكميم النموذج. يكمن الاختلاف الرئيسي في وقت تطبيق التكميم الكمي.

• التكميم اللاحق للتدريب (PTQ): يتم تطبيق هذه الطريقة بعد تدريب النموذج بالكامل. إنها عملية أبسط وأسرع ولا تتطلب إعادة التدريب أو الوصول إلى بيانات التدريب الأصلية. ومع ذلك، يمكن أن تؤدي أحيانًا إلى انخفاض كبير في دقة النموذج، خاصةً بالنسبة للنماذج الحساسة.
• التدريب الواعي بالتقدير الكمي (QAT): تدمج هذه الطريقة التكميم في حلقة التدريب. على الرغم من أنها أكثر كثافة من الناحية الحسابية وتتطلب الوصول إلى بيانات التدريب، إلا أن طريقة QAT تؤدي دائمًا تقريبًا إلى دقة أعلى للنموذج الكمي النهائي مقارنةً بطريقة PTQ. وهي الطريقة المفضلة عندما يكون تعظيم الأداء أمرًا بالغ الأهمية.

التطبيقات الواقعية لتقييم أداء القطط في العالم الحقيقي

يعد التدريب الواعي بالتقدير الكمي أمرًا حيويًا لنشر نماذج الذكاء الاصطناعي المتطورة في البيئات محدودة الموارد حيث تكون الكفاءة هي المفتاح.

1. رؤية الكمبيوتر على الجهاز: تشغيل نماذج الرؤية الحاسوبية المعقدة مثل Ultralytics YOLOv8 مباشرةً على الهواتف الذكية لتطبيقات مثل اكتشاف الأجسام في الوقت الحقيقي في تطبيقات الواقع المعزز أو تصنيف الصور ضمن أدوات إدارة الصور. تسمح تقنية QAT بتشغيل هذه النماذج بكفاءة دون استنزاف كبير للبطارية أو زمن انتقال كبير.
2. الذكاء الاصطناعي المتطور في السيارات والروبوتات: نشر النماذج لمهام مثل اكتشاف المشاة أو المساعدة في الحفاظ على المسار في السيارات ذاتية القيادة أو التلاعب بالأشياء في الروبوتات. تتيح تقنية QAT تشغيل هذه النماذج على أجهزة متخصصة مثل Google Edge TPUs أو NVIDIA Jetson، مما يضمن زمن استجابة منخفض للاستدلال لاتخاذ القرارات الحاسمة في الوقت الفعلي. وهذا أمر بالغ الأهمية لتطبيقات مثل أنظمة الإنذار الأمني أو إدارة مواقف السيارات.

العلاقة مع تقنيات التحسين الأخرى

QAT هي واحدة من عدة تقنيات لتحسين نشر النماذج، وغالبًا ما تُستخدم إلى جانب تقنيات أخرى لتحقيق أقصى قدر من الكفاءة.

• تشذيب النموذج: يتضمن إزالة الاتصالات الزائدة أو غير المهمة من الشبكة. يمكن تشذيب النموذج أولاً ثم إخضاعه للتشذيب القطري لتحقيق ضغط أكبر.
• تقطير المعرفة: تدريب نموذج "طالب" أصغر لمحاكاة نموذج "معلم" أكبر. يمكن بعد ذلك تحسين نموذج الطالب الناتج باستخدام QAT.

يدعم برنامج Ultralytics تصدير النماذج إلى تنسيقات مختلفة مثل ONNX وTensorRT وTFLite، والتي تتوافق مع عمليات سير عمل QAT، مما يتيح النشر الفعال عبر أجهزة متنوعة من شركات مثل Intel وNVIDIA. يمكنك إدارة ونشر نماذج QAT المحسّنة باستخدام منصات مثل Ultralytics HUB. من الضروري تقييم أداء النموذج باستخدام المقاييس ذات الصلة بعد إجراء QAT لضمان تلبية متطلبات الدقة.