ما تحسين النماذج؟ دليل موجز

تحسين النموذج عملية تهدف إلى رفع كفاءة نماذج التعلم الآلي وأدائها. ومن خلال تحسين بنية النموذج ووظائفه، يتيح التحسين للنماذج تقديم نتائج أفضل باستخدام الحد الأدنى من الموارد الحاسوبية وتقليل وقت التدريب والتقييم.

تكتسب هذه العملية أهمية خاصة في مجالات مثل الرؤية الحاسوبية، حيث تتطلب النماذج غالبًا موارد كبيرة لتحليل الصور المعقدة. وفي البيئات محدودة الموارد، مثل الأجهزة المحمولة أو الأنظمة الطرفية، يمكن للنماذج المحسّنة أن تعمل جيدًا بموارد محدودة مع الحفاظ على الدقة.

تُستخدم عادةً تقنيات عديدة لتحقيق تحسين النماذج، منها ضبط المعلمات الفائقة، وتشذيب النماذج، وتكميم النماذج، والدقة المختلطة. في هذه المقالة، سنستعرض هذه التقنيات والفوائد التي تقدمها لتطبيقات الرؤية الحاسوبية.

فهم تحسين النماذج#

تحتوي نماذج الرؤية الحاسوبية عادةً على طبقات عميقة وبنى معقدة تساعدها على التعرف على الأنماط الدقيقة في الصور، لكنها قد تتطلب أيضًا قدرة معالجة كبيرة. وعند نشر هذه النماذج على أجهزة محدودة العتاد، مثل الهواتف المحمولة أو الأجهزة الطرفية، قد تواجه تحديات أو قيودًا معينة.

يمكن أن يؤدي انخفاض قدرة المعالجة والذاكرة والطاقة في هذه الأجهزة إلى تراجع ملحوظ في الأداء، إذ تواجه النماذج صعوبة في مواكبة المتطلبات. وتُعد تقنيات تحسين النماذج أساسية لمعالجة هذه التحديات؛ فهي تساعد على تبسيط النموذج وتقليل احتياجاته الحاسوبية وضمان استمرار عمله بفاعلية حتى مع محدودية الموارد. ويمكن تحسين النموذج بتبسيط معماريته، أو خفض الدقة العددية للحسابات، أو إزالة المكونات غير الضرورية لجعله أخف وأسرع.

الشكل 1. أسباب تحسين النماذج. الصورة من إعداد المؤلف.

فيما يلي بعض تقنيات تحسين النماذج الأكثر شيوعًا، وسنتناولها بمزيد من التفصيل في الأقسام التالية:

• ضبط المعلمات الفائقة: يتضمن ذلك تعديل المعلمات الفائقة، مثل معدل التعلم وحجم الدفعة، بصورة منهجية لتحسين أداء النموذج.
• تشذيب النموذج: تزيل هذه التقنية الأوزان والوصلات غير الضرورية من الشبكة العصبية، ما يقلل تعقيدها وتكلفتها الحاسوبية.
• تكميم النموذج: يتضمن التكميم خفض دقة أوزان النموذج وتنشيطاته، عادةً من 32 بت إلى 16 بت أو 8 بت، ما يقلل بدرجة كبيرة من حجم الذاكرة ومتطلبات الحوسبة.
• تعديلات الدقة: تُعرف أيضًا باسم التدريب بدقة مختلطة، وتتضمن استخدام تنسيقات دقة مختلفة لأجزاء النموذج المختلفة وتحسين استخدام الموارد دون المساس بالدقة.

شرح المعلمات الفائقة في نماذج التعلم الآلي#

يمكنك مساعدة النموذج على التعلم والأداء بشكل أفضل من خلال ضبط معلماته الفائقة، وهي إعدادات تحدد كيفية تعلم النموذج من البيانات. ويُعد ضبط المعلمات الفائقة تقنية لتحسين هذه الإعدادات، بما يعزز كفاءة النموذج ودقته. وعلى خلاف المعلمات التي يتعلمها النموذج أثناء التدريب، تكون المعلمات الفائقة قيمًا محددة مسبقًا توجه عملية التدريب.

لنستعرض بعض الأمثلة على المعلمات الفائقة التي يمكن ضبطها:

• معدل التعلم: تتحكم هذه المعلمة في حجم الخطوة التي يتخذها النموذج لتعديل أوزانه الداخلية. قد يسرّع معدل التعلم الأعلى عملية التعلم، لكنه ينطوي على خطر تجاوز الحل الأمثل، بينما قد يكون المعدل الأقل أدق لكنه أبطأ.
• حجم الدفعة: يحدد عدد عينات البيانات التي تُعالج في كل خطوة تدريب. وتوفر أحجام الدفعات الأكبر تعلمًا أكثر استقرارًا، لكنها تتطلب ذاكرة أكبر. أما الدفعات الأصغر فتُدرّب بسرعة أكبر، لكنها قد تكون أقل استقرارًا.
• العصور التدريبية: تتيح لك هذه المعلمة تحديد عدد المرات التي يرى فيها النموذج مجموعة البيانات كاملة. وقد تؤدي زيادة العصور التدريبية إلى تحسين الدقة، لكنها تنطوي على خطر فرط التكيّف.
• حجم النواة: يحدد حجم المرشح في الشبكات العصبية الالتفافية (CNNs). تلتقط النوى الأكبر أنماطًا أوسع لكنها تتطلب معالجة أكثر؛ أما النوى الأصغر فتركز على التفاصيل الدقيقة.

آلية عمل ضبط المعلمات الفائقة#

يبدأ ضبط المعلمات الفائقة عمومًا بتحديد نطاق للقيم المحتملة لكل معلمة فائقة. ثم تستكشف خوارزمية بحث مجموعات مختلفة ضمن هذه النطاقات لتحديد الإعدادات التي تحقق أفضل أداء.

تشمل طرق الضبط الشائعة البحث الشبكي والبحث العشوائي والتحسين البايزي. يختبر البحث الشبكي كل مجموعة ممكنة من القيم ضمن النطاقات المحددة. أما البحث العشوائي فيختار المجموعات عشوائيًا، وغالبًا ما يجد إعدادات فعالة بسرعة أكبر. ويستخدم التحسين البايزي نموذجًا احتماليًا للتنبؤ بقيم المعلمات الفائقة الواعدة استنادًا إلى النتائج السابقة. وتقلل هذه الطريقة عادةً عدد التجارب المطلوبة.

في نهاية المطاف، يُقيَّم أداء النموذج لكل مجموعة من المعلمات الفائقة. وتتكرر العملية حتى تتحقق النتائج المطلوبة.

المعلمات الفائقة مقابل معلمات النموذج#

أثناء ضبط المعلمات الفائقة، قد تتساءل عن الفرق بينها وبين معلمات النموذج.

المعلمات الفائقة هي قيم تُحدد قبل التدريب وتتحكم في كيفية تعلم النموذج، مثل معدل التعلم أو حجم الدفعة. وتظل هذه الإعدادات ثابتة أثناء التدريب، وتؤثر مباشرةً في عملية التعلم. أما معلمات النموذج، فيتعلمها النموذج نفسه أثناء التدريب. وتشمل هذه المعلمات الأوزان والانحيازات، التي تتغير مع تدريب النموذج وتوجه تنبؤاته في نهاية المطاف. وباختصار، تشكل المعلمات الفائقة مسار التعلم، بينما تمثل معلمات النموذج نتائج عملية التعلم هذه.

الشكل 2. مقارنة المعلمات بالمعلمات الفائقة.

أهمية تشذيب النماذج في التعلم العميق#

تشذيب النموذج تقنية لتقليل الحجم تزيل الأوزان والمعلمات غير الضرورية من النموذج، ما يجعله أكثر كفاءة. وفي الرؤية الحاسوبية، ولا سيما الشبكات العصبية العميقة، يمكن لعدد كبير من المعلمات، مثل الأوزان والتنشيطات (المخرجات الوسيطة التي تساعد على حساب المخرج النهائي)، أن يزيد التعقيد والاحتياجات الحاسوبية. ويساعد التشذيب على تبسيط النموذج من خلال تحديد المعلمات التي لا تسهم كثيرًا في الأداء وإزالتها، ما ينتج نموذجًا أخف وأكثر كفاءة.

الشكل 3. النموذج قبل التشذيب وبعده.

بعد تدريب النموذج، يمكن لتقنيات مثل التشذيب القائم على المقدار أو تحليل الحساسية تقييم أهمية كل معلمة. ثم تُشذّب المعلمات منخفضة الأهمية باستخدام إحدى التقنيات الرئيسية الثلاث: تشذيب الأوزان أو تشذيب العصبونات أو التشذيب المنظم.

يزيل تشذيب الأوزان الاتصالات الفردية ذات التأثير المحدود في المخرجات. أما تشذيب العصبونات فيزيل العصبونات كاملةً التي تسهم مخرجاتها بقدر ضئيل في وظائف النموذج. ويزيل التشذيب المنظم أجزاءً أكبر، مثل مرشحات الالتفاف أو العصبونات في الطبقات كاملة الاتصال، لتحسين كفاءة النموذج. وبعد اكتمال التشذيب، يُعاد تدريب النموذج لضبط المعلمات المتبقية بدقة، وضمان احتفاظه بدقة عالية في بنيته المخفّضة.

تقليل زمن الاستجابة في نماذج الذكاء الاصطناعي باستخدام التكميم#

يقلل تكميم النموذج عدد البتات المستخدمة لتمثيل أوزان النموذج وتنشيطاته. ويحوّل عادةً القيم عالية الدقة ذات الفاصلة العائمة، والممثلة بـ32 بت، إلى دقة أقل، مثل أعداد الفاصلة العائمة ذات 16 بت أو الأعداد الصحيحة ذات 8 بت. ومن خلال خفض دقة البتات، يقلل التكميم بدرجة كبيرة حجم النموذج وحجم الذاكرة وتكلفة الحوسبة.

تُعد أعداد الفاصلة العائمة ذات 32 بت معيارًا في الرؤية الحاسوبية، لكن التحويل إلى 16 بت أو 8 بت يمكن أن يحسن الكفاءة. وهناك نوعان أساسيان من التكميم: تكميم الأوزان وتكميم التنشيطات. ويخفض تكميم الأوزان دقة أوزان النموذج، محققًا توازنًا بين تقليل الحجم والدقة. أما تكميم التنشيطات فيخفض دقة التنشيطات، ما يقلل احتياجات الذاكرة والحوسبة بدرجة أكبر.

الشكل 4. مثال على التكميم من عدد عائم بدقة 32 بت إلى عدد صحيح بدقة 8 بت.

كيف تسرّع الدقة المختلطة استدلالات الذكاء الاصطناعي#

الدقة المختلطة تقنية تستخدم درجات دقة عددية مختلفة لأجزاء متنوعة من الشبكة العصبية. ومن خلال الجمع بين قيم عالية الدقة، مثل أعداد الفاصلة العائمة ذات 32 بت، وقيم أقل دقة، مثل أعداد الفاصلة العائمة ذات 16 بت أو 8 بت، تتيح الدقة المختلطة تسريع تدريب نماذج الرؤية الحاسوبية وتقليل استخدام الذاكرة دون التضحية بالدقة.

أثناء التدريب، تتحقق الدقة المختلطة باستخدام دقة أقل في طبقات محددة، مع الحفاظ على دقة أعلى حيثما تدعو الحاجة عبر الشبكة. ويتم ذلك من خلال تحويل الأنواع العددية وتوسيع نطاق الخسارة. يحوّل تحويل الأنواع العددية أنواع البيانات بين درجات الدقة المختلفة وفقًا لمتطلبات النموذج. ويعدّل توسيع نطاق الخسارة الدقة المخفضة لمنع التدفق العددي السفلي، ما يضمن استقرار التدريب. وتفيد الدقة المختلطة على نحو خاص في النماذج الكبيرة وأحجام الدفعات الكبيرة.

الشكل 5. يستخدم التدريب بالدقة المختلطة نوعي الأعداد العائمة بدقة 16 بت (FP16) و32 بت (FP32).

الموازنة بين دقة النموذج وكفاءته#

بعد أن استعرضنا عدة تقنيات لتحسين النماذج، لنناقش كيفية اختيار التقنية المناسبة لاحتياجاتك المحددة. يعتمد الاختيار على عوامل مثل العتاد المتاح، وقيود الحوسبة والذاكرة في بيئة النشر، ومستوى الدقة المطلوب.

على سبيل المثال، تناسب النماذج الأصغر والأسرع الأجهزة المحمولة محدودة الموارد، بينما يمكن استخدام النماذج الأكبر والأعلى دقةً على الأنظمة عالية الأداء. إليك كيفية توافق كل تقنية مع الأهداف المختلفة:

• التقليم: يُعد مثاليًا لتقليل حجم النموذج دون التأثير كثيرًا في الدقة، ما يجعله مناسبًا للأجهزة محدودة الموارد، مثل الهواتف المحمولة أو أجهزة إنترنت الأشياء (IoT).
• التكميم: خيار ممتاز لتقليص حجم النموذج وتسريع الاستدلال، ولا سيما على الأجهزة المحمولة والأنظمة المضمّنة ذات الذاكرة وقدرة المعالجة المحدودتين. ويناسب التطبيقات التي تقبل انخفاضًا طفيفًا في الدقة.
• الدقة المختلطة: صُممت هذه التقنية للنماذج واسعة النطاق، وتقلل استخدام الذاكرة وتسرّع التدريب على عتاد مثل وحدات معالجة الرسومات (GPUs) ووحدات معالجة الموترات (TPUs) التي تدعم عمليات الدقة المختلطة. وتُستخدم غالبًا في المهام عالية الأداء التي تكون فيها الكفاءة مهمة.
• ضبط المعلمات الفائقة: رغم أن هذه العملية تتطلب موارد حاسوبية كبيرة، فإنها ضرورية للتطبيقات التي تتطلب دقة عالية، مثل التصوير الطبي أو القيادة الذاتية.

أبرز النقاط#

يُعد تحسين النماذج جزءًا أساسيًا من تعلّم الآلة، وخصوصًا عند نشر الذكاء الاصطناعي في تطبيقات العالم الحقيقي. وتساعد تقنيات مثل ضبط المعلمات الفائقة، وتقليم النماذج، والتكميم، والدقة المختلطة على تحسين أداء نماذج الرؤية الحاسوبية وكفاءتها واستخدامها للموارد. تجعل هذه التحسينات النماذج أسرع وأقل استهلاكًا للموارد، ما يجعلها مثالية للأجهزة محدودة الذاكرة والقدرة الحاسوبية. كما يسهل توسيع نطاق النماذج المحسّنة ونشرها عبر منصات مختلفة، ما يتيح حلولًا للذكاء الاصطناعي تتسم بالفاعلية والقدرة على التكيف مع نطاق واسع من الاستخدامات.

تفضل بزيارة مستودع Ultralytics على GitHub وانضم إلى مجتمعنا لمعرفة المزيد عن تطبيقات الذكاء الاصطناعي في التصنيع والزراعة.