Batch Normalization

تطبيع الدفعات، والذي يُشار إليه غالباً بـ BatchNorm، هو تقنية مُستخدمة في التعلم العميق (DL) لتحقيق الاستقرار وتسريع تدريب الشبكات العصبية الاصطناعية. تم تقديمه لحل مشكلة التحول الداخلي للمتغيرات (internal covariate shift) - حيث يتغير توزيع المدخلات إلى طبقة ما باستمرار مع تحديث معلمات الطبقات السابقة - حيث يقوم BatchNorm بتطبيع المدخلات إلى طبقة لكل دفعة صغيرة (mini-batch). من خلال تطبيع مدخلات الطبقة لتصبح بمتوسط صفر وانحراف معياري واحد، ثم تغيير مقياسها وإزاحتها باستخدام معلمات قابلة للتعلم، تسمح هذه الطريقة للشبكات باستخدام معدلات تعلم أعلى وتقليل الحساسية للتهيئة.

Link to this sectionكيف يعمل تطبيع الدفعات#

في الشبكة العصبية التلافيفية (CNN) القياسية، تتدفق البيانات عبر الطبقات حيث تقوم كل طبقة بإجراء تحويل. بدون التطبيع، يمكن أن يختلف نطاق قيم المخرجات بشكل كبير، مما يجعل من الصعب على خوارزمية التحسين العثور على أفضل الأوزان. عادةً ما يتم تطبيق تطبيع الدفعات مباشرة قبل دالة التنشيط (مثل ReLU أو SiLU).

تتضمن العملية خطوتين رئيسيتين أثناء التدريب:

1. التطبيع: تحسب الطبقة المتوسط والتباين للتنشيطات ضمن حجم الدفعة الحالي. ثم تقوم بطرح متوسط الدفعة والقسمة على الانحراف المعياري للدفعة.

2. تغيير المقياس والإزاحة: لضمان قدرة الشبكة على تمثيل وظائف معقدة، يتم إدخال معلمتين قابلتين للتعلم (جاما وبيتا). تسمح هذه للشبكة بإلغاء التطبيع إذا لم يكن توزيع البيانات الأمثل هو توزيع طبيعي قياسي.

تعمل هذه الآلية كشكل من أشكال التنظيم، حيث تقلل قليلاً من الحاجة إلى تقنيات أخرى مثل طبقات الإسقاط (Dropout) عن طريق إضافة كمية صغيرة من الضوضاء إلى التنشيطات أثناء التدريب.

Link to this sectionالفوائد الرئيسية في تدريب الذكاء الاصطناعي#

يوفر دمج تطبيع الدفعات في بنيات مثل ResNet أو كواشف الكائنات الحديثة العديد من المزايا المتميزة:

• تقارب أسرع: يتم تدريب النماذج بشكل أسرع بكثير لأن التطبيع يمنع التدرجات من أن تصبح صغيرة جداً أو كبيرة جداً، مما يكافح بفعالية مشكلة تلاشي التدرج.
• الاستقرار: يجعل الشبكة أقل حساسية للاختيار المحدد للأوزان الأولية وضبط المعلمات الفائقة، مما يجعل عملية تدريب النموذج أكثر قوة.
• تعميم مُحسّن: من خلال تنعيم مشهد التحسين، يساعد BatchNorm النموذج على التعميم بشكل أفضل على بيانات الاختبار غير المرئية.

Link to this sectionتطبيقات العالم الحقيقي#

يعد تطبيع الدفعات عنصراً أساسياً في كل نظام حديث تقريباً لـ رؤية الحاسوب (CV).

1. القيادة الذاتية: في أنظمة السيارات ذاتية القيادة، تقوم نماذج مثل Ultralytics YOLO26 بمعالجة إطارات الفيديو لاكتشاف المشاة والمركبات واللافتات. يضمن BatchNorm بقاء طبقات اكتشاف الكائنات مستقرة بغض النظر عن التغيرات في شدة الإضاءة أو الظروف الجوية، مما يحافظ على متوسط دقة متوسط (mAP) عالٍ.

2. التصوير الطبي: عند إجراء اكتشاف الأورام في التصوير الطبي، يمكن أن تختلف بيانات المسح بشكل كبير بين أجهزة التصوير بالرنين المغناطيسي أو التصوير المقطعي المختلفة. يساعد BatchNorm في تطبيع هذه الميزات داخلياً، مما يسمح للذكاء الاصطناعي بالتركيز على الشذوذات الهيكلية بدلاً من اختلافات كثافة البكسل، مما يحسن دقة التشخيص في حلول الذكاء الاصطناعي للرعاية الصحية.

Link to this sectionتطبيع الدفعات مقابل تطبيع البيانات#

من المفيد التمييز بين تطبيع الدفعات وتطبيع البيانات القياسي.

• تطبيع البيانات هو خطوة معالجة مسبقة تُطبق على مجموعة بيانات الإدخال الخام (على سبيل المثال، تغيير حجم الصور وتغيير مقياس قيم البكسل إلى 0-1) قبل بدء التدريب. غالباً ما تُستخدم أدوات مثل Albumentations لهذه المرحلة.
• يحدث تطبيع الدفعات داخل طبقات الشبكة العصبية أثناء عملية التدريب نفسها. وهو يقوم بضبط القيم الداخلية للشبكة ديناميكياً أثناء تدفق البيانات عبرها.

Link to this sectionمثال على التنفيذ#

تتضمن أطر التعلم العميق مثل PyTorch تطبيقات مُحسّنة لتطبيع الدفعات. في بنيات Ultralytics YOLO، يتم دمج هذه الطبقات تلقائياً في كتل التلافيف.

يوضح مقتطف كود Python التالي كيفية فحص نموذج لمعرفة مكان وجود طبقات BatchNorm2d داخل البنية.

from ultralytics import YOLO

# Load the YOLO26n model (nano version)
model = YOLO("yolo26n.pt")

# Print the model structure to view layers
# You will see 'BatchNorm2d' listed after 'Conv2d' layers
print(model.model)

يساعد فهم كيفية تفاعل هذه الطبقات المطورين عند استخدام منصة Ultralytics لضبط النماذج على مجموعات بيانات مخصصة، مما يضمن بقاء التدريب مستقراً حتى مع وجود بيانات محدودة.