Batch Normalization

التطبيع الدفعي، الذي يُشار إليه غالبًا باسم BatchNorm، هو تقنية تُستخدم في التعلم العميق (DL) لتحقيق استقرار وتسريع تدريب الشبكات العصبية الاصطناعية. وقد قُدّم لحل مشكلة انزياح التغاير الداخلي، حيث يتغير توزيع المدخلات إلى طبقة باستمرار مع تحديث معلمات الطبقات السابقة، إذ يعمل BatchNorm على توحيد مدخلات الطبقة لكل دفعة مصغّرة. ومن خلال تطبيع مدخلات الطبقة بحيث يكون متوسطها صفرًا وانحرافها المعياري واحدًا، ثم تحجيمها وإزاحتها باستخدام معلمات قابلة للتعلّم، تتيح هذه الطريقة للشبكات استخدام معدلات تعلّم أعلى وتقلل حساسيتها للتهيئة.

كيفية عمل التطبيع الدفعي#

في الشبكة العصبية الالتفافية (CNN) القياسية، تتدفق البيانات عبر طبقات تُجري كل منها تحويلًا. ومن دون التطبيع، قد يتباين نطاق قيم المخرجات بشدة، مما يصعّب على خوارزمية التحسين العثور على أفضل أوزان. ويُطبَّق التطبيع الدفعي عادةً مباشرةً قبل دالة التنشيط، مثل ReLU أو SiLU.

تتضمن العملية خطوتين رئيسيتين أثناء التدريب:

1. التطبيع: تحسب الطبقة المتوسط والتباين للتنشيطات ضمن حجم الدفعة الحالية. ثم تطرح متوسط الدفعة وتقسم على الانحراف المعياري للدفعة.

2. التحجيم والإزاحة: لضمان استمرار قدرة الشبكة على تمثيل الدوال المعقدة، تُضاف معلمتان قابلتان للتعلّم، هما غاما وبيتا. وتتيحان للشبكة إلغاء التطبيع إذا لم يكن توزيع البيانات الأمثل توزيعًا طبيعيًا قياسيًا.

تعمل هذه الآلية كشكل من أشكال التنظيم، إذ تقلل قليلًا الحاجة إلى تقنيات أخرى مثل طبقات Dropout من خلال إضافة قدر صغير من الضوضاء إلى التنشيطات أثناء التدريب.

الفوائد الرئيسية في تدريب الذكاء الاصطناعي#

يوفر دمج التطبيع الدفعي في بنيات مثل ResNet أو كاشفات الأجسام الحديثة عدة مزايا متميزة:

• تقارب أسرع: تتدرب النماذج بسرعة أكبر بكثير لأن التطبيع يمنع التدرجات من أن تصبح صغيرة جدًا أو كبيرة جدًا، مما يكافح بفاعلية مشكلة تلاشي التدرج.
• الاستقرار: يجعل الشبكة أقل حساسية للاختيار المحدد للأوزان الأولية وضبط المعلمات الفائقة، مما يجعل عملية تدريب النموذج أكثر متانة.
• تحسين التعميم: من خلال تنعيم مشهد التحسين، يساعد BatchNorm النموذج على التعميم بصورة أفضل على بيانات الاختبار غير المرئية.

التطبيقات الواقعية#

يُعد التطبيع الدفعي عنصرًا أساسيًا في كل أنظمة الرؤية الحاسوبية (CV) الحديثة تقريبًا.

1. القيادة الذاتية: في أنظمة السيارات ذاتية القيادة، تعالج نماذج مثل Ultralytics YOLO26 إطارات الفيديو لاكتشاف المشاة والمركبات والإشارات. ويضمن BatchNorm بقاء طبقات اكتشاف الأجسام مستقرة بغض النظر عن التغيرات في شدة الإضاءة أو الظروف الجوية، مع الحفاظ على متوسط الدقة (mAP) مرتفعًا.

2. التصوير الطبي: عند إجراء اكتشاف الأورام في التصوير الطبي، قد تختلف بيانات الفحوصات اختلافًا كبيرًا بين أجهزة MRI أو CT المختلفة. ويساعد BatchNorm على تطبيع هذه الميزات داخليًا، مما يتيح للذكاء الاصطناعي التركيز على التشوهات البنيوية بدلًا من اختلافات شدة البكسلات، وتحسين دقة التشخيص في حلول الذكاء الاصطناعي للرعاية الصحية.

التطبيع الدفعي مقابل تطبيع البيانات#

من المفيد التمييز بين التطبيع الدفعي وتطبيع البيانات القياسي.

• تطبيع البيانات هو خطوة معالجة مسبقة تُطبَّق على مجموعة بيانات الإدخال الخام، مثل تغيير حجم الصور وتحجيم قيم البكسلات إلى النطاق 0-1، قبل بدء التدريب. وغالبًا ما تُستخدم أدوات مثل Albumentations في هذه المرحلة.
• التطبيع الدفعي يحدث داخل طبقات الشبكة العصبية أثناء عملية التدريب نفسها. إذ يضبط القيم الداخلية للشبكة ديناميكيًا أثناء تدفق البيانات عبرها.

مثال على التنفيذ#

تتضمن أطر التعلم العميق مثل PyTorch تطبيقات محسّنة للتطبيع الدفعي. وفي بنيات Ultralytics YOLO، تُدمج هذه الطبقات تلقائيًا في الكتل الالتفافية.

يوضح مقتطف التعليمات البرمجية التالي بلغة Python كيفية فحص نموذج لمعرفة مواضع طبقات BatchNorm2d ضمن البنية.

from ultralytics import YOLO

# Load the YOLO26n model (nano version)
model = YOLO("yolo26n.pt")

# Print the model structure to view layers
# You will see 'BatchNorm2d' listed after 'Conv2d' layers
print(model.model)

يساعد فهم كيفية تفاعل هذه الطبقات المطورين عند استخدام منصة Ultralytics لضبط النماذج بدقة على مجموعات بيانات مخصصة، مما يضمن استقرار التدريب حتى مع محدودية البيانات.