Normalization

التطبيع هو إعادة تحجيم القيم العددية إلى مقياس مشترك كي لا تهيمن أي سمة على النموذج لمجرد اختلاف وحداتها. وفي المعالجة المسبقة للبيانات، يعني عادةً تحويل كل سمة إدخال إلى نطاق ثابت مثل [0, 1]، أو إلى متوسط صفري وتباين وحدي، قبل التدريب. وداخل الشبكة العصبية، تطبّق طبقات التطبيع الفكرة نفسها على التنشيطات الوسيطة، مثل تطبيع الدفعة. من دون التطبيع، تفوق سمة مقيسة بالآلاف، مثل الدخل، سمة مقيسة بأرقام أحادية، مثل حجم الأسرة، في كل حساب للمسافات وخطوة تدرّج.

تقنيات التطبيع الشائعة#

• تحجيم الحد الأدنى والأقصى: يعيّن كل سمة إلى [0, 1] باستخدام (x − min) / (max − min). تضغط قيمة متطرفة واحدة سائر القيم إلى نطاق ضيق، لذا يناسب هذا الأسلوب السمات ذات الحدود المعروفة والثابتة، مثل قيم البكسل ذات 8 بت التي تُقسم على 255.
• التوحيد القياسي بدرجة Z: يطرح متوسط السمة ويقسم على انحرافها المعياري، ليصبح المتوسط 0 والانحراف المعياري 1. وهو الخيار الافتراضي المعتاد للسمات التي لا حدود ثابتة لها.
• التحجيم المتين: يطرح الوسيط ويقسم على المدى الربيعي، لذا لا تغيّر بعض القيم الشاذة طريقة تحجيم القيم المتبقية إلا قليلًا.
• التحجيم اللوغاريتمي: يطبّق لوغاريتمًا، غالبًا log(1 + x)، لضغط السمات ذات الذيل الثقيل، مثل الأسعار أو التعداد السكاني أو أعداد المشاهدات، قبل تطبيق تحجيم آخر.
• التطبيع بمتجه الوحدة (L2): يقسم متجه كل عينة على طوله كي يصبح معيار كل متجه 1. وعند تطبيقه على التضمينات، يحوّل التشابه الجيبي إلى جداء نقطي عادي. تنفّذ Normalizer في scikit-learn هذه العملية لكل عينة، ما يفاجئ المستخدمين الذين يتوقعون منها تحجيم كل سمة مثل MinMaxScaler.

يعتمد اختيار التقنية على ما يجري تحجيمه وكيفية توزّع قيمه:

أهمية التطبيع#

تقارن الأساليب المعتمدة على المسافة، مثل أقرب الجيران (k-NN) وتجميع k-means وآلات المتجهات الداعمة ذات نواة RBF، المسافات الإقليدية الخام؛ لذا تحدّد السمة ذات النطاق الأوسع النقاط التي تُعد متقاربة. تتدرّب النماذج المعتمدة على التدرّج بسرعة أكبر على المدخلات المطَبَّعة، لأن السمات ذات المقاييس المختلفة جدًا تمدّد سطح الخسارة إلى وديان ضيقة يضطر فيها الانحدار التدرّجي إلى اتخاذ خطوات صغيرة. أما تجميعات الأشجار، مثل الغابات العشوائية، فتقسّم البيانات عند عتبة سمة واحدة في كل مرة، وتنتج التقسيمات نفسها عند أي إعادة تحجيم رتيبة. يوضّح تحجيم مجموعة بيانات Wine قبل تطبيق k-NN حجم التأثير:

from sklearn.datasets import load_wine
from sklearn.model_selection import cross_val_score
from sklearn.neighbors import KNeighborsClassifier
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import MinMaxScaler, StandardScaler

# 13 chemical features on very different scales, from hue (about 0.5-1.7) to proline (about 280-1,680)
X, y = load_wine(return_X_y=True)

# k-NN compares raw distances, so unscaled proline dominates every distance
for name, scaler in [("none", "passthrough"), ("min-max", MinMaxScaler()), ("z-score", StandardScaler())]:
    # The pipeline fits the scaler on each training fold only, so no test statistics leak in
    model = make_pipeline(scaler, KNeighborsClassifier())
    accuracy = cross_val_score(model, X, y, cv=5).mean()
    print(f"scaling {name:8s} 5-fold accuracy: {accuracy:.3f}")

من دون تحجيم، تبلغ الدقة في k-NN مقدار 0.691، لأن نطاق قيم البرولين يقارب 1,400 وحدة، فتطغى سمة البرولين على السمات الاثنتي عشرة الأخرى عند حساب كل مسافة. يرفع التحجيم بين الحدين الأدنى والأقصى الدقة إلى 0.950، ويرفع التوحيد القياسي بدرجة z الدقة إلى 0.949. من المهم ملاءمة أداة التحجيم داخل خط المعالجة: فاحتساب الحد الأدنى أو الحد الأقصى أو المتوسط أو الانحراف المعياري على مجموعة البيانات كاملةً قبل تقسيمها يسرّب معلومات مجموعة الاختبار إلى التدريب، وهو شكل من تسرّب البيانات.

التطبيع في الرؤية الحاسوبية#

تُطبّع الصور قناةً تلو الأخرى. يقسم 8-bit قيم البكسل على 255 لتحويلها إلى [0, 1]، ثم تطرح كثير من الشبكات الأساسية للتصنيف متوسطًا لكل قناة وتقسم على انحراف معياري: يتوقع ResNet-50 المدرّب مسبقًا على ImageNet في torchvision متوسطًا (0.485, 0.456, 0.406) وانحرافًا معياريًا (0.229, 0.224, 0.225). يؤدي تمرير مدخلات إلى نموذج مدرّب مسبقًا بتطبيع يختلف عن بيانات تدريبه إلى إزاحة كل التنشيطات وخفض الدقة. يقسم المعالجة المسبقة في Ultralytics YOLO قيم البكسل على 255 ولا يطبّق أي إزاحة للمتوسط أو الانحراف المعياري، أثناء التدريب والتنبؤ، لذا يتلقى YOLO26 دائمًا مدخلات ضمن [0, 1].

تحتاج الصور الطبية إلى قواعد خاصة بكل وسيط. تخزّن صور الأشعة المقطعية CT الشدات بوحدات Hounsfield، وهي مقياس فيزيائي تبلغ فيه قيمة الهواء −1000 والماء 0، لذا تعمل مجموعة واحدة من الإحصاءات عبر الفحوصات: إذ يقصّ إطار التقسيم nnU-Net، واسع الاستخدام، شدات CT عند المئينين 0.5 و99.5 لقيم المقدمة عبر جميع حالات التدريب، ثم يحوّلها إلى درجات Z باستخدام المتوسط والانحراف المعياري للمجموعة كاملةً. ولا تمتلك شدات MRI مقياسًا فيزيائيًا ثابتًا، كما تختلف بين أجهزة المسح؛ لذلك يحوّل nnU-Net كل فحص MRI إلى درجات Z على حدة.

التطبيع مقابل المصطلحات ذات الصلة#

• التوحيد القياسي: الاسم المعتاد للتحجيم بدرجة Z. تطلق مصادر كثيرة كلمة «التطبيع» على كل من تحجيم الحد الأدنى والأقصى والتحجيم بدرجة Z، بينما تقصرها مصادر أخرى على تحجيم الحد الأدنى والأقصى.
• زيادة البيانات: تغيّر محتوى الصورة أو هندستها، مثل القلب والقص وتغييرات الألوان، لإضافة التنوع، بينما لا يغيّر التطبيع سوى مقياس القيم.
• طبقات التطبيع: يوحّد تطبيع الدفعة قيم كل قناة باستخدام إحصاءات الدفعة المصغّرة الحالية. أما تطبيع الطبقة فيوحّد قيم كل مثال عبر سماته، بصرف النظر عن حجم الدفعة، ويُستخدم في المحوّلات على نطاق واسع. وتتبع هذه الطبقاتُ التطبيعَ بتحجيم وإزاحة متعلّمين.
• RMSNorm: تطبيع طبقة مبسّط يتجاوز طرح المتوسط ويقسم على الجذر التربيعي لمتوسط المربعات وحده. وهو طبقة التطبيع في Llama من Meta وفي العديد من النماذج اللغوية الكبيرة الأخرى.