Gradient Descent

الانحدار المتدرج هو خوارزمية تحسين تكرارية أساسية تُستخدم لتدريب نماذج تعلّم الآلة والشبكات العصبية. وتتمثل وظيفته الأساسية في تقليل دالة الخسارة من خلال ضبط المعلمات الداخلية للنموذج بصورة منهجية، وتحديدًا أوزان النموذج وانحيازاته. يمكنك تصور هذه العملية على أنها محاولة متسلق للهبوط من جبل وسط ضباب كثيف؛ فعجزًا عن رؤية القاع، يتحسس المتسلق انحدار الأرض ويخطو في الاتجاه الأكثر انحدارًا إلى الأسفل. وفي سياق تعلّم الآلة (ML)، يمثل «الجبل» مشهد الأخطاء، بينما يمثل «القاع» الحالة التي تكون فيها تنبؤات النموذج أكثر دقة. وتقف تقنية التحسين هذه وراء اختراقات الذكاء الاصطناعي (AI) الحديثة، إذ تشغّل كل شيء بدءًا من الانحدار الخطي البسيط وصولًا إلى بنيات التعلّم العميق المعقدة مثل Ultralytics YOLO26.

كيفية عمل الانحدار المتدرج#

تعتمد فعالية الانحدار المتدرج على حساب التدرج، وهو متجه يشير إلى اتجاه أكبر زيادة في دالة الخسارة. ويُجرى هذا الحساب عادةً باستخدام خوارزمية الانتشار العكسي. بعد تحديد الاتجاه، تحدّث الخوارزمية الأوزان في الاتجاه المعاكس لتقليل الخطأ. ويحدد حجم الخطوة المتخذة معامل فائق يُعرف باسم معدل التعلّم. ويُعد العثور على معدل التعلّم الأمثل أمرًا بالغ الأهمية؛ إذ يمكن لخطوة كبيرة جدًا أن تجعل النموذج يتجاوز نقطة الحد الأدنى، في حين يمكن لخطوة صغيرة جدًا أن تجعل عملية التدريب بطيئة للغاية، فتتطلب عددًا مفرطًا من العصور حتى تتقارب. وللاطلاع على فهم رياضي أعمق، تقدم Khan Academy درسًا في حساب التفاضل والتكامل متعدد المتغيرات حول هذا الموضوع.

تتكرر العملية تكراريًا حتى يصل النموذج إلى نقطة يُقلَّل فيها الخطأ، ويُشار إلى ذلك غالبًا باسم التقارب. وبينما تحسب الخوارزمية القياسية التدرجات على مجموعة بيانات التدريب بأكملها، تستخدم أشكال مختلفة مثل الانحدار المتدرج العشوائي (SGD) مجموعات فرعية أصغر أو أمثلة مفردة لتسريع الحساب والهروب من الحدود الدنيا المحلية. وتجعل هذه القدرة على التكيّف الخوارزمية مناسبة لتدريب النماذج واسعة النطاق على منصة Ultralytics، حيث تكون الكفاءة والسرعة أمرين بالغي الأهمية.

التطبيقات الواقعية#

يعمل الانحدار المتدرج بصمت خلف الكواليس في جميع حلول الذكاء الاصطناعي الناجحة تقريبًا، محولًا البيانات الأولية إلى ذكاء قابل للتنفيذ في مختلف الصناعات.

• القيادة الذاتية: أثناء تطوير المركبات ذاتية القيادة، يجب أن تعالج النماذج البيانات المرئية لتحديد المشاة وإشارات المرور والسيارات الأخرى. وباستخدام بنيات اكتشاف الكائنات مثل YOLO26 المتطورة، يقلل الانحدار المتدرج الفرق بين الموقع المتوقع لكائن ما وموضعه الفعلي. ويضمن ذلك أن تتمكن أنظمة الذكاء الاصطناعي في قطاع السيارات من اتخاذ قرارات فائقة السرعة تنقذ الأرواح، من خلال التحسين المستمر لخرائطها الداخلية للطريق.
• التشخيص الطبي: في مجال الرعاية الصحية، يعتمد تحليل الصور الطبية على التعلّم العميق لاكتشاف الشذوذات مثل الأورام في صور التصوير بالرنين المغناطيسي. ومن خلال استخدام الانحدار المتدرج لتحسين الشبكات العصبية الالتفافية (CNNs)، تتعلم هذه الأنظمة التمييز بدقة عالية بين الأنسجة الخبيثة والحميدة. ويساعد ذلك بدرجة كبيرة المتخصصين في الذكاء الاصطناعي في الرعاية الصحية على تقليل النتائج السلبية الكاذبة في التشخيصات الحرجة، مما يؤدي إلى خطط علاج أبكر وأكثر دقة.

التمييز بين المفاهيم ذات الصلة#

من المهم التمييز بين الانحدار المتدرج والمصطلحات وثيقة الصلة به في مسرد التعلّم العميق (DL) لتجنب الالتباس أثناء تطوير النماذج.

• مقابل الانتشار العكسي: رغم أنهما يُذكران معًا كثيرًا، فإن لكل منهما دورًا مختلفًا ضمن حلقة التدريب. يُعد الانتشار العكسي الطريقة المستخدمة لحساب التدرجات (وتحديد اتجاه المنحدر)، بينما يُعد الانحدار المتدرج خوارزمية التحسين التي تستخدم تلك التدرجات لتحديث الأوزان (واتخاذ الخطوة). الانتشار العكسي هو الخريطة؛ والانحدار المتدرج هو المتسلق.
• مقابل مُحسِّن Adam: يُعد مُحسِّن Adam تطورًا متقدمًا للانحدار المتدرج، إذ يستخدم معدلات تعلّم تكيفية لكل معلمة. وغالبًا ما يؤدي ذلك إلى تقارب أسرع من SGD القياسي. ويُستخدم على نطاق واسع في أطر العمل الحديثة، كما يُعد خيارًا افتراضيًا لتدريب نماذج مثل YOLO11 وYOLO26 بفضل متانته.
• مقابل دالة الخسارة: تقيس دالة الخسارة (مثل متوسط الخطأ التربيعي أو الانتروبيا المتقاطعة) مدى سوء أداء النموذج. أما الانحدار المتدرج فهو العملية التي تحسّن ذلك الأداء. توفر دالة الخسارة النتيجة، بينما يوفر الانحدار المتدرج الاستراتيجية اللازمة لتحسين تلك النتيجة.

مثال على شفرة Python#

بينما تعمل المكتبات عالية المستوى مثل ultralytics على تجريد هذه العملية أثناء التدريب، يمكنك رؤية الآلية مباشرةً باستخدام PyTorch. يوضح المثال التالي خطوة تحسين بسيطة نحدّث فيها موترًا يدويًا لتقليل قيمة.

import torch

# Create a tensor representing a weight, tracking gradients
w = torch.tensor([5.0], requires_grad=True)

# Define a simple loss function: (w - 2)^2. Minimum is at w=2.
loss = (w - 2) ** 2

# Backward pass: Calculate the gradient (slope) of the loss with respect to w
loss.backward()

# Perform a single Gradient Descent step
learning_rate = 0.1
with torch.no_grad():
    w -= learning_rate * w.grad  # Update weight: w_new = w_old - (lr * gradient)

print(f"Gradient: {w.grad.item()}")
print(f"Updated Weight: {w.item()}")  # Weight moves closer to 2.0

يتيح فهم هذه الأساسيات للمطورين استكشاف مشكلات التقارب وإصلاحها، وضبط المعاملات الفائقة بفعالية، والاستفادة من أدوات قوية مثل Ultralytics Explorer لتصور كيفية تفاعل مجموعات بياناتهم مع ديناميكيات تدريب النماذج. وبالنسبة إلى من يرغبون في نشر هذه النماذج المحسّنة بكفاءة، يمكن أن يسهم استكشاف التدريب المدرك للتكميم (QAT) في تحسين الأداء لأجهزة الحافة.