Gradient Descent

الانحدار الاشتقاقي (Gradient Descent) هو خوارزمية تحسين تكرارية أساسية تُستخدم لتدريب نماذج التعلم الآلي والشبكات العصبية. وتتمثل وظيفته الأساسية في تقليل دالة الخسارة عن طريق تعديل المعلمات الداخلية للنموذج بشكل منهجي، وتحديداً أوزان النموذج والتحيزات. يمكنك تصور هذه العملية كمتنزه يحاول النزول من جبل في ضباب كثيف؛ وبما أنه لا يستطيع رؤية القاع، فإنه يتحسس منحدر الأرض ويتخذ خطوة في الاتجاه الأكثر انحداراً نحو الأسفل. في سياق التعلم الآلي (ML)، يمثل "الجبل" مشهد الخطأ، ويمثل "القاع" الحالة التي تكون فيها تنبؤات النموذج أكثر دقة. تُعد تقنية التحسين هذه المحرك الكامن وراء اختراقات الذكاء الاصطناعي (AI) الحديثة، حيث تشغل كل شيء بدءاً من الانحدار الخطي البسيط وصولاً إلى بنيات التعلم العميق المعقدة مثل Ultralytics YOLO26.

Link to this sectionكيف يعمل الانحدار الاشتقاقي#

تعتمد فعالية الانحدار الاشتقاقي على حساب التدرج (gradient) - وهو متجه يشير إلى اتجاه الزيادة الأكثر حدة في دالة الخسارة. يتم إجراء هذا الحساب عادةً باستخدام خوارزمية الانتشار العكسي. وبمجرد تحديد الاتجاه، تقوم الخوارزمية بتحديث الأوزان في الاتجاه المعاكس لتقليل الخطأ. يتم تحديد حجم الخطوة المتخذة بواسطة معلمة فائقة تُعرف باسم معدل التعلم. يعد العثور على معدل التعلم الأمثل أمراً بالغ الأهمية؛ فإذا كانت الخطوة كبيرة جداً، فقد يتسبب ذلك في تجاوز النموذج للنقطة الدنيا، بينما إذا كانت صغيرة جداً، فقد تصبح عملية التدريب بطيئة بشكل مؤلم، مما يتطلب عدداً مفرطاً من الحقبات للوصول إلى التقارب. للحصول على فهم رياضي أعمق، تقدم أكاديمية خان درساً في حساب التفاضل والتكامل متعدد المتغيرات حول هذا الموضوع.

تتكرر العملية بشكل تكراري حتى يصل النموذج إلى نقطة يتم فيها تقليل الخطأ، وهو ما يُعرف غالباً بالتقارب. وبينما تحسب الخوارزمية القياسية التدرجات عبر مجموعة بيانات التدريب بأكملها، فإن التباينات مثل الانحدار الاشتقاقي العشوائي (SGD) تستخدم مجموعات فرعية أصغر أو أمثلة فردية لتسريع الحوسبة والهروب من القيم الدنيا المحلية. هذه القدرة على التكيف تجعلها مناسبة لتدريب نماذج واسعة النطاق على منصة Ultralytics، حيث تعد الكفاءة والسرعة أمراً بالغ الأهمية.

Link to this sectionتطبيقات العالم الحقيقي#

يعمل الانحدار الاشتقاقي بصمت خلف كواليس كل حل ناجح تقريباً من حلول الذكاء الاصطناعي، حيث يترجم البيانات الخام إلى ذكاء قابل للتنفيذ عبر صناعات متنوعة.

• القيادة الذاتية: في تطوير المركبات ذاتية القيادة، يجب على النماذج معالجة البيانات المرئية لتحديد المشاة وإشارات المرور والسيارات الأخرى. باستخدام بنيات اكتشاف الكائنات مثل YOLO26 المتطورة، يعمل الانحدار الاشتقاقي على تقليل الفرق بين الموقع المتوقع للكائن وموقعه الفعلي. وهذا يضمن أن أنظمة الذكاء الاصطناعي في السيارات يمكنها اتخاذ قرارات حاسمة في أجزاء من الثانية من خلال تحسين خرائطها الداخلية للطرق بشكل مستمر.
• التشخيص الطبي: في الرعاية الصحية، يعتمد تحليل الصور الطبية على التعلم العميق لاكتشاف الشذوذ مثل الأورام في فحوصات التصوير بالرنين المغناطيسي. ومن خلال استخدام الانحدار الاشتقاقي لتحسين الشبكات العصبية التلافيفية (CNNs)، تتعلم هذه الأنظمة التمييز بين الأنسجة الخبيثة والحميدة بدقة عالية. وهذا يساعد بشكل كبير متخصصي الذكاء الاصطناعي في الرعاية الصحية من خلال تقليل النتائج السلبية الكاذبة في التشخيصات الحرجة، مما يؤدي إلى خطط علاجية مبكرة وأكثر دقة.

Link to this sectionالتمييز بين المفاهيم ذات الصلة#

من المهم التمييز بين الانحدار الاشتقاقي والمصطلحات وثيقة الصلة في مسرد التعلم العميق (DL) لتجنب الارتباك أثناء تطوير النموذج.

• مقابل الانتشار العكسي: على الرغم من أنه غالباً ما يُشار إليهما معاً، إلا أنهما يؤديان أدواراً مختلفة ضمن حلقة التدريب. الانتشار العكسي هو الطريقة المستخدمة لـ حساب التدرجات (تحديد اتجاه المنحدر)، بينما الانحدار الاشتقاقي هو خوارزمية التحسين التي تستخدم تلك التدرجات لـ تحديث الأوزان (اتخاذ الخطوة). الانتشار العكسي هو الخريطة؛ والانحدار الاشتقاقي هو المتنزه.
• مقابل محسن Adam: يعد محسن Adam تطوراً متقدماً للانحدار الاشتقاقي يستخدم معدلات تعلم تكيفية لكل معلمة. غالباً ما يؤدي هذا إلى تقارب أسرع من SGD القياسي. يُستخدم هذا المحسن على نطاق واسع في الأطر الحديثة وهو خيار افتراضي لتدريب نماذج مثل YOLO11 وYOLO26 نظراً لمتانته.
• مقابل دالة الخسارة: تقيس دالة الخسارة (مثل متوسط مربع الخطأ أو الإنتروبيا المتقاطعة) مدى سوء أداء النموذج. الانحدار الاشتقاقي هو العملية التي تحسن ذلك الأداء. توفر دالة الخسارة النتيجة، بينما يوفر الانحدار الاشتقاقي الاستراتيجية لتحسين تلك النتيجة.

Link to this sectionمثال كود Python#

بينما تقوم المكتبات عالية المستوى مثل ultralytics بتجريد هذه العملية أثناء التدريب، يمكنك رؤية الآلية مباشرة باستخدام PyTorch. يوضح المثال التالي خطوة تحسين بسيطة حيث نقوم بتحديث موتر (tensor) يدوياً لتقليل قيمة ما.

import torch

# Create a tensor representing a weight, tracking gradients
w = torch.tensor([5.0], requires_grad=True)

# Define a simple loss function: (w - 2)^2. Minimum is at w=2.
loss = (w - 2) ** 2

# Backward pass: Calculate the gradient (slope) of the loss with respect to w
loss.backward()

# Perform a single Gradient Descent step
learning_rate = 0.1
with torch.no_grad():
    w -= learning_rate * w.grad  # Update weight: w_new = w_old - (lr * gradient)

print(f"Gradient: {w.grad.item()}")
print(f"Updated Weight: {w.item()}")  # Weight moves closer to 2.0

يسمح فهم هذه الأساسيات للمطورين باستكشاف مشكلات التقارب وإصلاحها، وضبط المعلمات الفائقة بفعالية، والاستفادة من أدوات قوية مثل Ultralytics Explorer لتصور كيفية تفاعل مجموعات البيانات الخاصة بهم مع ديناميكيات تدريب النموذج. بالنسبة لأولئك الذين يتطلعون إلى نشر هذه النماذج المحسنة بكفاءة، يمكن أن يؤدي استكشاف التدريب الواعي بالكمية (QAT) إلى تحسين الأداء بشكل أكبر للأجهزة الطرفية.