Yolo فيجن شنتشن
شنتشن
انضم الآن
مسرد المصطلحات

تدرج النزول

اكتشف كيف يحسّن Gradient Descent Descent نماذج الذكاء الاصطناعي مثل Ultralytics YOLO مما يتيح تنبؤات دقيقة في المهام بدءاً من الرعاية الصحية وحتى السيارات ذاتية القيادة.

نزول التدرج هي خوارزمية تكرارية أساسية تُستخدم لتقليل الدالة عن طريق التحرك في اتجاه الأكثر انحدارًا. في سياق التعلم الآلي (ML) و والتعلم العميق (DL)، فهي تعمل كآلية توجيهية التي تدرب النماذج على إجراء تنبؤات دقيقة. الهدف الأساسي هو العثور على المجموعة المثلى من من أوزان النماذج التي تقلل من دالة الخسارة، والتي تمثل الفرق بين تنبؤات النموذج والقيم المستهدفة الفعلية. يمكنك تصوّر هذه العملية كمتنزه يحاول العثور على قاع وادٍ في ضباب كثيف؛ من خلال اتخاذ خطوات متكررة في اتجاه المنحدر الأكثر انحدارًا, يصل المتنزه في النهاية إلى أدنى نقطة. يتم استكشاف هذا المفهوم الأساسي بمزيد من التفصيل في دورةGoogle للتعلم الآلي السريع.

كيف يعمل نزول التدرج

تتضمن الآليات الأساسية لنسب التدرج حساب التدرج - وهو متجه المشتقات الجزئية - لدالة الخسارة لدالة الخسارة بالنسبة لكل معلمة. يتم التعامل مع هذا الحساب بكفاءة بواسطة خوارزمية خوارزمية الانتشار العكسي. بمجرد تحديد التدرج يقوم النموذج بتحديث معلماته عن طريق اتخاذ خطوة في الاتجاه المعاكس للتدرج. يتم التحكم في حجم هذه الخطوة يتم التحكم به من خلال معلمة حاسمة تعرف باسم معدل التعلّم. إذا كان معدل التعلّم مرتفعًا جدًا، فإن فقد تتجاوز الخوارزمية الحد الأدنى؛ وإذا كان منخفضًا جدًا، فقد يستغرق التدريب وقتًا طويلاً للغاية. تتكرر هذه الدورة تتكرر على عدة تمريرات عبر مجموعة البيانات، والتي تُدعى الحلقات, حتى تستقر الخسارة. للحصول على منظور رياضي, تقدم أكاديمية خان درسًا عن النسب المتدرجة الذي يشرح طريقة حساب التفاضل والتكامل المتضمنة.

متغيرات النسب المتدرج

توجد أشكال مختلفة من الخوارزمية لتحقيق التوازن بين الكفاءة الحسابية وسرعة التقارب:

  • نزول التدرج الدفعي: يحسب التدرج باستخدام بيانات كامل بيانات التدريب لكل تحديث. يوفر تحديثات مستقرة ولكن يمكن أن يكون بطيئًا للغاية ويستهلك الكثير من الذاكرة لمجموعات البيانات الكبيرة.
  • نزول التدرج العشوائيSGD: تحديث الأوزان باستخدام عينة عشوائية واحدة في كل مرة. هذا يقدم ضوضاء يمكن أن تساعد في الهروب من الحد الأدنى المحلي ولكن ينتج عنه منحنى خسارة متقلب. إن توفر وثائق Scikit-Learn على SGD التفاصيل الفنية تفاصيل تقنية حول هذا النهج.
  • تسلسل التدرج الدفعي المصغر: يعالج مجموعات فرعية صغيرة من البيانات، أو على دفعات، مما يوفر توازنًا بين استقرار نزول التدرج الدفعي وسرعة SGD. هذا هو النهج القياسي في الأطر الحديثة مثل PyTorch و TensorFlow.

فيما يلي مثال موجز عن كيفية تكوين مُحسِّن لتدريب Ultralytics YOLO11 نموذج YOLO11:

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Train the model using the SGD optimizer with a specific learning rate
# The 'optimizer' argument allows you to select the gradient descent variant
results = model.train(data="coco8.yaml", epochs=50, optimizer="SGD", lr0=0.01)

تطبيقات واقعية

النسب المتدرجة هو المحرك وراء العديد من تطبيقات الذكاء الاصطناعي في مجال الرعاية الصحية والتطبيقات الصناعية.

  • تحليل الصور الطبية: في مهام مثل الكشف عن الورم, يعدل النسب المتدرج بشكل متكرر أوزان الشبكة العصبية التلافيفية (CNN) لتقليل الخطأ بين أقنعة التجزئة المتوقعة والحقيقة الأساسية لأخصائي الأشعة. وهذا يضمن دقة عالية في تحليل الصور الطبية.
  • القيادة الذاتية: تعتمد السيارات ذاتية القيادة على نماذج اكتشاف الأجسام للتعرف على المشاة والمركبات وإشارات المرور. أثناء التدريب، يعمل المُحسِّن على تقليل خسارة الانحدار ل إحداثيات الصندوق المحدود، مما يسمح للمركبة ب تحديد موقع الأجسام بدقة على مستوى السنتيمتر. يعتمد رواد الصناعة مثل Waymo على تقنيات التحسين المتقدمة هذه لضمان سلامة الركاب.

الانحدار التدريجي مقابل المفاهيم ذات الصلة

لفهم النسب المتدرج بشكل كامل، يجب تمييزه عن المصطلحات ذات الصلة. بينما يحسب الانتساب العكسي التدرجات (تحديد "الاتجاه")، فإن "نزول التدرج" هو هو خوارزمية التحسين التي تقوم بتحديث المعلمات (اتخاذ "الخطوة"). بالإضافة إلى ذلك، بينما تستخدم خوارزمية نزول التدرج القياسية عادةً يستخدم معدل تعلم ثابت، فإن الخوارزميات التكيفية مثل خوارزمية مُحسِّنAdam بضبط معدل التعلّم ديناميكيًا لكل متغير، مما يؤدي غالبًا إلى تقارب أسرع كما هو موضح في ورقة ورقةAdam البحثية الأصلية. يمكن لتحديات مثل مشكلة التدرّج المتلاشي يمكن أن تعيق معيار نزول التدرج في الشبكات العميقة جدًا، مما يستلزم حلولًا معمارية مثل تطبيع الدُفعات أو الوصلات المتبقية. يمكن الاطلاع على لمحات عامة شاملة عن تحديات التحسين هذه في مدونة سيباستيان رودر.

انضم إلى مجتمع Ultralytics

انضم إلى مستقبل الذكاء الاصطناعي. تواصل وتعاون وانمو مع المبتكرين العالميين

انضم الآن