Overfitting

يحدث فرط التخصيص في تعلّم الآلة عندما يتعلم النموذج بيانات التدريب بدرجة مفرطة، فيلتقط الضوضاء والتقلبات العشوائية بدلًا من توزيع البيانات الأساسي. وبدلًا من تعلّم الأنماط العامة التي تنطبق على البيانات الجديدة غير المرئية، يحفظ النموذج مفرط التخصيص الأمثلة المحددة في مجموعة التدريب فعليًا. وينتج عن ذلك أداء ممتاز على بيانات التدريب، لكن قدرة ضعيفة على التعميم على سيناريوهات العالم الحقيقي. وغالبًا ما يوصف ذلك بأنه «تباين مرتفع»، ما يعني أن تنبؤات النموذج تتغير بدرجة كبيرة تبعًا لمجموعة البيانات المحددة المستخدمة في التدريب.

أسباب حدوث فرط التخصيص#

السبب الرئيسي لفرط التخصيص هو زيادة تعقيد النموذج مقارنةً بكمية البيانات المتاحة. فإذا كانت الشبكة العصبية كبيرة جدًا—أي إنها تحتوي على عدد كبير جدًا من الطبقات أو المعلمات—فيمكنها بسهولة حفظ أمثلة التدريب. وتشمل العوامل الأخرى المساهمة ما يلي:

• عدم كفاية بيانات التدريب: قد تحتوي مجموعات البيانات الصغيرة على ارتباطات زائفة غير موجودة في المجتمع الأوسع. وتكون النماذج المدرَّبة على بيانات محدودة عرضة لتعلّم هذه الأنماط العرضية.
• ضوضاء البيانات والقيم الشاذة: يمكن للمستويات المرتفعة من الضوضاء أو القيم الشاذة غير الممثلة في بيانات التدريب أن تضلل النموذج، فتدفعه إلى ضبط معلماته الداخلية لملاءمة الحالات الشاذة بدلًا من الإشارة الحقيقية.
• مدة التدريب الممتدة: يتيح التدريب لعدد كبير جدًا من العصور للنموذج مواصلة تحسين أوزانه حتى يلائم الضوضاء الموجودة في مجموعة التدريب. وغالبًا ما تُراقَب هذه العملية باستخدام بيانات التحقق.

فرط التخصيص مقابل نقص التخصيص#

من المهم التمييز بين فرط التخصيص ونقص التخصيص. ففي حين ينطوي فرط التخصيص على تعلّم قدر مفرط من التفاصيل، بما في ذلك الضوضاء، يحدث نقص التخصيص عندما يكون النموذج بسيطًا جدًا بحيث يعجز تمامًا عن التقاط البنية الأساسية للبيانات. ويؤدي النموذج ناقص التخصيص أداءً ضعيفًا على بيانات التدريب والبيانات الجديدة معًا، ما ينتج عنه غالبًا انحياز مرتفع. ويُعرف تحقيق التوازن بين هذين الطرفين باسم مقايضة الانحياز والتباين.

الوقاية من فرط التخصيص#

يستخدم المهندسون عدة تقنيات للحد من فرط التخصيص وتحسين متانة النموذج:

• التنظيم: تؤدي تقنيات مثل التنظيم من نوع L1/L2 أو إضافة طبقات الإسقاط إلى إدخال عقوبات أو عشوائية أثناء التدريب، ما يمنع النموذج من الاعتماد المفرط على ميزات محددة.
• الإيقاف المبكر: تتيح مراقبة دالة الخسارة على مجموعة تحقق إيقاف التدريب بمجرد توقف الأداء على البيانات غير المرئية عن التحسن، حتى إذا استمرت دقة التدريب في الارتفاع.
• زيادة البيانات: تؤدي زيادة حجم مجموعة التدريب وتنوعها اصطناعيًا باستخدام زيادة البيانات إلى جعل حفظ الصور الدقيقة أكثر صعوبة على النموذج.
• التحقق المتقاطع: يضمن استخدام تقنيات مثل التحقق المتقاطع k-fold اختبار النموذج على مجموعات فرعية مختلفة من البيانات، ما يوفر تقديرًا أكثر موثوقية لأدائه.

أمثلة من العالم الواقعي#

يمكن أن تترتب على فرط التخصيص عواقب خطيرة عند نشر الذكاء الاصطناعي في بيئات الإنتاج:

• التشخيص الطبي: في الذكاء الاصطناعي في الرعاية الصحية، قد يفرط نموذج مدرَّب على اكتشاف سرطان الجلد في التخصيص لظروف الإضاءة أو علامات المسطرة الموجودة في صور التدريب. وعند نشره في عيادة ذات إضاءة أو معدات مختلفة، قد يفشل النموذج في تحديد الآفات الخبيثة بشكل صحيح لأنه اعتمد على مؤشرات خلفية غير ذات صلة.
• التنبؤ المالي: قد يفرط نموذج للتنبؤ بأسعار الأسهم في التخصيص لاتجاهات السوق التاريخية التي نتجت عن حدث محدد غير قابل للتكرار، مثل أزمة اقتصادية لمرة واحدة. ومن المرجح أن يفشل هذا النموذج في التنبؤ بدقة بحركات الأسهم المستقبلية لأنه حفظ الحالات الشاذة السابقة بدلًا من تعلّم ديناميكيات السوق الأساسية.

مثال برمجي: الإيقاف المبكر باستخدام Ultralytics YOLO26#

باستخدام منصة Ultralytics أو نصوص التدريب المحلية، يمكنك منع فرط التخصيص من خلال تعيين قيمة لصبر الإيقاف المبكر. ويوقف ذلك التدريب إذا لم تتحسن ملاءمة التحقق خلال عدد محدد من العصور.

from ultralytics import YOLO

# Load the YOLO26 model (latest generation)
model = YOLO("yolo26n.pt")

# Train with early stopping enabled (patience=50 epochs)
# If validation metrics don't improve for 50 epochs, training stops.
results = model.train(data="coco8.yaml", epochs=100, patience=50)

المفاهيم ذات الصلة#

• التعميم: قدرة النموذج على التكيف مع البيانات الجديدة التي لم يسبق له رؤيتها وتحقيق أداء جيد عليها، وهو عكس فرط التخصيص.
• التحقق المتقاطع: تقنية لتقييم كيفية تعميم نتائج التحليل الإحصائي على مجموعة بيانات مستقلة.
• التنظيم: أساليب تُستخدم لتقليل الأخطاء من خلال ملاءمة دالة بشكل مناسب لمجموعة التدريب المعطاة وتجنب فرط التخصيص.