Dataset Bias

يحدث انحياز مجموعة البيانات عندما تحتوي المعلومات المستخدمة لتعليم نماذج التعلم الآلي (ML) على أخطاء منهجية أو توزيعات منحرفة، مما يدفع نظام الذكاء الاصطناعي الناتج إلى تفضيل نتائج معينة على أخرى. وبما أن النماذج تعمل كمحركات التعرف على الأنماط، فإنها تعتمد كلياً على مدخلاتها؛ وإذا كانت بيانات التدريب لا تعكس بدقة تنوع بيئة العالم الحقيقي، فسيرث النموذج هذه النقاط العمياء. وغالباً ما تؤدي هذه الظاهرة إلى ضعف التعميم، حيث قد يحقق الذكاء الاصطناعي درجات عالية أثناء الاختبار ولكنه يفشل بشكل ملحوظ عند نشرها للاستدلال في الوقت الفعلي في سيناريوهات متنوعة أو غير متوقعة.

المصادر الشائعة لانحياز البيانات#

يمكن أن يتسلل التحيز إلى مجموعة البيانات في مراحل متعددة من دورة حياة التطوير، وغالباً ما ينبع من القرارات البشرية أثناء الجمع أو التصنيف.

• انحياز الاختيار: ينشأ هذا عندما لا تمثل البيانات التي تم جمعها المجتمع المستهدف عشوائياً. على سبيل المثال، قد يؤدي إنشاء مجموعة بيانات للتعرف على الوجه باستخدام صور للمشاهير في الغالب إلى انحراف النموذج نحو المكياج الكثيف والإضاءة الاحترافية، مما يتسبب في فشله مع صور كاميرا الويب اليومية.
• أخطاء التسمية: يمكن أن تُدخل الذاتية أثناء تسمية البيانات التحيز البشري. إذا قام القائمون على التعليق بتصنيف الكائنات الغامضة بشكل خاطئ باستمرار بسبب نقص الإرشادات الواضحة، يتعامل النموذج مع هذه الأخطاء كحقيقة أساسية.
• انحياز التمثيل: حتى إذا تم اختيارها بشكل عشوائي، فقد يتم طمس مجموعات الأقليات إحصائياً بواسطة فئة الأغلبية. في اكتشاف الكائنات، ستؤدي مجموعة بيانات تحتوي على 10000 صورة للسيارات ولكن 100 صورة فقط للدراجات إلى نموذج متحيز نحو اكتشاف السيارات.

التطبيقات الواقعية والعواقب#

إن تأثير تحيز مجموعة البيانات كبير عبر مختلف الصناعات، خاصة حيث تتخذ الأنظمة المؤتمتة قرارات عالية المخاطر أو تتفاعل مع العالم المادي.

في صناعة السيارات، يعتمد الذكاء الاصطناعي في السيارات على الكاميرات لتحديد المشاة والعقبات. إذا تم تدريب سيارة ذاتية القيادة أساساً على بيانات تم جمعها في مناخات جافة وممشمسة، فقد تظهر عليها تدهور في الأداء عند التشغيل في الثلوج أو الأمطار الغزيرة. هذا مثال كلاسيكي لفشل توزيع التدريب في مطابقة توزيع التشغيل، مما يؤدي إلى مخاطر تتعلق بالسلامة.

وبالمثل، في تحليل الصور الطبية، غالباً ما يتم تدريب نماذج التشخيص على بيانات المرضى التاريخية. إذا تم تدريب نموذج مصمم للكشف عن الأمراض الجلدية على مجموعة بيانات تسيطر عليها درجات لون البشرة الفاتحة، فقد يظهر دقة أقل بكثير عند تشخيص المرضى ذوي البشرة الداكنة. يتطلب معالجة هذا الأمر جهداً منسقاً لتنظيم مجموعات بيانات متنوعة تضمن العدالة في الذكاء الاصطناعي عبر جميع الفئات الديموغرافية.

استراتيجيات التخفيف#

يمكن للمطورين تقليل انحياز مجموعة البيانات من خلال توظيف التدقيق الصارم واستراتيجيات التدريب المتقدمة. تساعد تقنيات مثل زيادة البيانات في موازنة مجموعات البيانات عن طريق إنشاء تنويعات اصطناعية للأمثلة غير الممثلة بالقدر الكافي (مثل القلب، أو التدوير، أو ضبط السطوع). علاوة على ذلك، يمكن أن يؤدي توليد البيانات الاصطناعية إلى سد الفجوات حيث تكون بيانات العالم الحقيقي شحيحة أو يصعب جمعها.

يعد إدارة مجموعات البيانات هذه بفعالية أمراً بالغ الأهمية. تتيح Ultralytics Platform للفرق تصور توزيعات الفئات وتحديد الاختلالات قبل بدء التدريب. بالإضافة إلى ذلك، يساعد الالتزام بالإرشادات مثل إطار عمل إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني للمعايير والتكنولوجيا (NIST) المؤسسات في هيكلة نهجها لتحديد هذه المخاطر والتخفيف من حدتها بشكل منهجي.

تحيز مجموعة البيانات مقابل المفاهيم ذات الصلة#

من المفيد تمييز تحيز مجموعة البيانات عن المصطلحات المشابهة لفهم مصدر الخطأ:

• مقابل الانحياز الخوارزمي: انحياز مجموعة البيانات يرتكز على البيانات؛ مما يعني أن "المكونات" المعيبة. الانحياز الخوارزمي يرتكز على النموذج؛ فهو ينشأ من تصميم الخوارزمية نفسها أو خوارزمية التحسين، والتي قد تعطي الأولوية لفئات الأغلبية لتحقيق أقصى قدر من المقاييس الإجمالية على حساب مجموعات الأقليات.
• مقابل انحياز النموذج: انحياز مجموعة البيانات هو مشكلة ثابتة موجودة في وقت التدريب. يحدث انحياز النموذج (أو انحياز البيانات) عندما تتغير بيانات العالم الحقيقي بمرور الوقت بعد نشر النموذج، مما يتطلب مراقبة مستمرة للنموذج.

مثال برمجي: زيادة البيانات لتقليل التحيز#

يوضح المثال التالي كيفية تطبيق زيادة البيانات أثناء التدريب باستخدام YOLO26. من خلال زيادة التحويلات الهندسية، يتعلم النموذج التعميم بشكل أفضل، مما قد يقلل من التحيز تجاه اتجاهات معينة للكائنات أو المواضع الموجودة في مجموعة التدريب.

from ultralytics import YOLO

# Load YOLO26n, a high-efficiency model ideal for edge deployment
model = YOLO("yolo26n.pt")

# Train with increased augmentation to improve generalization
# 'fliplr' (flip left-right) and 'scale' help the model see diverse variations
results = model.train(
    data="coco8.yaml",
    epochs=50,
    fliplr=0.5,  # 50% probability of horizontal flip
    scale=0.5,  # +/- 50% image scaling
)