تحيز مجموعة البيانات

يحدث تحيز مجموعة البيانات عندما لا تمثل البيانات المستخدمة في تدريب النموذج بدقة البيئة الواقعية التي سيتم فيها نشر النموذج. هذا الخلل أو التمثيل المنحرف يمثل مشكلة حاسمة في التعلم الآلي (ML) لأن النماذج تتعلم الأنماط والعيوب الموجودة في بيانات التدريب الخاصة بها. إذا كانت البيانات متحيزة، فسوف يرث نظام الذكاء الاصطناعي الناتج هذا التحيز ويضخمه غالبًا، مما يؤدي إلى نتائج غير دقيقة وغير موثوقة وغير عادلة. تعد معالجة تحيز مجموعة البيانات حجر الزاوية في تطوير الذكاء الاصطناعي المسؤول ودعم أخلاقيات الذكاء الاصطناعي.

المصادر الشائعة لانحياز مجموعة البيانات

يمكن إدخال التحيز في مراحل مختلفة من مسار تدفق البيانات، من الجمع إلى المعالجة. تتضمن بعض الأنواع الشائعة ما يلي:

• تحيز الاختيار: يحدث هذا عندما لا يتم أخذ عينات البيانات عشوائيًا من المجتمع المستهدف. على سبيل المثال، جمع البيانات لنموذج تحليلات البيع بالتجزئة فقط من الأحياء ذات الدخل المرتفع سيؤدي إلى إنشاء تحيز في الاختيار، مما يؤدي إلى نموذج لا يفهم سلوك مجموعات العملاء الأخرى.
• تحيز التمثيل: يحدث هذا عندما تكون بعض المجموعات الفرعية ممثلة تمثيلاً ناقصًا أو مفرطًا في مجموعة البيانات. ستتسبب مجموعة بيانات مرجعية لمراقبة حركة المرور تحتوي على صور نهارية في الغالب في ضعف أداء النموذج عند اكتشاف المركبات ليلاً.
• تحيز القياس: ينشأ هذا التحيز من الأخطاء المنهجية أثناء جمع البيانات أو من أدوات القياس نفسها. على سبيل المثال، استخدام كاميرات عالية الدقة لفئة ديموغرافية وكاميرات منخفضة الدقة لفئة أخرى يؤدي إلى إدخال تحيز القياس في مجموعة بيانات الرؤية الحاسوبية.
• تحيز التعليقات التوضيحية: ينبع هذا من الأحكام الذاتية للمعلقين البشريين أثناء عملية تسمية البيانات. يمكن أن تؤثر الأفكار المسبقة على كيفية تطبيق التصنيفات، خاصة في المهام التي تتضمن تفسيرًا ذاتيًا، مما قد يؤثر على تعلم النموذج.

أمثلة واقعية

1. أنظمة التعرف على الوجه: كانت أنظمة التعرف على الوجه التجارية المبكرة أقل دقة بشكل ملحوظ للنساء والأشخاص الملونين. كشفت الأبحاث، مثل مشروع Gender Shades، أن هذا يرجع إلى حد كبير إلى أن مجموعات بيانات التدريب تتكون في الغالب من صور لرجال بيض. فشلت النماذج التي تم تدريبها على هذه البيانات المنحرفة في التعميم عبر التركيبة السكانية المختلفة.
2. التشخيص الطبي: قد يتم تدريب نموذج ذكاء اصطناعي مصمم لـ تحليل الصور الطبية، مثل اكتشاف الأورام في صور الأشعة السينية، على بيانات من مستشفى واحد. يمكن أن يتعلم هذا النموذج ميزات خاصة بمعدات التصوير في ذلك المستشفى. عند نشره في مستشفى آخر بمعدات مختلفة، قد ينخفض أداؤه بشكل كبير بسبب انحراف البيانات. وهذا يسلط الضوء على الحاجة إلى مصادر بيانات متنوعة في الذكاء الاصطناعي في مجال الرعاية الصحية.

التحيز في مجموعة البيانات مقابل التحيز الخوارزمي

من المهم التمييز بين تحيز مجموعة البيانات و التحيز الخوارزمي.

• ينشأ التحيز في مجموعة البيانات من البيانات نفسها. البيانات معيبة قبل أن يراها النموذج، مما يجعلها مشكلة أساسية.
• التحيز الخوارزمي يمكن أن ينشأ من بنية النموذج أو عملية التحسين، مما قد يفضل بشكل منهجي نتائج معينة على غيرها، حتى مع وجود بيانات متوازنة تمامًا.

ومع ذلك، فإن الاثنين مرتبطان بعمق. يعد تحيز مجموعة البيانات أحد أكثر الأسباب شيوعًا للتحيز الخوارزمي. النموذج الذي يتم تدريبه على بيانات متحيزة سيقدم بالتأكيد تنبؤات متحيزة، مما يؤدي إلى إنشاء خوارزمية متحيزة. لذلك، يجب أن يبدأ ضمان الإنصاف في الذكاء الاصطناعي بمعالجة التحيز في البيانات.

استراتيجيات التخفيف

تخفيف تحيز مجموعة البيانات هو عملية مستمرة تتطلب تخطيطًا وتنفيذًا دقيقين طوال دورة حياة عمليات تعلم الآلة (MLOps).

• جمع بيانات مدروس: اسعَ إلى الحصول على مصادر بيانات متنوعة وتمثيلية تعكس العالم الحقيقي. إن اتباع دليل منظم لجمع البيانات وتوصيفها أمر ضروري. كما أن توثيق مجموعات البيانات باستخدام أطر عمل مثل صحائف بيانات مجموعات البيانات يعزز الشفافية.
• زيادة البيانات وتوليفها: استخدم تقنيات مثل أخذ العينات الزائدة للمجموعات الممثلة تمثيلاً ناقصًا، أو تطبيق زيادة البيانات المستهدفة، أو إنشاء بيانات اصطناعية لتحقيق التوازن في مجموعة البيانات. تدعم نماذج Ultralytics أصلاً مجموعة متنوعة من طرق الزيادة القوية.
• أدوات تدقيق التحيز (Bias Auditing Tools): استخدم أدوات مثل أداة What-If من Google والمكتبات مفتوحة المصدر مثل Fairlearn لفحص مجموعات البيانات والنماذج بحثًا عن التحيزات المحتملة.
• تقييم صارم للنموذج: بالإضافة إلى مقاييس الدقة الإجمالية، قم بتقييم أداء النموذج عبر مختلف المجموعات الديموغرافية أو البيئية الفرعية. من أفضل الممارسات توثيق النتائج باستخدام طرق مثل بطاقات النموذج للحفاظ على الشفافية.
• الاستفادة من المنصات الحديثة: تقدم منصات مثل Ultralytics HUB أدوات متكاملة لإدارة مجموعات البيانات وتصورها وتدريب النماذج مثل Ultralytics YOLO11. يساعد هذا المطورين على بناء أنظمة أكثر إنصافًا من خلال تبسيط عملية إنشاء وتقييم النماذج على بيانات متنوعة.

من خلال المعالجة الاستباقية لانحياز مجموعة البيانات، يمكن للمطورين بناء أنظمة ذكاء اصطناعي أكثر قوة وموثوقية وأخلاقية، وهو موضوع تتم مناقشته بشكل متكرر في المؤتمرات الرائدة مثل مؤتمر ACM حول العدالة والمساءلة والشفافية (FAccT).