Bias in AI

يشير الانحياز في الذكاء الاصطناعي إلى أخطاء منهجية، أو تحيزات، أو افتراضات غير مبررة مضمنة داخل أنظمة الذكاء الاصطناعي (AI) والتي تؤدي إلى نتائج غير عادلة أو غير منصفة أو تمييزية. على عكس الأخطاء العشوائية التي لا يمكن التنبؤ بها، يظهر الانحياز كتحريف متسق للنتائج لصالح أو ضد مجموعات معينة، وغالباً ما يستند ذلك إلى خصائص حساسة مثل العرق أو الجنس أو العمر أو الوضع الاجتماعي والاقتصادي. ومع زيادة نشر نماذج تعلم الآلة (ML) في بيئات عالية المخاطر—بدءاً من التشخيص في الذكاء الاصطناعي في الرعاية الصحية ووصولاً إلى الإقراض المالي—أصبح تحديد هذه التحيزات وتخفيفها عنصراً حاسماً في أخلاقيات الذكاء الاصطناعي وبروتوكولات السلامة.

Link to this sectionمصادر وأصول الانحياز#

نادراً ما يتم إدخال الانحياز عمداً؛ بل يتسلل إلى الأنظمة عبر مراحل مختلفة من دورة حياة التطوير، وغالباً ما يعكس تفاوتات تاريخية أو عيوباً في جمع البيانات.

• انحياز مجموعة البيانات: هذا هو المصدر الأكثر شيوعاً، ويحدث عندما لا تمثل بيانات التدريب السكان في العالم الحقيقي بدقة. على سبيل المثال، إذا تم تدريب نموذج رؤية الحاسوب (CV) بشكل أساسي على صور من دول غربية، فقد يفشل في التعرف على السياقات الثقافية أو الأشياء من مناطق أخرى، وهي ظاهرة غالباً ما ترتبط بـ انحياز الاختيار.
• الانحياز الخوارزمي: حتى مع وجود بيانات مثالية، يمكن لتصميم النموذج أن يسبب عدم الإنصاف. تعطي بعض خوارزميات التحسين الأولوية لمقاييس الدقة العالمية، وهو ما قد يضحي دون قصد بالأداء في المجموعات الفرعية الأصغر وغير الممثلة جيداً لزيادة النتيجة الإجمالية.
• الانحياز الإدراكي والتاريخي: يمكن ترميز التحيزات البشرية في تسميات الحقيقة الأساسية (ground truth) أثناء تسمية البيانات. إذا كان لدى المشرفين البشريين تحيزات لا واعية، فسيتعلم النموذج تكرار هذه الأحكام الذاتية، مما يؤدي فعلياً إلى أتمتة الفوارق المجتمعية القائمة.

Link to this sectionالآثار في العالم الحقيقي#

يمكن أن تكون عواقب الانحياز في الذكاء الاصطناعي عميقة، حيث تؤثر على الحقوق الفردية والسلامة.

• فوارق تحليل الوجه: أظهرت التكرارات المبكرة لتقنية التعرف على الوجه معدلات خطأ أعلى بشكل ملحوظ للنساء والأشخاص الملونين. سلطت منظمات مثل Algorithmic Justice League الضوء على كيفية تسبب هذه الأنظمة، التي غالباً ما تُستخدم في الأمن، في تحديد هوية خاطئ واتهامات غير مستحقة بسبب مجموعات تدريب غير ممثلة بشكل كافٍ.
• تشخيصات الرعاية الصحية: في تحليل الصور الطبية، قد تواجه النماذج المدربة في الغالب على مرضى ذوي بشرة فاتحة صعوبة في اكتشاف الحالات الجلدية على درجات البشرة الداكنة. هذا التفاوت قد يؤدي إلى تأخير في التشخيص وجودة رعاية غير متكافئة، مما يستدعي الحاجة إلى مجموعات بيانات طبية حيوية أكثر تنوعاً.

Link to this sectionاستراتيجيات التخفيف#

يتطلب معالجة الانحياز نهجاً استباقياً طوال خط أنابيب تدريب النموذج والنشر.

1. تنظيم البيانات المتنوعة: يسمح استخدام أدوات مثل منصة Ultralytics للفرق بتصور توزيع مجموعات البيانات وتحديد فجوات التمثيل قبل بدء التدريب.

2. الاختبار الواعي بالإنصاف: بدلاً من الاعتماد فقط على المقاييس الإجمالية، يجب على المطورين إجراء تقييم نموذجي دقيق عبر شرائح ديموغرافية مختلفة لضمان أداء عادل.

3. القابلية للتفسير: يساعد تنفيذ تقنيات الذكاء الاصطناعي القابل للتفسير (XAI) أصحاب المصلحة على فهم لماذا اتخذ النموذج قراراً معيناً، مما يسهل اكتشاف المنطق التمييزي أو الاعتماد على متغيرات بديلة (على سبيل المثال، استخدام الرمز البريدي كبديل للعرق).

Link to this sectionالتمييز بين المفاهيم ذات الصلة#

من المهم التمييز بين "الانحياز في الذكاء الاصطناعي" والاستخدامات التقنية الأخرى لكلمة "انحياز".

• مقابل مقايضة الانحياز والتباين: في التعلم الإحصائي، يشير هذا إلى الخطأ الناتج عن تقريب مشكلة واقعية بنموذج مبسط (نقص التناسب). إنه مفهوم رياضي يتعلق بتعقيد النموذج، يختلف عن التحيز المجتمعي المقصود بـ "الانحياز في الذكاء الاصطناعي".
• مقابل أوزان وتحيزات النموذج: في الشبكة العصبية، مصطلح "الانحياز" (bias) هو معلمة قابلة للتعلم (مثل التقاطع في معادلة خطية) تسمح بإزاحة دالة التنشيط. هذا مكون رياضي أساسي وليس عيباً أخلاقياً.
• مقابل الإنصاف في الذكاء الاصطناعي: بينما يشير الانحياز إلى وجود تحيز أو خطأ، فإن الإنصاف هو الهدف أو مجموعة التدابير التصحيحية المطبقة للقضاء على ذلك الانحياز.

Link to this sectionمثال تقني: تقييم أداء المجموعات الفرعية#

لاكتشاف الانحياز، يقوم المطورون غالباً باختبار نماذجهم على مجموعات بيانات "تحدي" محددة تمثل المجموعات الأقل تمثيلاً. يوضح المثال التالي كيفية استخدام YOLO26 للتحقق من الأداء على مجموعة فرعية محددة من البيانات.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a specific dataset split designed to test
# performance on an underrepresented environment (e.g., 'night_time.yaml')
metrics = model.val(data="night_time_data.yaml")

# Analyze specific metrics to check for performance degradation
print(f"mAP50-95 on challenge set: {metrics.box.map}")

تفرض المعايير مثل إطار عمل إدارة مخاطر الذكاء الاصطناعي الخاص بـ NIST واللوائح مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي بشكل متزايد هذه الأنواع من عمليات تدقيق الانحياز لضمان تطوير ذكاء اصطناعي مسؤول.