Bias in AI

يشير التحيز في الذكاء الاصطناعي إلى الأخطاء المنهجية أو الأحكام المسبقة أو الافتراضات غير المبررة المضمنة في أنظمة الذكاء الاصطناعي (AI)، والتي تؤدي إلى نتائج غير عادلة أو غير منصفة أو تمييزية. وعلى خلاف الأخطاء العشوائية التي لا يمكن التنبؤ بها، يظهر التحيز في صورة انحراف متسق في النتائج لصالح مجموعات محددة أو ضدها، وغالبًا ما يستند إلى خصائص حساسة مثل العِرق أو الجنس أو العمر أو الحالة الاجتماعية والاقتصادية. ومع تزايد نشر نماذج تعلم الآلة (ML) في بيئات عالية المخاطر، بدءًا من تشخيصات الذكاء الاصطناعي في الرعاية الصحية وصولًا إلى الإقراض المالي، أصبح تحديد هذه التحيزات والتخفيف منها عنصرًا حاسمًا في أخلاقيات الذكاء الاصطناعي وبروتوكولات السلامة.

مصادر التحيز وأصوله#

نادرًا ما يُدخل التحيز عن قصد؛ بل يتسلل إلى الأنظمة عبر مراحل مختلفة من دورة حياة التطوير، وغالبًا ما يعكس أوجه عدم المساواة التاريخية أو أوجه القصور في جمع البيانات.

• تحيز مجموعة البيانات: هذا هو المصدر الأكثر شيوعًا، ويحدث عندما لا تمثل بيانات التدريب السكان في العالم الحقيقي تمثيلًا دقيقًا. فعلى سبيل المثال، إذا دُرّب نموذج الرؤية الحاسوبية (CV) في المقام الأول على صور من بلدان غربية، فقد يفشل في التعرّف على السياقات الثقافية أو الكائنات من مناطق أخرى، وهي ظاهرة ترتبط غالبًا بـتحيز الاختيار.
• التحيز الخوارزمي: حتى مع بيانات مثالية، يمكن لتصميم النموذج أن يُدخل عدم الإنصاف. إذ تعطي بعض خوارزميات التحسين الأولوية لمقاييس الدقة الإجمالية، ما قد يضحي عن غير قصد بالأداء على المجموعات الفرعية الأصغر والأقل تمثيلًا لتعظيم النتيجة الإجمالية.
• التحيز المعرفي والتاريخي: يمكن ترميز الأحكام المسبقة البشرية في تسميات الحقيقة الأساسية أثناء توسيم البيانات. فإذا كان المعلّقون البشريون يحملون تحيزات غير واعية، فسيتعلم النموذج تكرار هذه الأحكام الذاتية، مؤتمتًا بذلك أوجه التفاوت المجتمعية القائمة فعليًا.

الآثار في العالم الحقيقي#

يمكن أن تكون عواقب التحيز في الذكاء الاصطناعي عميقة، إذ تؤثر في حقوق الأفراد وسلامتهم.

• التفاوت في تحليل الوجوه: أظهرت الإصدارات المبكرة من تقنية التعرّف على الوجوه معدلات خطأ أعلى بكثير لدى النساء والأشخاص من ذوي البشرة الملونة. وقد سلطت منظمات مثل رابطة العدالة الخوارزمية الضوء على أن هذه الأنظمة، التي تُستخدم غالبًا في مجال الأمن، يمكن أن تؤدي إلى تحديد هوية الأشخاص بشكل خاطئ واتهامات باطلة بسبب مجموعات التدريب غير الممثلة تمثيلًا كافيًا.
• تشخيصات الرعاية الصحية: في تحليل الصور الطبية، قد تواجه النماذج المدرّبة في الغالب على مرضى ذوي بشرة فاتحة صعوبة في اكتشاف الأمراض الجلدية على درجات البشرة الداكنة. وقد يؤدي هذا التفاوت إلى تأخر التشخيص وعدم تكافؤ جودة الرعاية، ما دفع إلى الدعوة لإنشاء مجموعات بيانات طبية حيوية أكثر تنوعًا.

استراتيجيات التخفيف#

تتطلب معالجة التحيز نهجًا استباقيًا طوال مسار تدريب النموذج ونشره.

1. تنسيق البيانات المتنوعة: يتيح استخدام أدوات مثل منصة Ultralytics للفرق تصور توزيع مجموعة البيانات وتحديد فجوات التمثيل قبل بدء التدريب.

2. الاختبار الواعي بالإنصاف: بدلًا من الاعتماد على المقاييس التجميعية وحدها، ينبغي للمطورين إجراء تقييم دقيق للنموذج عبر شرائح ديموغرافية مختلفة لضمان أداء منصف.

3. قابلية التفسير: يساعد تطبيق تقنيات الذكاء الاصطناعي القابل للتفسير (XAI) أصحاب المصلحة على فهم سبب اتخاذ النموذج لقرار ما، ما يسهل اكتشاف المنطق التمييزي أو الاعتماد على متغيرات بديلة (مثل استخدام الرمز البريدي كبديل عن العِرق).

التمييز بين المفاهيم ذات الصلة#

من المهم التمييز بين «التحيز في الذكاء الاصطناعي» والاستخدامات التقنية الأخرى لكلمة «التحيز».

• مقابل مفاضلة التحيز والتباين: يشير هذا في التعلم الإحصائي إلى الخطأ الناتج عن تقريب مشكلة في العالم الحقيقي باستخدام نموذج مبسط (نقص الملاءمة). وهو مفهوم رياضي يتعلق بتعقيد النموذج، ويختلف عن التحيز المجتمعي الذي ينطوي عليه مفهوم «التحيز في الذكاء الاصطناعي».
• مقابل أوزان النموذج وانحيازاته: في الشبكة العصبية، يكون حد «الانحياز» معلمة قابلة للتعلم (مثل الجزء المقطوع في معادلة خطية) تتيح إزاحة دالة التنشيط. وهذا مكوّن رياضي أساسي، وليس خللًا أخلاقيًا.
• مقابل الإنصاف في الذكاء الاصطناعي: بينما يشير التحيز إلى وجود حكم مسبق أو خطأ، فإن الإنصاف هو الهدف أو مجموعة التدابير التصحيحية المطبقة للقضاء على ذلك التحيز.

مثال تقني: تقييم أداء المجموعات الفرعية#

لاكتشاف التحيز، يختبر المطورون غالبًا نماذجهم على مجموعات بيانات «تحدٍّ» محددة تمثل مجموعات الأقليات. يوضح المثال التالي كيفية استخدام YOLO26 للتحقق من الأداء على مجموعة فرعية محددة من البيانات.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a specific dataset split designed to test
# performance on an underrepresented environment (e.g., 'night_time.yaml')
metrics = model.val(data="night_time_data.yaml")

# Analyze specific metrics to check for performance degradation
print(f"mAP50-95 on challenge set: {metrics.box.map}")

تفرض معايير مثل إطار NIST لإدارة مخاطر الذكاء الاصطناعي ولوائح مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي بصورة متزايدة عمليات تدقيق التحيز هذه لضمان تطوير ذكاء اصطناعي مسؤول.