Bias in AI

التحيز في الذكاء الاصطناعي، ويُسمى أيضًا تحيز AI، هو خطأ منهجي في نظام الذكاء الاصطناعي (AI) ينتج عنه أداء أقل دقة أو إنصافًا لبعض فئات الأشخاص، وغالبًا على أساس لون البشرة أو الجنس أو العمر أو اللهجة أو الدخل. ويختلف عن الخطأ العشوائي لأنه متسق: إذ تتلقى الفئة نفسها نتائج أسوأ مرارًا. وفي معظم الاستخدامات، يُعد تحيز الذكاء الاصطناعي مرادفًا لـالتحيز الخوارزمي؛ والتحيز الخوارزمي هو المصطلح الأقدم، ويشمل أيضًا القرارات الآلية المبنية على صيغ وقواعد تقييم ثابتة لا تتضمن تعلّمًا. وبما أن التحيز قد ينشأ في كل مرحلة من بناء نظام التعلم الآلي (ML)، تتعامل أطر أخلاقيات الذكاء الاصطناعي معه بوصفه خاصية لدورة الحياة بأكملها.

مصادر التحيز#

يقسم تقرير NIST المعنون نحو معيار لتحديد التحيز في الذكاء الاصطناعي وإدارته (SP 1270) التحيز في الذكاء الاصطناعي إلى ثلاث فئات: تحيز منهجي ناجم عن المؤسسات والتاريخ، وتحيز إحصائي وحاسوبي ناجم عن البيانات والخوارزميات، وتحيز بشري ناجم عن الأشخاص الذين يبنون النظام ويستخدمونه. وتظهر هذه الفئات في مراحل محددة من مسار عمل التعلم الآلي المعتاد:

• التمثيل وتحيز مجموعة البيانات: تحصل الفئات قليلة التمثيل في بيانات التدريب على تنبؤات أسوأ. فالنموذج البصري المدرّب في معظمه على صور من أمريكا الشمالية وأوروبا يتعرّف على الكائنات والمشاهد من مناطق أخرى بموثوقية أقل.
• القياس: تقيس سمة أو تسمية إحدى الفئات بدقة أقل. إذ تبالغ أجهزة قياس التأكسج النبضي في تقدير مستوى الأكسجين في الدم لدى المرضى ذوي البشرة الداكنة، ووجدت دراسة نُشرت عام 2020 في مجلة New England Journal of Medicine أن انخفاض الأكسجين غير المكتشف كان أكثر شيوعًا بنحو ثلاثة أضعاف لدى المرضى السود مقارنةً بالمرضى البيض.
• وضع التسميات: يُدخل المعلّقون أحكامهم الخاصة في التسميات التي يتعلم منها النموذج. ووجدت دراسة عام 2019 حول اكتشاف خطاب الكراهية أن مجموعات البيانات واسعة الاستخدام صنّفت التغريدات المكتوبة بالإنجليزية الإفريقية الأمريكية على أنها مسيئة بمعدلات أعلى بكثير، وأن النماذج المدربة عليها أشارت إلى مثل هذه التغريدات بمعدل يصل إلى ضعف غيرها.
• النمذجة والتقييم: يؤدي تقليل متوسط الخطأ إلى تفضيل الأغلبية، وقد تخفي الدرجة الإجمالية الواحدة فشل النموذج في فئة ما. ويمكن للنماذج أيضًا تعلّم سمات مختصرة ترتبط مصادفةً بالانتماء إلى فئة معينة.
• النشر: ينحرف النموذج بمرور الوقت نحو تحيز جديد إذا استُخدم على فئة سكانية أو في سياق لم يُختبر فيه قط، أو إذا أثرت مخرجاته في البيانات التي يتعلم منها لاحقًا.

أمثلة من الواقع#

• Gender Shades: وجد هذا التدقيق لعام 2018 أن مصنفات الجنس التجارية أخطأت في تصنيف النساء ذوات البشرة الداكنة بنسبة وصلت إلى 34.7%، وفي تصنيف الرجال ذوي البشرة الفاتحة بنسبة لم تتجاوز 0.8%.
• التعرّف على الوجوه: وجد تقييم NIST لعام 2019 لخوارزميات التعرّف على الوجوه أن معدلات الإيجابيات الكاذبة كانت أعلى من 10 إلى 100 مرة لدى بعض الفئات الديموغرافية في كثير من الخوارزميات.
• اكتشاف المشاة: وجدت دراسة عام 2019، صنّفت المشاة في مجموعة بيانات للقيادة بحسب لون البشرة، أن نماذج اكتشاف الكائنات أقل دقة في اكتشاف المشاة ذوي البشرة الداكنة، وأن الفجوة لا يفسرها وقت اليوم أو الحجب.
• الذكاء الاصطناعي في طب الأمراض الجلدية: كان أداء مصنفات الآفات الجلدية المدرّبة في معظمها على صور لبشرة فاتحة أسوأ عند اختبارها على بشرة داكنة ضمن مجموعة متنوعة من الصور السريرية، وأدى الضبط الدقيق باستخدام صور متنوعة إلى تقليص الفجوة.

قياس التحيز#

يظهر التحيز من خلال التقييم المفصل حسب الفئات: أي حساب المقياس نفسه لكل فئة على حدة، كما توصي بطاقات النماذج. وفي المثال التالي، يقرأ مستشعر قيمة أعلى بمقدار 1.0 وحدة للمجموعة B، التي تشكل 5% من المرضى، في محاكاة لمشكلة مقياس التأكسج النبضي:

import numpy as np
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split

rng = np.random.default_rng(0)
group_b = rng.random(20000) < 0.05  # 5% of patients belong to group B
oxygen = rng.normal(size=20000)  # true blood oxygen, standardized
y = oxygen < 0  # condition to detect: low oxygen

# The sensor reads 1.0 too high for group B (measurement bias)
reading = (oxygen + 1.0 * group_b).reshape(-1, 1)
x_tr, x_te, y_tr, y_te, _, g_te = train_test_split(reading, y, group_b, random_state=0)

model = LogisticRegression()
model.fit(x_tr, y_tr)
pred = model.predict(x_te)

# Disaggregated evaluation: score each group separately
print(f"overall accuracy: {np.mean(pred == y_te):.3f}")
print(f"group A accuracy: {np.mean(pred[~g_te] == y_te[~g_te]):.3f}")
print(f"group B accuracy: {np.mean(pred[g_te] == y_te[g_te]):.3f}")

يسجل النموذج 0.967 إجمالًا و0.981 للمجموعة A، لكنه لا يسجل سوى 0.706 للمجموعة B، إذ تخفي القراءات المرتفعة حالات انخفاض الأكسجين لديها. وتصوغ مقاييس الإنصاف على مستوى الفئات، مثل تساوي معدلات السلبيات الكاذبة بين الفئات، هذه الفحوص رسميًا ضمن الإنصاف في الذكاء الاصطناعي.

الحد من التحيز#

يبدأ التخفيف بالبيانات: جمع مزيد من الأمثلة من المجموعات الأقل تمثيلًا، وتصحيح القياسات والتسميات الخاطئة، وإضافة تعزيز البيانات أو البيانات الاصطناعية حيث تندر الأمثلة الواقعية. يمكن أثناء التدريب إعادة وزن المجموعات النادرة أو إعادة أخذ عينات منها، أو إضافة قيود للإنصاف، كما يمكن في المعالجة اللاحقة تعديل عتبات القرار. تعرض منصة Ultralytics بيانيًا عدد التعليقات التوضيحية لكل فئة في مجموعة بيانات، ويُستخدم الوسيط cls_pw في تدريب YOLO26 لترجيح خسارة التصنيف بمقلوب تكرار الفئة مرفوعًا إلى تلك القوة، بحيث يكون وزن الفئات النادرة أكبر. يدعو إطار NIST لإدارة مخاطر الذكاء الاصطناعي المؤسسات إلى قياس التحيز طوال دورة حياة النظام، كما تلزم المادة 10 من قانون الذكاء الاصطناعي للاتحاد الأوروبي مزوّدي أنظمة الذكاء الاصطناعي عالية المخاطر بفحص بيانات التدريب والتحقق والاختبار بحثًا عن تحيزات محتملة.

التحيز في الذكاء الاصطناعي مقارنةً بالمعاني الأخرى للتحيز#

• مفاضلة التحيز والتباين: التحيز الإحصائي هو خطأ ناتج عن بساطة النموذج الشديدة التي تحول دون التقاطه النمط الموجود في البيانات، مما يؤدي إلى نقص التكيّف لدى جميع الفئات على حد سواء.
• معاملات التحيز: تحيز كل عصبون في الشبكة العصبية هو إزاحة قابلة للتعلّم تُضاف إلى مدخلاته الموزونة، وتمثل حد التقاطع في معادلة خطية.