Fairness in AI

الإنصاف في الذكاء الاصطناعي هو اشتراط ألا تضر قرارات النموذج وأخطاؤه منهجيًا بالأشخاص بسبب سمات حساسة مثل العرق أو الجنس أو العمر أو الإعاقة، إلى جانب المقاييس والأساليب المستخدمة لقياس هذا الاشتراط وإنفاذه. ويشير التحيز في الذكاء الاصطناعي إلى المشكلة: انحراف منهجي قد ينشأ من بيانات تدريب غير ممثلة (تحيز مجموعة البيانات) أو من خيارات النمذجة والنشر (التحيز الخوارزمي). والإنصاف هو المعيار الذي يُختبر النظام على أساسه، وهو أحد المبادئ الأساسية لـأخلاقيات الذكاء الاصطناعي، إلى جانب الشفافية والمساءلة، وله عدة تعريفات رسمية يستحيل تطبيقها جميعًا في آن واحد.

قياس الإنصاف#

تقارن مقاييس إنصاف المجموعات سلوك النموذج بين المجموعات المحددة بسمة حساسة:

• التكافؤ الديموغرافي: تحصل كل مجموعة على قرارات إيجابية، مثل الموافقة على القروض أو الدعوة إلى مقابلات، بالمعدل نفسه.
• تساوي الاحتمالات: يكون لكل مجموعة معدل الإيجابيات الحقيقية نفسه ومعدل الإيجابيات الكاذبة نفسه. وقد عرّف Moritz Hardt وEric Price وNathan Srebro هذا المفهوم عام 2016، إلى جانب تكافؤ الفرص الأضعف الذي يساوي معدل الإيجابيات الحقيقية فقط.
• المعايرة داخل المجموعات: تعني الدرجة المتوقعة 0.7 معدل نتائج قدره 70% نفسه في كل مجموعة.
• الإنصاف الفردي: يحصل الأفراد المتشابهون على تنبؤات متشابهة، وهو تعريف صاغته Cynthia Dwork وزملاؤها رسميًا عام 2012.

يقيّم المقتطف أدناه نموذجًا دقيقًا تمامًا على مجموعتين تختلفان في معدلاتهما الأساسية:

import numpy as np

# Outcomes and a sensitive attribute for 10 applicants; group A has a higher base rate
y_true = np.array([1, 1, 1, 1, 0, 1, 1, 0, 0, 0])
group = np.array(["A"] * 5 + ["B"] * 5)

# A perfectly accurate model predicts every outcome correctly
y_pred = y_true.copy()

for g in ("A", "B"):
    in_group = group == g
    selection_rate = y_pred[in_group].mean()
    tpr = y_pred[in_group & (y_true == 1)].mean()  # true positive rate
    fpr = y_pred[in_group & (y_true == 0)].mean()  # false positive rate
    print(f"group {g}: selection rate {selection_rate:.0%}, TPR {tpr:.0%}, FPR {fpr:.0%}")

يحقق النموذج تساوي الاحتمالات، إذ يبلغ معدل الإيجابيات الحقيقية 100% ومعدل الإيجابيات الكاذبة 0% في كلتا المجموعتين، لكنه يظل مخالفًا للتكافؤ الديموغرافي، إذ يوافق على 80% من المجموعة A و40% من المجموعة B. ويتطلب فرض تساوي معدلات الاختيار اتخاذ قرارات خاطئة في مجموعة واحدة على الأقل.

لماذا تتعارض تعريفات الإنصاف#

أثبت Jon Kleinberg وSendhil Mullainathan وManish Raghavan عام 2016 وAlexandra Chouldechova عام 2017 أنه عندما تختلف المعدلات الأساسية بين المجموعات، لا يمكن للمصنّف أن يكون معايرًا داخل كل مجموعة وأن يحقق في الوقت نفسه تساوي معدلي الإيجابيات الكاذبة والسلبيات الكاذبة، إلا في حالات شاذة مثل التنبؤ المثالي. وتُظهر أداة COMPAS للتنبؤ بتكرار الإجرام هذا التعارض عمليًا. فقد ذكرت ProPublica عام 2016 أن احتمال تصنيف المتهمين السود الذين لم يكرروا جرائمهم على أنهم مرتفعو الخطورة كان يقارب ضعف احتمال تصنيف المتهمين البيض كذلك، بينما أوضح مطوّر الأداة أن درجاتها معايرة بالتساوي للمجموعتين. وكان التحليلان صحيحين، لذا فإن اختيار مقياس للإنصاف لتطبيق معين قرار سياسي بقدر ما هو قرار تقني.

الإنصاف في الرؤية الحاسوبية#

دققت دراسة Gender Shades التي أجراها Joy Buolamwini وTimnit Gebru (2018) ثلاثة مصنّفات تجارية للجنس، ووجدت أن معدلات الخطأ بلغت 34.7% لدى النساء ذوات البشرة الداكنة، مقابل 0.8% على الأكثر لدى الرجال ذوي البشرة الفاتحة. وتظهر فجوات مماثلة حيثما كانت المجموعات قليلة التمثيل في صور التدريب، من نماذج التعرّف على الوجوه إلى نماذج تحليل الصور الطبية لأمراض الجلد المدرّبة على مجموعات بيانات الأمراض الجلدية التي تهيمن عليها البشرة الفاتحة. لذلك يسجّل تدقيق الرؤية الحاسوبية الدقة والاستدعاء على نحو منفصل لكل مجموعة فرعية ذات صلة، ويدوّنها في بطاقة النموذج، إذ قد تخفي قيمة الدقة الإجمالية الواحدة مجموعة فرعية يفشل النموذج في التعامل معها.

استراتيجيات الحد من التحيز#

تُجمع التدخلات بحسب المرحلة التي تغيّرها في مسار التعلّم الآلي. تجمع أساليب المعالجة المسبقة بيانات تمثيلية، وتسد الفجوات عبر زيادة البيانات أو البيانات الاصطناعية المستهدفة، وتعيد وزن الأمثلة كي تحظى المجموعات الأقل تمثيلًا بوزن أكبر. ويوفر Ultralytics YOLO إعادة الوزن نفسها للفئات: يؤدي ضبط وسيطة التدريب cls_pw على قيمة تتجاوز قيمتها الافتراضية 0 إلى وزن خسارة كل فئة بمقلوب تواترها مرفوعًا إلى تلك القوة، ما يمنح الفئات النادرة وزنًا أكبر أثناء التدريب.

تضيف أساليب المعالجة أثناء التدريب قيودًا أو عقوبات للإنصاف إلى دالة الخسارة، أو تستخدم التحسين المتين توزيعيًا لتقليل خسارة المجموعة الأسوأ أداءً. أما أساليب المعالجة اللاحقة فتضبط عتبات القرار لكل مجموعة بعد التدريب، وهو النهج الذي اقترحه Hardt وزملاؤه لتحقيق تساوي الاحتمالات.

تطبّق مجموعات الأدوات مفتوحة المصدر مثل Fairlearn وAI Fairness 360 من IBM هذه المقاييس وأساليب الحد من التحيز. وتفرض اللوائح هذه القياسات على نحو متزايد: إذ يشترط قانون الذكاء الاصطناعي للاتحاد الأوروبي على مزودي الأنظمة عالية المخاطر فحص بيانات التدريب بحثًا عن التحيزات المحتملة، كما يفرض القانون المحلي رقم 144 لمدينة نيويورك إجراء عمليات تدقيق مستقلة سنوية للتحيز في أدوات التوظيف المؤتمتة منذ يوليو 2023.