Algorithmic Bias

يشير التحيز الخوارزمي إلى أخطاء منهجية وقابلة للتكرار في نظام حاسوبي تؤدي إلى نتائج غير منصفة، مثل تفضيل مجموعة اعتباطية من المستخدمين على غيرها. وفي سياق الذكاء الاصطناعي (AI)، تحدث هذه الظاهرة عندما ينتج نموذج التعلّم الآلي (ML) نتائج منحازة باستمرار ضد فئات سكانية أو سيناريوهات محددة. وعلى خلاف الأخطاء العشوائية، التي تمثل ضوضاء غير قابلة للتنبؤ، يعكس التحيز الخوارزمي خللًا بنيويًا في كيفية تصميم النموذج أو تدريبه أو نشره. وتُعد معالجة هذه التحيزات جانبًا أساسيًا من أخلاقيات الذكاء الاصطناعي، كما أنها ضرورية لبناء الثقة في أنظمة اتخاذ القرارات المؤتمتة.

الأصول والآليات#

يمكن أن يتسلل التحيز إلى أنظمة الذكاء الاصطناعي عبر عدة مسارات. والمصدر الأكثر شيوعًا هو بيانات التدريب غير الممثلة تمثيلًا كافيًا. فإذا دُرّب نموذج الرؤية الحاسوبية (CV) أساسًا على صور من منطقة جغرافية واحدة، فقد يواجه صعوبة في التعرّف على الكائنات أو المشاهد من مناطق أخرى من العالم. ويُشار إلى ذلك غالبًا باسم تحيز مجموعة البيانات. ومع ذلك، يمكن للخوارزمية نفسها—أي المنطق الرياضي الذي يعالج البيانات—أن تُدخل تحيزًا أيضًا. فعلى سبيل المثال، قد تضحي خوارزمية تحسين مصممة لتعظيم الدقة الإجمالية بالأداء على مجموعات فرعية أصغر وأقل تمثيلًا من أجل تحقيق درجة إجمالية أعلى.

التطبيقات والنتائج في العالم الواقعي#

يؤثر التحيز الخوارزمي تأثيرًا كبيرًا في مختلف القطاعات، ولا سيما عندما تتخذ الأنظمة المؤتمتة قرارات بالغة الأهمية.

• تشخيص الأمراض: في مجال الذكاء الاصطناعي في الرعاية الصحية، تُستخدم النماذج لاكتشاف الأمراض من خلال التصوير الطبي. وقد أظهرت الدراسات أن بعض الخوارزميات كانت أقل دقة في تشخيص سرطان الجلد لدى أصحاب ألوان البشرة الداكنة، لأن مجموعات البيانات المستخدمة في التدريب كانت تضم في معظمها مرضى ذوي بشرة فاتحة. ويسلط هذا التفاوت الضوء على الحاجة إلى تحليل الصور الطبية المتنوع لضمان تساوي جودة الرعاية.
• التوظيف والاستقطاب: تستخدم شركات كثيرة أدوات مؤتمتة لفرز السير الذاتية. وتضمنت إحدى الحالات التاريخية البارزة أداة توظيف تعلّمت معاقبة السير الذاتية التي تحتوي على كلمة "women's"، لأنها دُرّبت على سير ذاتية مقدمة خلال عقد من الزمن، كان معظمها من الرجال. ويوضح ذلك كيف يمكن للنمذجة التنبؤية أن تقنّن التحيزات التاريخية.
• تحليل الوجوه: أظهرت الإصدارات الأولى من برمجيات التعرّف على الوجوه التجارية معدلات خطأ أعلى بكثير لدى النساء والأشخاص ذوي البشرة الملوّنة. وقد اضطلعت منظمات مثل رابطة العدالة الخوارزمية بدور محوري في إبراز هذه التفاوتات والدعوة إلى تكنولوجيا أكثر إنصافًا.

التمييز بين المفاهيم ذات الصلة#

للتخفيف من التحيز بفعالية، من المفيد التمييز بين «التحيز الخوارزمي» والمصطلحات ذات الصلة في مجال الذكاء الاصطناعي المسؤول.

• مقابل تحيز مجموعة البيانات: يشير تحيز مجموعة البيانات تحديدًا إلى أوجه القصور في بيانات الإدخال، مثل أخطاء أخذ العينات أو أوجه عدم الاتساق في وضع التسميات. أما التحيز الخوارزمي فهو النتيجة الأوسع نطاقًا، إذ يشمل الأخطاء الناشئة عن البيانات أو بنية النموذج أو دالة الهدف.
• مقابل الإنصاف في الذكاء الاصطناعي: يُعد الإنصاف في الذكاء الاصطناعي مجالًا استباقيًا ومجموعة من الاستراتيجيات المستخدمة لمنع التحيز الخوارزمي وتصحيحه. فبينما يمثل التحيز المشكلة، يمثل الإنصاف الهدف.
• مقابل انجراف النموذج: قد يكون النموذج غير متحيز أثناء التدريب، لكنه يصبح متحيزًا بمرور الوقت مع تغيّر بيانات العالم الواقعي. ويُعرف ذلك باسم انجراف البيانات، وهو يتطلب مراقبة النموذج بصورة مستمرة لاكتشافه.

استراتيجيات التخفيف#

يمكن للمطورين الحد من التحيز الخوارزمي من خلال تطبيق اختبارات صارمة واستراتيجيات تدريب متنوعة. ويمكن لتقنيات مثل زيادة البيانات أن تساعد في موازنة مجموعات البيانات عبر إنشاء تنويعات من الأمثلة غير الممثلة تمثيلًا كافيًا. وعلاوة على ذلك، يضمن الالتزام بأطر مثل إطار إدارة مخاطر الذكاء الاصطناعي التابع لـ NIST اتباع نهج منظم لتحديد المخاطر.

يوضح المثال التالي كيفية تطبيق زيادة البيانات أثناء التدريب باستخدام Ultralytics YOLO26 المتطور. ومن خلال زيادة عمليات زيادة البيانات الهندسية، مثل القلب أو تغيير المقياس، يتعلم النموذج التعميم بصورة أفضل، مما قد يقلل التحيز تجاه اتجاهات أو مواضع معينة للكائنات.

from ultralytics import YOLO

# Load the YOLO26 model, the new standard for speed and accuracy
model = YOLO("yolo26n.pt")

# Train with increased augmentation to improve generalization
# 'fliplr' (flip left-right) and 'scale' help the model see diverse variations
results = model.train(
    data="coco8.yaml",
    epochs=50,
    fliplr=0.5,  # 50% probability of horizontal flip
    scale=0.5,  # +/- 50% image scaling
)

تتيح أدوات مثل AI Fairness 360 من IBM وأداة What-If من Google للمهندسين تدقيق نماذجهم بحثًا عن التفاوتات بين المجموعات الفرعية المختلفة. كما يمكن أن يساعد استخدام البيانات الاصطناعية في سد الفجوات في مجموعات التدريب عندما تكون بيانات العالم الواقعي شحيحة. ولتبسيط إدارة مجموعات البيانات والتدريب السحابي، توفر منصة Ultralytics أدوات لتصوير توزيعات البيانات وتحديد الاختلالات المحتملة في مرحلة مبكرة. وفي نهاية المطاف، يتطلب تحقيق الشفافية في الذكاء الاصطناعي مزيجًا من الحلول التقنية وفرق التطوير المتنوعة والتقييم المستمر لكل من الدقة والاستدعاء عبر جميع الفئات السكانية للمستخدمين.