مسرد المصطلحات

التحيز الخوارزمي

اكتشف التحيز الخوارزمي ومصادره وأمثلة من العالم الحقيقي. تعلم استراتيجيات للتخفيف من التحيز وبناء أنظمة ذكاء اصطناعي عادلة وأخلاقية.

يشير التحيز الخوارزمي إلى الأخطاء المنهجية والمتكررة في نظام الذكاء الاصطناعي (AI) التي تؤدي إلى نتائج غير عادلة، مثل تفضيل مجموعة تعسفية من المستخدمين على الآخرين. يمكن أن تنشأ هذه التحيزات من مصادر مختلفة، بما في ذلك البيانات المعيبة أو تصميم خوارزمية التعلم الآلي نفسها. تُعد معالجة هذه المشكلة عنصراً حاسماً في تطوير ذكاء اصطناعي مسؤول وأخلاقي، بما يضمن أن تعود التكنولوجيا بالنفع على المجتمع بشكل منصف. يمكن أن تتراوح عواقب التحيز الخوارزمي غير الخاضع للرقابة من إدامة عدم المساواة المجتمعية إلى إجراء تنبؤات غير صحيحة في التطبيقات الهامة مثل الرعاية الصحية والتمويل.

مصادر التحيز الخوارزمي

إن التحيز الخوارزمي ليس مشكلة متجانسة؛ فهو ينبع من مصادر متعددة ومترابطة في كثير من الأحيان خلال دورة حياة تطوير الذكاء الاصطناعي. إن فهم هذه المصادر هو الخطوة الأولى نحو التخفيف من حدة المشكلة.

تحيز البيانات: هذا هو المصدر الأكثر شيوعًا، حيث لا تمثل بيانات التدريب العالم الحقيقي. إذا كانت مجموعة البيانات تحتوي على صور لمجموعة ديموغرافية أكثر من مجموعة ديموغرافية أخرى، فمن المرجح أن يكون أداء النموذج المُدرّب عليها أفضل بالنسبة لمجموعة الأغلبية. هذا شكل من أشكال التحيز في مجموعة البيانات، والذي يساهم بشكل مباشر في نتائج خوارزمية متحيزة.
التحيز البشري: يمكن لمطوري أنظمة الذكاء الاصطناعي وواضعي ملصقات البيانات والمستخدمين النهائيين لأنظمة الذكاء الاصطناعي أن يدخلوا عن غير قصد تحيزاتهم المعرفية الخاصة بهم. ويمكن أن تظهر هذه التحيزات في كيفية جمع البيانات وشرحها، والميزات التي تعتبر مهمة، وكيفية تفسير مخرجات النموذج.
التصميم الخوارزمي: يمكن أيضًا أن يؤدي اختيار الخوارزمية وكيفية تحسينها إلى التحيز. على سبيل المثال، قد تقوم خوارزمية مصممة لزيادة الدقة الإجمالية إلى أقصى حد بالتضحية بالأداء على المجموعات الممثلة تمثيلاً ناقصًا، وهو مثال كلاسيكي على المفاضلة بين التحيز والتباين.

أمثلة من العالم الحقيقي للتحيز الخوارزمي

إن تأثير التحيز الخوارزمي ملموس وقد لوحظ في العديد من التطبيقات الواقعية.

أنظمة التعرف على الوجه: أظهرت التقنيات المبكرة للتعرف على الوجه معدلات دقة أقل بكثير بالنسبة للنساء والأفراد ذوي البشرة الداكنة. وقد كشفت الأبحاث التي أجرتها مؤسسات مثل معهد ماساتشوستس للتكنولوجيا أن هذه الأنظمة تم تدريبها على مجموعات بيانات تتألف في الغالب من صور الرجال البيض، مما أدى إلى ضعف الأداء بالنسبة للخصائص الديموغرافية الأخرى وأثار مخاوف جدية بشأن استخدامها في إنفاذ القانون.
خوارزميات الموافقة على القروض: في القطاع المالي، تُستخدم نماذج الذكاء الاصطناعي للتنبؤ بالجدارة الائتمانية. ومع ذلك، غالبًا ما تعكس بيانات الإقراض التاريخية التحيزات المجتمعية السابقة. قد تتعلم الخوارزمية المُدربة على هذه البيانات ربط بعض الرموز البريدية أو العلامات الديموغرافية برموز بريدية معينة بمخاطر أعلى، مما يؤدي إلى رفض القروض بشكل غير عادل لمقدمي الطلبات المؤهلين من مجتمعات الأقليات، وهي ممارسة تُعرف باسم "التخصيص الرقمي".