مسرد المصطلحات

التحيز في الذكاء الاصطناعي

اكتشف كيفية تحديد التحيز في أنظمة الذكاء الاصطناعي وتخفيفه ومنعه باستخدام الاستراتيجيات والأدوات والأمثلة الواقعية لتطوير الذكاء الاصطناعي الأخلاقي.

يشير التحيز في الذكاء الاصطناعي إلى الأخطاء المنهجية أو الأحكام المسبقة في ناتج نظام الذكاء الاصطناعي (AI). يمكن أن تؤدي هذه التحيزات إلى نتائج غير عادلة أو غير منصفة أو تمييزية، وغالبًا ما تضر بمجموعات أو فئات سكانية معينة. مع تزايد اندماج أنظمة الذكاء الاصطناعي في القطاعات الحيوية مثل الرعاية الصحية والتمويل، أصبح فهم التحيز والتخفيف من آثاره تحديًا رئيسيًا في تطوير الذكاء الاصطناعي المسؤول. لا يتعلق التحيز بالخطأ العشوائي العرضي؛ بل هو نمط متكرر من النتائج المنحرفة التي تعكس عيوبًا كامنة في البيانات أو الخوارزمية.

مصادر التحيز في الذكاء الاصطناعي

يمكن أن ينشأ تحيز الذكاء الاصطناعي من مصادر متعددة طوال دورة حياة تطوير النموذج. تشمل المصادر الأكثر شيوعًا ما يلي:

تحيز مجموعة البيانات (Dataset Bias): هذا هو المصدر الأكثر انتشارًا لتحيز الذكاء الاصطناعي. يحدث هذا عندما لا تكون بيانات التدريب (training data) ممثلة للعالم الحقيقي أو السكان المستهدفين. على سبيل المثال، قد تتعلم مجموعة بيانات لأداة توظيف تم تدريبها بشكل أساسي على بيانات تاريخية من صناعة يهيمن عليها الذكور تفضيل المرشحين الذكور. يمكن أن يظهر هذا على شكل تحيز في أخذ العينات (البيانات التي لم يتم جمعها عشوائيًا)، أو تحيز الاختيار (البيانات التي لا تمثل البيئة)، أو تحيز القياس (تسمية البيانات (data labeling) غير المتسقة). يعد إنشاء مجموعات بيانات (datasets) متوازنة ومتنوعة خطوة أولى حاسمة.
التحيز الخوارزمي: ينشأ هذا التحيز من خوارزمية الذكاء الاصطناعي نفسها. قد تضخم بعض الخوارزميات بطبيعتها التحيزات الصغيرة الموجودة في البيانات، أو قد تعطي تصميماتها الأولوية لميزات معينة على غيرها بطريقة تخلق نتائج غير عادلة. يمكن أن يؤثر اختيار دالة الخسارة، على سبيل المثال، على كيفية معاقبة النموذج للأخطاء للمجموعات الفرعية المختلفة.
التحيز البشري: يمكن لمطوري ومنظمي البيانات ومستخدمي أنظمة الذكاء الاصطناعي إدخال تحيزاتهم المعرفية عن غير قصد في نموذج الذكاء الاصطناعي. يمكن أن تؤثر هذه التحيزات الشخصية والمجتمعية على كيفية تأطير المشكلات، وكيفية جمع البيانات وتنظيمها، وكيفية تفسير نتائج النموذج.

أمثلة واقعية

تقنية التعرف على الوجوه: تاريخيًا، أظهرت العديد من أنظمة التعرف على الوجوه التجارية معدلات خطأ أعلى عند تحديد الأفراد من الفئات الديموغرافية الممثلة تمثيلاً ناقصًا، وخاصة النساء والأشخاص الملونين. أظهرت الأبحاث التي أجرتها مؤسسات مثل NIST هذه التفاوتات، والتي غالبًا ما تنبع من مجموعات بيانات التدريب التي تعرض بشكل أساسي وجوهًا بيضاء وذكورية.
أدوات التوظيف الآلية: مثال معروف هو أداة تجريبية للتوظيف طورتها أمازون، والتي تبين أنها تعاقب السير الذاتية التي تحتوي على كلمة "نساء" وتخفض خريجي كليتين نسائيتين بالكامل. تعلم النموذج هذه التحيزات من بيانات التوظيف التاريخية المقدمة على مدار فترة 10 سنوات، والتي عكست هيمنة الذكور في جميع أنحاء صناعة التكنولوجيا. تخلت أمازون في النهاية عن المشروع.