التحيز الخوارزمي

يشير التحيز الخوارزمي إلى الأخطاء المنهجية والمتكررة في نظام الكمبيوتر التي تؤدي إلى نتائج غير عادلة، مثل إعطاء امتيازات لمجموعة معينة من المستخدمين على حساب الآخرين. في سياق الذكاء الاصطناعي (AI)، تحدث هذه الظاهرة عندما ينتج نموذج التعلم الآلي (ML) نتائج تكون متحيزة باستمرار ضد فئات سكانية أو سيناريوهات معينة. على عكس الأخطاء العشوائية، التي تشكل ضوضاء غير متوقعة، يعكس التحيز الخوارزمي عيبًا هيكليًا في كيفية تصميم النموذج أو تدريبه أو نشره. معالجة هذه التحيزات هي جانب أساسي من أخلاقيات الذكاء الاصطناعي وهي ضرورية لبناء الثقة في أنظمة صنع القرار الآلية.

الأصول والآليات

يمكن أن يتسلل التحيز إلى أنظمة الذكاء الاصطناعي من خلال عدة طرق. المصدر الأكثر شيوعًا هو بيانات التدريب غير التمثيلية. إذا تم تدريب نموذج الرؤية الحاسوبية (CV) بشكل أساسي على صور من منطقة جغرافية واحدة، فقد يواجه صعوبة في التعرف على الأشياء أو المشاهد من أجزاء أخرى من العالم. يُشار إلى هذا غالبًا باسم تحيز مجموعة البيانات. ومع ذلك، يمكن أن تؤدي الخوارزمية نفسها — المنطق الرياضي الذي يعالج البيانات — إلى حدوث تحيز أيضًا. على سبيل المثال، قد تؤدي خوارزمية التحسين المصممة لزيادة الدقة الإجمالية إلى التضحية بالأداء على المجموعات الفرعية الأصغر غير الممثلة بشكل كافٍ لتحقيق درجة إجمالية أعلى.

التطبيقات الواقعية والنتائج المترتبة عليها

إن تأثير التحيز الخوارزمي كبير في مختلف الصناعات، لا سيما عندما تتخذ الأنظمة الآلية قرارات عالية المخاطر.

• التشخيصات الطبية: في الذكاء الاصطناعي في مجال الرعاية الصحية، تُستخدم النماذج detect عن الأمراض من خلال التصوير الطبي. أظهرت الدراسات أن بعض الخوارزميات كانت أقل دقة في تشخيص سرطان الجلد على البشرة الداكنة لأن مجموعات البيانات المستخدمة للتدريب كانت تغلب عليها حالات المرضى ذوي البشرة الفاتحة. يسلط هذا التباين الضوء على الحاجة إلى تنوع تحليل الصور الطبية لضمان المساواة في جودة الرعاية.
• التوظيف والتعيين: تستخدم العديد من الشركات أدوات آلية لفرز السير الذاتية. ومن الحالات التاريخية البارزة أداة توظيف تعلمت معاقبة السير الذاتية التي تحتوي على كلمة "نسائية" لأنها تم تدريبها على عشر سنوات من السير الذاتية المقدمة في الغالب من قبل الرجال. وهذا يوضح كيف يمكن تقنين التحيزات التاريخية عن طريق النمذجة التنبؤية.
• تحليل الوجه: أظهرت التكرارات المبكرة لبرامج التجارية للتعرف على الوجه معدلات خطأ أعلى بكثير بالنسبة للنساء والأشخاص الملونين. وقد لعبت منظمات مثل رابطة العدالة الخوارزمية دورًا محوريًا في تسليط الضوء على هذه التباينات والدعوة إلى تكنولوجيا أكثر إنصافًا.

التمييز بين المفاهيم ذات الصلة

لتخفيف التحيز بشكل فعال، من المفيد التمييز بين "التحيز الخوارزمي" والمصطلحات ذات الصلة في مجال الذكاء الاصطناعي المسؤول.

• مقابل تحيز مجموعة البيانات: يشير تحيز مجموعة البيانات على وجه التحديد إلى العيوب في البيانات المدخلة، مثل أخطاء أخذ العينات أو التناقضات في التسمية. التحيز الخوارزمي هو النتيجة الأوسع نطاقًا, يشمل الأخطاء الناشئة عن البيانات، أو بنية النموذج، أو دالة الهدف.
• مقابل الإنصاف في الذكاء الاصطناعي الإنصاف في الذكاء الاصطناعي هو الانضباط الاستباقي ومجموعة من الاستراتيجيات من الاستراتيجيات المستخدمة لمنع وتصحيح التحيز الخوارزمي. وفي حين أن التحيز هو المشكلة، فإن الإنصاف هو الهدف.
• مقابل انحراف النموذج: في بعض الأحيان يكون النموذج غير متحيز أثناء التدريب ولكنه يصبح متحيزًا بمرور الوقت مع تغير مع تغير بيانات العالم الحقيقي. يُعرف هذا بانحراف البيانات, والذي يتطلب مراقبة مستمرة للنموذج من أجل detect.

استراتيجيات التخفيف

يمكن للمطوّرين تقليل التحيز الخوارزمي من خلال استخدام اختبارات صارمة واستراتيجيات تدريب متنوعة. تقنيات مثل مثل زيادة البيانات يمكن أن تساعد في موازنة مجموعات البيانات من خلال إنشاء أشكال مختلفة من الأمثلة ناقصة التمثيل. علاوةً على ذلك، فإن الالتزام بأطر عمل مثل إطار عمل إطار عمل NIST لإدارة مخاطر الذكاء الاصطناعي يضمن اتباع نهجًا منظمًا لتحديد المخاطر.

يوضح المثال التالي كيفية تطبيق زيادة البيانات أثناء التدريب باستخدام أحدث تقنيات Ultralytics . من خلال زيادة الزيادات الهندسية مثل التقليب أو التوسع، يتعلم النموذج التعميم بشكل أفضل، مما يقلل من التحيز تجاه اتجاهات أو مواقع كائنات معينة .

from ultralytics import YOLO

# Load the YOLO26 model, the new standard for speed and accuracy
model = YOLO("yolo26n.pt")

# Train with increased augmentation to improve generalization
# 'fliplr' (flip left-right) and 'scale' help the model see diverse variations
results = model.train(
    data="coco8.yaml",
    epochs=50,
    fliplr=0.5,  # 50% probability of horizontal flip
    scale=0.5,  # +/- 50% image scaling
)

تتيح أدوات مثل AI Fairness 360 من IBM و What-If ToolGoogle للمهندسين تدقيق نماذجهم للكشف عن التباينات بين المجموعات الفرعية المختلفة. كما أن استخدام البيانات الاصطناعية يمكن أن يساعد في سد الثغرات في مجموعات التدريب حيث تكون البيانات الواقعية نادرة. لإدارة مجموعات البيانات وتدريب السحابة بشكل مبسط، توفر Ultralytics أدوات لتصور توزيعات البيانات و تحديد الاختلالات المحتملة في وقت مبكر. في النهاية، يتطلب تحقيق الشفافية في الذكاء الاصطناعي مزيجًا من الحلول التقنية وفرق التطوير المتنوعة والتقييم المستمر للدقة و الاسترجاع عبر جميع الخصائص الديموغرافية للمستخدمين.