فهم تحيز الذكاء الاصطناعي وتحيز مجموعات البيانات في أنظمة الرؤية الحاسوبية القائمة على الذكاء الاصطناعي

تغير نماذج الذكاء الاصطناعي الطريقة التي نحل بها المشكلات، لكنها ليست مثالية. من السيارات ذاتية القيادة إلى أدوات التشخيص في healthcare، نعتمد على الذكاء الاصطناعي لتفسير البيانات واتخاذ القرارات. ماذا يحدث عندما تكون البيانات نفسها معيبة؟

Bias in AI يشير إلى أنماط عدم الاتساق التي تنشأ في النماذج، غالبًا دون أن يدرك أحد ذلك. يمكن أن تتسبب هذه التحيزات في قيام النماذج بتقديم تنبؤات غير دقيقة أو غير متسقة أو حتى ضارة. في الرؤية الحاسوبية، يعود التحيز عادةً إلى مصدر رئيسي واحد: dataset. إذا كانت البيانات المستخدمة لتدريب النموذج غير متوازنة أو غير ممثلة بشكل جيد، فسيعكس النموذج تلك الفجوات.

دعونا نلقي نظرة أقرب على كيفية تشكل dataset bias، وكيف تؤثر على نماذج computer vision، والخطوات التي يمكن للمطورين اتخاذها لاكتشافها ومنعها. سنوضح أيضًا كيف يمكن لنماذج مثل Ultralytics YOLO11 دعم الجهود المبذولة لبناء أنظمة ذكاء اصطناعي أكثر إنصافًا وذات تعميم أفضل، مما يعني أنها تعمل بشكل جيد على بيانات جديدة غير مرئية وتخدم الجميع بشكل متساوٍ.

ما هو تحيز الذكاء الاصطناعي ولماذا هو مهم؟#

يشير تحيز الذكاء الاصطناعي إلى أخطاء متسقة في نظام الذكاء الاصطناعي تؤدي إلى نتائج منحرفة أو غير دقيقة. بعبارات أبسط، يبدأ النموذج في تفضيل نوع واحد من المدخلات المرئية على غيره، مما يؤثر على fairness الخاص بالنموذج، وليس لأنه يعمل بشكل أفضل بل بسبب طريقة تدريبه.

يمكن أن يكون هذا شائعاً بشكل خاص في الرؤية الحاسوبية، حيث تتعلم النماذج من البيانات المرئية. إذا كانت مجموعة البيانات تحتوي في الغالب على نوع واحد من الأشياء أو المشاهد أو الأشخاص، فإن النموذج يتعلم أنماطاً تعمل بشكل جيد فقط لتلك الحالات.

تخيل نموذجًا تم تدريبه في الغالب على صور حركة المرور من المدن الكبرى. إذا تم نشره في منطقة ريفية، فقد يخطئ في تصنيف تخطيطات الطرق غير المعتادة أو fail to detect types of vehicles التي لم يسبق له رؤيتها من قبل. هذا هو تحيز الذكاء الاصطناعي قيد التطبيق. فهو يؤدي إلى انخفاض الدقة ومحدودية التعميم، والذي يشير إلى قدرة النموذج على العمل بشكل جيد على المدخلات الجديدة أو المتنوعة.

في التطبيقات التي تكون فيها الدقة ضرورية، مثل الرعاية الصحية أو الأمن، هذه الأخطاء ليست مجرد أمور محبطة، بل يمكن أن تكون خطيرة. معالجة التحيز تتعلق بالأداء والموثوقية والسلامة.

كيف يؤثر تحيز مجموعة البيانات على سلوك النموذج#

عندما نتحدث عن تحيز مجموعة البيانات، فإننا نشير إلى عدم التوازن أو القيود في البيانات المستخدمة لتدريب النموذج. يحدث تحيز مجموعة البيانات عندما لا تعكس بيانات التدريب بشكل كافٍ التنوع في العالم الحقيقي الذي يُفترض أن تمثله.

نماذج الرؤية الحاسوبية لا تفهم العالم. إنها تفهم الأنماط. إذا كانت الصور الوحيدة للكلاب التي تراها هي كلاب "جولدن ريتريفر" في الأفنية الخلفية، فقد لا تتعرف على كلب "هاسكي" على طريق ثلجي.

Fig 1. إعادة ترجيح بيانات المصدر تساعد في تحقيق دقة أفضل للنموذج.

يسلط هذا الضوء على أحد التحديات الرئيسية التي يسببها تحيز مجموعة البيانات. يبني النموذج فهمه بناءً على ما يُعرض عليه. إذا لم تكن بيانات التدريب هذه تعكس التنوع في العالم الحقيقي، يصبح سلوك النموذج ضيقًا وأقل فعالية في unfamiliar conditions.

غالباً ما يكون أداء مصنفات الصور أسوأ بكثير عند اختبارها على مجموعة بيانات مختلفة عن تلك التي تم تدريبها عليها، حتى لو تم بناء كلتا المجموعتين لنفس المهمة. يمكن أن تؤدي التغييرات الصغيرة في الإضاءة أو الخلفيات أو زوايا الكاميرا إلى انخفاض ملحوظ في الدقة. يوضح هذا مدى سهولة تأثير تحيز مجموعة البيانات على قدرة النموذج على التعميم.

هذه ليست حالات نادرة. إنها إشارات تدل على أن خط بياناتك لا يقل أهمية عن بنية النموذج الخاص بك.

أنواع التحيز في بيانات تدريب الذكاء الاصطناعي#

يمكن رؤية التحيز في عملية التطوير بطرق خفية، غالباً أثناء جمع البيانات أو وضع العلامات أو التنظيم. فيما يلي ثلاثة أنواع رئيسية من التحيز التي يمكن أن تؤثر على بيانات التدريب الخاصة بك:

تحيز الاختيار#

يمكن أن يحدث تحيز الاختيار عندما لا تمثل مجموعة البيانات التنوع الذي يُرى في الاستخدام الواقعي. إذا تم تدريب نموذج كشف المشاة فقط على صور نهارية واضحة، فلن يعمل بشكل جيد في الليل أو في الضباب. وبالتالي، تكون عملية الاختيار قد أغفلت حالات حاسمة.

Fig 2. تمثيل مرئي لتحيز الاختيار حيث يتم اختيار مجموعة فرعية غير متنوعة فقط.

يحدث هذا التحيز عندما لا تلتقط مجموعة البيانات النطاق الكامل لسيناريوهات العالم الحقيقي بسبب طريقة جمع البيانات. على سبيل المثال، قد يفشل نموذج كشف المشاة المدرب فقط على صور نهارية واضحة في الضباب أو الثلج أو الإضاءة المنخفضة. غالباً ما يحدث هذا عندما يتم جمع البيانات في ظروف مثالية أو مريحة، مما يحد من قدرة النموذج على الأداء في بيئات متنوعة. يساعد توسيع جهود الجمع لتشمل بيئات أكثر تنوعاً في تقليل هذا النوع من التحيز.

يمكن أن ينشأ أيضاً في مجموعات البيانات المبنية من مصادر عبر الإنترنت، حيث قد يكون المحتوى منحازاً بشدة نحو مواقع أو لغات أو سياقات اجتماعية واقتصادية معينة. بدون جهد متعمد لتنويع مجموعة البيانات، سيرث النموذج هذه القيود.

تحيز التصنيف (Label bias)#

يحدث Label bias عندما يقوم المقيمون البشريون بتطبيق تسميات غير صحيحة أو غير متسقة. قد يبدو الخطأ في التسمية غير ضار، لكن إذا حدث بشكل متكرر، يبدأ النموذج في تعلم الارتباطات الخاطئة.

يمكن أن يؤدي وضع العلامات غير المتسق إلى إرباك النموذج أثناء التدريب، خاصة في المهام المعقدة مثل اكتشاف الأشياء. على سبيل المثال، قد يقوم أحد الموصوفين بتسمية مركبة على أنها "سيارة" بينما يسميها آخر مماثل على أنها "شاحنة". تؤثر هذه التناقضات على قدرة النموذج على تعلم أنماط موثوقة، مما يؤدي إلى انخفاض الدقة أثناء الاستدلال.

Fig 3. نشأ التحيز في خطوط بيانات العمل من عدم التوازن في العالم الحقيقي.

قد يظهر تحيز التصنيف أيضاً من إرشادات غير واضحة لوضع العلامات أو تفسيرات مختلفة لنفس البيانات. يمكن أن يؤدي إنشاء معايير موثقة جيداً لوضع العلامات وإجراء فحوصات مراقبة الجودة إلى تقليل هذه التحديات بشكل كبير.

يعد التدريب المستمر للموصوفين واستخدام التصنيف التوافقي، حيث يقوم عدة موصوفين بمراجعة كل عينة، استراتيجيتين فعالتين لتقليل تحيز التصنيف وتحسين جودة مجموعة البيانات.

تحيز التمثيل#

غالباً ما يعكس Representation bias عدم المساواة الاجتماعية الأوسع. قد تفشل البيانات التي يتم جمعها في المناطق الأكثر ثراءً أو اتصالاً في التقاط تنوع السكان أو البيئات الأقل تمثيلاً. يتطلب معالجة هذا التحيز إدراجاً متعمدًا للمجموعات والسياقات التي تم التغاضي عنها.

يحدث تحيز التمثيل عندما تكون مجموعات أو فئات معينة ناقصة التمثيل في مجموعة البيانات. قد تشمل هذه مجموعات سكانية أو فئات أشياء أو ظروفاً بيئية. إذا رأى النموذج لون بشرة واحداً فقط، أو نوعاً واحداً من الأشياء، أو نمط خلفية واحداً، فإن تنبؤاته ستعكس ذلك الخلل.

يمكننا ملاحظة هذا النوع من التحيز عندما يتم تضمين مجموعات أو فئات معينة بكميات أصغر بكثير من غيرها. يمكن أن يؤدي هذا إلى انحياز تنبؤات النموذج نحو الأمثلة السائدة في مجموعة البيانات. على سبيل المثال، قد يعاني نموذج التعرف على الوجه الذي تم تدريبه بشكل أساسي على مجموعة سكانية واحدة من أجل الأداء بدقة عبر جميع المستخدمين. على عكس تحيز الاختيار، الذي يرتبط بتنوع البيانات، يتعلق تحيز التمثيل بالتوازن بين المجموعات.

يمكن أن تساعد عمليات تدقيق التنوع واستراتيجيات توسيع البيانات المستهدفة في ضمان تمثيل جميع المجموعات السكانية والفئات ذات الصلة بشكل صحيح في جميع أنحاء مجموعة بيانات التدريب.

كيفية اكتشاف وتخفيف تحيز مجموعة البيانات#

في عمليات النشر في العالم الحقيقي، لا يعني تحيز الذكاء الاصطناعي مجرد بضع تنبؤات غير صحيحة. يمكن أن يؤدي إلى أنظمة تعمل بشكل جيد لبعض الأشخاص ولكن ليس للجميع.

في مجال الذكاء الاصطناعي للسيارات، قد تعمل نماذج الكشف بشكل غير متسق عبر مجموعات المشاة، مما يؤدي إلى نتائج سلامة أقل للأفراد غير الممثلين كفاية. المشكلة ليست في نية النموذج، بل في المدخلات المرئية التي تم تدريبه عليها. حتى في الزراعة، يمكن أن يعني التحيز في object detection ضعف تحديد المحاصيل في ظروف إضاءة أو طقس مختلفة. هذه هي النتائج الشائعة لتدريب النماذج على مجموعات بيانات محدودة أو غير متوازنة.

يبدأ Fixing AI bias بمعرفة أين يجب البحث. إذا كانت مجموعة التدريب الخاصة بك تفتقر إلى أمثلة رئيسية أو تفرط في تمثيل نطاق ضيق، فسيعكس نموذجك تلك الفجوات. ولهذا السبب يعد اكتشاف التحيز في الذكاء الاصطناعي خطوة حاسمة في كل مسار تطوير.

Fig 4. الخطوات الرئيسية في تقليل تحيز الذكاء الاصطناعي وتحسين العدالة.

ابدأ بتحليل مجموعة البيانات الخاصة بك. انظر إلى التوزيع عبر الفئات والبيئات والإضاءة ومقاييس الأشياء والمجموعات السكانية. إذا كانت فئة واحدة هي المهيمنة، فمن المحتمل أن يكون أداء نموذجك ضعيفاً في الفئات الأخرى.

بعد ذلك، انظر إلى الأداء. هل يعمل النموذج بشكل أسوأ في إعدادات معينة أو لأنواع محددة من الأشياء؟ إذا كان الأمر كذلك، فهذه علامة على تحيز مكتسب، وعادة ما يشير هذا إلى البيانات.

التقييم على مستوى الشرائح أمر أساسي. قد يبلغ النموذج عن دقة 90% في المتوسط ولكن 60% فقط على مجموعة أو حالة معينة. بدون التحقق من تلك الشرائح، لن تعرف ذلك أبداً.

يعد استخدام مقاييس العدالة أثناء التدريب والتقييم أداة قوية أخرى. تتجاوز هذه المقاييس درجات الدقة القياسية وتقيم كيفية تصرف النموذج عبر مجموعات فرعية مختلفة من البيانات. إنها تساعد في كشف النقاط العمياء التي قد تمر دون أن يلاحظها أحد.

الشفافية في تكوين مجموعة البيانات واختبار النماذج تؤدي إلى نماذج أفضل.

تحسين العدالة من خلال تنوع البيانات والتعزيز#

بمجرد تحديد التحيز، تكون الخطوة التالية هي سد الفجوة. إحدى أكثر الطرق فعالية للقيام بذلك هي زيادة data diversity في نماذج الذكاء الاصطناعي. وهذا يعني جمع المزيد من العينات من سيناريوهات غير ممثلة بشكل كافٍ، سواء كانت صورًا طبية من مجموعات سكانية مختلفة أو ظروفًا بيئية غير معتادة.

يمكن أن تكون إضافة المزيد من البيانات قيمة، خاصة عندما تزيد من التنوع. ومع ذلك، فإن تحسين العدالة يعتمد أيضاً على جمع الأنواع الصحيحة من الأمثلة. يجب أن تعكس هذه الأمثلة التباين في العالم الحقيقي الذي من المحتمل أن يواجهه نموذجك.

يعد تعزيز البيانات استراتيجية قيمة أخرى. يمكن أن يساعد قلب الصور وتدويرها وتعديل الإضاءة وتحجيم الأشياء في محاكاة ظروف حقيقية مختلفة. لا يزيد التعزيز من تنوع مجموعة البيانات فحسب، بل يساعد النموذج أيضاً على أن يصبح أكثر قوة تجاه التغيرات في المظهر والإضاءة والسياق.

تتضمن معظم مسارات التدريب الحديثة ميزة augmentation بشكل افتراضي، لكن الاستخدام الاستراتيجي، مثل التركيز على التعديل بناءً على الاحتياجات الخاصة بالمهمة، هو ما يجعلها فعالة للعدالة.

استخدام البيانات الاصطناعية لملء الفجوات#

تشير البيانات الاصطناعية إلى البيانات التي يتم إنشاؤها بشكل مصطنع والتي تحاكي أمثلة العالم الحقيقي. يمكن أن تكون أداة مفيدة عندما تكون بعض السيناريوهات نادرة جداً أو حساسة جداً بحيث لا يمكن التقاطها في الواقع.

على سبيل المثال، إذا كنت تبني نموذجاً لاكتشاف عيوب نادرة في الآلات أو مخالفات مرورية نادرة الحدوث، يمكنك محاكاة تلك الحالات باستخدام بيانات اصطناعية. هذا يمنح نموذجك الفرصة للتعلم من أحداث قد لا يواجهها كثيراً في مجموعة التدريب الخاصة بك.

وجدت Studies أن إدخال بيانات اصطناعية targeted في التدريب يمكن أن يقلل من تحيز مجموعة البيانات ويحسن الأداء عبر المجموعات السكانية والبيئات المختلفة.

تعمل البيانات الاصطناعية بشكل أفضل عند إقرانها بعينات من العالم الحقيقي. إنها تكمل مجموعة البيانات الخاصة بك؛ ولا تستبدلها.

كيف يدعم Ultralytics YOLO11 الذكاء الاصطناعي الأخلاقي#

يعتمد بناء نماذج ذكاء اصطناعي خالية من التحيز أيضاً على الأدوات التي تستخدمها. تم تصميم Ultralytics YOLO11 ليكون مرناً وسهل الضبط الدقيق وقابل للتكيف بشكل كبير، مما يجعله خياراً قوياً لتقليل تحيز مجموعة البيانات.

يدعم Ultralytics YOLO11 تقنيات تحسين البيانات المتقدمة أثناء training النموذج، مما يقدم سياقات صور متنوعة وأمثلة ممزوجة لتحسين تعميم النموذج وتقليل فرط التخصيص.

يتميز Ultralytics YOLO11 أيضاً بهيكل عمود فقري ورقبة محسّن لاستخراج ميزات أكثر فاعلية. يعمل هذا التحديث على تعزيز قدرة النموذج على اكتشاف التفاصيل الدقيقة، وهو أمر بالغ الأهمية في السيناريوهات غير الممثلة بالشكل الكافي أو حالات الحواف التي قد تواجه فيها النماذج القياسية صعوبة.

نظراً لأن Ultralytics YOLO11 سهل إعادة التدريب والنشر عبر بيئات الحافة والسحابة، يمكن فرق العمل تحديد فجوات الأداء وتحديث النموذج بسرعة عند اكتشاف التحيز في الميدان.

الذكاء الاصطناعي العادل ليس هدفاً لمرة واحدة. بل هو دورة من التقييم والتعلم والتعديل. تساعد أدوات مثل Ultralytics YOLO11 في جعل هذه الدورة أسرع وأكثر إنتاجية.

أبرز النقاط#

يؤثر تحيز الذكاء الاصطناعي على كل شيء من العدالة إلى الأداء. غالباً ما ينبع تحيز الرؤية الحاسوبية من كيفية جمع مجموعات البيانات وتصنيفها وموازنتها. لحسن الحظ، هناك طرق مثبتة لاكتشافه وتخفيفه.

ابدأ بتدقيق بياناتك واختبار أداء النموذج عبر سيناريوهات مختلفة. استخدم جمع البيانات المستهدف، والتعزيز، والبيانات الاصطناعية لإنشاء تغطية تدريب أفضل.

يدعم Ultralytics YOLO11 هذا الإجراء من خلال تسهيل تدريب النماذج المخصصة، وتطبيق تقنيات تحسين قوية، والاستجابة بسرعة عند اكتشاف التحيز.

بناء ذكاء اصطناعي عادل ليس مجرد الشيء الصحيح الذي يجب القيام به. بل هو أيضاً الطريقة التي تبني بها أنظمة أكثر ذكاءً وموثوقية.

انضم إلى community المتنامية لدينا! استكشف GitHub repository الخاص بنا لمعرفة المزيد حول الذكاء الاصطناعي. هل أنت مستعد لبدء مشاريع الرؤية الحاسوبية الخاصة بك؟ تحقق من licensing options الخاصة بنا. اكتشف AI in manufacturing وvision AI in agriculture من خلال زيارة صفحات الحلول الخاصة بنا!