فهم تحيز الذكاء الاصطناعي وتحيز مجموعات البيانات في أنظمة الرؤية الحاسوبية القائمة على الذكاء الاصطناعي

تُحدث نماذج الذكاء الاصطناعي (AI) تغييرًا في طريقة حلنا للمشكلات، لكنها ليست مثالية. من السيارات ذاتية القيادة إلى أدوات التشخيص في الرعاية الصحية، نعتمد على الذكاء الاصطناعي في تفسير البيانات واتخاذ القرارات. ماذا يحدث عندما تكون البيانات نفسها معيبة؟

التحيز في الذكاء الاصطناعي يشير إلى أنماط من عدم الاتساق التي تتطور في النماذج، غالبًا دون أن يدرك أحد ذلك. يمكن أن تتسبب هذه التحيزات في جعل النماذج تُصدر تنبؤات غير دقيقة أو غير متسقة أو حتى ضارة. في الرؤية الحاسوبية، يرجع التحيز عادةً إلى مصدر رئيسي واحد: مجموعة البيانات. إذا كانت البيانات المستخدمة لتدريب النموذج غير متوازنة أو غير ممثلة بشكل جيد، فسوف يعكس النموذج تلك الفجوات.

دعنا نلقي نظرة فاحصة على كيفية تشكل تحيز مجموعة البيانات، وكيف يؤثر على نماذج الرؤية الحاسوبية، والخطوات التي يمكن للمطورين اتخاذها لاكتشافه ومنعه. سنوضح أيضًا كيف يمكن لنماذج مثل Ultralytics YOLO11 دعم الجهود المبذولة لبناء أنظمة ذكاء اصطناعي أكثر عدلاً ذات قدرة أفضل على التعميم، مما يعني أنها تؤدي أداءً جيداً على بيانات جديدة وغير مرئية وتخدم الجميع بشكل أكثر مساواة.

Link to this sectionما هو تحيز الذكاء الاصطناعي ولماذا هو مهم؟#

يشير تحيز الذكاء الاصطناعي إلى أخطاء متسقة في نظام الذكاء الاصطناعي تؤدي إلى نتائج منحازة أو غير دقيقة. بعبارات أبسط، يبدأ النموذج في تفضيل نوع واحد من المدخلات المرئية على غيره، مما يؤثر على عدالة النموذج، ليس لأنه يؤدي بشكل أفضل، بل بسبب الطريقة التي تم تدريبه بها.

يمكن أن يكون هذا شائعاً بشكل خاص في الرؤية الحاسوبية، حيث تتعلم النماذج من البيانات المرئية. إذا كانت مجموعة البيانات تحتوي في الغالب على نوع واحد من الأشياء أو المشاهد أو الأشخاص، فإن النموذج يتعلم أنماطاً تعمل بشكل جيد فقط لتلك الحالات.

تخيل نموذجاً تم تدريبه في الغالب على صور حركة المرور من المدن الكبرى. إذا تم نشره في منطقة ريفية، فقد يسيء تصنيف تخطيطات الطرق غير المألوفة أو يفشل في اكتشاف أنواع المركبات التي لم يرها من قبل. هذا هو تحيز الذكاء الاصطناعي في العمل. فهو يؤدي إلى انخفاض الدقة ومحدودية التعميم، وهو ما يشير إلى قدرة النموذج على الأداء الجيد مع مدخلات جديدة أو متنوعة.

في التطبيقات التي تكون فيها الدقة ضرورية، مثل الرعاية الصحية أو الأمن، هذه الأخطاء ليست مجرد أمور محبطة، بل يمكن أن تكون خطيرة. معالجة التحيز تتعلق بالأداء والموثوقية والسلامة.

Link to this sectionكيف يؤثر تحيز مجموعة البيانات على سلوك النموذج#

عندما نتحدث عن تحيز مجموعة البيانات، فإننا نشير إلى عدم التوازن أو القيود في البيانات المستخدمة لتدريب النموذج. يحدث تحيز مجموعة البيانات عندما لا تعكس بيانات التدريب بشكل كافٍ التنوع في العالم الحقيقي الذي يُفترض أن تمثله.

نماذج الرؤية الحاسوبية لا تفهم العالم. إنها تفهم الأنماط. إذا كانت الصور الوحيدة للكلاب التي تراها هي كلاب "جولدن ريتريفر" في الأفنية الخلفية، فقد لا تتعرف على كلب "هاسكي" على طريق ثلجي.

الشكل 1. إعادة موازنة البيانات المصدر تساعد في تحقيق دقة أفضل للنموذج.

يسلط هذا الضوء على أحد التحديات الرئيسية التي يسببها تحيز مجموعة البيانات. يبني النموذج فهمه بناءً على ما يتم عرضه عليه. إذا كانت بيانات التدريب تلك لا تعكس تنوع العالم الحقيقي، يصبح سلوك النموذج ضيقاً وأقل فاعلية في الظروف غير المألوفة.

غالباً ما يكون أداء مصنفات الصور أسوأ بكثير عند اختبارها على مجموعة بيانات مختلفة عن تلك التي تم تدريبها عليها، حتى لو تم بناء كلتا المجموعتين لنفس المهمة. يمكن أن تؤدي التغييرات الصغيرة في الإضاءة أو الخلفيات أو زوايا الكاميرا إلى انخفاض ملحوظ في الدقة. يوضح هذا مدى سهولة تأثير تحيز مجموعة البيانات على قدرة النموذج على التعميم.

هذه ليست حالات نادرة. إنها إشارات تدل على أن خط بياناتك لا يقل أهمية عن بنية النموذج الخاص بك.

Link to this sectionأنواع التحيز في بيانات تدريب الذكاء الاصطناعي#

يمكن رؤية التحيز في عملية التطوير بطرق خفية، غالباً أثناء جمع البيانات أو وضع العلامات أو التنظيم. فيما يلي ثلاثة أنواع رئيسية من التحيز التي يمكن أن تؤثر على بيانات التدريب الخاصة بك:

Link to this sectionتحيز الاختيار#

يمكن أن يحدث تحيز الاختيار عندما لا تمثل مجموعة البيانات التنوع الذي يُرى في الاستخدام الواقعي. إذا تم تدريب نموذج كشف المشاة فقط على صور نهارية واضحة، فلن يعمل بشكل جيد في الليل أو في الضباب. وبالتالي، تكون عملية الاختيار قد أغفلت حالات حاسمة.

الشكل 2. تمثيل مرئي لتحيز الاختيار حيث يتم اختيار مجموعة فرعية غير متنوعة فقط.

يحدث هذا التحيز عندما لا تلتقط مجموعة البيانات النطاق الكامل لسيناريوهات العالم الحقيقي بسبب طريقة جمع البيانات. على سبيل المثال، قد يفشل نموذج كشف المشاة المدرب فقط على صور نهارية واضحة في الضباب أو الثلج أو الإضاءة المنخفضة. غالباً ما يحدث هذا عندما يتم جمع البيانات في ظروف مثالية أو مريحة، مما يحد من قدرة النموذج على الأداء في بيئات متنوعة. يساعد توسيع جهود الجمع لتشمل بيئات أكثر تنوعاً في تقليل هذا النوع من التحيز.

يمكن أن ينشأ أيضاً في مجموعات البيانات المبنية من مصادر عبر الإنترنت، حيث قد يكون المحتوى منحازاً بشدة نحو مواقع أو لغات أو سياقات اجتماعية واقتصادية معينة. بدون جهد متعمد لتنويع مجموعة البيانات، سيرث النموذج هذه القيود.

Link to this sectionتحيز التصنيف (Label bias)#

يحدث تحيز التصنيف عندما يطبق القائمون على وضع العلامات تصنيفات غير صحيحة أو غير متسقة. قد يبدو التصنيف الخاطئ غير ضار، لكن إذا تكرر، يبدأ النموذج في تعلم ارتباطات خاطئة.

يمكن أن يؤدي وضع العلامات غير المتسق إلى إرباك النموذج أثناء التدريب، خاصة في المهام المعقدة مثل اكتشاف الأشياء. على سبيل المثال، قد يقوم أحد الموصوفين بتسمية مركبة على أنها "سيارة" بينما يسميها آخر مماثل على أنها "شاحنة". تؤثر هذه التناقضات على قدرة النموذج على تعلم أنماط موثوقة، مما يؤدي إلى انخفاض الدقة أثناء الاستدلال.

الشكل 3. ينشأ التحيز في خطوط أنابيب البيانات من اختلالات العالم الحقيقي.

قد يظهر تحيز التصنيف أيضاً من إرشادات غير واضحة لوضع العلامات أو تفسيرات مختلفة لنفس البيانات. يمكن أن يؤدي إنشاء معايير موثقة جيداً لوضع العلامات وإجراء فحوصات مراقبة الجودة إلى تقليل هذه التحديات بشكل كبير.

يعد التدريب المستمر للموصوفين واستخدام التصنيف التوافقي، حيث يقوم عدة موصوفين بمراجعة كل عينة، استراتيجيتين فعالتين لتقليل تحيز التصنيف وتحسين جودة مجموعة البيانات.

Link to this sectionتحيز التمثيل#

غالباً ما يعكس تحيز التمثيل عدم المساواة المجتمعية الأوسع. قد تفشل البيانات التي يتم جمعها في المناطق الأكثر ثراءً أو اتصالاً في التقاط تنوع المجموعات السكانية أو البيئات الأقل تمثيلاً. تتطلب معالجة هذا التحيز إدراجاً متعمداً للمجموعات والسياقات التي تم تجاهلها.

يحدث تحيز التمثيل عندما تكون مجموعات أو فئات معينة ناقصة التمثيل في مجموعة البيانات. قد تشمل هذه مجموعات سكانية أو فئات أشياء أو ظروفاً بيئية. إذا رأى النموذج لون بشرة واحداً فقط، أو نوعاً واحداً من الأشياء، أو نمط خلفية واحداً، فإن تنبؤاته ستعكس ذلك الخلل.

يمكننا ملاحظة هذا النوع من التحيز عندما يتم تضمين مجموعات أو فئات معينة بكميات أصغر بكثير من غيرها. يمكن أن يؤدي هذا إلى انحياز تنبؤات النموذج نحو الأمثلة السائدة في مجموعة البيانات. على سبيل المثال، قد يعاني نموذج التعرف على الوجه الذي تم تدريبه بشكل أساسي على مجموعة سكانية واحدة من أجل الأداء بدقة عبر جميع المستخدمين. على عكس تحيز الاختيار، الذي يرتبط بتنوع البيانات، يتعلق تحيز التمثيل بالتوازن بين المجموعات.

يمكن أن تساعد عمليات تدقيق التنوع واستراتيجيات توسيع البيانات المستهدفة في ضمان تمثيل جميع المجموعات السكانية والفئات ذات الصلة بشكل صحيح في جميع أنحاء مجموعة بيانات التدريب.

Link to this sectionكيفية اكتشاف وتخفيف تحيز مجموعة البيانات#

في عمليات النشر في العالم الحقيقي، لا يعني تحيز الذكاء الاصطناعي مجرد بضع تنبؤات غير صحيحة. يمكن أن يؤدي إلى أنظمة تعمل بشكل جيد لبعض الأشخاص ولكن ليس للجميع.

في ذكاء السيارات الاصطناعي، قد تعمل نماذج الكشف بشكل غير متسق عبر مجموعات المشاة، مما يؤدي إلى نتائج سلامة أقل للأفراد ناقصي التمثيل. المشكلة ليست في نية النموذج. بل في المدخلات المرئية التي تم تدريبه عليها. حتى في الزراعة، يمكن أن يعني التحيز في اكتشاف الأشياء ضعف تحديد المحاصيل في ظروف الإضاءة أو الطقس المختلفة. هذه عواقب شائعة لتدريب النماذج على مجموعات بيانات محدودة أو غير متوازنة.

إصلاح تحيز الذكاء الاصطناعي يبدأ بمعرفة أين تبحث. إذا كانت مجموعة التدريب الخاصة بك تفتقد إلى أمثلة رئيسية أو تبالغ في تمثيل نطاق ضيق، فسوف يعكس نموذجك تلك الفجوات. لهذا السبب يعد اكتشاف التحيز في الذكاء الاصطناعي خطوة حاسمة في كل خط أنابيب تطوير.

الشكل 4. خطوات رئيسية في تقليل تحيز الذكاء الاصطناعي وتحسين العدالة.

ابدأ بتحليل مجموعة البيانات الخاصة بك. انظر إلى التوزيع عبر الفئات والبيئات والإضاءة ومقاييس الأشياء والمجموعات السكانية. إذا كانت فئة واحدة هي المهيمنة، فمن المحتمل أن يكون أداء نموذجك ضعيفاً في الفئات الأخرى.

بعد ذلك، انظر إلى الأداء. هل يعمل النموذج بشكل أسوأ في إعدادات معينة أو لأنواع محددة من الأشياء؟ إذا كان الأمر كذلك، فهذه علامة على تحيز مكتسب، وعادة ما يشير هذا إلى البيانات.

التقييم على مستوى الشرائح أمر أساسي. قد يبلغ النموذج عن دقة 90% في المتوسط ولكن 60% فقط على مجموعة أو حالة معينة. بدون التحقق من تلك الشرائح، لن تعرف ذلك أبداً.

يعد استخدام مقاييس العدالة أثناء التدريب والتقييم أداة قوية أخرى. تتجاوز هذه المقاييس درجات الدقة القياسية وتقيم كيفية تصرف النموذج عبر مجموعات فرعية مختلفة من البيانات. إنها تساعد في كشف النقاط العمياء التي قد تمر دون أن يلاحظها أحد.

الشفافية في تكوين مجموعة البيانات واختبار النماذج تؤدي إلى نماذج أفضل.

Link to this sectionتحسين العدالة من خلال تنوع البيانات والتعزيز#

بمجرد تحديد التحيز، فإن الخطوة التالية هي سد الفجوة. إحدى أكثر الطرق فعالية للقيام بذلك هي زيادة تنوع البيانات في نماذج الذكاء الاصطناعي. وهذا يعني جمع المزيد من العينات من سيناريوهات ناقصة التمثيل، سواء كانت صوراً طبية من مجموعات سكانية مختلفة أو ظروفاً بيئية غير عادية.

يمكن أن تكون إضافة المزيد من البيانات قيمة، خاصة عندما تزيد من التنوع. ومع ذلك، فإن تحسين العدالة يعتمد أيضاً على جمع الأنواع الصحيحة من الأمثلة. يجب أن تعكس هذه الأمثلة التباين في العالم الحقيقي الذي من المحتمل أن يواجهه نموذجك.

يعد تعزيز البيانات استراتيجية قيمة أخرى. يمكن أن يساعد قلب الصور وتدويرها وتعديل الإضاءة وتحجيم الأشياء في محاكاة ظروف حقيقية مختلفة. لا يزيد التعزيز من تنوع مجموعة البيانات فحسب، بل يساعد النموذج أيضاً على أن يصبح أكثر قوة تجاه التغيرات في المظهر والإضاءة والسياق.

تتضمن معظم خطوط أنابيب التدريب الحديثة تعزيز البيانات بشكل افتراضي، ولكن الاستخدام الاستراتيجي، مثل التركيز على التعديل بناءً على احتياجات محددة للمهمة، هو ما يجعله فعالاً للعدالة.

Link to this sectionاستخدام البيانات الاصطناعية لملء الفجوات#

تشير البيانات الاصطناعية إلى البيانات التي يتم إنشاؤها بشكل مصطنع والتي تحاكي أمثلة العالم الحقيقي. يمكن أن تكون أداة مفيدة عندما تكون بعض السيناريوهات نادرة جداً أو حساسة جداً بحيث لا يمكن التقاطها في الواقع.

على سبيل المثال، إذا كنت تبني نموذجاً لاكتشاف عيوب نادرة في الآلات أو مخالفات مرورية نادرة الحدوث، يمكنك محاكاة تلك الحالات باستخدام بيانات اصطناعية. هذا يمنح نموذجك الفرصة للتعلم من أحداث قد لا يواجهها كثيراً في مجموعة التدريب الخاصة بك.

وجدت دراسات أن إدخال بيانات اصطناعية مستهدفة في التدريب يمكن أن يقلل من تحيز مجموعة البيانات ويحسن الأداء عبر المجموعات السكانية والبيئات المختلفة.

تعمل البيانات الاصطناعية بشكل أفضل عند إقرانها بعينات من العالم الحقيقي. إنها تكمل مجموعة البيانات الخاصة بك؛ ولا تستبدلها.

Link to this sectionكيف تدعم YOLO11 الذكاء الاصطناعي الأخلاقي#

يعتمد بناء نماذج ذكاء اصطناعي غير منحازة أيضاً على الأدوات التي تستخدمها. تم تصميم YOLO11 لتكون مرنة، وسهلة الضبط الدقيق، وقابلة للتكيف بدرجة كبيرة، مما يجعلها مناسبة تماماً لتقليل تحيز مجموعة البيانات.

تدعم YOLO11 تقنيات تعزيز البيانات المتقدمة أثناء التدريب، مما يقدم سياقات صور متنوعة وأمثلة مدمجة لتحسين تعميم النموذج وتقليل الإفراط في التخصيص.

تتميز YOLO11 أيضاً بهيكل أساسي وعنق محسّن لاستخراج ميزات أكثر فاعلية. يعمل هذا التحديث على تعزيز قدرة النموذج على اكتشاف التفاصيل الدقيقة، وهو أمر بالغ الأهمية في السيناريوهات ناقصة التمثيل أو الحالات النادرة حيث قد تعاني النماذج القياسية.

بما أن YOLO11 بسيطة في إعادة التدريب والنشر عبر بيئات الحافة والسحابية، يمكن للفرق تحديد فجوات الأداء وتحديث النموذج بسرعة عند اكتشاف التحيز في الميدان.

الذكاء الاصطناعي العادل ليس هدفاً يتم تحقيقه مرة واحدة. بل هو دورة من التقييم والتعلم والتعديل. تساعد أدوات مثل YOLO11 في جعل هذه الدورة أسرع وأكثر إنتاجية.

Link to this sectionأبرز النقاط#

يؤثر تحيز الذكاء الاصطناعي على كل شيء من العدالة إلى الأداء. غالباً ما ينبع تحيز الرؤية الحاسوبية من كيفية جمع مجموعات البيانات وتصنيفها وموازنتها. لحسن الحظ، هناك طرق مثبتة لاكتشافه وتخفيفه.

ابدأ بتدقيق بياناتك واختبار أداء النموذج عبر سيناريوهات مختلفة. استخدم جمع البيانات المستهدف، والتعزيز، والبيانات الاصطناعية لإنشاء تغطية تدريب أفضل.

تدعم YOLO11 سير العمل هذا من خلال تسهيل تدريب النماذج المخصصة، وتطبيق تقنيات تعزيز قوية، والاستجابة بسرعة عند اكتشاف التحيز.

بناء ذكاء اصطناعي عادل ليس مجرد الشيء الصحيح الذي يجب القيام به. بل هو أيضاً الطريقة التي تبني بها أنظمة أكثر ذكاءً وموثوقية.

انضم إلى مجتمعنا المتنامي! استكشف مستودع GitHub الخاص بنا لمعرفة المزيد حول الذكاء الاصطناعي. هل أنت مستعد لبدء مشاريعك الخاصة في الرؤية الحاسوبية؟ تحقق من خيارات الترخيص لدينا. اكتشف الذكاء الاصطناعي في التصنيع والرؤية الحاسوبية في الزراعة من خلال زيارة صفحات الحلول الخاصة بنا!