فهم تحيز الذكاء الاصطناعي وتحيز مجموعات البيانات في أنظمة الرؤية الحاسوبية

تُغير نماذج الذكاء الاصطناعي طريقة حلنا للمشكلات، لكنها ليست مثالية. من السيارات ذاتية القيادة إلى أدوات التشخيص في الرعاية الصحية، نعتمد على الذكاء الاصطناعي لتفسير البيانات واتخاذ القرارات. فما الذي يحدث عندما تكون البيانات نفسها معيبة؟

يشير التحيز في الذكاء الاصطناعي إلى أنماط من عدم الاتساق التي تظهر في النماذج، غالبًا دون أن يدرك أحد ذلك. يمكن أن تؤدي هذه التحيزات إلى قيام النماذج بتقديم تنبؤات غير دقيقة أو غير متسقة أو حتى ضارة. في الرؤية الحاسوبية، يعود التحيز عادةً إلى مصدر رئيسي واحد: مجموعة البيانات. إذا كانت البيانات المستخدمة لتدريب النموذج غير متوازنة أو غير ممثلة، فسيعكس النموذج تلك الفجوات.

دعونا نلقي نظرة فاحصة على كيفية تشكل تحيز مجموعة البيانات، وكيف يؤثر على نماذج الرؤية الحاسوبية، والخطوات التي يمكن للمطورين اتخاذها لاكتشافه ومنعه. سنوضح أيضًا كيف يمكن لنماذج مثل Ultralytics YOLO11 دعم الجهود الرامية إلى بناء أنظمة ذكاء اصطناعي أكثر إنصافًا وتعميمًا بشكل أفضل، مما يعني أنها تعمل بشكل جيد على بيانات جديدة وغير مرئية وتخدم الجميع بشكل أكثر مساواة.

Link to this sectionما هو تحيز الذكاء الاصطناعي ولماذا يهم؟#

يشير تحيز الذكاء الاصطناعي إلى أخطاء متسقة في نظام الذكاء الاصطناعي تؤدي إلى نتائج منحازة أو غير دقيقة. بعبارات أبسط، يبدأ النموذج في تفضيل نوع واحد من المدخلات المرئية على الأنواع الأخرى، مما يؤثر على إنصاف النموذج، ليس لأنه يعمل بشكل أفضل، بل بسبب الطريقة التي تم تدريبه بها.

يمكن أن يكون هذا شائعًا بشكل خاص في الرؤية الحاسوبية، حيث تتعلم النماذج من البيانات المرئية. إذا كانت مجموعة البيانات تتضمن في الغالب نوعًا واحدًا من الكائنات أو المشاهد أو الأشخاص، فإن النموذج يتعلم أنماطًا تعمل بشكل جيد فقط لتلك الحالات.

تخيل نموذجًا تم تدريبه في الغالب على صور حركة المرور من المدن الكبرى. إذا تم نشره في منطقة ريفية، فقد يسيء تصنيف تخطيطات الطرق غير المعتادة أو يفشل في اكتشاف أنواع المركبات التي لم يرها من قبل. هذا هو تحيز الذكاء الاصطناعي في الواقع. إنه يؤدي إلى انخفاض الدقة ومحدودية التعميم، وهو ما يشير إلى قدرة النموذج على العمل بشكل جيد على مدخلات جديدة أو متنوعة.

في التطبيقات التي تكون فيها الدقة ضرورية، مثل الرعاية الصحية أو الأمن، لا تعتبر هذه الأخطاء محبطة فحسب، بل يمكن أن تكون خطيرة. معالجة التحيز تتعلق بالأداء والموثوقية والسلامة.

Link to this sectionكيف يؤثر تحيز مجموعة البيانات على سلوك النموذج#

عندما نتحدث عن تحيز مجموعة البيانات، فإننا نشير إلى عدم التوازن أو القصور في البيانات المستخدمة لتدريب النموذج. يحدث تحيز مجموعة البيانات عندما لا تعكس بيانات التدريب بشكل كافٍ التنوع في العالم الحقيقي الذي يُفترض أن تصيغه.

لا تفهم نماذج الرؤية الحاسوبية العالم، بل تفهم الأنماط. إذا كانت الصور الوحيدة للكلاب التي تراها هي كلاب من فصيلة جولدن ريتريفر في الأفنية الخلفية، فقد لا تتعرف على كلب هاسكي على مسار ثلجي.

الشكل 1. تساعد إعادة ترجيح بيانات المصدر في تحقيق دقة أفضل للنموذج.

يسلط هذا الضوء على أحد التحديات الرئيسية التي يسببها تحيز مجموعة البيانات. يبني النموذج فهمه بناءً على ما يتم عرضه عليه. إذا كانت بيانات التدريب تلك لا تعكس التنوع في العالم الحقيقي، يصبح سلوك النموذج ضيقًا وأقل فعالية في الظروف غير المألوفة.

غالبًا ما يكون أداء مصنفات الصور أسوأ بكثير عند اختبارها على مجموعة بيانات مختلفة عن تلك التي تدربت عليها، حتى لو كانت كلتا المجموعتين مبنيتين لنفس المهمة. يمكن أن تؤدي التغييرات الصغيرة في الإضاءة أو الخلفيات أو زوايا الكاميرا إلى انخفاض ملحوظ في الدقة. يوضح هذا مدى سهولة تأثير تحيز مجموعة البيانات على قدرة النموذج على التعميم.

هذه ليست حالات نادرة، بل هي إشارات على أن خط أنابيب البيانات الخاص بك لا يقل أهمية عن بنية النموذج الخاصة بك.

Link to this sectionأنواع التحيز في بيانات تدريب الذكاء الاصطناعي#

يمكن ملاحظة التحيز في عملية التطوير بطرق دقيقة، غالبًا أثناء جمع البيانات أو وضع العلامات عليها أو تنسيقها. فيما يلي ثلاثة أنواع رئيسية من التحيز التي يمكن أن تؤثر على بيانات التدريب الخاصة بك:

Link to this sectionتحيز الاختيار#

يمكن أن يحدث تحيز الاختيار عندما لا تمثل مجموعة البيانات التنوع الذي يظهر في الاستخدام الواقعي. إذا تم تدريب نموذج اكتشاف المشاة فقط على صور نهارية واضحة، فلن يكون أداؤه جيدًا في الليل أو في الضباب. وبالتالي، تكون عملية الاختيار قد أغفلت حالات حاسمة.

الشكل 2. تمثيل مرئي لتحيز الاختيار حيث يتم اختيار مجموعة فرعية غير متنوعة فقط.

يحدث هذا التحيز عندما لا تلتقط مجموعة البيانات النطاق الكامل لسيناريوهات العالم الحقيقي بسبب كيفية جمع البيانات. على سبيل المثال، قد يفشل نموذج اكتشاف المشاة المدرب فقط على صور نهارية واضحة في العمل في الضباب أو الثلج أو الإضاءة المنخفضة. يحدث هذا غالبًا عند جمع البيانات في ظروف مثالية أو مريحة، مما يحد من قدرة النموذج على العمل في بيئات متنوعة. يساعد توسيع جهود الجمع لتشمل إعدادات أكثر تنوعًا في تقليل هذا النوع من التحيز.

يمكن أن ينشأ أيضًا في مجموعات البيانات المبنية من مصادر عبر الإنترنت، حيث قد يكون المحتوى منحازًا بشدة نحو مواقع أو لغات أو سياقات اجتماعية واقتصادية معينة. بدون جهد متعمد لتنويع مجموعة البيانات، سيرث النموذج هذه القيود.

Link to this sectionتحيز التسمية#

يحدث تحيز التسمية عندما يطبق المشرفون البشريون تسميات غير صحيحة أو غير متسقة. قد تبدو التسمية الخاطئة غير ضارة، ولكن إذا حدث ذلك كثيرًا، يبدأ النموذج في تعلم ارتباطات خاطئة.

يمكن أن تؤدي التسمية غير المتسقة إلى إرباك النموذج أثناء التدريب، خاصة في المهام المعقدة مثل اكتشاف الكائنات. على سبيل المثال، قد يقوم أحد المشرفين بتسمية مركبة على أنها "سيارة" بينما يقوم آخر بتسمية مركبة مشابهة على أنها "شاحنة". تؤثر هذه التناقضات على قدرة النموذج على تعلم أنماط موثوقة، مما يؤدي إلى انخفاض الدقة أثناء الاستدلال.

الشكل 3. ينشأ التحيز في خطوط أنابيب البيانات من اختلالات العالم الحقيقي.

قد ينشأ تحيز التسمية أيضًا من إرشادات تسمية غير واضحة أو تفسيرات متفاوتة لنفس البيانات. يمكن أن يساعد وضع معايير تسمية موثقة جيدًا وإجراء فحوصات مراقبة الجودة في تقليل هذه التحديات بشكل كبير.

يعتبر التدريب المستمر للمشرفين واستخدام تسمية الإجماع، حيث يراجع العديد من المشرفين كل عينة، استراتيجيتين فعالتين لتقليل تحيز التسمية وتحسين جودة مجموعة البيانات.

Link to this sectionتحيز التمثيل#

غالبًا ما يعكس تحيز التمثيل عدم المساواة المجتمعية الأوسع. قد تفشل البيانات التي تم جمعها في المناطق الأكثر ثراءً أو الأكثر اتصالًا في التقاط تنوع السكان أو البيئات الأقل تمثيلًا. تتطلب معالجة هذا التحيز إدراجًا متعمدًا للمجموعات والسياقات التي تم التغاضي عنها.

يحدث تحيز التمثيل عندما تكون مجموعات أو فئات معينة ممثلة تمثيلاً ناقصًا في مجموعة البيانات. قد تشمل هذه المجموعات السكانية، أو فئات الكائنات، أو الظروف البيئية. إذا رأى النموذج لون بشرة واحدًا فقط، أو نوعًا واحدًا من الكائنات، أو نمط خلفية واحدًا، فستعكس تنبؤاته هذا الخلل.

يمكننا ملاحظة هذا النوع من التحيز عندما يتم تضمين مجموعات أو فئات معينة بكميات أقل بكثير من غيرها. يمكن أن يؤدي هذا إلى انحياز تنبؤات النموذج نحو الأمثلة السائدة في مجموعة البيانات. على سبيل المثال، قد يواجه نموذج التعرف على الوجوه المدرب بشكل أساسي على ديموغرافية واحدة صعوبة في الأداء بدقة عبر جميع المستخدمين. على عكس تحيز الاختيار، الذي يرتبط بتنوع البيانات، يتعلق تحيز التمثيل بالتوازن بين المجموعات.

يمكن أن تساعد عمليات تدقيق التنوع واستراتيجيات توسيع البيانات المستهدفة في ضمان تمثيل جميع المجموعات السكانية والفئات ذات الصلة بشكل صحيح في جميع أنحاء مجموعة بيانات التدريب.

Link to this sectionكيفية اكتشاف وتخفيف تحيز مجموعة البيانات#

في عمليات النشر في العالم الحقيقي، لا يعني تحيز الذكاء الاصطناعي مجرد بضع تنبؤات غير صحيحة. بل يمكن أن يؤدي إلى أنظمة تعمل بشكل جيد لبعض الأشخاص ولكن ليس للجميع.

في ذكاء الاصطناعي للسيارات، قد تعمل نماذج الكشف بشكل غير متسق عبر مجموعات المشاة، مما يؤدي إلى انخفاض نتائج السلامة للأفراد الممثلين تمثيلاً ناقصًا. المشكلة ليست في نية النموذج، بل في المدخلات المرئية التي تم تدريبه عليها. حتى في الزراعة، قد يعني التحيز في اكتشاف الكائنات ضعف تحديد المحاصيل في ظروف إضاءة أو طقس مختلفة. هذه هي العواقب الشائعة لتدريب النماذج على مجموعات بيانات محدودة أو غير متوازنة.

يبدأ إصلاح تحيز الذكاء الاصطناعي بمعرفة أين تبحث. إذا كانت مجموعة التدريب الخاصة بك تفتقد إلى أمثلة رئيسية أو تبالغ في تمثيل نطاق ضيق، فسيعكس نموذجك تلك الفجوات. لهذا السبب يعد اكتشاف التحيز في الذكاء الاصطناعي خطوة حاسمة في كل خط أنابيب تطوير.

الشكل 4. خطوات رئيسية في تقليل تحيز الذكاء الاصطناعي وتحسين الإنصاف.

ابدأ بتحليل مجموعة البيانات الخاصة بك. انظر إلى التوزيع عبر الفئات والبيئات والإضاءة ومقاييس الكائنات والديموغرافية. إذا كانت فئة واحدة تهيمن، فمن المرجح أن يكون أداء نموذجك أقل من المطلوب في الفئات الأخرى.

بعد ذلك، انظر إلى الأداء. هل يعمل النموذج بشكل أسوأ في إعدادات معينة أو لأنواع كائنات محددة؟ إذا كان الأمر كذلك، فهذه علامة على تحيز مكتسب، وعادة ما يشير ذلك إلى البيانات.

التقييم على مستوى الشرائح أمر أساسي. قد يبلغ النموذج عن دقة بنسبة 90% في المتوسط ولكن 60% فقط على مجموعة أو حالة معينة. بدون التحقق من تلك الشرائح، لن تعرف ذلك أبدًا.

يعد استخدام مقاييس الإنصاف أثناء التدريب والتقييم أداة قوية أخرى. تتجاوز هذه المقاييس درجات الدقة القياسية وتقيم كيفية تصرف النموذج عبر مجموعات فرعية مختلفة من البيانات. إنها تساعد في كشف النقاط العمياء التي قد تمر دون أن يلاحظها أحد.

الشفافية في تكوين مجموعة البيانات واختبار النموذج تؤدي إلى نماذج أفضل.

Link to this sectionتحسين الإنصاف من خلال تنوع البيانات والتعزيز#

بمجرد تحديد التحيز، فإن الخطوة التالية هي سد الفجوة. إحدى أكثر الطرق فعالية للقيام بذلك هي زيادة تنوع البيانات في نماذج الذكاء الاصطناعي. هذا يعني جمع المزيد من العينات من سيناريوهات ممثلة تمثيلاً ناقصًا، سواء كانت صورًا طبية من مجموعات سكانية مختلفة أو ظروفًا بيئية غير معتادة.

يمكن أن تكون إضافة المزيد من البيانات قيمة، خاصة عندما تزيد من التنوع. ومع ذلك، يعتمد تحسين الإنصاف أيضًا على جمع الأنواع الصحيحة من الأمثلة. يجب أن تعكس هذه الأمثلة التباين في العالم الحقيقي الذي من المحتمل أن يواجهه نموذجك.

تعد زيادة البيانات استراتيجية قيمة أخرى. يمكن أن يساعد التقليب والتدوير وتعديل الإضاءة وتحجيم الكائنات في محاكاة ظروف واقعية مختلفة. لا تزيد الزيادة من تنوع مجموعة البيانات فحسب، بل تساعد النموذج أيضًا على أن يصبح أكثر قوة في مواجهة التغييرات في المظهر والإضاءة والسياق.

تتضمن معظم خطوط أنابيب التدريب الحديثة زيادة البيانات بشكل افتراضي، ولكن الاستخدام الاستراتيجي، مثل التركيز على التعديل بناءً على الاحتياجات الخاصة بالمهمة، هو ما يجعلها فعالة للإنصاف.

Link to this sectionاستخدام البيانات الاصطناعية لسد الفجوات#

تشير البيانات الاصطناعية إلى البيانات التي يتم إنشاؤها بشكل مصطنع والتي تحاكي أمثلة من العالم الحقيقي. يمكن أن تكون أداة مفيدة عندما تكون سيناريوهات معينة نادرة جدًا أو حساسة جدًا للالتقاط في الواقع.

على سبيل المثال، إذا كنت تبني نموذجًا لاكتشاف العيوب النادرة في الآلات أو انتهاكات المرور في الحالات النادرة، فيمكنك محاكاة تلك الحالات باستخدام البيانات الاصطناعية. يمنح هذا نموذجك الفرصة للتعلم من الأحداث التي قد لا يواجهها كثيرًا في مجموعة التدريب الخاصة بك.

وجدت دراسات أن إدخال بيانات اصطناعية مستهدفة في التدريب يمكن أن يقلل من تحيز مجموعة البيانات ويحسن الأداء عبر المجموعات السكانية والبيئات.

تعمل البيانات الاصطناعية بشكل أفضل عند إقرانها بعينات من العالم الحقيقي. إنها تكمل مجموعة البيانات الخاصة بك؛ فهي لا تحل محلها.

Link to this sectionكيف يدعم YOLO11 الذكاء الاصطناعي الأخلاقي#

يعتمد بناء نماذج ذكاء اصطناعي غير متحيزة أيضًا على الأدوات التي تستخدمها. صُمم YOLO11 ليكون مرنًا، وسهل الضبط الدقيق، وقابلاً للتكيف بدرجة عالية، مما يجعله مناسبًا بقوة لتقليل تحيز مجموعة البيانات.

يدعم YOLO11 تقنيات زيادة البيانات المتقدمة أثناء تدريب النموذج، مما يقدم سياقات صور متنوعة وأمثلة مدمجة لتحسين تعميم النموذج وتقليل الإفراط في التخصيص.

يتميز YOLO11 أيضًا ببنية عمود فقري وعنق محسنة لاستخراج ميزات أكثر فعالية. يعزز هذا الترقية قدرة النموذج على اكتشاف التفاصيل الدقيقة، وهو أمر بالغ الأهمية في السيناريوهات الممثلة تمثيلاً ناقصًا أو السيناريوهات النادرة حيث قد تكافح النماذج القياسية.

نظرًا لأن YOLO11 بسيط لإعادة التدريب والنشر عبر بيئات الحافة والسحابة، يمكن للفرق تحديد فجوات الأداء وتحديث النموذج بسرعة عند اكتشاف التحيز في الميدان.

الذكاء الاصطناعي العادل ليس هدفًا لمرة واحدة. إنه دورة من التقييم والتعلم والتعديل. تساعد أدوات مثل YOLO11 في جعل تلك الدورة أسرع وأكثر إنتاجية.

Link to this sectionالنقاط الرئيسية#

يؤثر تحيز الذكاء الاصطناعي على كل شيء بدءًا من الإنصاف إلى الأداء. غالبًا ما ينبع تحيز الرؤية الحاسوبية من كيفية جمع مجموعات البيانات وتسميتها وموازنتها. لحسن الحظ، هناك طرق مثبتة لاكتشافه وتخفيفه.

ابدأ بتدقيق بياناتك واختبار أداء النموذج عبر سيناريوهات مختلفة. استخدم جمع البيانات المستهدف، والزيادة، والبيانات الاصطناعية لإنشاء تغطية تدريب أفضل.

يدعم YOLO11 سير العمل هذا من خلال تسهيل تدريب النماذج المخصصة، وتطبيق تقنيات زيادة قوية، والاستجابة بسرعة عند اكتشاف التحيز.

بناء ذكاء اصطناعي عادل ليس مجرد الشيء الصحيح الذي يجب القيام به. إنه أيضًا الطريقة التي تبني بها أنظمة أكثر ذكاءً وموثوقية.

انضم إلى مجتمعنا المتنامي! استكشف مستودع GitHub الخاص بنا لمعرفة المزيد عن الذكاء الاصطناعي. هل أنت مستعد لبدء مشاريع الرؤية الحاسوبية الخاصة بك؟ تحقق من خيارات الترخيص الخاصة بنا. اكتشف الذكاء الاصطناعي في التصنيع والرؤية الحاسوبية في الزراعة من خلال زيارة صفحات الحلول الخاصة بنا!