فهم تحيز الذكاء الاصطناعي وتحيز مجموعات البيانات في أنظمة الذكاء الاصطناعي للرؤية

تُغيّر نماذج الذكاء الاصطناعي (AI) طريقة حلنا للمشكلات، لكنها ليست مثالية. فمن السيارات ذاتية القيادة إلى أدوات التشخيص في الرعاية الصحية، نعتمد على الذكاء الاصطناعي لتفسير البيانات واتخاذ القرارات. ماذا يحدث عندما تكون البيانات نفسها معيبة؟

يشير التحيز في الذكاء الاصطناعي إلى أنماط من عدم الاتساق تظهر في النماذج، وغالبًا من دون أن يلاحظها أحد. وقد تدفع هذه التحيزات النماذج إلى إصدار تنبؤات غير دقيقة أو متضاربة أو حتى ضارة. وفي الرؤية الحاسوبية، يعود التحيز عادةً إلى مصدر أساسي واحد: مجموعة البيانات. فإذا كانت البيانات المستخدمة لتدريب النموذج غير متوازنة أو غير ممثلة، فسوف يعكس النموذج أوجه القصور تلك.

دعونا نلقِ نظرة أقرب على كيفية نشوء التحيز في مجموعة البيانات، وتأثيره في نماذج الرؤية الحاسوبية، والخطوات التي يمكن للمطورين اتخاذها لاكتشافه ومنعه. وسنوضح أيضًا كيف يمكن لنماذج مثل Ultralytics YOLO11 أن تدعم الجهود الرامية إلى بناء أنظمة ذكاء اصطناعي أكثر إنصافًا وقادرة على التعميم بصورة أفضل، أي إنها تؤدي جيدًا على بيانات جديدة لم ترها من قبل وتخدم الجميع بإنصاف أكبر.

ما التحيز في الذكاء الاصطناعي، ولماذا هو مهم؟#

يشير التحيز في الذكاء الاصطناعي إلى أخطاء متكررة في نظام الذكاء الاصطناعي تؤدي إلى نتائج منحازة أو غير دقيقة. وبعبارة أبسط، يبدأ النموذج بتفضيل نوع من المدخلات المرئية على غيره، مما يؤثر في إنصاف النموذج، لا لأنه يحقق أداءً أفضل، بل بسبب الطريقة التي دُرّب بها.

قد يكون ذلك شائعًا بوجه خاص في الرؤية الحاسوبية، حيث تتعلم النماذج من البيانات المرئية. فإذا لم تتضمن مجموعة البيانات إلا نوعًا واحدًا من الأجسام أو المشاهد أو الأشخاص، فسيتعلم النموذج أنماطًا لا تعمل جيدًا إلا في تلك الحالات.

تخيّل نموذجًا دُرّب في معظمه على صور لحركة المرور في المدن الكبرى. فإذا نُشر في منطقة ريفية، فقد يصنّف تخطيطات الطرق غير المألوفة تصنيفًا خاطئًا أو يعجز عن اكتشاف أنواع من المركبات لم يسبق له رؤيتها. هذا هو التحيز في الذكاء الاصطناعي عمليًا. وهو يؤدي إلى انخفاض الدقة ومحدودية التعميم، أي قدرة النموذج على الأداء الجيد مع مدخلات جديدة أو متنوعة.

في التطبيقات التي تكون فيها الدقة أساسية، مثل الرعاية الصحية أو الأمن، لا تقتصر عواقب هذه الأخطاء على الإحباط، بل قد تكون خطيرة. فمعالجة التحيز تتعلق بالأداء والموثوقية والسلامة.

كيف يؤثر التحيز في مجموعة البيانات في سلوك النموذج#

عندما نتحدث عن التحيز في مجموعة البيانات، فإننا نشير إلى اختلال التوازن أو القصور في البيانات المستخدمة لتدريب النموذج. ويحدث هذا التحيز عندما لا تعكس بيانات التدريب على نحو كافٍ التنوع الواقعي الذي يُفترض أن يمثله النموذج.

لا تفهم نماذج الرؤية الحاسوبية العالم، بل تفهم الأنماط. فإذا كانت الصور الوحيدة للكلاب التي تراها هي لكلاب جولدن ريتريفر في الأفنية الخلفية، فقد لا تتعرف على كلب هاسكي في مسار تغطيه الثلوج.

الشكل 1. تساعد إعادة وزن البيانات المصدرية على تحقيق دقة أفضل للنموذج.

يوضح ذلك أحد التحديات الرئيسية الناجمة عن التحيز في مجموعة البيانات. إذ يبني النموذج فهمه استنادًا إلى ما يُعرض عليه. فإذا لم تعكس بيانات التدريب تنوع العالم الحقيقي، يصبح سلوك النموذج محدودًا وأقل فاعلية في الظروف غير المألوفة.

غالبًا ما يكون أداء مصنفات الصور أسوأ بكثير عند اختبارها على مجموعة بيانات مختلفة عن تلك التي دُرّبت عليها، حتى لو أُعدّت مجموعتا البيانات للمهمة نفسها. وقد تؤدي تغييرات طفيفة في الإضاءة أو الخلفيات أو زوايا الكاميرا إلى انخفاض ملحوظ في الدقة. وهذا يبيّن مدى سهولة تأثير التحيز في مجموعة البيانات في قدرة النموذج على التعميم.

هذه ليست حالات استثنائية نادرة، بل مؤشرات على أن خط معالجة البيانات لا يقل أهمية عن بنية النموذج.

أنواع التحيز في بيانات تدريب الذكاء الاصطناعي#

قد يظهر التحيز في عملية التطوير بطرق خفية، وغالبًا أثناء جمع البيانات أو وسمها أو تنقيحها. فيما يلي ثلاثة أنواع رئيسية من التحيز قد تؤثر في بيانات التدريب:

تحيز الاختيار#

قد يحدث تحيز الاختيار عندما لا تمثل مجموعة البيانات التنوع الموجود في الاستخدام الفعلي. فإذا دُرّب نموذج لاكتشاف المشاة على صور نهارية واضحة فقط، فلن يكون أداؤه جيدًا ليلًا أو في الضباب. وبذلك تكون عملية الاختيار قد أغفلت حالات مهمة.

الشكل 2. تمثيل مرئي لتحيز الاختيار، حيث لا تُختار إلا مجموعة فرعية غير متنوعة.

ينشأ هذا التحيز عندما لا تلتقط مجموعة البيانات النطاق الكامل للسيناريوهات الواقعية بسبب طريقة جمع البيانات. فعلى سبيل المثال، قد يفشل نموذج لاكتشاف المشاة دُرّب على صور نهارية واضحة فقط في الضباب أو الثلج أو الإضاءة الخافتة. ويحدث ذلك غالبًا عند جمع البيانات في ظروف مثالية أو ملائمة، مما يحد من قدرة النموذج على العمل في بيئات متنوعة. ويساعد توسيع جهود الجمع لتشمل بيئات أكثر تنوعًا على الحد من هذا النوع من التحيز.

وقد يظهر أيضًا في مجموعات البيانات المُنشأة من مصادر على الإنترنت، إذ قد ينحاز محتواها بشدة إلى مواقع أو لغات أو سياقات اجتماعية واقتصادية معينة. ومن دون جهد مقصود لتنويع مجموعة البيانات، سيرث النموذج هذه القيود.

تحيز الوسم#

يحدث تحيز الوسم عندما يضع المعلّقون البشر تسميات غير صحيحة أو غير متسقة. قد يبدو الوسم الخاطئ غير مؤذٍ، لكن إذا تكرر كثيرًا، يبدأ النموذج بتعلم الارتباطات الخاطئة.

قد يؤدي عدم اتساق الوسم إلى إرباك النموذج أثناء التدريب، لا سيما في المهام المعقدة مثل اكتشاف الأجسام. فعلى سبيل المثال، قد يسمّي أحد المعلّقين مركبةً ما «سيارة»، بينما يسمّيها آخر «شاحنة». وتؤثر هذه التناقضات في قدرة النموذج على تعلم أنماط موثوقة، مما يؤدي إلى انخفاض الدقة أثناء الاستدلال.

الشكل 3. ينشأ التحيز في خطوط معالجة البيانات من اختلالات العالم الحقيقي.

وقد ينشأ تحيز الوسم أيضًا عن غموض إرشادات التعليق التوضيحي أو اختلاف تفسير البيانات نفسها. ويمكن لوضع معايير موثقة جيدًا للوسم وإجراء فحوصات لمراقبة الجودة أن يقللا هذه التحديات بدرجة كبيرة.

يُعد التدريب المستمر للمعلّقين واستخدام الوسم التوافقي، حيث يراجع عدة معلّقين كل عينة، استراتيجيتين فعالتين للحد من تحيز الوسم وتحسين جودة مجموعة البيانات.

تحيز التمثيل#

غالبًا ما يعكس تحيز التمثيل أوجه عدم المساواة المجتمعية الأوسع. فقد لا تلتقط البيانات التي جُمعت في المناطق الأكثر ثراءً أو اتصالًا تنوع الفئات السكانية أو البيئات الأقل تمثيلًا. وتتطلب معالجة هذا التحيز إدراجًا مقصودًا للفئات والسياقات التي أُغفلت.

يحدث تحيز التمثيل عندما تكون بعض الفئات أو المجموعات ممثلة تمثيلًا ناقصًا في مجموعة البيانات. وقد تشمل هذه الفئات الديموغرافية أو فئات الأجسام أو الظروف البيئية. فإذا لم يرَ النموذج إلا لون بشرة واحدًا أو نوعًا واحدًا من الأجسام أو نمطًا واحدًا للخلفية، فستعكس تنبؤاته هذا الاختلال.

يمكننا ملاحظة هذا النوع من التحيز عندما تُدرج بعض الفئات أو المجموعات بأعداد أقل بكثير من غيرها. وقد يؤدي ذلك إلى انحياز تنبؤات النموذج نحو الأمثلة السائدة في مجموعة البيانات. فعلى سبيل المثال، قد يواجه نموذج تعرّف على الوجوه دُرّب أساسًا على فئة ديموغرافية واحدة صعوبة في تحقيق دقة متساوية لدى جميع المستخدمين. وعلى خلاف تحيز الاختيار المرتبط بتنوع البيانات، يتعلق تحيز التمثيل بالتوازن بين المجموعات.

يمكن لمراجعات التنوع واستراتيجيات توسيع البيانات المستهدفة أن تساعد على ضمان تمثيل جميع الفئات الديموغرافية والفئات الأخرى ذات الصلة تمثيلًا مناسبًا في مجموعة بيانات التدريب.

كيفية اكتشاف التحيز في مجموعة البيانات والحد منه#

في عمليات النشر الواقعية، لا يعني التحيز في الذكاء الاصطناعي مجرد عدد قليل من التنبؤات الخاطئة. فقد يؤدي إلى أنظمة تعمل جيدًا لبعض الأشخاص دون غيرهم.

في تطبيقات الذكاء الاصطناعي في قطاع السيارات، قد يختلف أداء نماذج الكشف بين فئات المشاة، مما يؤدي إلى نتائج سلامة أسوأ للأفراد غير الممثلين تمثيلًا كافيًا. ولا تكمن المشكلة في نية النموذج، بل في المدخلات المرئية التي دُرّب عليها. وحتى في الزراعة، قد يؤدي التحيز في اكتشاف الأجسام إلى ضعف التعرّف على المحاصيل في ظل ظروف إضاءة أو طقس مختلفة. وهذه عواقب شائعة لتدريب النماذج على مجموعات بيانات محدودة أو غير متوازنة.

يبدأ تصحيح التحيز في الذكاء الاصطناعي بمعرفة مواضع البحث. فإذا كانت مجموعة التدريب تفتقر إلى أمثلة أساسية أو تمثل نطاقًا ضيقًا تمثيلًا مفرطًا، فسوف يعكس النموذج أوجه القصور تلك. ولهذا يُعد اكتشاف التحيز في الذكاء الاصطناعي خطوة أساسية في كل خط تطوير.

الشكل 4. الخطوات الرئيسية للحد من التحيز في الذكاء الاصطناعي وتحسين الإنصاف.

ابدأ بتحليل مجموعة البيانات. افحص التوزيع بين الفئات والبيئات وظروف الإضاءة ومقاييس الأجسام والفئات الديموغرافية. فإذا هيمنت فئة واحدة، فمن المرجح أن يكون أداء النموذج ضعيفًا في الفئات الأخرى.

بعد ذلك، افحص الأداء. هل يكون أداء النموذج أسوأ في ظروف معينة أو مع أنواع محددة من الأجسام؟ إذا كان الأمر كذلك، فهذه علامة على تحيز مكتسب، وغالبًا ما يعود مصدره إلى البيانات.

يُعد التقييم على مستوى الشرائح أساسيًا. فقد يحقق النموذج دقة متوسطة تبلغ 90%، لكن دقته لا تتجاوز 60% في مجموعة أو ظرف محدد. ومن دون فحص هذه الشرائح، لن تعرف ذلك أبدًا.

يُعد استخدام مقاييس الإنصاف أثناء التدريب والتقييم أداة أخرى فعالة. وتتجاوز هذه المقاييس درجات الدقة القياسية، إذ تقيّم سلوك النموذج عبر مجموعات فرعية مختلفة من البيانات. كما تساعد على كشف النقاط العمياء التي قد تمر دون ملاحظة لولا ذلك.

تؤدي الشفافية في تكوين مجموعة البيانات واختبار النموذج إلى نماذج أفضل.

تحسين الإنصاف من خلال تنوع البيانات وزيادتها#

بعد تحديد التحيز، تتمثل الخطوة التالية في سد الفجوة. ومن أكثر الطرق فاعلية لتحقيق ذلك زيادة تنوع البيانات في نماذج الذكاء الاصطناعي. وهذا يعني جمع المزيد من العينات من السيناريوهات الممثلة تمثيلًا ناقصًا، سواء أكانت صورًا طبية من فئات سكانية مختلفة أم ظروفًا بيئية غير مألوفة.

قد تكون إضافة المزيد من البيانات قيّمة، لا سيما عندما تزيد التنوع. لكن تحسين الإنصاف يعتمد أيضًا على جمع الأنواع المناسبة من الأمثلة. وينبغي أن تعكس هذه الأمثلة التنوع الواقعي الذي يُرجح أن يواجهه النموذج.

تُعد زيادة البيانات استراتيجية قيّمة أخرى. إذ يساعد قلب الصور وتدويرها وضبط الإضاءة وتغيير مقاييس الأجسام على محاكاة ظروف واقعية مختلفة. ولا تقتصر فائدة زيادة البيانات على توسيع تنوع مجموعة البيانات، بل تساعد النموذج أيضًا على أن يصبح أكثر متانة في مواجهة التغيرات في المظهر والإضاءة والسياق.

تتضمن معظم خطوط التدريب الحديثة زيادة البيانات افتراضيًا، لكن الاستخدام الاستراتيجي، مثل التركيز على الضبط وفق احتياجات المهمة المحددة، هو ما يجعلها فعالة في تعزيز الإنصاف.

استخدام البيانات الاصطناعية لسد الفجوات#

تشير البيانات الاصطناعية إلى بيانات مُولّدة اصطناعيًا تحاكي الأمثلة الواقعية. وقد تكون أداة مفيدة عندما تكون بعض السيناريوهات نادرة جدًا أو حساسة إلى حد يصعب معه التقاطها في الواقع.

فعلى سبيل المثال، إذا كنت تبني نموذجًا لاكتشاف عيوب نادرة في الآلات أو مخالفات مرورية نادرة، فيمكنك محاكاة هذه الحالات باستخدام البيانات الاصطناعية. ويتيح ذلك للنموذج فرصة التعلم من أحداث قد لا يصادفها كثيرًا في مجموعة التدريب.

وجدت دراسات أن إدخال بيانات اصطناعية موجّهة في التدريب يمكن أن يقلل التحيز في مجموعة البيانات ويحسن الأداء عبر الفئات الديموغرافية والبيئات المختلفة.

يكون أداء البيانات الاصطناعية أفضل عند اقترانها بعينات من العالم الحقيقي. فهي تُكمل مجموعة البيانات ولا تحل محلها.

كيف يدعم Ultralytics YOLO11 الذكاء الاصطناعي الأخلاقي#

يعتمد بناء نماذج ذكاء اصطناعي غير متحيزة أيضًا على الأدوات التي تستخدمها. صُمم Ultralytics YOLO11 ليكون مرنًا وسهل الضبط الدقيق وعالي القدرة على التكيف، مما يجعله خيارًا مناسبًا للحد من التحيز في مجموعة البيانات.

يدعم Ultralytics YOLO11 تقنيات متقدمة لزيادة البيانات أثناء تدريب النموذج، ما يضيف سياقات متنوعة للصور وأمثلة ممزوجة لتحسين قدرة النموذج على التعميم والحد من فرط التكيّف.

يتميز Ultralytics YOLO11 أيضًا ببنية محسّنة للعمود الفقري والعنق، لاستخراج السمات بفاعلية أكبر. ويعزز هذا التحديث قدرة النموذج على اكتشاف التفاصيل الدقيقة، وهو أمر بالغ الأهمية في السيناريوهات الممثلة تمثيلًا ناقصًا أو الحالات الحدية التي قد تواجه فيها النماذج القياسية صعوبة.

لأن إعادة تدريب Ultralytics YOLO11 ونشره في البيئات الطرفية والسحابية أمر سهل، تستطيع الفرق تحديد فجوات الأداء وتحديث النموذج بسرعة عند اكتشاف التحيز ميدانيًا.

الذكاء الاصطناعي المنصف ليس هدفًا يتحقق مرة واحدة، بل هو دورة من التقييم والتعلم والتعديل. وتساعد أدوات مثل Ultralytics YOLO11 على جعل هذه الدورة أسرع وأكثر إنتاجية.

أبرز النقاط#

يؤثر التحيز في الذكاء الاصطناعي في كل شيء، من الإنصاف إلى الأداء. وغالبًا ما ينشأ التحيز في الرؤية الحاسوبية من طريقة جمع مجموعات البيانات ووسمها وموازنتها. ولحسن الحظ، توجد طرق مثبتة لاكتشافه والحد منه.

ابدأ بمراجعة بياناتك واختبار أداء النموذج عبر سيناريوهات مختلفة. واستخدم جمع البيانات الموجّه وزيادتها والبيانات الاصطناعية لتوسيع نطاق تغطية التدريب وتحسينه.

يدعم Ultralytics YOLO11 سير العمل هذا من خلال تسهيل تدريب النماذج المخصصة وتطبيق تقنيات قوية لزيادة البيانات والاستجابة بسرعة عند اكتشاف التحيز.

إن بناء ذكاء اصطناعي منصف ليس مجرد التصرف الصائب، بل هو أيضًا سبيلك إلى إنشاء أنظمة أذكى وأكثر موثوقية.

انضم إلى مجتمعنا المتنامي! استكشف مستودع GitHub لمعرفة المزيد عن الذكاء الاصطناعي. هل أنت مستعد لبدء مشاريعك الخاصة في الرؤية الحاسوبية؟ اطّلع على خيارات الترخيص. اكتشف الذكاء الاصطناعي في التصنيع والذكاء الاصطناعي للرؤية في الزراعة بزيارة صفحات حلولنا!