فهم تحيز الذكاء الاصطناعي وتحيز مجموعة البيانات في أنظمة الذكاء الاصطناعي للرؤية

تغيّر نماذج الذكاء الاصطناعي (AI) طريقة حلّنا للمشكلات، لكنها ليست مثالية. فمن السيارات ذاتية القيادة إلى الأدوات التشخيصية في الرعاية الصحية، نعتمد على الذكاء الاصطناعي لتفسير البيانات واتخاذ القرارات. ماذا يحدث عندما تكون البيانات نفسها معيبة؟

يشير التحيز في الذكاء الاصطناعي إلى أنماط من عدم الاتساق تتطور في النماذج، وغالبًا من دون أن يدرك أحد ذلك. ويمكن أن تتسبب هذه التحيزات في إصدار النماذج تنبؤات غير دقيقة أو غير متسقة أو حتى ضارة. وفي الرؤية الحاسوبية، يعود التحيز عادةً إلى مصدر رئيسي واحد: مجموعة البيانات. فإذا كانت البيانات المستخدمة لتدريب النموذج غير متوازنة أو غير ممثلة، فسوف يعكس النموذج تلك الثغرات.

لنلقِ نظرةً أقرب على كيفية تشكّل تحيز مجموعة البيانات، وتأثيره في نماذج الرؤية الحاسوبية، والخطوات التي يمكن للمطورين اتخاذها لاكتشافه ومنعه. وسنوضح أيضًا كيف يمكن لنماذج مثل Ultralytics YOLO11 دعم الجهود الرامية إلى بناء أنظمة ذكاء اصطناعي أكثر إنصافًا وتعميمًا، أي إنها تؤدي أداءً جيدًا على البيانات الجديدة غير المرئية وتخدم الجميع بقدر أكبر من المساواة.

ما تحيز الذكاء الاصطناعي، ولماذا يهم؟#

يشير تحيز الذكاء الاصطناعي إلى أخطاء متسقة في نظام الذكاء الاصطناعي تؤدي إلى نتائج منحازة أو غير دقيقة. وبعبارة أبسط، يبدأ النموذج في تفضيل نوع من المدخلات المرئية على الأنواع الأخرى، مما يؤثر في إنصاف النموذج، ليس لأنه يؤدي أداءً أفضل، بل بسبب الطريقة التي دُرّب بها.

وقد يكون ذلك شائعًا بصفة خاصة في الرؤية الحاسوبية، حيث تتعلم النماذج من البيانات المرئية. فإذا كانت مجموعة البيانات تتضمن في الغالب نوعًا واحدًا من الكائنات أو المشاهد أو الأشخاص، فسيتعلم النموذج أنماطًا لا تعمل جيدًا إلا مع تلك الحالات.

تخيل نموذجًا دُرّب في الغالب على صور لحركة المرور في المدن الكبرى. فإذا نُشر في منطقة ريفية، فقد يخطئ في تصنيف تخطيطات الطرق غير المعتادة أو يفشل في اكتشاف أنواع المركبات التي لم يرها من قبل. هذا هو تحيز الذكاء الاصطناعي عمليًا. فهو يؤدي إلى انخفاض الدقة ومحدودية التعميم، الذي يشير إلى قدرة النموذج على الأداء الجيد مع المدخلات الجديدة أو المتنوعة.

في التطبيقات التي تكون فيها الدقة ضرورية، مثل الرعاية الصحية أو الأمن، لا تكون هذه الأخطاء محبطة فحسب، بل قد تكون خطيرة. فمعالجة التحيز تتعلق بالأداء والموثوقية والسلامة.

كيف يؤثر تحيز مجموعة البيانات في سلوك النموذج#

عندما نتحدث عن تحيز مجموعة البيانات، فإننا نشير إلى عدم التوازن أو القصور في البيانات المستخدمة لتدريب النموذج. ويحدث تحيز مجموعة البيانات عندما لا تعكس بيانات التدريب بشكل كافٍ التنوع الموجود في العالم الحقيقي الذي يُفترض أن يمثله النموذج.

لا تفهم نماذج الرؤية الحاسوبية العالم، بل تفهم الأنماط. فإذا كانت صور الكلاب الوحيدة التي تراها هي لكلاب غولدن ريتريفر في باحات المنازل، فقد لا تتعرف إلى كلب هاسكي على مسار تغطيه الثلوج.

الشكل 1. تساعد إعادة وزن البيانات المصدرية على تحقيق دقة أفضل للنموذج.

يسلط هذا الضوء على أحد التحديات الرئيسية الناجمة عن تحيز مجموعة البيانات. إذ يبني النموذج فهمه استنادًا إلى ما يُعرض عليه. فإذا لم تعكس بيانات التدريب ذلك التنوع الموجود في العالم الحقيقي، أصبح سلوك النموذج ضيقًا وأقل فعالية في الظروف غير المألوفة.

غالبًا ما تؤدي مصنفات الصور أداءً أسوأ بكثير عند اختبارها على مجموعة بيانات مختلفة عن تلك التي دُرّبت عليها، حتى لو كانت كلتا مجموعتي البيانات مصممتين للمهمة نفسها. ويمكن أن تؤدي التغييرات الطفيفة في الإضاءة أو الخلفيات أو زوايا الكاميرا إلى انخفاضات ملحوظة في الدقة. وهذا يوضح مدى سهولة تأثير تحيز مجموعة البيانات في قدرة النموذج على التعميم.

هذه ليست حالات هامشية، بل مؤشرات على أن مسار بياناتك مهم بقدر أهمية بنية نموذجك.

أنواع التحيز في بيانات تدريب الذكاء الاصطناعي#

يمكن أن يظهر التحيز بطرق خفية في عملية التطوير، غالبًا أثناء جمع البيانات أو وسمها أو تنظيمها. وفيما يلي ثلاثة أنواع رئيسية من التحيز يمكن أن تؤثر في بيانات التدريب لديك:

تحيز الاختيار#

قد يحدث تحيز الاختيار عندما لا تمثل مجموعة البيانات التنوع المشاهد في الاستخدام الواقعي. فإذا دُرّب نموذج لاكتشاف المشاة على صور واضحة نهارية فقط، فلن يؤدي أداءً جيدًا ليلًا أو في الضباب. ومن ثم، تكون عملية الاختيار قد أغفلت حالات مهمة.

الشكل 2. تمثيل مرئي لتحيز الاختيار، حيث تُختار مجموعة فرعية غير متنوعة فقط.

يحدث هذا التحيز عندما لا تلتقط مجموعة البيانات النطاق الكامل للسيناريوهات الواقعية بسبب طريقة جمع البيانات. فعلى سبيل المثال، قد يفشل نموذج اكتشاف المشاة المدرّب على صور واضحة نهارية فقط في الضباب أو الثلج أو الإضاءة الخافتة. ويحدث ذلك غالبًا عند جمع البيانات في ظروف مثالية أو ملائمة، مما يحد من قدرة النموذج على الأداء في بيئات متنوعة. ويساعد توسيع جهود الجمع لتشمل إعدادات أكثر تنوعًا على تقليل هذا النوع من التحيز.

وقد ينشأ أيضًا في مجموعات البيانات المبنية من مصادر عبر الإنترنت، حيث قد يكون المحتوى منحازًا بشدة نحو مواقع أو لغات أو سياقات اجتماعية واقتصادية معينة. ومن دون بذل جهد مقصود لتنويع مجموعة البيانات، سيرث النموذج هذه القيود.

تحيز الوسوم#

يحدث تحيز الوسوم عندما يطبّق المعلّقون البشريون وسومًا غير صحيحة أو غير متسقة. وقد يبدو الوسم الخاطئ غير ضار، لكنه إذا تكرر كثيرًا، يبدأ النموذج في تعلم الارتباطات الخاطئة.

يمكن أن يربك وضع الوسوم غير المتسق النموذج أثناء التدريب، لا سيما في المهام المعقدة مثل اكتشاف الكائنات. فعلى سبيل المثال، قد يضع أحد المعلّقين وسم «سيارة» على مركبة، بينما يضع آخر وسم «شاحنة» على مركبة مشابهة. وتؤثر حالات عدم الاتساق هذه في قدرة النموذج على تعلم أنماط موثوقة، مما يؤدي إلى انخفاض الدقة أثناء الاستدلال.

الشكل 3. ينشأ التحيز في مسارات البيانات من حالات عدم التوازن في العالم الحقيقي.

وقد ينشأ تحيز الوسوم أيضًا من إرشادات التعليق غير الواضحة أو اختلاف تفسيرات البيانات نفسها. ويمكن أن يؤدي وضع معايير موثقة جيدًا للوسم وإجراء فحوصات مراقبة الجودة إلى تقليل هذه التحديات بدرجة كبيرة.

يُعد التدريب المستمر للمعلّقين واستخدام وضع الوسوم بالإجماع، حيث يراجع عدة معلّقين كل عينة، استراتيجيتين فعالتين لتقليل تحيز الوسوم وتحسين جودة مجموعة البيانات.

تحيز التمثيل#

غالبًا ما يعكس تحيز التمثيل أوجه عدم المساواة المجتمعية الأوسع نطاقًا. فقد تعجز البيانات المجموعة في المناطق الأكثر ثراءً أو اتصالًا عن تمثيل تنوع الفئات السكانية أو البيئات الأقل تمثيلًا. وتتطلب معالجة هذا التحيز إدراج الفئات والسياقات التي جرى تجاهلها عمدًا.

يحدث تحيز التمثيل عندما تكون فئات أو مجموعات معينة ممثلة تمثيلًا ناقصًا في مجموعة البيانات. وقد تشمل هذه الفئات مجموعات سكانية أو فئات من الكائنات أو ظروفًا بيئية. فإذا لم يرَ النموذج سوى لون بشرة واحد أو نوع واحد من الكائنات أو نمط خلفية واحد، فسوف تعكس تنبؤاته ذلك الاختلال.

يمكننا ملاحظة هذا النوع من التحيز عندما تُدرج مجموعات أو فئات معينة بكميات أقل بكثير من غيرها. وقد يؤدي ذلك إلى انحراف تنبؤات النموذج نحو الأمثلة السائدة في مجموعة البيانات. فعلى سبيل المثال، قد يواجه نموذج للتعرف إلى الوجوه دُرّب أساسًا على فئة سكانية واحدة صعوبةً في تحقيق دقة متسقة لدى جميع المستخدمين. وعلى خلاف تحيز الاختيار المرتبط بتنوع البيانات، يتعلق تحيز التمثيل بالتوازن بين المجموعات.

يمكن أن تساعد عمليات تدقيق التنوع واستراتيجيات توسيع البيانات المستهدفة على ضمان تمثيل جميع الفئات السكانية والفئات ذات الصلة تمثيلًا مناسبًا في جميع أنحاء مجموعة بيانات التدريب.

كيفية اكتشاف تحيز مجموعة البيانات والحد منه#

في عمليات النشر الواقعية، لا يعني تحيز الذكاء الاصطناعي مجرد بضعة تنبؤات خاطئة، بل قد يؤدي إلى أنظمة تعمل جيدًا لبعض الأشخاص دون غيرهم.

في الذكاء الاصطناعي المخصص للسيارات، قد تؤدي نماذج الاكتشاف أداءً غير متسق عبر مجموعات المشاة، مما يؤدي إلى نتائج سلامة أقل للأفراد ناقصي التمثيل. ولا تكمن المشكلة في نية النموذج، بل في المدخلات المرئية التي دُرّب عليها. وحتى في الزراعة، قد يعني التحيز في اكتشاف الكائنات ضعف تحديد المحاصيل في ظل ظروف إضاءة أو طقس مختلفة. وهذه عواقب شائعة لتدريب النماذج على مجموعات بيانات محدودة أو غير متوازنة.

يبدأ إصلاح تحيز الذكاء الاصطناعي بمعرفة موضع البحث. فإذا كانت مجموعة التدريب تفتقد أمثلة رئيسية أو تمثل نطاقًا ضيقًا تمثيلًا زائدًا، فسوف يعكس النموذج تلك الثغرات. ولهذا السبب يُعد اكتشاف التحيز في الذكاء الاصطناعي خطوةً حاسمة في كل مسار تطوير.

الشكل 4. الخطوات الرئيسية للحد من تحيز الذكاء الاصطناعي وتحسين الإنصاف.

ابدأ بتحليل مجموعة البيانات. وانظر إلى التوزيع عبر الفئات والبيئات والإضاءة ومقاييس الكائنات والفئات السكانية. فإذا هيمنت فئة واحدة، فمن المرجح أن يكون أداء النموذج ضعيفًا على الفئات الأخرى.

بعد ذلك، افحص الأداء. هل يؤدي النموذج أداءً أسوأ في إعدادات معينة أو مع أنواع محددة من الكائنات؟ إذا كان الأمر كذلك، فهذه علامة على تحيز متعلم، وعادةً ما تشير إلى البيانات.

يُعد التقييم على مستوى الشرائح أمرًا أساسيًا. فقد يعلن النموذج عن دقة تبلغ 90% في المتوسط، لكنها لا تتجاوز 60% لدى مجموعة أو حالة معينة. ومن دون فحص تلك الشرائح، لن تعرف ذلك أبدًا.

يُعد استخدام مقاييس الإنصاف أثناء التدريب والتقييم أداةً قوية أخرى. إذ تتجاوز هذه المقاييس درجات الدقة القياسية، وتقيّم سلوك النموذج عبر مجموعات فرعية مختلفة من البيانات. كما تساعد على كشف النقاط العمياء التي قد تمر دون ملاحظة لولا ذلك.

تؤدي الشفافية في تكوين مجموعة البيانات واختبار النموذج إلى نماذج أفضل.

تحسين الإنصاف من خلال تنوع البيانات وزيادتها#

بعد تحديد التحيز، تتمثل الخطوة التالية في سد الفجوة. ومن أكثر الطرق فعالية لتحقيق ذلك زيادة تنوع البيانات في نماذج الذكاء الاصطناعي. ويعني ذلك جمع مزيد من العينات من السيناريوهات ناقصة التمثيل، سواء أكانت صورًا طبية من مجموعات سكانية مختلفة أم ظروفًا بيئية غير معتادة.

يمكن أن تكون إضافة مزيد من البيانات قيّمة، لا سيما عندما تزيد التنوع. غير أن تحسين الإنصاف يعتمد أيضًا على جمع الأنواع المناسبة من الأمثلة، التي ينبغي أن تعكس التنوع الواقعي الذي يُرجح أن يواجهه النموذج.

تُعد زيادة البيانات استراتيجية قيّمة أخرى. إذ يمكن أن يساعد قلب الصور وتدويرها وضبط الإضاءة وتغيير مقاييس الكائنات على محاكاة ظروف واقعية مختلفة. ولا تزيد زيادة البيانات تنوع مجموعة البيانات فحسب، بل تساعد النموذج أيضًا على أن يصبح أكثر متانةً تجاه التغييرات في المظهر والإضاءة والسياق.

تتضمن معظم مسارات التدريب الحديثة زيادة البيانات افتراضيًا، لكن الاستخدام الاستراتيجي، مثل التركيز على الضبط وفقًا لاحتياجات المهمة المحددة، هو ما يجعلها فعالة لتحقيق الإنصاف.

استخدام البيانات الاصطناعية لسد الثغرات#

تشير البيانات الاصطناعية إلى بيانات مُولّدة اصطناعيًا تحاكي أمثلة من العالم الحقيقي. ويمكن أن تكون أداةً مفيدة عندما تكون بعض السيناريوهات نادرة جدًا أو حساسة جدًا بحيث يتعذر التقاطها في الواقع.

فعلى سبيل المثال، إذا كنت تبني نموذجًا لاكتشاف عيوب نادرة في الآلات أو مخالفات مرورية في الحالات الطرفية، فيمكنك محاكاة تلك الحالات باستخدام البيانات الاصطناعية. ويمنح ذلك النموذج فرصةً للتعلم من أحداث قد لا يواجهها كثيرًا في مجموعة التدريب.

وجدت دراسات أن إدخال بيانات اصطناعية مستهدفة في التدريب يمكن أن يقلل تحيز مجموعة البيانات ويحسن الأداء عبر المجموعات السكانية والبيئات المختلفة.

تؤدي البيانات الاصطناعية أفضل أداء عند إقرانها بعينات من العالم الحقيقي. فهي تكمل مجموعة البيانات، ولا تستبدل بها.

كيف يدعم Ultralytics YOLO11 الذكاء الاصطناعي الأخلاقي#

يعتمد بناء نماذج ذكاء اصطناعي غير متحيزة أيضًا على الأدوات التي تستخدمها. صُمم Ultralytics YOLO11 ليكون مرنًا وسهل الضبط الدقيق وعالي القابلية للتكيف، مما يجعله مناسبًا بدرجة كبيرة للحد من تحيز مجموعة البيانات.

يدعم Ultralytics YOLO11 تقنيات متقدمة لزيادة البيانات أثناء تدريب النموذج، مما يُدخل سياقات متنوعة للصور وأمثلة مدمجة لتحسين تعميم النموذج والحد من فرط التكيّف.

يتميز Ultralytics YOLO11 أيضًا ببنية محسّنة للعمود الفقري والعنق لاستخراج السمات بفعالية أكبر. ويعزز هذا التحديث قدرة النموذج على اكتشاف التفاصيل الدقيقة، وهو أمر بالغ الأهمية في السيناريوهات ناقصة التمثيل أو الطرفية التي قد تواجه فيها النماذج القياسية صعوبة.

وبما أن Ultralytics YOLO11 سهل إعادة التدريب والنشر عبر بيئات الحافة والسحابة، يمكن للفرق تحديد فجوات الأداء وتحديث النموذج بسرعة عند اكتشاف التحيز ميدانيًا.

الذكاء الاصطناعي المنصف ليس هدفًا يُحقق مرة واحدة، بل هو دورة من التقييم والتعلم والتعديل. وتساعد أدوات مثل Ultralytics YOLO11 على جعل هذه الدورة أسرع وأكثر إنتاجية.

أهم النقاط المستخلصة#

يؤثر تحيز الذكاء الاصطناعي في كل شيء، من الإنصاف إلى الأداء. وغالبًا ما ينبع تحيز الرؤية الحاسوبية من كيفية جمع مجموعات البيانات ووسمها وتحقيق توازنها. ولحسن الحظ، توجد طرق مثبتة لاكتشافه والحد منه.

ابدأ بتدقيق بياناتك واختبار أداء النموذج عبر سيناريوهات مختلفة. واستخدم جمع البيانات المستهدف وزيادة البيانات والبيانات الاصطناعية لإنشاء تغطية تدريبية أفضل.

يدعم Ultralytics YOLO11 هذا المسار بجعل تدريب النماذج المخصصة وتطبيق تقنيات قوية لزيادة البيانات والاستجابة السريعة عند اكتشاف التحيز أمورًا أسهل.

إن بناء ذكاء اصطناعي منصف ليس مجرد التصرف الصحيح، بل هو أيضًا الطريقة لبناء أنظمة أذكى وأكثر موثوقية.

انضم إلى مجتمعنا المتنامي! واستكشف مستودعنا على GitHub لمعرفة المزيد عن الذكاء الاصطناعي. هل أنت مستعد لبدء مشاريعك الخاصة في الرؤية الحاسوبية؟ اطّلع على خيارات الترخيص. واكتشف الذكاء الاصطناعي في التصنيع والذكاء الاصطناعي للرؤية في الزراعة بزيارة صفحات حلولنا!