Hard Negative Mining

التنقيب عن الأمثلة السلبية الصعبة هو استراتيجية لبيانات التدريب تحدد الأمثلة السلبية التي يجدها النموذج مقنعة بشكل غير معتاد وتمنحها اهتماماً أكبر أثناء التعلم. المثال السلبي لا ينتمي إلى الفئة المستهدفة، بينما يشبه المثال السلبي الصعب الفئة الإيجابية بما يكفي لإنتاج درجة عالية، أو اكتشاف خاطئ، أو تضمين مجاور. من خلال التركيز على هذه الحالات المربكة بدلاً من عرض أمثلة الخلفية السهلة على النموذج مراراً وتكراراً، يمكن للتنقيب عن الأمثلة السلبية الصعبة شحذ حدود القرار وتقليل النتائج الإيجابية الخاطئة.

كيف يعمل التنقيب عن الأمثلة السلبية الصعبة#

تبدأ العملية عادةً بنموذج أساسي مدرب على بيانات تدريب ممثلة. يقوم النموذج بعد ذلك بتقييم مجموعة مرشحة أكبر، مثل الصور الإنتاجية غير المصنفة، أو المشاهد السلبية فقط، أو الأمثلة داخل كل دفعة تدريب. يتم اختيار المرشحين الذين يتلقون درجات إيجابية عالية على الرغم من كونهم سلبيين للمراجعة والتدريب المستقبلي.

ما الذي يُؤهل ليُعتبر "صعباً" يعتمد على المهمة:

• في اكتشاف الكائنات، تكون منطقة الخلفية صعبة عندما يخطئ الكاشف فيها ويعتبرها كائناً مستهدفاً.
• في التصنيف، هو مثال ينتمي لفئة خاطئة وتُمنح له ثقة عالية للفئة المستهدفة.
• في الاسترجاع أو التعلم المتري، هو عنصر غير ذي صلة يتم ترتيبه قريباً من الاستعلام في مساحة التضمين. توصف إرشادات جوجل حول أخذ العينات السلبية لنماذج التوصية الأمثلة السلبية الصعبة بأنها عناصر سلبية عالية النقاط تؤثر بشكل قوي على التدرج.
• في التعلم الثلاثي (Triplet Learning)، يظهر المثال السلبي قريباً جداً من نقطة الارتكاز مقارنة بنظيره الإيجابي المتطابق. تشرح توثيق PyTorch TripletMarginLoss بنية الارتكاز-الإيجابي-السلبي المستخدمة لتعلم التشابه النسبي.

قد يحدث التنقيب دون اتصال (offline) عن طريق تشغيل نموذج بشكل دوري عبر مجموعة بيانات ضخمة، أو عبر الإنترنت (online) عن طريق اختيار الأمثلة السلبية الصعبة من الدفعة المصغرة الحالية. توفر طبقة التنقيب عن الأمثلة السلبية الصعبة في Keras مثالاً على الاختيار لكل استعلام بناءً على قيم اللوجيت للمرشحين.

لماذا تُعد الأمثلة السلبية الصعبة مهمة#

معظم الأمثلة السلبية سهلة: من غير المرجح أن تربك السماء الفارغة كاشف الرافعة الشوكية. بمجرد أن يصنف النموذج هذه الأمثلة بشكل صحيح، فإنها تساهم بقليل من إشارات التعلم المفيدة. تكشف الأمثلة السلبية الصعبة عن الميزات المرئية أو الدلالية الدقيقة التي أسيء فهمها بواسطة النموذج.

إنها قيّمة بشكل خاص عندما تؤدي الإنذارات الكاذبة إلى تقليل الدقة. يساعد تحليل الدقة والاسترجاع في تحديد ما إذا كانت إعادة التدريب تقلل بالفعل من النتائج الإيجابية الخاطئة دون التسبب في انخفاض غير مقبول في الاسترجاع، كما يوضح دليل الدقة والاسترجاع في scikit-learn.

يختلف التنقيب عن الأمثلة السلبية الصعبة عن التقنيات ذات الصلة:

• أخذ العينات السلبية (Negative sampling) يختار مجموعة فرعية يمكن إدارتها من جميع الأمثلة السلبية؛ بينما يعطي التنقيب عن الأمثلة السلبية الصعبة الأولوية للأكثر إرباكاً منها.
• التعلم النشط (Active learning) يختار عموماً الأمثلة غير المؤكدة للتعصيب البشري، بما في ذلك الإيجابيات المحتملة. يستهدف التنقيب عن الأمثلة السلبية الصعبة على وجه تحديد الأمثلة السلبية المؤكدة التي تتحدى النموذج.
• الخسارة البؤرية (Focal loss) تغير كيفية وزن الأمثلة داخل دالة الخسارة، بينما يغير التنقيب الأمثلة التي يتم اختيارها أو التأكيد عليها.
• إعادة موازنة الفئات تعالج ترددات الفئات غير المتساوية. تغطي إرشادات مجموعات البيانات غير المتوازنة فئويًا من جوجل أخذ العينات السفلية والوزن، لكن الأمثلة السلبية المتكررة ليست بالضرورة أمثلة سلبية صعبة.
• زيادة البيانات (Data augmentation) تخلق تنويعات للعينات الموجودة؛ ولا يمكنها إدخال وضع فشل إنتاجي غير معروف بشكل موثوق.

تطبيقات العالم الحقيقي#

اكتشاف سلامة المستودعات: لنفترض أن كاشف الرافعة الشوكية يحدد بشكل متكرر عربات المنصات (pallet jacks)، وانعكاسات الرفوف، والرافعات المقصية على أنها رافعات شوكية. قد تؤدي هذه النتائج الإيجابية الخاطئة إلى إثارة تنبيهات غيرจำเป็นة وتقليل ثقة المشغل. يمكن للمهندسين جمع تلك المشاهد كصور سلبية بدون تعليقات توضيحية للرافعة الشوكية، وإضافتها إلى مجموعة البيانات، وإعادة تدريب الكاشف للتمييز بين الهدف والمعدات المشابهة.

البحث المرئي عن المنتجات: يبحث العميل عن حذاء جري أسود معين، لكن نظام الاسترجاع يصنف الأحذية المتشابهة بصرياً من خطوط إنتاج أخرى بشكل عالٍ جداً. تصبح تلك المنتجات غير المتطابقة أمثلة سلبية صعبة. التدريب ضدها يشجع نموذج التضمين على الحفاظ على الاختلافات الدقيقة مثل شكل النعل، وموقع الشعار، والمادة. يوضح مثال شبكة سيامي في Keras كيف تدعم صور الارتكاز والإيجابي والسلبي تعلم التشابه.

سير عمل التنقيب العملي#

سير العمل الموثوق به هو سير عمل تكراري:

1. تشغيل التنبؤات على بيانات التحقق والإنتاج الممثلة.
2. مراجعة النتائج الإيجابية الخاطئة ذات الثقة العالية وأنماط الخلط بين الفئات باستخدام وضع التحقق من Ultralytics ومصفوفة الارتباك.
3. تأكيد أن كل مرشح سلبي حقاً؛ فالتسميات غير الصحيحة يمكن أن تعلم النموذج قمع الكائنات الحقيقية.
4. العثور على عينات ذات صلة، وإزالة التكرارات، والحفاظ على الخلفيات المتنوعة ووجهات النظر والظروف.
5. إعادة التدريب، ثم مقارنة الأداء على مجموعة الاختبار الكاملة وشريحة مخصصة للأمثلة السلبية الصعبة باستخدام سير عمل اختبار نموذج رؤية الكمبيوتر.

يمكن أن يساعد بحث التشابه في مستكشف Ultralytics في إبراز الصور التي تشبه نتيجة إيجابية خاطئة معروفة:

from ultralytics import Explorer

# Build an embedding index for the example dataset
explorer = Explorer(data="coco128.yaml", model="yolo26n.pt")
explorer.create_embeddings_table()

# Retrieve visually similar candidates for human review
candidates = explorer.get_similar(
    img="https://ultralytics.com/images/bus.jpg",
    limit=12,
)
print(candidates.head())

لا يثبت التشابه وحده أن المرشح هو مثال سلبي صعب؛ يجب على المراجع التحقق من تسمية الحقيقة الأرضية الخاصة به. يمكن للفرق استخدام منصة Ultralytics لتنظيم صور المرشحين، أو التعليق عليها أو تصحيحها، وتدريب نماذج محدثة، ومراقبة عمليات النشر.

تجنب اختيار الأمثلة الأصعب المطلقة فقط. قد يكون بعضها مسمى بشكل خاطئ، أو غامضاً، أو قيماً متطرفة شديدة تزعزع استقرار التدريب. ي حافظ الخليط المتوازن من الأمثلة السلبية السهلة، والمتوسطة الصعوبة، والصعبة عموماً على تغطية واسعة مع تعليم النموذج أين يفشل حده الحالي.