Shortcut Learning

يحدث التعلم بالاختصارات عندما يحل النموذج مهمة التدريب باستخدام إشارة بسيطة تتنبأ بالتسمية في بيانات التدريب، لكنها لا ترتبط بالمفهوم الذي كان من المفترض أن يتعلمه. ويحقق النموذج نتائج جيدة على أي مجموعة اختبار تشترك في تلك الإشارة، ثم يخفق عند اختفائها. وصف روبرت غيرهوس وزملاؤه المشكلة في Shortcut Learning in Deep Neural Networks، وهي مقالة رأي نُشرت عام 2020 في Nature Machine Intelligence، وعرّفوا الاختصارات بأنها قواعد قرار تؤدي جيدًا على المعايير القياسية لكنها لا تنتقل إلى ظروف أكثر تحديًا، مثل الاستخدام في العالم الحقيقي. والتشبيه الكلاسيكي هو كليفر هانز، الحصان الذي بدا وكأنه يجري عمليات حسابية، لكنه كان يقرأ لغة جسد مدربه.

اختصارات في النماذج المنشورة#

اكتُشفت اختصارات في العديد من النماذج المنشورة:

• علامات المستشفيات في الصور الطبية: في دراسة أجراها جون زِش وزملاؤه عام 2018، استطاعت مصنفات الالتهاب الرئوي المدرّبة على صور الأشعة السينية للصدر من عدة أنظمة مستشفيات تحديد المستشفى الذي جاءت منه الصورة. وبما أن معدلات المرض اختلفت بين المستشفيات، ساعدت معلومات المصدر على التنبؤ بالتشخيص. وكان الأداء غالبًا أقل في المستشفيات غير الموجودة ضمن بيانات التدريب، وهو خطر متكرر في الذكاء الاصطناعي في الأشعة.
• صور الأشعة لمرض كوفيد-19: وجد تحليل أجراه أليكس ديغريف وزملاؤه عام 2021 أن كواشف كوفيد-19 اعتمدت على علامات النص ووضعية المريض والاختلافات بين مصادر البيانات بدلًا من نتائج الرئتين، وفقدت قدرًا كبيرًا من دقتها على بيانات مستشفيات جديدة.
• الخلفيات في صور الكاميرات الفخية: أظهرت دراسة «Recognition in Terra Incognita» لعام 2018، التي أجرتها سارة بيري وزملاؤها، أن نماذج تصنيف الصور ربطت الحيوانات بالمواقع والخلفيات التي صُوّرت فيها، فانخفضت الدقة في مواقع كاميرات جديدة، وهي مشكلة معروفة في الذكاء الاصطناعي للحفاظ على الحياة البرية. وتبدأ الورقة بصورة بقرة على شاطئ عجز مصنف صور تجاري عن التعرف عليها، بينما صُنفت الأبقار في مراعي الألب تصنيفًا صحيحًا.
• الملمس بدلًا من الشكل: صنفت الشبكات العصبية الالتفافية المدرّبة على ImageNet صورةً لها شكل قطة وملمس جلد فيل على أنها فيل، كما أظهر غيرهوس وزملاؤه عام 2019.

لماذا لا يكشف التحقق القياسي عنها#

ينسخ التقسيم العشوائي إلى تدريب وتحقق الاختصار إلى كلا الجزأين، لذا تبدو الدقة على بيانات التحقق ممتازة. ولا يظهر الإخفاق إلا على البيانات المجموعة بطريقة مختلفة: من موقع أو كاميرا أو مستشفى أو موسم أو فترة زمنية جديدة.

وهذا ما يميز التعلّم بالاختصارات عن المشكلات ذات الصلة:

• فرط التكيّف: حفظ الضوضاء الخاصة ببيانات التدريب، ويظهر ذلك في الفجوة بين درجات التدريب والتحقق. وقد يعمم الاختصار تمامًا على مجموعة تحقق مأخوذة من المصدر نفسه.
• تسرّب البيانات: تسرب معلومات لن تكون متاحة وقت التنبؤ إلى السمات أو التقسيمات. ويُعد التسرب طريقة محددة، وغالبًا غير مقصودة، لدخول اختصار إلى مجموعة البيانات.
• تحيز مجموعة البيانات: الانحراف في البيانات المجموعة، مثل أن تأتي كل الأمثلة الإيجابية من ماسح ضوئي واحد، ما يمنح الاختصار شيئًا يستند إليه.

تعيد بضعة أسطر من scikit-learn إنتاج الإخفاق باستخدام انحدار لوجستي على سمتين: إشارة حقيقية ضعيفة واختصار يتتبع التسمية بقدر يكاد يكون مثاليًا أثناء التدريب.

import numpy as np
from sklearn.linear_model import LogisticRegression

rng = np.random.default_rng(0)
labels = rng.integers(0, 2, 2000)

# A weak genuine signal and a shortcut that tracks the label almost perfectly
signal = labels + rng.normal(0, 1.0, labels.size)
shortcut = labels + rng.normal(0, 0.1, labels.size)

model = LogisticRegression()
model.fit(np.column_stack([signal, shortcut]), labels)

# At deployment the shortcut no longer carries any label information
shifted = rng.permutation(shortcut)
print(f"In-distribution accuracy: {model.score(np.column_stack([signal, shortcut]), labels):.2f}")
print(f"Shifted accuracy: {model.score(np.column_stack([signal, shifted]), labels):.2f}")

تنخفض الدقة من 1.00 إلى 0.52 بعد خلط الاختصار. وتدعم الإشارة الحقيقية وحدها دقة تبلغ نحو 70%، لكن النموذج منح الاختصار معاملًا أكبر بنحو 18 مرة من معامل الإشارة، لذا لم يتعلم إلا القليل من الإشارة الأصعب.

اكتشاف الاختصارات وإزالتها#

يقيّم الاختبار الأكثر موثوقية البيانات التي لا يستطيع الاختصار تتبعها: مواقع أو كاميرات أو فترات زمنية كاملة مستبعدة من التدريب، بدلًا من صور مختارة عشوائيًا. وتشير الفجوة الكبيرة بين تلك الدرجة ودرجة التوزيع الداخلي إلى إشارات من الخلفية أو الإضاءة أو المستشعر. ويساعد استكشاف البيانات على العثور على مؤشرات مرشحة قبل التدريب. تعرض لوحة التجميع في Ultralytics Platform الصور المتشابهة بصريًا متقاربةً على خريطة ثنائية الأبعاد، وتلوّنها بحسب الفئة أو التقسيم أو عرض الصورة وارتفاعها، لذا تبرز قبل أن يتعلم نموذج YOLO26 الكاميرا بدلًا من الجسم فئةٌ تشكل جزيرتها الخاصة بسبب التقاط صورها بكاميرا واحدة.

تختبر التعديلات المضادة للواقع إشارةً مشتبهًا بها مباشرةً. فتبديل الخلفية أو إزالة طبقة رسومية أو اقتصاص علامة يُبقي التنبؤ الصحيح دون تغيير، ويقلب التنبؤ المدفوع بالاختصار. وتُظهر أساليب الإسناد من الذكاء الاصطناعي القابل للتفسير (XAI)، مثل خرائط البروز، وحدات البكسل التي تقود التنبؤ؛ وفي دراسة كوفيد-19، أبرزت حدود الصور والنص بدلًا من الرئتين.

يتطلب إصلاح الاختصار عادةً تغيير البيانات. إذ يكسر جمع أمثلة تختلف فيها الإشارة عن التسمية، مثل الأجزاء المعيبة المصوّرة على كل صينية وخلفية، الارتباط بينهما. ويضعف تعزيز البيانات الذي يغيّر اللون والمقياس والموضع الإشارات المرتبطة بهذه الخصائص، كما يفعل التنويع العشوائي للمجال مع الصور الاصطناعية من خلال عشوَنة الأنسجة والإضاءة والخلفيات. وعندما تكون المجموعات التي تحمل الاختصار معروفة، يقلل التحسين المتين توزيعيًا للمجموعات أسوأ خسارة أداءً بدلًا من متوسط الخسارة.