Concept Bottleneck Models

نماذج الاختناق المفهومي (CBMs) هي شبكات عصبية تتخذ تنبؤات من خلال طبقة وسيطة من المفاهيم المفهومة للبشر. بدلاً من تعيين مدخلات مباشرة إلى تسمية نهائية، يتنبأ نموذج CBM أولاً بسمات ذات مغزى—مثل "الجناح الأحمر"، أو "الصدق السطحي"، أو "ضيق المفصل"—ثم يستخدم تلك السمات وحدها لإنتاج قراره. هذا الهيكل يجعل النموذج أسهل في الفحص، وتصحيح الأخطاء، والتحسين مقارنة بنموذج الصندوق الأسود التقليدي.

كيف تعمل نماذج الاختناق المفهومي#

الشبكة العصبية القياسية غالباً ما تمثل المعلومات في فضاء كامن غامض. يستبدل نموذج CBM جزءاً واحداً من هذا التمثيل المخفي بمتجه مفهوم لها معانٍ محددة لأبعادها.

يحتوي مسار التنبؤ الخاص به على مرحلتين رئيسيتين:

1. مُتنبئ المفهوم يعين المدخلات الخام، مثل الصورة، إلى قيم مفهومية.
2. مُتنبئ الهدف يعين قيم المفاهيم تلك إلى الفئة النهائية أو النتيجة.

على سبيل المثال، قد يتنبأ مصنف الطيور بـ "منقار أسود"، و"صدر أبيض"، و"ذيل طويل" قبل تحديد النوع. قد تكون المفاهيم ثنائية، أو فئوية، أو مستمرة. يتم تعلمها عادةً من خلال التعلم المُشرف، مما يتطلب أن يتضمن كل مثال تدريبي كلاً من التسميات المستهدفة وتعليقات المفاهيم.

يمكن تدريب المرحلتين بشكل مستقل، أو تسلسلي، أو مشترك. يجعل التدريب المستقل الفصل صريحاً، بينما يمكن للتدريب المشترك موازنة جودة المفهوم مقابل أداء المهمة النهائية. في كل حالة، يجب أن تقيد نقطة الاختناق مُتنبئ الهدف بالمفاهيم المعلنة؛ وإلا، فقد تتجاوز المعلومات المخفية التفسير المقصود.

لماذا تهم قابلية التفسير والتدخل#

تعتبر نماذج CBM شكلًا من أشكال الذكاء الاصطناعي القابل للتفسير الداخلي: حيث يُبنى هيكلها القابل للتفسير في عملية التنبؤ بدلاً من إضافته لاحقاً. يختلف هذا عن الأدوات اللاحقة مثل خرائط الأهمية، والتي تقيم ما أثر على صندوق أسود مدرب مسبقاً.

تدعم طبقة المفهوم عدة تفاعلات مفيدة:

• يمكن للمستخدمين فحص المفاهيم التي تسببت في اتخاذ القرار.
• يمكن لخبراء المجال تصحيح مفهوم غير دقيق وإعادة حساب الإخراج.
• يمكن للمطورين اختبار ما إذا كان مُتنبئ الهدف يتبع منطق مجال صالحاً.
• يمكن للفرق قياس دقة المفهوم بشكل منفصل عن دقة المهمة النهائية.

تتماشى هذه القدرات مع إرشادات المعهد الوطني للمقاييس والتكنولوجيا (NIST) بشأن الذكاء الاصطناعي القابل للتفسير والضوابط التي تتمحور حول الإنسان والتي تمت مناقشتها في دليل البشر + الذكاء الاصطناعي. ومع ذلك، فإن التفسير المفهوم ليس بالضرورة تفسيراً صحيحاً تلقائياً. يجب تقييم دقة المفهوم بدلاً من افتراضها.

تطبيقات العالم الحقيقي#

• تحليل الصور الطبية: قد يقدر النموذج الذي يفحص الأشعة السينية مفاهيم مثل النتوءات العظمية، وتضيق مساحة المفصل، والتصلب قبل تصنيف مدى خطورة المرض. يمكن للطبيب مراجعة هذه النتائج الوسيطة أو تصحيحها بدلاً من تلقي درجة خطورة فقط. يتطابق تفاعل الإنسان مع النموذج هذا بشكل خاص مع مبادئ الشفافية الصادرة عن إدارة الغذاء والدواء (FDA) للأجهزة الطبية للتعلم الآلي.

• الفحص البصري للتصنيع: يمكن لنظام الرؤية تحديد مفاهيم مثل المكونات المفقودة، أو الشقوق، أو تغير اللون، أو المحاذاة غير الصحيحة، ثم استخدامها لتحديد ما إذا كان المنتج يجتاز الفحص أو يتطلب إصلاحاً معيناً. يمكن لـ اكتشاف الكائنات تحديد موقع المكونات والعيوب، بينما يوفر مصنف المفاهيم القائم على التدفق اللاحق قرار جودة قابلاً للمراجعة.

القيود والمفاهيم ذات الصلة#

تخلق تسميات المفاهيم تكاليف إضافية لـ تعليق البيانات وقد تتطلب معرفة متخصصة. قد تكون المفاهيم غير المعرفة جيداً ذاتية، أو مترابطة، أو غير مكتملة، أو يصعب التعرف عليها من المدخلات. يجب على الفرق إنشاء قواعد تسمية دقيقة وتدقيق عدم الاتفاق بين المعلقين.

تشمل المخاطر المهمة الأخرى أخطاء التنبؤ بالمفهوم، والنتائج غير معايرة، وتسرب المفاهيم، حيث تقوم قيم المفاهيم المستمرة بترميز معلومات غير مقصودة تتجاوز معناها المعلن. يمكن أن تساعد الإرشادات الخاصة بـ معايرة الاحتمالات في تحديد ما إذا كانت قيم ثقة المفهوم جديرة بالثقة.

يختلف نموذج CBM أيضاً عن هندسة الميزات: الميزات الهندسيّة هي مدخلات محسوبة يدوياً، بينما يتم التنبؤ بالمفاهيم عادةً من البيانات الخام وتخضع لإشراف صريح. وهي ليست نفس مبدأ اختناق المعلومات، الذي يضغط التمثيل دون تتطلب أن يكون كل بعد مفهوماً للبشر.

يجب التحقق من أداء المفاهيم عبر شرائح البيانات ذات الصلة لأن التعليقات المتحيزة أو المفاهيم المفقودة يمكن أن تنتج أخطاء غير متساوية. توفر إرشادات جوجل لتحديد تحيز التعلم الآلي وإطار عمل إدارة المخاطر للذكاء الاصطناعي من المعهد الوطني للمقاييس والتكنولوجيا (NIST AI RMF Core) ممارسات تقييم وحوكمة مفيدة.

بناء مسار رؤية عملي#

يمكن أن يعمل نموذج Ultralytics YOLO26 كمستخرج مفاهيم بصرية في المنبع. يجمع تدفق عمل وضع التنبؤ التالي فئات الكائنات المكتشفة كإشارات مفهوم مرشحة:

from ultralytics import YOLO

# Load a pretrained visual concept extractor
model = YOLO("yolo26n.pt")

# Run inference and select the first result
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into human-readable concept candidates
concepts = {result.names[int(class_id)] for class_id in result.boxes.cls}
print(sorted(concepts))

result.save(filename="concept_candidates.jpg")

هذا ليس نموذج CBM كاملاً: لا يزال يتعين تدريب نموذج لاحق للتنبؤ بالهدف النهائي حصرياً من المفاهيم المحددة. يمكن للفرق استخدام منصة Ultralytics للتعليق على البيانات المرئية، وتدريب مستخرجي المفاهيم، ومقارنة التجارب، ومراقبة المكونات المنشورة. قم بتقييم دقة المفهوم، ودقة الهدف، والمعايرة، وسلوك التدخل، والمجموعات الفرعية المهمة بشكل منفصل باستخدام مسار عمل تقييم نموذج منظّم.