Concept Bottleneck Models

نماذج عنق الزجاجة للمفاهيم (CBMs) هي شبكات عصبية تُجري تنبؤًا عبر طبقة وسيطة من المفاهيم التي يفهمها البشر. وبدلًا من ربط المُدخل مباشرةً بالتصنيف النهائي، يتنبأ نموذج CBM أولًا بسمات ذات معنى—مثل «جناح أحمر» أو «شق سطحي» أو «تضيّق المفصل»—ثم يستخدم تلك السمات وحدها لاتخاذ قراره. تجعل هذه البنية النموذج أسهل في الفحص وتصحيح الأخطاء والتصحيح من نموذج تقليدي يُعدّ صندوقًا أسود.

كيفية عمل نماذج عنق الزجاجة للمفاهيم#

غالبًا ما تمثّل الشبكة العصبية القياسية المعلومات في فضاء كامن غامض. ويستبدل نموذج CBM جزءًا من ذلك التمثيل المخفي بمتجه مفاهيم تكون لأبعاده معانٍ محددة.

يتضمن مسار التنبؤ مرحلتين رئيسيتين:

1. يربط متنبئ المفاهيم المُدخل الخام، مثل الصورة، بقيم المفاهيم.
2. يربط متنبئ الهدف قيم المفاهيم بالفئة أو الدرجة النهائية.

على سبيل المثال، قد يتنبأ مصنّف الطيور بسمات «منقار أسود» و«صدر أبيض» و«ذيل طويل» قبل تحديد النوع. وقد تكون المفاهيم ثنائية أو فئوية أو مستمرة. وعادةً ما يتم تعلمها من خلال التعلم الخاضع للإشراف، ما يتطلب أن يتضمن كل مثال تدريبي تسميات الهدف وتعليقات المفاهيم معًا.

يمكن تدريب المرحلتين بشكل مستقل أو تسلسلي أو مشترك. يجعل التدريب المستقل الفصل واضحًا، بينما يمكن للتدريب المشترك تحقيق توازن بين جودة المفاهيم وأداء المهمة النهائية. وفي جميع الحالات، ينبغي لعنق الزجاجة أن يقصر متنبئ الهدف على المفاهيم المُعلنة؛ وإلا فقد تتجاوز المعلومات المخفية التفسير المقصود.

أهمية قابلية التفسير والتدخل#

تُعد نماذج CBM شكلًا من أشكال الذكاء الاصطناعي القابل للتفسير: إذ تُبنى بنيتها القابلة للتفسير ضمن عملية التنبؤ بدلًا من إضافتها لاحقًا. ويختلف ذلك عن أدوات ما بعد التنفيذ مثل خرائط الأهمية، التي تقدّر ما أثّر في صندوق أسود مدرَّب مسبقًا.

تدعم طبقة المفاهيم عدة تفاعلات مفيدة:

• يمكن للمستخدمين فحص المفاهيم التي تسببت في اتخاذ القرار.
• يمكن لخبراء المجال تصحيح مفهوم غير دقيق وإعادة حساب الناتج.
• يمكن للمطورين اختبار ما إذا كان متنبئ الهدف يتبع منطقًا صحيحًا للمجال.
• يمكن للفرق قياس دقة المفاهيم بشكل منفصل عن دقة المهمة النهائية.

تتوافق هذه الإمكانات مع إرشادات NIST بشأن الذكاء الاصطناعي القابل للتفسير والضوابط المتمحورة حول الإنسان التي نوقشت في دليل People + AI. ومع ذلك، لا يعني التفسير المفهوم تلقائيًا أنه صحيح. ويجب تقييم مدى وفاء المفاهيم بدلًا من افتراضه.

التطبيقات الواقعية#

• تحليل الصور الطبية: قد يقدّر نموذج يفحص صورة بالأشعة السينية مفاهيم مثل النتوءات العظمية وتضيّق المسافة المفصلية والتصلّب قبل تصنيف شدة المرض. ويمكن للطبيب مراجعة هذه النتائج الوسيطة أو تصحيحها بدلًا من تلقي درجة شدة فقط. ويكتسب هذا التفاعل بين الإنسان والنموذج أهمية خاصة في مبادئ الشفافية الصادرة عن FDA للأجهزة الطبية المعتمدة على التعلم الآلي.

• الفحص البصري في التصنيع: يمكن لنظام الرؤية تحديد مفاهيم مثل المكونات المفقودة أو الشقوق أو تغيّر اللون أو المحاذاة غير الصحيحة، ثم استخدامها لتحديد ما إذا كان المنتج يجتاز الفحص أو يتطلب إصلاحًا معينًا. ويمكن لـاكتشاف الأجسام تحديد مواقع المكونات والعيوب، بينما يوفر المصنّف اللاحق القائم على المفاهيم قرار جودة قابلًا للتدقيق.

القيود والمفاهيم ذات الصلة#

تضيف تسميات المفاهيم تكاليف تعليق البيانات وقد تتطلب معرفة متخصصة. وقد تكون المفاهيم سيئة التعريف ذاتية أو مترابطة أو غير مكتملة أو يصعب التعرّف عليها من المُدخل. وينبغي للفرق وضع قواعد دقيقة لوضع التسميات وتدقيق حالات الاختلاف بين المعلّقين.

تشمل المخاطر المهمة الأخرى أخطاء التنبؤ بالمفاهيم والدرجات غير المُعايرة وتسرّب المفاهيم، حيث ترمّز قيم المفاهيم المستمرة معلومات غير مقصودة تتجاوز معناها المعلن. ويمكن أن تساعد الإرشادات المتعلقة بـمعايرة الاحتمالات في تحديد ما إذا كانت قيم الثقة للمفاهيم جديرة بالثقة.

يختلف نموذج CBM أيضًا عن هندسة السمات: فالسمات المُهندسة هي مُدخلات تُحسب يدويًا، بينما تُتنبأ المفاهيم عادةً من البيانات الخام ويُشرف عليها صراحةً. كما أنه لا يماثل مبدأ عنق زجاجة المعلومات، الذي يضغط التمثيلات دون اشتراط أن يكون كل بُعد قابلًا للفهم البشري.

ينبغي التحقق من أداء المفاهيم عبر شرائح البيانات ذات الصلة، لأن التعليقات المنحازة أو المفاهيم المفقودة قد تؤدي إلى أخطاء غير متساوية. وتوفر إرشادات Google لتحديد تحيز ML والنواة الأساسية لإطار إدارة مخاطر الذكاء الاصطناعي لدى NIST ممارسات مفيدة للتقييم والحوكمة.

بناء مسار عملي للرؤية الحاسوبية#

يمكن لنموذج Ultralytics YOLO26 أن يعمل كمستخرج مفاهيم بصرية في مرحلة سابقة. ويجمع سير عمل وضع Predict التالي فئات الأجسام المكتشفة بوصفها إشارات مرشحة للمفاهيم:

from ultralytics import YOLO

# Load a pretrained visual concept extractor
model = YOLO("yolo26n.pt")

# Run inference and select the first result
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into human-readable concept candidates
concepts = {result.names[int(class_id)] for class_id in result.boxes.cls}
print(sorted(concepts))

result.save(filename="concept_candidates.jpg")

هذا ليس نموذج CBM مكتملًا: إذ لا يزال يتعين تدريب نموذج لاحق للتنبؤ بالهدف النهائي اعتمادًا حصريًا على المفاهيم المحددة. ويمكن للفرق استخدام Ultralytics Platform لتعليق البيانات البصرية وتدريب مستخرجات المفاهيم ومقارنة التجارب ومراقبة المكونات المنشورة. قيّم دقة المفاهيم ودقة الهدف والمعايرة وسلوك التدخل والمجموعات الفرعية المهمة بشكل منفصل باستخدام سير عمل منظم لتقييم النموذج.