Concept Bottleneck Models

Les modèles à goulot d’étranglement conceptuel (CBMs) sont des réseaux neuronaux qui effectuent une prédiction par l’intermédiaire d’une couche intermédiaire de concepts compréhensibles par l’être humain. Au lieu de relier directement une entrée à une étiquette finale, un CBM prédit d’abord des attributs significatifs — comme « aile rouge », « fissure de surface » ou « rétrécissement articulaire » — puis utilise uniquement ces attributs pour produire sa décision. Cette structure rend le modèle plus facile à inspecter, à déboguer et à corriger qu’un modèle conventionnel en boîte noire.

Fonctionnement des modèles à goulot d’étranglement conceptuel#

Un réseau neuronal standard représente souvent les informations dans un espace latent opaque. Un CBM remplace une partie de cette représentation cachée par un vecteur de concepts dont les dimensions ont des significations définies.

Son pipeline de prédiction comporte deux étapes principales :

1. Un prédicteur de concepts associe une entrée brute, telle qu’une image, à des valeurs de concepts.
2. Un prédicteur de cible associe ces valeurs de concepts à la classe ou au score final.

Par exemple, un classifieur d’oiseaux peut prédire « bec noir », « poitrine blanche » et « longue queue » avant d’identifier l’espèce. Les concepts peuvent être binaires, catégoriels ou continus. Ils sont généralement appris par apprentissage supervisé, ce qui nécessite que chaque exemple d’entraînement contienne à la fois les étiquettes cibles et les annotations de concepts.

Les deux étapes peuvent être entraînées indépendamment, séquentiellement ou conjointement. L’entraînement indépendant rend la séparation explicite, tandis que l’entraînement conjoint peut équilibrer la qualité des concepts et les performances sur la tâche finale. Dans tous les cas, le goulot d’étranglement doit limiter le prédicteur de cible aux concepts déclarés ; sinon, des informations cachées peuvent contourner l’explication prévue.

Pourquoi l’interprétabilité et l’intervention sont importantes#

Les CBMs sont une forme d’IA explicable intrinsèque : leur structure interprétable est intégrée à la prédiction plutôt qu’ajoutée ultérieurement. Cela diffère des outils a posteriori tels que les cartes de saillance, qui estiment ce qui a influencé une boîte noire déjà entraînée.

La couche de concepts permet plusieurs interactions utiles :

• Les utilisateurs peuvent examiner les concepts qui ont entraîné une décision.
• Les experts du domaine peuvent corriger un concept inexact et recalculer la sortie.
• Les développeurs peuvent vérifier si le prédicteur de cible suit une logique valide dans le domaine.
• Les équipes peuvent mesurer séparément la précision des concepts et celle de la tâche finale.

Ces capacités s’alignent sur les recommandations du NIST relatives à l’IA explicable et sur les contrôles centrés sur l’humain présentés dans le People + AI Guidebook. Cependant, une explication compréhensible n’est pas automatiquement correcte. La fidélité des concepts doit être évaluée plutôt que présumée.

Applications concrètes#

• Analyse d’images médicales : Un modèle examinant une radiographie peut estimer des concepts tels que les ostéophytes, le pincement de l’interligne articulaire et la sclérose avant d’évaluer la gravité de la maladie. Un clinicien peut examiner ou corriger ces résultats intermédiaires au lieu de recevoir uniquement un score de gravité. Cette interaction entre l’humain et le modèle est particulièrement pertinente au regard des principes de transparence de la FDA pour les dispositifs médicaux fondés sur l’apprentissage automatique.

• Inspection visuelle industrielle : Un système de vision peut identifier des concepts tels que des composants manquants, des fissures, une décoloration ou un mauvais alignement, puis les utiliser pour décider si un produit réussit l’inspection ou nécessite une réparation particulière. La détection d’objets peut localiser les composants et les défauts, tandis que le classifieur en aval fondé sur les concepts fournit une décision qualité auditable.

Limites et concepts associés#

Les étiquettes de concepts engendrent des coûts supplémentaires d’annotation des données et peuvent nécessiter des connaissances spécialisées. Des concepts mal définis peuvent être subjectifs, corrélés, incomplets ou difficiles à reconnaître à partir de l’entrée. Les équipes doivent établir des règles d’étiquetage précises et auditer les désaccords entre annotateurs.

Parmi les autres risques importants figurent les erreurs de prédiction des concepts, les scores non calibrés et la fuite de concepts, lorsque des valeurs de concepts continues encodent des informations non intentionnelles au-delà de leur signification déclarée. Les recommandations sur le calibrage des probabilités peuvent aider à déterminer si les valeurs de confiance des concepts sont fiables.

Un CBM se distingue également de l’ingénierie des caractéristiques : les caractéristiques conçues manuellement sont des entrées calculées manuellement, tandis que les concepts sont normalement prédits à partir de données brutes et supervisés explicitement. Il ne s’agit pas non plus du principe du goulot d’étranglement de l’information, qui compresse les représentations sans exiger que chaque dimension soit compréhensible par l’être humain.

Les performances des concepts doivent être vérifiées sur les tranches de données pertinentes, car des annotations biaisées ou des concepts manquants peuvent produire des erreurs inégales. Les recommandations de Google pour identifier les biais dans le ML et le NIST AI RMF Core fournissent des pratiques utiles d’évaluation et de gouvernance.

Construire un pipeline de vision pratique#

Un modèle Ultralytics YOLO26 peut servir d’extracteur de concepts visuels en amont. Le workflow du mode Predict suivant collecte les classes d’objets détectées comme signaux de concepts candidats :

from ultralytics import YOLO

# Load a pretrained visual concept extractor
model = YOLO("yolo26n.pt")

# Run inference and select the first result
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into human-readable concept candidates
concepts = {result.names[int(class_id)] for class_id in result.boxes.cls}
print(sorted(concepts))

result.save(filename="concept_candidates.jpg")

Il ne s’agit pas d’un CBM complet : un modèle en aval doit encore être entraîné pour prédire exclusivement la cible finale à partir des concepts sélectionnés. Les équipes peuvent utiliser Ultralytics Platform pour annoter des données visuelles, entraîner des extracteurs de concepts, comparer des expériences et surveiller les composants déployés. Évalue séparément la précision des concepts, la précision de la cible, le calibrage, le comportement lors des interventions et les sous-groupes importants à l’aide d’un workflow structuré d’évaluation de modèle.