Concept Bottleneck Models

Concept Bottleneck Models (CBMs) sind neuronale Netze, die eine Vorhersage über eine Zwischenschicht aus für Menschen verständlichen Konzepten treffen. Anstatt eine Eingabe direkt auf ein finales Label abzubilden, sagt ein CBM zuerst aussagekräftige Attribute voraus – wie „roter Flügel“, „Oberflächenriss“ oder „Gelenkverengung“ – und verwendet dann nur diese Attribute, um seine Entscheidung zu treffen. Diese Struktur macht das Modell einfacher zu überprüfen, zu debuggen und zu korrigieren als ein herkömmliches Black-Box-Modell.

Wie Concept Bottleneck Models funktionieren#

Ein Standard-neural network repräsentiert Informationen häufig in einem opaken latent space. Ein CBM ersetzt einen Teil dieser versteckten Repräsentation durch einen Konzeptvektor, dessen Dimensionen definierte Bedeutungen haben.

Die Vorhersage-Pipeline hat zwei Hauptphasen:

1. Ein Konzeptprädiktor bildet die rohe Eingabe, wie etwa ein Bild, auf Konzeptwerte ab.
2. Ein Zielprädiktor bildet diese Konzeptwerte auf die finale Klasse oder den finalen Score ab.

Ein Vogelflassifizierer könnte beispielsweise „schwarzer Schnabel“, „weiße Brust“ und „langer Schwanz“ vorhersagen, bevor er die Art bestimmt. Konzepte können binär, kategorisch oder kontinuierlich sein. Sie werden in der Regel durch supervised learning erlernt, wobei jedes Trainingsbeispiel sowohl Ziel-Labels als auch Konzeptannotationen enthalten muss.

Die beiden Phasen können unabhängig, nacheinander oder gemeinsam trainiert werden. Das unabhängige Training macht die Trennung explizit, während das gemeinsame Training die Konzeptqualität mit der Leistung der finalen Aufgabe ausbalancieren kann. In jedem Fall sollte der Bottleneck den Zielprädiktor auf die deklarierten Konzepte beschränken; andernfalls könnten verborgene Informationen die beabsichtigte Erklärung umgehen.

Warum Interpretierbarkeit und Intervention wichtig sind#

CBMs sind eine Form von intrinsischer explainable AI: Ihre interpretierbare Struktur ist in die Vorhersage integriert, anstatt nachträglich hinzugefügt zu werden. Dies unterscheidet sich von Post-hoc-Werkzeugen wie saliency maps, die abschätzen, was ein bereits trainiertes Black-Box-Modell beeinflusst hat.

Die Konzeptschicht unterstützt mehrere nützliche Interaktionen:

• Nutzer können überprüfen, welche Konzepte eine Entscheidung verursacht haben.
• Domain-Experten können ein ungenaues Konzept korrigieren und die Ausgabe neu berechnen.
• Entwickler können testen, ob der Zielprädiktor einer gültigen Domain-Logik folgt.
• Teams können die Konzeptgenauigkeit unabhängig von der Genauigkeit der finalen Aufgabe messen.

Diese Funktionen stimmen mit den NIST guidance on explainable AI und den im People + AI Guidebook diskutierten menschzentrierten Kontrollen überein. Eine verständliche Erklärung ist jedoch nicht automatisch eine korrekte. Die Konzepttreue muss evaluiert statt vorausgesetzt werden.

Praxisanwendungen#

• Medical Image Analysis: Ein Modell, das ein Röntgenbild untersucht, kann Konzepte wie Knochenspornen, Gelenkspaltverengungen und Sklerose schätzen, bevor es den Schweregrad der Erkrankung bewertet. Ein Arzt kann diese Zwischenbefunde überprüfen oder korrigieren, anstatt nur einen Schweregrad-Score zu erhalten. Diese Mensch-Modell-Interaktion ist besonders relevant für die FDA transparency principles for machine-learning medical devices.

• Manufacturing Visual Inspection: A vision system can identify concepts such as missing components, cracks, discoloration, or incorrect alignment, then use them to decide whether a product passes inspection or requires a particular repair. Object detection can localize components and defects, while the downstream concept-based classifier provides an auditable quality decision.

Einschränkungen und verwandte Konzepte#

Konzept-Labels erzeugen zusätzliche Kosten für die data annotation und erfordern möglicherweise Fachwissen. Unzureichend definierte Konzepte können subjektiv, korreliert, unvollständig oder aus der Eingabe nur schwer erkennbar sein. Teams sollten präzise Labeling-Regeln erstellen und Unstimmigkeiten unter den Annotatoren auditieren.

Weitere wichtige Risiken umfassen Konzeptvorhersagefehler, unkalibrierte Scores und Concept Leakage, bei dem kontinuierliche Konzeptwerte unbeabsichtigte Informationen über ihre angegebene Bedeutung hinaus kodieren. Leitlinien zur probability calibration können dabei helfen festzustellen, ob die Konfidenzwerte von Konzepten vertrauenswürdig sind.

Ein CBM unterscheidet sich zudem von Feature Engineering: Entwickelte Features sind manuell berechnete Eingaben, wohingegen Konzepte normalerweise aus Rohdaten vorhergesagt und explizit überwacht werden. Es ist auch nicht dasselbe wie das Prinzip des Information Bottleneck, welches Repräsentationen komprimiert, ohne zu verlangen, dass jede Dimension für Menschen lesbar ist.

Die Konzeptleistung sollte über relevante Datenscheiben hinweg überprüft werden, da voreingenommene Annotationen oder fehlende Konzepte ungleiche Fehler erzeugen können. Google’s guidance for identifying ML bias und das NIST AI RMF Core bieten nützliche Evaluierungs- und Governance-Praktiken.

Aufbau einer praktischen Vision-Pipeline#

Ein Ultralytics YOLO26 Modell kann als vorgelagerter visueller Konzept-Extraktor fungieren. Der folgende Predict mode workflow sammelt erkannte Objektklassen als Kandidaten-Konzeptsignale:

from ultralytics import YOLO

# Load a pretrained visual concept extractor
model = YOLO("yolo26n.pt")

# Run inference and select the first result
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into human-readable concept candidates
concepts = {result.names[int(class_id)] for class_id in result.boxes.cls}
print(sorted(concepts))

result.save(filename="concept_candidates.jpg")

Dies ist kein vollständiges CBM: Ein nachgeschaltetes Modell muss dennoch so trainiert werden, dass es das finale Ziel ausschließlich aus den ausgewählten Konzepten vorhersagt. Teams können die Ultralytics Platform verwenden, um visuelle Daten zu annotieren, Konzept-Extraktoren zu trainieren, Experimente zu vergleichen und bereitgestellte Komponenten zu überwachen. Evaluieren Sie Konzeptgenauigkeit, Zielgenauigkeit, Kalibrierung, Interaktionsverhalten und wichtige Untergruppen separat mithilfe eines strukturierten model evaluation workflow.