Concept Bottleneck Models

Modelle mit Konzeptengpass (CBMs) sind neuronale Netze, die eine Vorhersage über eine Zwischenschicht mit für Menschen verständlichen Konzepten treffen. Statt eine Eingabe direkt auf ein endgültiges Label abzubilden, sagt ein CBM zunächst aussagekräftige Attribute voraus – etwa „roter Flügel“, „Oberflächenriss“ oder „Gelenkspaltverschmälerung“ – und verwendet anschließend nur diese Attribute für seine Entscheidung. Dadurch lässt sich das Modell leichter untersuchen, debuggen und korrigieren als ein herkömmliches Black-Box-Modell.

Funktionsweise von Modellen mit Konzeptengpass#

Ein standardmäßiges neuronales Netz stellt Informationen häufig in einem undurchsichtigen latenten Raum dar. Ein CBM ersetzt einen Teil dieser verborgenen Repräsentation durch einen Konzeptvektor, dessen Dimensionen festgelegte Bedeutungen haben.

Die Vorhersagepipeline besteht aus zwei Hauptphasen:

1. Ein Konzeptprädiktor bildet rohe Eingaben, beispielsweise ein Bild, auf Konzeptwerte ab.
2. Ein Zielprädiktor bildet diese Konzeptwerte auf die endgültige Klasse oder den endgültigen Score ab.

So könnte ein Vogelklassifikator zunächst „schwarzer Schnabel“, „weiße Brust“ und „langer Schwanz“ vorhersagen, bevor er die Art bestimmt. Konzepte können binär, kategorial oder kontinuierlich sein. Sie werden üblicherweise durch überwachtes Lernen erlernt, wobei jedes Trainingsbeispiel sowohl die Ziel-Labels als auch Konzeptannotationen enthalten muss.

Die beiden Phasen können unabhängig voneinander, nacheinander oder gemeinsam trainiert werden. Beim unabhängigen Training wird die Trennung explizit, während gemeinsames Training die Konzeptqualität gegen die Leistung bei der endgültigen Aufgabe abwägen kann. In jedem Fall sollte der Engpass den Zielprädiktor auf die angegebenen Konzepte beschränken; andernfalls können verborgene Informationen die beabsichtigte Erklärung umgehen.

Warum Interpretierbarkeit und Intervention wichtig sind#

CBMs sind eine Form intrinsischer erklärbarer KI: Ihre interpretierbare Struktur ist in die Vorhersage integriert, statt nachträglich hinzugefügt zu werden. Dies unterscheidet sie von nachträglichen Werkzeugen wie Salienz-Karten, die schätzen, was ein bereits trainiertes Black-Box-Modell beeinflusst hat.

Die Konzeptschicht ermöglicht mehrere nützliche Interaktionen:

• Nutzer können prüfen, welche Konzepte eine Entscheidung verursacht haben.
• Fachleute können ein ungenaues Konzept korrigieren und die Ausgabe neu berechnen.
• Entwickler können testen, ob der Zielprädiktor einer gültigen fachlichen Logik folgt.
• Teams können die Konzeptgenauigkeit getrennt von der Genauigkeit der endgültigen Aufgabe messen.

Diese Fähigkeiten stimmen mit den NIST-Leitlinien zur erklärbaren KI und den im People + AI Guidebook beschriebenen menschenzentrierten Kontrollen überein. Eine verständliche Erklärung ist jedoch nicht automatisch korrekt. Die Konzepttreue muss bewertet und darf nicht einfach vorausgesetzt werden.

Anwendungen in der Praxis#

• Medizinische Bildanalyse: Ein Modell, das ein Röntgenbild untersucht, könnte zunächst Konzepte wie Knochenneubildungen, Gelenkspaltverschmälerung und Sklerose schätzen, bevor es den Schweregrad der Erkrankung bewertet. Ein Arzt kann diese Zwischenergebnisse prüfen oder korrigieren, statt nur einen Schweregrad-Score zu erhalten. Diese Interaktion zwischen Mensch und Modell ist besonders relevant für die Transparenzgrundsätze der FDA für medizinische Geräte mit maschinellem Lernen.

• Visuelle Qualitätsprüfung in der Fertigung: Ein Bildverarbeitungssystem kann Konzepte wie fehlende Komponenten, Risse, Verfärbungen oder eine falsche Ausrichtung erkennen und anschließend anhand dieser Konzepte entscheiden, ob ein Produkt die Prüfung besteht oder eine bestimmte Reparatur benötigt. Die Objekterkennung kann Komponenten und Defekte lokalisieren, während der nachgelagerte konzeptbasierte Klassifikator eine prüfbare Qualitätsentscheidung liefert.

Einschränkungen und verwandte Konzepte#

Konzept-Labels verursachen zusätzliche Kosten für die Datenannotation und können Spezialwissen erfordern. Schlecht definierte Konzepte können subjektiv, korreliert oder unvollständig sein oder sich nur schwer aus der Eingabe erkennen lassen. Teams sollten präzise Regeln für die Kennzeichnung erstellen und abweichende Bewertungen zwischen Annotatoren überprüfen.

Weitere wichtige Risiken sind Fehler bei der Konzeptvorhersage, nicht kalibrierte Scores und Konzeptleckage, bei der kontinuierliche Konzeptwerte unbeabsichtigte Informationen über ihre angegebene Bedeutung hinaus codieren. Die Leitlinien zur Wahrscheinlichkeitskalibrierung können dabei helfen festzustellen, ob die Konfidenzwerte der Konzepte vertrauenswürdig sind.

Ein CBM unterscheidet sich außerdem vom Feature Engineering: Bei manuell entwickelten Merkmalen handelt es sich um berechnete Eingaben, während Konzepte normalerweise aus Rohdaten vorhergesagt und explizit überwacht werden. Es ist auch nicht dasselbe wie das Informationsengpassprinzip, das Repräsentationen komprimiert, ohne zu verlangen, dass jede Dimension für Menschen verständlich ist.

Die Konzeptleistung sollte über relevante Datenausschnitte hinweg geprüft werden, da verzerrte Annotationen oder fehlende Konzepte zu ungleichen Fehlern führen können. Die Leitlinien von Google zur Erkennung von Verzerrungen in ML und der NIST AI RMF Core bieten hilfreiche Verfahren für Bewertung und Governance.

Aufbau einer praxisnahen Bildverarbeitungspipeline#

Ein Ultralytics YOLO26-Modell kann als vorgelagerter visueller Konzept-Extraktor dienen. Der folgende Workflow im Predict-Modus sammelt erkannte Objektklassen als mögliche Konzeptsignale:

from ultralytics import YOLO

# Load a pretrained visual concept extractor
model = YOLO("yolo26n.pt")

# Run inference and select the first result
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into human-readable concept candidates
concepts = {result.names[int(class_id)] for class_id in result.boxes.cls}
print(sorted(concepts))

result.save(filename="concept_candidates.jpg")

Dies ist kein vollständiges CBM: Ein nachgelagertes Modell muss weiterhin trainiert werden, um das endgültige Ziel ausschließlich anhand der ausgewählten Konzepte vorherzusagen. Teams können die Ultralytics Platform verwenden, um visuelle Daten zu annotieren, Konzept-Extraktoren zu trainieren, Experimente zu vergleichen und bereitgestellte Komponenten zu überwachen. Bewerte Konzeptgenauigkeit, Zielgenauigkeit, Kalibrierung, Interventionsverhalten und wichtige Untergruppen getrennt mithilfe eines strukturierten Workflows zur Modellbewertung.