Shortcut Learning

Abkürzungslernen tritt auf, wenn ein Modell seine Trainingsaufgabe mithilfe eines einfachen Hinweises löst, der in den Trainingsdaten die Bezeichnung vorhersagt, aber nichts mit dem Konzept zu tun hat, das es eigentlich lernen sollte. Das Modell erzielt bei jedem Testsatz, der denselben Hinweis enthält, gute Ergebnisse und versagt, sobald der Hinweis wegfällt. Robert Geirhos und Kollegen beschrieben das Problem in Shortcut Learning in Deep Neural Networks, einer Perspektive aus dem Jahr 2020 in Nature Machine Intelligence. Sie definierten Abkürzungen als Entscheidungsregeln, die bei Standard-Benchmarks gut abschneiden, sich aber nicht auf anspruchsvollere Bedingungen wie den Einsatz in der realen Welt übertragen lassen. Das klassische Gleichnis ist Clever Hans, das Pferd, das scheinbar rechnen konnte, tatsächlich aber die Körpersprache seines Trainers las.

Abkürzungen in veröffentlichten Modellen#

Shortcuts wurden in vielen veröffentlichten Modellen gefunden:

• Krankenhausmerkmale in medizinischen Bildern: In einer Studie von John Zech und Kollegen aus dem Jahr 2018 konnten Lungenentzündungs-Klassifikatoren, die mit Röntgenaufnahmen des Brustkorbs aus mehreren Krankenhaussystemen trainiert wurden, erkennen, aus welchem Krankenhaus ein Bild stammte. Da sich die Erkrankungsraten zwischen Krankenhäusern unterschieden, halfen diese Herkunftsinformationen bei der Vorhersage der Diagnose. Außerhalb der Trainingsdaten war die Leistung bei Krankenhäusern oft geringer – ein wiederkehrendes Risiko für KI in der Radiologie.
• COVID-19-Röntgenbilder: Eine Analyse von Alex DeGrave und Kollegen aus dem Jahr 2021 ergab, dass COVID-19-Detektoren Textmarkierungen, die Position der Patienten und Unterschiede zwischen Datenquellen statt Lungenbefunden nutzten. Bei Daten aus neuen Krankenhäusern verloren sie einen großen Teil ihrer Genauigkeit.
• Hintergründe auf Kamerafallenfotos: Die Studie „Recognition in Terra Incognita“ von Sara Beery und Kollegen aus dem Jahr 2018 zeigte, dass Bildklassifizierungsmodelle Tiere mit den Orten und Hintergründen verknüpften, an denen sie fotografiert worden waren. An neuen Kamerastandorten sank daher die Genauigkeit. Das ist ein bekanntes Problem für KI im Wildtierschutz. Die Arbeit beginnt mit einer Kuh an einem Strand, die ein kommerzieller Bildklassifikator nicht erkannte, während Kühe auf Alpenweiden korrekt klassifiziert wurden.
• Textur statt Form: Wie Geirhos und Kollegen 2019 zeigten, klassifizierten auf ImageNet trainierte faltende neuronale Netze ein Bild mit der Form einer Katze und der Hauttextur eines Elefanten als Elefanten.

Warum die Standardvalidierung das Problem übersieht#

Eine zufällige Aufteilung in Trainings- und Validierungsdaten kopiert die Abkürzung in beide Teilmengen, sodass die Genauigkeit bei den Validierungsdaten ausgezeichnet aussieht. Der Fehler zeigt sich erst bei anders erhobenen Daten: von einem neuen Standort, einer neuen Kamera, einem anderen Krankenhaus, einer neuen Jahreszeit oder einem anderen Zeitraum.

Das unterscheidet Shortcut Learning von verwandten Problemen:

• Überanpassung: Das Modell merkt sich das trainingsspezifische Rauschen. Das zeigt sich in einer Abweichung zwischen Trainings- und Validierungswerten. Eine Abkürzung kann sich perfekt auf einen Validierungssatz übertragen, der aus derselben Quelle stammt.
• Datenleckage: Informationen, die zum Vorhersagezeitpunkt nicht verfügbar sein werden, gelangen in die Merkmale oder Aufteilungen. Datenleckage ist ein bestimmter, oft versehentlicher Weg, auf dem eine Abkürzung in einen Datensatz gelangt.
• Datensatzverzerrung: Die Schieflage in erhobenen Daten, etwa wenn alle positiven Beispiele von einem Scanner stammen, bietet einer Abkürzung einen Anhaltspunkt.

Mit wenigen Zeilen scikit-learn lässt sich der Fehler anhand einer logistischen Regression mit zwei Merkmalen reproduzieren: einem schwachen echten Signal und einer Abkürzung, die das Label in den Trainingsdaten nahezu perfekt vorhersagt.

import numpy as np
from sklearn.linear_model import LogisticRegression

rng = np.random.default_rng(0)
labels = rng.integers(0, 2, 2000)

# A weak genuine signal and a shortcut that tracks the label almost perfectly
signal = labels + rng.normal(0, 1.0, labels.size)
shortcut = labels + rng.normal(0, 0.1, labels.size)

model = LogisticRegression()
model.fit(np.column_stack([signal, shortcut]), labels)

# At deployment the shortcut no longer carries any label information
shifted = rng.permutation(shortcut)
print(f"In-distribution accuracy: {model.score(np.column_stack([signal, shortcut]), labels):.2f}")
print(f"Shifted accuracy: {model.score(np.column_stack([signal, shifted]), labels):.2f}")

Sobald die Abkürzung durchmischt wird, sinkt die Genauigkeit von 1,00 auf 0,52. Das echte Signal allein ermöglicht eine Genauigkeit von etwa 70 %. Das Modell wies der Abkürzung jedoch einen Koeffizienten zu, der etwa 18-mal größer war als der des Signals. Daher lernte es fast nichts aus dem schwierigeren Hinweis.

Shortcuts finden und beseitigen#

Am zuverlässigsten ist ein Test mit Daten, denen die Abkürzung nicht folgen kann: Ganze Standorte, Kameras oder Zeiträume werden aus dem Training zurückgehalten, statt zufällig ausgewählte Bilder auszuschließen. Ein großer Abstand zwischen diesem Wert und dem Wert innerhalb der Verteilung deutet auf Hintergrund-, Beleuchtungs- oder Sensorsignale hin. Die Datenexploration findet mögliche Ursachen vor dem Training. Das Clustering-Feld in der Ultralytics Platform ordnet visuell ähnliche Bilder auf einer zweidimensionalen Karte nahe beieinander an und färbt sie nach Klasse, Aufteilung oder Bildbreite und -höhe ein. So fällt eine Klasse, die eine eigene Insel bildet, weil ihre Bilder von einer einzigen Kamera stammen, auf, bevor ein YOLO26-Modell statt des Objekts die Kamera erlernt.

Gegenfaktische Änderungen prüfen einen vermuteten Hinweis direkt. Wird der Hintergrund ausgetauscht, eine Einblendung entfernt oder eine Markierung weggeschnitten, bleibt eine korrekte Vorhersage unverändert, während eine durch eine Abkürzung bestimmte Vorhersage kippt. Attributionsmethoden der erklärbaren KI (XAI), etwa Salienzkarten, zeigen, welche Pixel eine Vorhersage beeinflussen. In der COVID-19-Studie hoben sie Bildränder und Text statt der Lungen hervor.

Um eine Abkürzung zu beheben, müssen meist die Daten geändert werden. Werden Beispiele gesammelt, bei denen Hinweis und Label nicht übereinstimmen – etwa fehlerhafte Bauteile, die auf jedem Tablett und vor jedem Hintergrund fotografiert wurden –, wird die Korrelation aufgehoben. Datenerweiterung, bei der Farbe, Maßstab und Platzierung variiert werden, schwächt Hinweise, die mit diesen Eigenschaften verbunden sind. Domänenrandomisierung bewirkt dasselbe bei synthetischen Bildern, indem Texturen, Beleuchtung und Hintergründe zufällig variiert werden. Sind die Gruppen bekannt, die eine Abkürzung tragen, minimiert eine gruppenbasierte verteilungsrobuste Optimierung den Verlust der leistungsschwächsten Gruppe statt des durchschnittlichen Verlusts.