Uncertainty Quantification

Quantifizierung von Unsicherheit (UQ) bezeichnet die Praxis, einzuschätzen, wie unsicher ein Maschinelles-Lernen-Modell hinsichtlich jeder Vorhersage ist, und zu prüfen, ob diese Einschätzungen verlässlich sind. Zusätzlich zu einer Bezeichnung, einem Wert oder einer Bounding Box liefert ein Modell mit UQ eine Wahrscheinlichkeitsverteilung, ein Vorhersageintervall, eine Menge plausibler Bezeichnungen oder eine Varianz. Systeme nutzen diese Einschätzungen, um zu entscheiden, wann sie automatisch handeln, wann sie an eine Person übergeben und welche neuen Daten sie erfassen. Ein Konfidenzwert ist eine solche Einschätzung. Bei UQ wird außerdem geprüft, ob dieser Wert kalibriert ist – ob Vorhersagen mit einer Konfidenz von 80 % also in etwa 80 % der Fälle richtig sind.

Aleatorische und epistemische Unsicherheit#

Vorhersageunsicherheit hat zwei Ursachen. Diese Unterscheidung übertrugen Alex Kendall und Yarin Gal 2017 in ihrer Arbeit What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision? auf das Deep Learning für die Bildverarbeitung:

• Aleatorische Unsicherheit: Rauschen in den Daten selbst, etwa Bewegungsunschärfe, Sensorrauschen, Verdeckung oder uneinheitliche Bezeichnungen, bei denen sich Annotatoren nicht einig sind. Mehr Trainingsdaten beseitigen sie nicht, weil die Eingabe die fehlenden Informationen nicht enthält. Ein Modell kann lernen, sie als zusätzliche Ausgabe vorherzusagen, zum Beispiel als Varianz für jede Tiefenschätzung.
• Epistemische Unsicherheit: Fehlendes Wissen des Modells. Sie ist bei Eingaben hoch, die sich von allem in den Trainingsdaten unterscheiden, etwa bei einer neuen Kamera, Jahreszeit oder Objektart. Sie nimmt ab, wenn relevante Daten hinzukommen, und weist daher auf Datenverschiebungen und Eingaben außerhalb der Trainingsverteilung hin.

Die Unterscheidung bestimmt, wie mit einer unsicheren Vorhersage umzugehen ist:

Methoden zur Einschätzung der Unsicherheit#

• Vorhergesagte Wahrscheinlichkeiten: Die Softmax-Ausgabe eines Klassifikators ist die kostengünstigste Einschätzung. Eine Studie von Chuan Guo und Kollegen aus dem Jahr 2017 ergab jedoch, dass moderne tiefe Netzwerke systematisch zu selbstsicher sind. Eine Temperaturskalierung anhand zurückgehaltener Daten korrigiert einen großen Teil der Abweichung.
• Monte-Carlo-Dropout: Lässt Dropout bei der Inferenz aktiv und führt die Eingabe mehrmals aus. Die Streuung der Ausgaben wird dabei als näherungsweise bayessche Unsicherheit interpretiert, wie Yarin Gal und Zoubin Ghahramani 2016 zeigten.
• Tiefe Modellensembles: Trainieren mehrere Kopien eines Netzwerks mit unterschiedlichen zufälligen Initialisierungen und messen ihre Abweichungen voneinander. Die Methode wurde 2017 von Balaji Lakshminarayanan und Kollegen bei DeepMind eingeführt. In einem umfassenden Vergleich von UQ-Methoden durch Google schnitten Ensembles 2019 bei einer Verschiebung des Datensatzes am besten ab.
• Konforme Vorhersage: Ergänzt ein beliebiges Modell um Vorhersagemengen oder -intervalle, die mit einer gewählten Wahrscheinlichkeit, etwa 95 %, die tatsächliche Antwort enthalten.
• Semantische Entropie: Erzeugt mehrere Antworten eines großen Sprachmodells (LLM) und misst, wie viele verschiedene Bedeutungen darin ausgedrückt werden – ein Signal zum Erkennen von Halluzinationen.

Ein tiefes Ensemble bei einer eindimensionalen Regressionsaufgabe veranschaulicht die epistemische Unsicherheit:

import numpy as np
from sklearn.neural_network import MLPRegressor

# Noisy samples of sin(x), observed only between -3 and 3
rng = np.random.default_rng(0)
x = rng.uniform(-3, 3, (200, 1))
y = np.sin(x).ravel() + rng.normal(0, 0.1, 200)

# Deep ensemble: the same network trained from five random initializations
ensemble = [MLPRegressor(hidden_layer_sizes=(32, 32), max_iter=3000, random_state=seed).fit(x, y) for seed in range(5)]

# Members agree where data exists and diverge where it does not
for x_new in (1.0, 8.0):
    preds = np.array([m.predict([[x_new]])[0] for m in ensemble])
    print(f"x={x_new}: mean {preds.mean():+.2f}, std {preds.std():.2f}")

Bei x = 1, innerhalb des Trainingsbereichs, sagen die fünf Netzwerke einen Mittelwert von 0.86 bei einem tatsächlichen Wert von 0.84 und einer Standardabweichung von 0.01 voraus. Bei x = 8, weit außerhalb des Bereichs, sagen sie -1.17 bei einem tatsächlichen Wert von 0.99 voraus; die Standardabweichung steigt auf 0.59. Das Ensemble kennzeichnet somit genau die Vorhersage, die falsch ist.

Unsicherheitsschätzungen bewerten#

Die Kalibrierung wird anhand eines Zuverlässigkeitsdiagramms geprüft, das Vorhersagen nach Konfidenz gruppiert und die tatsächliche Genauigkeit jeder Gruppe darstellt. Zusammengefasst wird sie durch den erwarteten Kalibrierungsfehler oder den Brier-Score. Vorhersageintervalle werden anhand ihrer Abdeckung bewertet – dem Anteil tatsächlicher Werte innerhalb des Intervalls – sowie anhand ihrer Breite, denn ein Intervall, das breit genug ist, alles abzudecken, enthält keine Informationen. Die Erkennung von Eingaben außerhalb der Verteilung wird mit der Fläche unter der ROC-Kurve bewertet, die vertraute von unvertrauten Eingaben trennt. Benchmarks berichten die Kalibrierung inzwischen neben der Genauigkeit: Humanity's Last Exam ergab für LLMs aus der ersten Veröffentlichungsphase Kalibrierungsfehler zwischen 73 % und 89 %.

Anwendungen#

• Medizinische Bildanalyse: Diagnostische Modelle im Gesundheitswesen leiten Aufnahmen mit hoher Unsicherheit an einen Radiologen weiter. So werden eindeutige Fälle automatisiert und mehrdeutige von Menschen geprüft.
• Autonome Fahrzeuge: Wahrnehmungssysteme vergrößern Sicherheitsabstände oder übergeben die Kontrolle zurück, wenn die Unsicherheit bei Tiefenmessung oder Erkennung zunimmt, etwa bei Nebel oder Blendung.
• Aktives Lernen: Die Unsicherheit bestimmt, welche nicht beschrifteten Bilder annotiert werden sollten, denn aus den Beispielen, bei denen sich ein Modell am unsichersten ist, lernt es am meisten.

Beim aktiven Lernen nutzen Erkennungspipelines Unsicherheit besonders direkt. Die Vorlage „Unsichere Erkennungen sammeln“ in Ultralytics Platform Agents verarbeitet die Bilder eines Datensatzes mit einem bereitgestellten YOLO26-Modell und kopiert jedes Bild, das mindestens eine Erkennung mit einer Konfidenz im ausgewählten Bereich enthält – etwa 0.25 bis 0.5 –, unbeschriftet in einen Prüfdatenbestand, bereit für die Annotation und das erneute Training.