Model Card
Eine Modellkarte dokumentiert den vorgesehenen Einsatzzweck, die Trainingsdaten, die Evaluationsergebnisse und die Grenzen eines trainierten Modells. Dieses Format wurde 2018 von Google-Forschenden vorgeschlagen.
Eine Modellkarte ist ein kurzes Dokument, das zusammen mit einem trainierten Modell des maschinellen Lernens veröffentlicht wird. Sie hält fest, wofür das Modell gedacht ist, wie es trainiert und ausgewertet wurde, wie es sich bei verschiedenen Gruppen und unter unterschiedlichen Bedingungen verhält und wo es versagt. Margaret Mitchell, Timnit Gebru und ihre Kollegen bei Google schlugen das Format 2018 in der Arbeit Model Cards for Model Reporting vor, die auf der Konferenz FAT* 2019 vorgestellt wurde. Modellkarten sind inzwischen gängige Praxis für Transparenz bei KI: In einem Modell-Repository auf Hugging Face wird die Modellkarte als Startseite angezeigt, und KI-Labore veröffentlichen zu wichtigen Versionen eigene Karten, etwa die Modellkarte für Claude 3, die Anthropic 2024 veröffentlichte.
Was eine Modellkarte enthält#
Die ursprüngliche Arbeit schlug neun Abschnitte vor:
- Modelldetails: Entwickler, Version, Datum, Architektur, Lizenz und Kontakt für Fragen.
- Vorgesehene Verwendung: Die hauptsächlichen Einsatzbereiche und Nutzer, für die das Modell entwickelt wurde, sowie nicht vorgesehene Einsatzbereiche.
- Einflussfaktoren: Gruppen, Geräte und Umgebungen, die die Leistung beeinflussen können, etwa Altersgruppe, Kameratyp oder Beleuchtung.
- Kennzahlen: Welche Leistungskennzahlen angegeben werden, bei welchen Entscheidungsschwellen sie ermittelt wurden und warum man sie ausgewählt hat.
- Auswertungsdaten: Die für die Prüfung verwendeten Datensätze und die Gründe für ihre Auswahl.
- Trainingsdaten: Die Daten, anhand derer das Modell gelernt hat, so detailliert beschrieben, wie es sich weitergeben lässt.
- Quantitative Analysen: Ergebnisse, aufgeschlüsselt nach den einzelnen Einflussfaktoren und ihren Kombinationen.
- Ethische Überlegungen: Sensible Daten, Risiken für Menschen und angewandte Maßnahmen zur Risikominderung.
- Einschränkungen und Empfehlungen: Bekannte Lücken, etwa Bedingungen, unter denen das Modell nie geprüft wurde.
Quantitative Analysen sind der Kern des Konzepts. Ein einzelner Spitzenwert kann Fehler verschleiern, die sich auf eine Untergruppe konzentrieren. Daher berichtet die Beispielkarte der Arbeit für einen mit dem CelebA-Gesichtsdatensatz trainierten Lächeldetektor die Fehlerraten getrennt nach Alter und Geschlecht. Diese aufgeschlüsselte Auswertung macht algorithmische Verzerrungen und Verzerrungen in Datensätzen sichtbar. Für ein Objekterkennungsmodell führt derselbe Abschnitt die mittlere durchschnittliche Genauigkeit (mAP) für jede Klasse und Bedingung auf, etwa kleine Objekte, Nachtaufnahmen oder einzelne Kameras. Außerdem enthält er die Inferenzlatenz auf der vorgesehenen Hardware.
Modellkarten auf Hugging Face#
Auf dem Hugging Face Hub ist eine Modellkarte die README.md des Repositorys: Markdown-Abschnitte für Menschen, die unter einer YAML-Metadatenkopfzeile stehen. Der Hub liest diese Kopfzeile ein, um Modelle nach Aufgabe, Lizenz und Datensatz zu filtern und Auswertungsergebnisse anzuzeigen. Die Bibliothek huggingface_hub erstellt beide Teile anhand strukturierter Daten:
from huggingface_hub import EvalResult, ModelCard, ModelCardData
from torchvision.models import ResNet50_Weights
# Torchvision liefert die veröffentlichte ImageNet-Genauigkeit für jeden Gewichtssatz mit
weights = ResNet50_Weights.IMAGENET1K_V2
top1 = weights.meta["_metrics"]["ImageNet-1K"]["acc@1"]
# Maschinenlesbare Metadaten: Bibliothek, Trainingsdaten und Auswertungsergebnisse
result = EvalResult(
task_type="image-classification",
dataset_type="imagenet-1k",
dataset_name="ImageNet-1K",
metric_type="accuracy",
metric_value=top1,
)
card_data = ModelCardData(
model_name="resnet50", library_name="torchvision", datasets=["imagenet-1k"], eval_results=[result]
)
# Die Standardvorlage ausfüllen: eine YAML-Kopfzeile, gefolgt von Markdown-Abschnitten
card = ModelCard.from_template(card_data, model_summary="ResNet-50 image classifier trained on ImageNet-1K.")
print(card.data.to_yaml())
print([line[3:] for line in card.content.splitlines() if line.startswith("## ")])Die YAML-Ausgabe führt den Trainingsdatensatz sowie einen Block model-index auf, der eine Top-1-Genauigkeit von 80,858 % auf ImageNet-1K angibt. Der Hub zeigt diesen Wert als Auswertungsergebnis an. Die zweite Zeile gibt die Abschnitte der Vorlage aus: von Model Details und Uses über Bias, Risks, and Limitations bis hin zu Evaluation and Environmental Impact. Die Vorlage geht direkt auf die neun Abschnitte der ursprünglichen Arbeit zurück.
Verwandte Dokumentation#
- Datenblätter für Datensätze: Timnit Gebru und ihre Kollegen schlugen sie 2018 vor. Sie dokumentieren, wie ein Datensatz erfasst und beschriftet wurde und wofür er vorgesehen ist. Eine Modellkarte verweist auf das Datenblatt ihrer Trainingsdaten, statt dessen Inhalt zu wiederholen.
- Systemkarten: Beschreiben ein eingesetztes KI-System, das aus mehreren Modellen, Prompts, Sicherheitsfiltern und menschlichen Arbeitsabläufen besteht. Meta führte den Begriff 2022 ein. Inzwischen veröffentlichen auch Labore wie OpenAI, die große Sprachmodelle (LLMs) entwickeln, zu jeder wichtigen Modellversion eine Systemkarte.
- Modellregister: Speichert Modelldateien, Versionen und deren Entwicklungslinie. Die Modellkarte erläutert, wofür sich die einzelnen registrierten Versionen eignen.
- Erklärbare KI (XAI): Erläutert, warum ein Modell eine bestimmte Vorhersage getroffen hat. Eine Modellkarte beschreibt dagegen das Verhalten über einen gesamten Auswertungsdatensatz hinweg.
Durch Vorschriften ist das Format in manchen Bereichen verbindlich geworden. Nach dem EU-KI-Gesetz müssen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck seit dem 2. August 2025 technische Dokumentationen zu Training und Auswertung führen und Entwicklern, die ihre Modelle einsetzen, Informationen zu Fähigkeiten und Einschränkungen bereitstellen. Der Verhaltenskodex der Kommission für KI-Modelle mit allgemeinem Verwendungszweck enthält dafür ein Formular zur Modelldokumentation mit modellkartenähnlichen Feldern wie vorgesehenen Einsatzbereichen, Trainingsdaten und Energieverbrauch. Modellkarten sind Teil der umfassenderen Praxis von KI-Governance und verantwortungsvoller KI.
Modellkarte aktuell halten#
Eine Modellkarte beschreibt eine bestimmte Modellversion und muss daher aktualisiert werden, wenn sich das Modell, seine Daten oder die Einsatzbedingungen ändern. Das Monitoring von Modellen in der Produktion liefert die nötigen Belege: Eine Datenverschiebung oder eine neue Fehlerart wird in der Modellkarte der nächsten Version als Einschränkung festgehalten.
Ein Teil einer Modellkarte kann auch in der Modelldatei enthalten sein. Wenn Ultralytics YOLO26-Modelle in Formate wie ONNX oder OpenVINO exportiert werden, bettet der Exporter Metadaten ein, die den Trainingsdatensatz, den Autor, das Exportdatum, die Paketversion, die Lizenz, die Aufgabe, die Eingabegröße und die Klassennamen angeben. So bleibt auch in einer bereitgestellten Kopie erkennbar, um welches Modell es sich handelt und was es erkennt.










