Data Provenance

Die Datenherkunft ist die dokumentierte Geschichte eines Datenelements: Woher es stammt, wer es erstellt oder gesammelt hat, unter welcher Lizenz oder mit welcher Einwilligung und welche Umwandlungen daran vorgenommen wurden, bevor es in ein Modell gelangte. Beim maschinellen Lernen umfasst die Herkunft Rohbilder oder -texte, die darauf angewandte Datenkennzeichnung, Bereinigungs- und Datenvorverarbeitungsschritte, Aufteilungen und Versionen von Datensätzen sowie die Trainingsläufe, die diese Daten verwendeten. So lässt sich jedes bereitgestellte Modell auf die genauen Trainingsdaten zurückführen, auf denen es beruht. Datenherkunft und Datenlinie werden oft synonym verwendet. Werden die Begriffe unterschieden, beschreibt die Datenlinie, wie Daten durch Pipelines und Systeme fließen und umgewandelt werden. Die Datenherkunft ergänzt Angaben zu Ursprung, Eigentümerschaft und Nutzungsrechten.

Das W3C-PROV-Modell#

Das W3C veröffentlichte PROV, eine Normenfamilie zur Darstellung der Datenherkunft, im Jahr 2013. Es beschreibt jede Art von Historie anhand von drei Typen: Entitäten wie Dateien und Datensätze; Aktivitäten wie Annotation oder Training, die Entitäten verwenden und erzeugen; sowie Agenten wie Personen, Organisationen oder Software, die für Aktivitäten verantwortlich sind. Bei der Anwendung auf einen Bilddatensatz entsteht ein Graph:

Warum Datenherkunft wichtig ist#

Datenherkunft hilft zunächst beim Debugging und bei der Reproduzierbarkeit. Wenn die Genauigkeit sinkt oder in der Produktion eine Datenverschiebung auftritt, kann ein Entwickler damit herausfinden, welcher Kennzeichnungsstapel, welche Quellkamera oder welcher Bereinigungsschritt das Problem verursacht hat, und das Training mit exakt denselben Daten erneut ausführen. Dieselben Aufzeichnungen machen Verzerrungen in Datensätzen sichtbar, etwa wenn ein Fußgängerdatensatz nur bei Tageslicht oder in einem einzigen Land aufgenommen wurde. Sie helfen auch, Datenvergiftung einzudämmen: Ist die Quelle jeder Stichprobe bekannt, lassen sich alle Stichproben aus einer kompromittierten Quelle entfernen.

Der zweite wichtige Aspekt sind Nutzungsrechte. Die Data Provenance Initiative prüfte 2023 mehr als 1.800 Textdatensätze und stellte fest, dass auf beliebten Hosting-Plattformen bei über 70 % der Datensätze Lizenzangaben fehlten und über 50 % falsch kategorisiert waren. Bei der Analyse medizinischer Bilder hält die Datenherkunft fest, welches Krankenhaus die jeweilige Aufnahme geliefert hat, welche Einwilligung oder Rechtsgrundlage ihre Verwendung gestattet und ob Identifikatoren entfernt wurden – Angaben, die Gesetze zum Datenschutz von Organisationen verlangen. Da sich generierte Bilder und Texte online verbreiten, hilft die Nachverfolgung, welche Stichproben synthetische Daten sind, auch dabei, einen Modellkollaps zu vermeiden. Content Credentials speichern diese Herkunftsinformationen direkt in Mediendateien.

Auch die Regulierung verlangt inzwischen entsprechende Angaben. Das EU-Gesetz über künstliche Intelligenz verpflichtet Anbieter von Hochrisikosystemen, Datenerhebungsverfahren und die Herkunft ihrer Daten zu dokumentieren. Anbieter von KI-Modellen für allgemeine Zwecke müssen außerdem eine Zusammenfassung ihrer Trainingsinhalte anhand einer Vorlage veröffentlichen, die die Europäische Kommission im Juli 2025 herausgegeben hat.

Datenherkunft in der Praxis dokumentieren#

Die Datenherkunft wird auf drei Ebenen erfasst. Die Datensatzdokumentation, etwa in Form von Datasheets für Datensätze, die Timnit Gebru und Kollegen 2018 vorschlugen, beantwortet Fragen zu Motivation, Zusammensetzung, Erhebungsverfahren, Vorverarbeitung und vorgesehenen Verwendungszwecken eines Datensatzes. Ergänzend kommen Modellkarten für die damit trainierten Modelle hinzu. Werkzeuge zur Versionsverwaltung erstellen Momentaufnahmen von Datensätzen und identifizieren Dateien anhand ihres Inhalts-Hashs, sodass ein Modell auf eine unveränderliche Datensatzversion verweisen kann. Pipeline-Werkzeuge erzeugen während der Ausführung von Aufträgen Datenlinienereignisse und orientieren sich dabei an offenen Spezifikationen wie OpenLineage.

Die dritte Ebene sind Metadaten, die in den Artefakten selbst gespeichert werden. Jeder Trainingslauf von Ultralytics YOLO schreibt seine vollständige Konfiguration, einschließlich des YAML-Pfads zum Datensatz und der Einstellungen für die Datenerweiterung, in args.yaml im Laufverzeichnis. Der gespeicherte Checkpoint enthält dieselben Trainingsargumente sowie die Ultralytics-Version und das Speicherdatum:

from ultralytics import YOLO

# Checkpoint laden; Ultralytics-Gewichtsdateien enthalten einen Eintrag zum Trainingslauf, mit dem sie erzeugt wurden
model = YOLO("yolo26n.pt")
ckpt = model.ckpt

# Für das Training verwendeter Datensatz und Einstellungen sowie Paketversion und Speicherdatum
print(ckpt["train_args"]["data"], ckpt["train_args"]["epochs"], ckpt["train_args"]["imgsz"])
print(ckpt["version"], ckpt["date"])

Dieser Eintrag verknüpft Modellgewichte mit den Datenreferenzen und Einstellungen, aus denen sie hervorgegangen sind – ein Nachweis, auf den Prüfungen der Transparenz von KI und der KI-Governance angewiesen sind. Nach Abschluss des Trainings entfernt Ultralytics den Optimiererzustand aus best.pt, um die Datei zu verkleinern, behält diese Felder jedoch bei. So bleibt der Eintrag mit der bereitgestellten Datei verknüpft.