Data Security

Datensicherheit schützt digitale Daten während ihres gesamten Lebenszyklus vor unbefugtem Zugriff, Diebstahl, Manipulation und Verlust – von der Erfassung und Speicherung über die Verarbeitung und Weitergabe bis hin zur Löschung. Ihre Ziele werden üblicherweise als CIA-Triade bezeichnet: Vertraulichkeit, damit nur autorisierte Personen und Systeme die Daten lesen können; Integrität, damit die Daten korrekt und unverändert bleiben; und Verfügbarkeit, damit die Daten bei Bedarf genutzt werden können. Das NIST-Cybersicherheits-Framework 2.0, veröffentlicht im Februar 2024, gliedert die Arbeit in sechs Funktionen: Governance, Identifizieren, Schützen, Erkennen, Reagieren und Wiederherstellen. Beim maschinellen Lernen umfassen die zu schützenden Daten Trainingsdaten und deren Labels, Modellgewichte, die das aus den Daten Gelernte codieren, die für Inferenz übermittelten Bilder und Prompts sowie die Protokolle, die diese erfassen.

Zentrale Kontrollen#

Datensicherheit umfasst mehrere Schutzebenen, damit bei einem Ausfall einer Kontrolle nicht alles offengelegt wird:

• Verschlüsselung: Gespeicherte Daten werden mit Verfahren wie AES-256 verschlüsselt, und Daten werden während der Übertragung über TLS gesendet.
• Zugriffskontrolle: Jede Person und jeder Dienst erhält über Rollen, Mehr-Faktor-Authentifizierung und kurzlebige Zugangsdaten statt gemeinsam genutzter Passwörter nur die unbedingt nötigen Berechtigungen.
• Schlüssel- und Geheimnisverwaltung: Verschlüsselungsschlüssel werden getrennt von den Daten in einem Schlüsselverwaltungsdienst oder einem Hardware-Sicherheitsmodul aufbewahrt und regelmäßig gewechselt. API-Schlüssel gehören nicht in den Quellcode oder in Notebooks.
• Integritätsprüfungen und Sicherungskopien: Prüfsummen und digitale Signaturen erkennen veränderte Dateien, und versionierte, unveränderliche Sicherungskopien ermöglichen die Wiederherstellung nach einem Ransomware-Angriff oder einer versehentlichen Löschung.
• Audit-Protokollierung: Jeder Lese- und Schreibvorgang sowie jede Berechtigungsänderung wird aufgezeichnet, damit ungewöhnliche Zugriffe erkannt und untersucht werden können, etwa wenn ein Konto nachts einen ganzen Datensatz herunterlädt.

Authentifizierte Verschlüsselung gewährleistet Vertraulichkeit und Integrität zugleich. Dieses Beispiel verwendet Fernet aus dem Python-Paket cryptography, um eine Zeile einer Labeldatei zu verschlüsseln und anschließend ein einzelnes umgekipptes Bit zu erkennen:

import base64

from cryptography.fernet import Fernet, InvalidToken

# In der Produktion stammt der Schlüssel aus einem Schlüsselverwaltungsdienst und wird niemals zusammen mit den Daten gespeichert
cipher = Fernet(Fernet.generate_key())

label = b"0 0.48 0.63 0.21 0.37\n"  # eine YOLO-Annotationszeile
token = cipher.encrypt(label)  # AES-128-CBC-Chiffretext plus ein HMAC-SHA256-Tag
print(cipher.decrypt(token) == label)

# Ein Bit des gespeicherten Chiffretexts umkippen, wie es bei Manipulation oder einer Beschädigung des Datenträgers passieren würde
raw = bytearray(base64.urlsafe_b64decode(token))
raw[30] ^= 1
try:
    cipher.decrypt(base64.urlsafe_b64encode(bytes(raw)))
except InvalidToken:
    print("Integrity check failed: decryption refused")

Die erste Zeile gibt True aus, weil das intakte Token wieder zum ursprünglichen Label entschlüsselt wird. Nachdem ein Bit des Chiffretexts geändert wurde, stimmt das HMAC-Tag nicht mehr überein. Daher löst decrypt den Fehler InvalidToken aus und gibt Integrity check failed: decryption refused aus, ohne veränderte Daten zurückzugeben.

Datensicherheit beim maschinellen Lernen#

KI-Systeme bieten Angriffsflächen, die gewöhnliche Datenbanken nicht aufweisen:

• Datenvergiftung: Ein Angreifer, der in einen Datensatz, eine Labeling-Warteschlange oder eine gescrapte Webquelle schreiben kann, fügt Beispiele ein, die das trainierte Modell zu Fehlverhalten bringen – oft nur dann, wenn ein verborgener Auslöser erscheint.
• Unsichere Modelldateien: Mit Pythons pickle gespeicherte Checkpoints können beim Laden beliebigen Code ausführen. PyTorch 2.6 stellte torch.load standardmäßig auf weights_only=True ein, das alles außer Tensoren und einfachen Typen ablehnt. Das safetensors-Format speichert ausschließlich Tensoren.
• Mitgliedschaftsinferenzangriffe: Durch Abfragen eines trainierten Modells lässt sich herausfinden, ob ein bestimmter Datensatz in den Trainingsdaten enthalten war. Daher müssen auf sensiblen Daten trainierte Gewichte ebenso geschützt werden wie die Daten selbst.
• Prompt Injection: In Dokumenten oder Webseiten verborgene Anweisungen können eine LLM-Anwendung dazu bringen, Daten aus ihrem Kontext preiszugeben oder sie über ihre Tools an einen Angreifer zu senden.
• Schatten-KI: Beschäftigte fügen vertrauliche Daten in KI-Tools ein, die von der Organisation nicht zugelassen wurden und außerhalb ihrer Zugriffskontrollen und Protokollierung liegen.

Daten aus dem Bereich Computer Vision erhöhen das Risiko, weil Bilder von Menschen, Wohnungen, Fahrzeugen und Patienten oft personenbezogene Informationen enthalten. Im Gesundheitswesen fallen Scans, die US-Krankenhäuser für die medizinische Bildanalyse verwenden, unter die HIPAA-Sicherheitsregel. Sie verlangt administrative, physische und technische Schutzmaßnahmen für elektronisch gespeicherte geschützte Gesundheitsinformationen. Die Verarbeitung von Bildern direkt auf der Kamera mit Edge-KI hält Rohvideos vollständig vom Netzwerk fern, beim föderierten Lernen wird ein gemeinsames Modell trainiert, während jeder Standort seine Daten behält, und vertrauliche KI führt Training oder Inferenz mit sensiblen Daten in verschlüsselten Hardware-Enklaven in der Cloud aus. Für Datensätze, die im Netzwerk eines Unternehmens verbleiben müssen, führt die On-Premise-Integration der Ultralytics Platform das Einlesen von Datensätzen, Vorschauen und das Training auf dem eigenen Rechner des Unternehmens aus: Der Worker bindet den Datensatzordner schreibgeschützt ein und baut über HTTPS eine ausgehende Verbindung auf, ohne eingehende Ports zu öffnen. Die Bildpixel erreichen die Platform nie; sie erhält nur Labels, Kennzahlen und den besten Checkpoint.

Datensicherheit und Datenschutz im Vergleich#

Bei Datenschutz geht es darum, ob personenbezogene Daten im Einklang mit Gesetzen wie der DSGVO und entsprechend den Informationen, die Menschen erhalten haben, rechtmäßig erfasst, verwendet, weitergegeben und aufbewahrt werden. Datensicherheit stellt die technischen und organisatorischen Schutzmaßnahmen bereit, auf die Datenschutzverpflichtungen angewiesen sind, und umfasst alle wertvollen Daten, darunter Geschäftsgeheimnisse, Quellcode und Modellgewichte ohne personenbezogene Informationen. Datenschutzfördernde Verfahren wie Differential Privacy bilden eine Schnittstelle zwischen beiden Bereichen, indem sie begrenzen, was ein veröffentlichtes Modell oder eine Statistik über eine einzelne Person preisgibt. Eine Sicherheitsverletzung wird zum Datenschutzvorfall, wenn dabei personenbezogene Daten offengelegt werden: Nach Artikel 33 der DSGVO hat der Verantwortliche ab Kenntnis einer solchen Verletzung 72 Stunden Zeit, um die zuständige Aufsichtsbehörde zu benachrichtigen, es sei denn, die Verletzung gefährdet voraussichtlich nicht die Rechte und Freiheiten von Personen.