Data Security

La sicurezza dei dati protegge i dati digitali da accessi non autorizzati, furti, manomissioni e perdite durante tutto il loro ciclo di vita: dalla raccolta e dall'archiviazione all'elaborazione, alla condivisione e all'eliminazione. I suoi obiettivi sono generalmente descritti dalla triade CIA: riservatezza, affinché solo persone e sistemi autorizzati possano leggere i dati; integrità, affinché i dati restino accurati e inalterati; e disponibilità, affinché siano utilizzabili quando servono. Il Cybersecurity Framework 2.0 del NIST, pubblicato nel febbraio 2024, organizza le attività in sei funzioni: governare, identificare, proteggere, rilevare, rispondere e ripristinare. Nel machine learning, i dati da proteggere comprendono i dati di addestramento e le relative etichette, i pesi del modello che codificano ciò che è stato appreso da quei dati, le immagini e i prompt inviati per l'inferenza e i log che li registrano.

Controlli fondamentali#

La sicurezza dei dati combina diversi livelli di protezione, così che il fallimento di un controllo non esponga tutto:

• Crittografia: i dati inattivi vengono cifrati con algoritmi come AES-256, mentre i dati in transito viaggiano tramite TLS.
• Controllo degli accessi: ogni persona e servizio riceve i privilegi minimi necessari, tramite ruoli, autenticazione a più fattori e credenziali di breve durata al posto di password condivise.
• Gestione di chiavi e segreti: le chiavi di crittografia risiedono in un servizio di gestione delle chiavi o in un modulo di sicurezza hardware, separati dai dati, e vengono ruotate secondo una pianificazione. Le chiavi API non vanno inserite nel codice sorgente né nei notebook.
• Controlli d'integrità e backup: checksum e firme digitali rilevano i file alterati, mentre i backup versionati e immutabili consentono di ripristinare i dati dopo un attacco ransomware o un'eliminazione accidentale.
• Registrazione degli audit: ogni lettura, scrittura e modifica delle autorizzazioni viene registrata, così da poter rilevare e indagare gli accessi insoliti, come quando un account scarica un intero dataset di notte.

La crittografia autenticata garantisce insieme riservatezza e integrità. Questo esempio usa Fernet del pacchetto Python cryptography per cifrare una riga di un file di etichette e rilevare poi un singolo bit invertito:

import base64

from cryptography.fernet import Fernet, InvalidToken

# In produzione la chiave proviene da un servizio di gestione delle chiavi e non viene mai archiviata insieme ai dati
cipher = Fernet(Fernet.generate_key())

label = b"0 0.48 0.63 0.21 0.37\n"  # una riga di annotazione YOLO
token = cipher.encrypt(label)  # testo cifrato AES-128-CBC più un tag HMAC-SHA256
print(cipher.decrypt(token) == label)

# Inverti un bit del testo cifrato archiviato, come avverrebbe in caso di manomissione o danneggiamento del disco
raw = bytearray(base64.urlsafe_b64decode(token))
raw[30] ^= 1
try:
    cipher.decrypt(base64.urlsafe_b64encode(bytes(raw)))
except InvalidToken:
    print("Integrity check failed: decryption refused")

La prima riga stampa True perché il token intatto viene decifrato e restituisce l'etichetta originale. Dopo la modifica di un bit del testo cifrato, il tag HMAC non corrisponde più, quindi decrypt genera InvalidToken e stampa Integrity check failed: decryption refused senza restituire dati alterati.

Sicurezza dei dati nel machine learning#

I sistemi di AI introducono superfici di attacco assenti nei normali database:

• Avvelenamento dei dati: un aggressore in grado di scrivere in un dataset, in una coda di etichettatura o in una fonte web sottoposta a scraping inserisce campioni che inducono il modello addestrato a comportarsi male, spesso solo quando si presenta un trigger nascosto.
• File di modello non sicuri: i checkpoint salvati con pickle di Python possono eseguire codice arbitrario al momento del caricamento. PyTorch 2.6 ha impostato torch.load come valore predefinito per weights_only=True, che rifiuta qualsiasi contenuto diverso da tensori e tipi semplici; il formato safetensors archivia solo tensori.
• Attacchi di inferenza sull'appartenenza: interrogare un modello addestrato può rivelare se un determinato record faceva parte del set di addestramento, quindi i pesi addestrati su dati sensibili vanno protetti quanto i dati stessi.
• Prompt injection: istruzioni nascoste in documenti o pagine web possono indurre un'applicazione LLM a rivelare dati presenti nel proprio contesto o a inviarli a un aggressore tramite i suoi strumenti.
• Shadow AI: i dipendenti incollano dati riservati in strumenti di AI non approvati dall'organizzazione, al di fuori dei controlli di accesso e dei log aziendali.

I dati di computer vision comportano rischi maggiori perché le immagini di persone, case, veicoli e pazienti contengono spesso informazioni personali. In ambito sanitario, le scansioni che gli ospedali statunitensi usano per l'analisi delle immagini mediche rientrano nella HIPAA Security Rule, che impone misure di sicurezza amministrative, fisiche e tecniche per le informazioni sanitarie elettroniche protette. Elaborare i fotogrammi direttamente sulla telecamera con l'edge AI evita del tutto che il video grezzo attraversi la rete; l'apprendimento federato addestra un modello condiviso mentre ogni sito conserva i propri dati; l'AI confidenziale esegue l'addestramento o l'inferenza su dati sensibili all'interno di enclave hardware cifrate nel cloud. Per i dataset che devono restare all'interno della rete aziendale, l'integrazione On Premise di Ultralytics Platform esegue l'acquisizione dei dataset, le anteprime e l'addestramento sul computer dell'azienda: il worker monta la cartella del dataset in sola lettura e avvia una connessione in uscita tramite HTTPS senza aprire porte in ingresso; i pixel delle immagini non raggiungono mai Platform, che riceve solo etichette, metriche e il checkpoint migliore.

Sicurezza dei dati e privacy dei dati#

La privacy dei dati riguarda la raccolta, l'uso, la condivisione e la conservazione leciti dei dati personali, conformemente a quanto comunicato alle persone, secondo leggi come il GDPR. La sicurezza dei dati fornisce le protezioni tecniche e organizzative da cui dipendono gli impegni in materia di privacy e copre tutti i dati di valore, compresi segreti commerciali, codice sorgente e pesi dei modelli che non contengono informazioni personali. Le tecniche di tutela della privacy, come la privacy differenziale, si collocano tra le due discipline e limitano ciò che un modello o una statistica pubblicati rivelano su una singola persona. Una violazione è un problema di sicurezza che diventa un incidente di privacy quando vengono esposti dati personali: ai sensi dell'articolo 33 del GDPR, il titolare del trattamento ha 72 ore dal momento in cui viene a conoscenza della violazione per informare l'autorità di controllo, salvo che sia improbabile che la violazione metta a rischio i diritti e le libertà delle persone.