Data Privacy

La privacy dei dati è il diritto delle persone di controllare la raccolta, l'uso, la condivisione e la conservazione delle proprie informazioni personali, insieme alle leggi e alle pratiche che le organizzazioni seguono per rispettare tale diritto. Nell'intelligenza artificiale la posta in gioco è più alta che nel software tradizionale: i modelli vengono costruiti a partire da grandi raccolte di dati di addestramento che spesso descrivono persone, possono memorizzare e riprodurre tali dati e i sistemi di riconoscimento facciale trattano per progettazione informazioni personali.

Leggi e principi fondamentali#

Il Regolamento generale sulla protezione dei dati (GDPR) dell'UE, in vigore da maggio 2018, stabilisce all'articolo 5 i principi di riferimento: i dati personali devono essere trattati in modo lecito, corretto e trasparente, raccolti per finalità specifiche (limitazione delle finalità), limitati a quanto necessario (minimizzazione dei dati), mantenuti accurati, conservati non oltre il tempo necessario (limitazione della conservazione) e protetti con misure di sicurezza adeguate; il titolare del trattamento deve poter dimostrare la conformità (responsabilizzazione). L'articolo 25 impone la protezione dei dati fin dalla progettazione e per impostazione predefinita; l'articolo 22 riconosce alle persone diritti in relazione alle decisioni basate unicamente sul trattamento automatizzato. Le sanzioni possono raggiungere 20 milioni di euro o il 4% del fatturato annuo mondiale, se superiore.

Altre leggi seguono principi analoghi. Il CCPA della California, ampliato dal CPRA, riconosce ai residenti il diritto di sapere, cancellare e opporsi alla vendita o alla condivisione dei propri dati. Nel settore sanitario statunitense, lo standard di de-identificazione dell'HIPAA elenca 18 identificatori da rimuovere secondo il metodo Safe Harbor, comprese le fotografie a volto intero e immagini comparabili. L'AI Act dell'UE aggiunge norme specifiche per l'IA e, da febbraio 2025, vieta la creazione di database di riconoscimento facciale tramite raccolta indiscriminata di immagini di volti da Internet o da filmati di telecamere a circuito chiuso.

Il fatto che un dataset rientri nell'ambito di queste leggi dipende dalla possibilità di identificare le persone a partire dai dati:

L'anonimizzazione è più difficile di quanto sembri. Nel 2000 Latanya Sweeney ha dimostrato che, da soli, il codice postale, il genere e la data di nascita identificano in modo univoco circa l'87% della popolazione statunitense; ecco perché rimuovere i nomi raramente rende anonimo un dataset.

Rischi per la privacy specifici dell'IA#

I modelli possono memorizzare e riprodurre gli esempi di addestramento. Nicholas Carlini e colleghi hanno estratto oltre mille immagini di addestramento da modelli di diffusione, comprese fotografie di singole persone. Anche senza estrarre i dati, gli attacchi di inferenza sull'appartenenza possono rivelare se il record di una determinata persona era presente in un insieme di addestramento; questo è di per sé un dato sensibile quando il modello è stato addestrato su pazienti affetti da una specifica malattia.

La raccolta è l'altro rischio principale. Immagini e testi raccolti per una finalità vengono spesso riutilizzati per l'addestramento senza una base giuridica; diverse autorità europee per la protezione dei dati hanno multato Clearview AI per aver creato un database di volti a partire da fotografie raccolte online, tra cui una multa di 30,5 milioni di euro comminata dall'autorità olandese nel 2024. All'interno delle organizzazioni, i dati personali incollati in chatbot esterni tramite strumenti di IA ombra sfuggono al controllo dell'organizzazione.

Tecniche per tutelare la privacy#

• Privacy differenziale: aggiunge rumore calibrato alle statistiche o all'addestramento, così che i risultati non rivelino quasi nulla su una singola persona.
• Apprendimento federato: addestra i modelli dove risiedono i dati, per esempio sui telefoni o sui server ospedalieri, e condivide solo gli aggiornamenti del modello.
• Dati sintetici: sostituiscono i record reali con dati generati che ne mantengono gli schemi statistici.
• IA riservata e IA edge: elaborano i dati all'interno di enclave hardware attestate o sul dispositivo che li ha acquisiti.

La redazione rimuove i contenuti identificativi prima dell'archiviazione o dell'addestramento. Le pipeline di visione artificiale sfocano volti e targhe nelle immagini stradali per l'analisi del traffico delle smart city; i dataset di analisi di immagini mediche eliminano gli identificativi dei pazienti dalle intestazioni DICOM e i tratti facciali dalle scansioni della testa. In Ultralytics Platform, l'azione Blur Faces mostra in anteprima i volti rilevati nelle immagini di esempio e poi sostituisce i relativi pixel in tutte le immagini del dataset; puoi anche impostare il dataset affinché sfoci automaticamente i volti in ogni nuovo caricamento.

La sicurezza dei dati è uno dei requisiti della privacy dei dati: la crittografia e il controllo degli accessi impediscono alle persone non autorizzate di accedere ai dati personali, ma anche un database protetto alla perfezione può violare la normativa sulla privacy se contiene dati raccolti senza una base giuridica o conservati più a lungo di quanto richiesto dalla loro finalità.