AI Ethics

L'etica dell'AI è il campo che applica principi morali alla progettazione, allo sviluppo e all'uso dell'intelligenza artificiale (AI), chiedendosi quali sistemi costruire, come dovrebbero comportarsi e chi è responsabile dei loro effetti. I suoi temi centrali sono equità, privacy, trasparenza, sicurezza, responsabilità e supervisione umana; il campo attinge alla filosofia, al diritto, alle scienze sociali e all'ingegneria. In pratica, l'etica dell'AI guida il modo in cui i team raccolgono i dati, valutano i modelli e decidono quali prodotti distribuire, ed è alla base di normative come il regolamento UE sull'AI e le leggi sull'AI della California.

Principi fondamentali#

I quadri internazionali convergono su un insieme simile di principi. I Principi dell’OCSE sull’intelligenza artificiale, adottati nel 2019 e aggiornati nel 2024, sono stati il primo standard intergovernativo sull’IA; la Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale è stata adottata da tutti i 193 Stati membri nel 2021; e il Quadro di gestione dei rischi dell’IA del NIST (2023) traduce valori simili in caratteristiche misurabili di un’IA affidabile per le organizzazioni:

• Equità e non discriminazione: i sistemi non dovrebbero funzionare peggio o svantaggiare le persone a causa del colore della pelle, del genere, dell’età o di altre caratteristiche protette. I pregiudizi nell’IA derivano di solito da dati o etichette non rappresentativi, mentre l’equità nell’IA fornisce le metriche per verificarla.
• Privacy e governance dei dati: i dati personali dovrebbero essere raccolti legalmente, con il consenso quando richiesto, e trattati solo nella misura necessaria allo scopo. Tecniche come la privacy differenziale e l’apprendimento federato riducono la quantità di informazioni che un modello rivela o accentra. Nell’analisi video, la privacy fin dalla progettazione può significare anonimizzare le persone prima di archiviare i filmati: la soluzione Ultralytics per sfocare gli oggetti esegue il rilevamento YOLO26 su ogni fotogramma e sfoca sul posto ciascun oggetto rilevato, ad esempio ogni persona.
• Trasparenza e spiegabilità: le persone dovrebbero sapere quando interagiscono con un sistema di IA e poter scoprire come è stato realizzato, tema della trasparenza nell’IA; inoltre, le decisioni che le riguardano dovrebbero poter essere spiegate con metodi di IA spiegabile (XAI).
• Sicurezza e robustezza: i sistemi dovrebbero funzionare in modo affidabile nelle condizioni che incontrano durante la distribuzione, resistere a manipolazioni come gli attacchi avversari e gestire i guasti in sicurezza.
• Responsabilità e supervisione umana: una persona o un’organizzazione identificata risponde dei risultati di ciascun sistema e gli esseri umani possono monitorarlo, intervenire o disattivarlo.

Dai principi alla legge#

La legge dell’UE sull’IA traduce questi principi in obblighi proporzionati al rischio. È entrata in vigore nell’agosto 2024; i divieti relativi alle pratiche proibite si applicano dal 2 febbraio 2025 e gli obblighi di trasparenza dal 2 agosto 2026. Dopo la modifica del 2026 con il Digital Omnibus, i requisiti per gli usi ad alto rischio elencati nell’allegato III, come selezione del personale, valutazione del merito creditizio e istruzione, si applicano dal 2 dicembre 2027. La legge classifica ogni uso dell’IA in base agli obblighi che comporta:

Diversi divieti riguardano direttamente la visione artificiale: raccolta indiscriminata di immagini facciali da Internet o da telecamere a circuito chiuso per creare database di riconoscimento, riconoscimento delle emozioni nei luoghi di lavoro e nelle scuole, categorizzazione biometrica che deduce caratteristiche come la razza o le opinioni politiche e, salvo limitate eccezioni, identificazione biometrica remota in tempo reale negli spazi pubblici a fini di contrasto alla criminalità. Le organizzazioni possono inoltre certificare le proprie pratiche di gestione dell’IA secondo ISO/IEC 42001, uno standard internazionale pubblicato nel 2023.

Etica dell’IA e termini correlati#

• Sicurezza dell’IA: si concentra sulla prevenzione di incidenti, usi impropri e perdita di controllo man mano che i sistemi diventano più capaci. L’etica dell’IA si chiede anche se un sistema dovrebbe esistere e a chi dovrebbe essere utile.
• Governance dell’IA: le politiche, i processi e le leggi con cui le organizzazioni e i governi mettono in pratica i principi etici.
• IA responsabile: il termine che le aziende usano di solito per indicare la propria pratica di etica dell’IA, ed è in gran parte un sinonimo.
• Pregiudizio algoritmico: uno specifico problema etico, ovvero un errore sistematico che produce risultati ingiusti, all’interno di un campo più ampio.

Questioni etiche nella visione artificiale#

• Assistenza sanitaria: nell’analisi di immagini mediche, un modello convalidato sugli scanner e sui pazienti di un ospedale può non rilevare anomalie in popolazioni mai incontrate; per questo i quadri etici richiedono valutazioni disaggregate e supervisione clinica.
• Media sintetici: i deepfake favoriscono frodi, molestie e disinformazione, e la legge dell’UE sull’IA impone a chi li distribuisce di dichiararli.
• Riconoscimento delle emozioni: nel 2022, Microsoft ha ritirato le funzionalità di Azure Face che deducevano stati emotivi e attributi come genere ed età, citando la mancanza di consenso scientifico sulla definizione delle emozioni e i dubbi sul fatto che le deduzioni dalle espressioni facciali siano generalizzabili tra regioni e gruppi demografici.
• Consenso e provenienza dei dataset: molti dataset di volti e persone sono stati raccolti senza che le persone ritratte ne fossero a conoscenza; nel 2019 Microsoft ha rimosso il dataset MS-Celeb-1M, contenente circa 10 milioni di foto di 100.000 persone.
• Riconoscimento facciale e sorveglianza: nel giugno 2020, IBM ha smesso di offrire il riconoscimento facciale per uso generico e Amazon ha sospeso l’uso del servizio Rekognition da parte della polizia, moratoria poi estesa a tempo indeterminato. Nel settembre 2024, l’autorità olandese per la protezione dei dati ha multato Clearview AI per 30,5 milioni di euro per aver creato un database di miliardi di foto di volti raccolte da Internet.