Le nuove normative sull’AI in California: focus sull’AI etica

Dalle auto a guida autonoma alla sanità, le innovazioni nell’intelligenza artificiale (AI) e le aziende tecnologiche di nuova generazione stanno iniziando a svolgere un ruolo chiave nel trasformare la nostra vita quotidiana. Di conseguenza, la dimensione del mercato dell’AI a livello globale era pari a 196,63 miliardi di dollari nel 2023 e dovrebbe crescere in media del 36% all’anno dal 2024 al 2030. Questi numeri mostrano quanto rapidamente stia crescendo l’AI.

Da un lato, il rapido sviluppo dell’AI sta creando soluzioni per diversi problemi in vari settori. Dall’altro, questa velocità mette in evidenza la necessità di uno sviluppo dell’AI responsabile, per garantire che i miglioramenti siano etici e vantaggiosi per la società.

Ad esempio, nel 2016 Microsoft ha lanciato su X (precedentemente Twitter) un chatbot chiamato Tay. Era stato progettato per apprendere dalle conversazioni con gli utenti. Tuttavia, poco dopo il rilascio, Tay ha iniziato a generare risposte con un linguaggio non professionale, assorbendo una serie di interazioni. Sebbene Microsoft abbia rapidamente disattivato il bot, questo è un buon esempio dell’importanza di garantire che i dati utilizzati per l’addestramento dell’AI siano affidabili e che il pubblico sappia come le aziende utilizzano tali dati per i prodotti di AI.

Fig. 1 Chatbot di Microsoft su Twitter, Tay.

Per affrontare questa preoccupazione, il governatore della California, Gavin Newsom, ha promulgato più di una dozzina di leggi relative all’AI nel settembre di quest’anno. Queste leggi riguardano aspetti che vanno dalla divulgazione dei dettagli sui dati di addestramento alla gestione dei deepfake. In questo articolo analizzeremo le leggi della California sull’AI e ciò che comportano. Iniziamo!

Legislazione californiana sull’AI 2024: garantire la responsabilità#

Sono state promulgate tre leggi principali per rendere lo sviluppo dell’AI più sicuro e affidabile. L’Assembly Bill (AB) 2013, che entrerà in vigore nel 2026, obbliga i fornitori di AI generativa a pubblicare informazioni sui propri dataset di addestramento. Queste informazioni includono le fonti dei dataset, i dettagli sulle modalità di utilizzo dei dati, il numero di punti dati presenti nel set, l’eventuale inclusione di dati protetti da copyright o concessi in licenza, il periodo in cui i dati sono stati raccolti, ecc. La condivisione di queste informazioni aiuterà le aziende di AI a costruire la fiducia del pubblico.

Un’altra legge importante promulgata è stata l’AB 1008. Questa estende le leggi esistenti della California sulla privacy alle soluzioni di AI generativa. L’AB 1008 è stata introdotta per affrontare le preoccupazioni e rafforzare la fiducia del pubblico riguardo al modo in cui i sistemi di AI gestiscono le informazioni personali. Un sondaggio ha rilevato che oltre l’81% dei consumatori teme che le aziende di AI possano utilizzare le proprie informazioni in modi non previsti. Stabilendo limiti chiari su come le aziende possono utilizzare e monetizzare le informazioni personali, come nomi, indirizzi e dati biometrici, questa legge aiuta le aziende di AI a rassicurare gli utenti sul fatto che i loro dati saranno gestiti responsabilmente, anche se esposti da un sistema di AI.

Fig. 2 Un’infografica mostra che molte persone ritengono che le soluzioni di AI possano migliorare sotto il profilo della privacy.

Analogamente, il Senate Bill (SB) 896, ovvero il Generative AI Accountability Act, obbliga il California’s Office of Emergency Services (CalOES) a svolgere analisi dei rischi sulle potenziali minacce poste dai sistemi di AI generativa. CalOES collaborerà con aziende di AI all’avanguardia, come OpenAI e Anthropic, per discutere e analizzare le potenziali minacce dell’AI alle infrastrutture statali critiche.

Adozione e regolamentazione dell’AI negli istituti scolastici#

In precedenza abbiamo analizzato come l’AI nell’istruzione possa personalizzare le esperienze di apprendimento, ridefinire le pratiche didattiche, offrire feedback in tempo reale e supportare gli educatori con strumenti e approfondimenti avanzati. In effetti, le innovazioni nell’AI possono creare un ambiente di studio più efficace e coinvolgente per gli studenti. Educatori e insegnanti di tutto il mondo utilizzano l’AI con maggiore regolarità, mentre sono in corso progetti pilota di successo e implementazioni più ampie. Gli studi mostrano che oltre il 50% degli insegnanti ritiene che l’AI nelle classi abbia avuto un impatto positivo sul processo di insegnamento e apprendimento.

Fig. 3. Sondaggio su come gli insegnanti considerano l’uso dell’AI nelle scuole.

La California ha introdotto due leggi sull’uso dell’AI negli istituti scolastici. L’AB 2876 impone al California State Board of Education di prendere in considerazione l’alfabetizzazione all’AI (dopo il 1° gennaio 2025) nei propri quadri curriculari e materiali didattici di matematica, scienze e storia. L’obiettivo di questa legge è garantire che le scuole californiane insegnino agli studenti le basi del funzionamento dell’intelligenza artificiale, nonché i limiti, gli impatti e le implicazioni etiche dell’uso di questa tecnologia.

Inoltre, l’SB 1288 impone ai sovrintendenti scolastici della California di creare gruppi di lavoro (entro il 1° gennaio 2026) per esaminare come viene utilizzata l’AI nelle scuole pubbliche. Questi gruppi di lavoro dovranno presentare i propri risultati e raccomandazioni alle commissioni legislative e finanziarie competenti entro il 1° gennaio 2027. Dopo la presentazione della relazione, il gruppo di lavoro verrà sciolto e le disposizioni saranno abrogate il 1° gennaio 2031.

Normative sull’AI generativa nella sanità#

L’AI generativa sta migliorando il settore della sanità, rendendo possibili innovazioni nella scoperta di nuovi farmaci, nella diagnosi delle malattie, nella pianificazione dei trattamenti e nei chatbot medici. Queste applicazioni possono offrire vantaggi come monitoraggio, consulenza e supporto in tempo reale per migliorare gli esiti dei pazienti. Anche altre tecnologie di AI, come la realtà aumentata (AR), possono essere utilizzate per pianificare e simulare procedure chirurgiche.

Fig. 4 Casi d’uso dell’AI generativa nella sanità.

L’integrazione dell’AI generativa nella sanità comporta alcune criticità relative alla privacy dei dati e alle normative. È fondamentale dare priorità all’accuratezza, all’affidabilità e all’equità dei risultati generati dall’AI, proteggendo al contempo la privacy delle informazioni sanitarie.

Per affrontare queste sfide, la California ha approvato due leggi sull’uso dell’AI generativa nella sanità. L’AB 3030 richiede agli operatori sanitari di comunicare quando utilizzano l’AI generativa per interagire con un paziente, in particolare quando tali messaggi contengono informazioni cliniche sul paziente. L’SB 1120 pone limitazioni alle modalità con cui i fornitori di servizi sanitari e gli assicuratori sanitari possono automatizzare i propri servizi. Queste nuove leggi garantiscono inoltre che i medici abilitati supervisionino l’uso degli strumenti di AI in questi contesti.

I quadri normativi della California sull’AI per i deepfake#

Lo Stato della California ha approvato anche leggi volte a limitare l’uso dell’AI per diffondere informazioni fuorvianti o inesatte. L’SB 942 impone ai sistemi di AI generativa più diffusi di indicare chiaramente nei propri dati di origine che il contenuto è stato creato dall’AI. Molte aziende di AI lo fanno già e diversi strumenti gratuiti disponibili (ZeroGPT, Winston AI, GLTR, ecc.) possono aiutare le persone a leggere questi dati di origine e a rilevare i contenuti generati dall’AI.

In California sono state approvate tre nuove leggi (AB 1831, SB 926, SB 981) per affrontare le problematiche relative ai deepfake. Queste leggi ampliano le tutele esistenti, rendono criminale l’uso improprio dei contenuti generati dall’AI e impongono alle piattaforme di social media di creare canali per segnalare i contenuti deepfake. L’attuazione delle leggi è prevista entro gennaio 2025.

Le leggi della California sull’AI, sulla definizione di AI e sul suo uso nel cinema#

Una delle leggi approvate si è concentrata sulla definizione corretta dell’AI. L’AB 2885 stabilisce che l’AI è definita come “un sistema ingegnerizzato o basato su macchine che varia nel proprio livello di autonomia e che, rispetto a obiettivi espliciti o impliciti, può dedurre dall’input ricevuto come generare output in grado di influenzare ambienti fisici o virtuali”.

Sono state inoltre introdotte due leggi interessanti per il settore dell’intrattenimento. Il principale sindacato statunitense degli attori cinematografici e televisivi (SAG-AFTRA) ha svolto un ruolo cruciale nel promuovere l’entrata in vigore di queste leggi. L’AB 2602 impone agli studi cinematografici di ottenere il consenso di un attore prima di utilizzare l’AI per creare una replica della sua voce e delle sue sembianze. Nel frattempo, l’AB 1836 vieta agli studi di creare repliche digitali di interpreti deceduti (simili al personaggio interpretato da Peter Cushing in Star Wars: Rogue One) senza il consenso degli eredi.

Fig. 5. Il personaggio Grand Moff Tarkin è stato creato utilizzando le sembianze del defunto attore Peter Cushing.

Il principale fattore alla base delle leggi californiane sull’AI#

Analizzando ciascuna di queste leggi, potresti esserti chiesto perché siano davvero necessarie. Le normative sull’AI sono da tempo un tema di discussione molto seguito, ma hanno acquisito un notevole slancio con la diffusione dei contenuti deepfake, che ha avuto ripercussioni su vari ambiti, tra cui i media e la politica. L’uso online di contenuti generati dall’AI ha suscitato preoccupazioni sulla disinformazione e sul suo potenziale impatto sull’esito delle elezioni, ad esempio. Crescono inoltre le preoccupazioni relative alla privacy e all’uso improprio dei dati personali da parte delle innovazioni nell’AI. Questi problemi hanno contribuito all’introduzione di diverse nuove leggi volte ad affrontarli.

Ad esempio, l’AB 2905 impone alle chiamate automatiche di dichiarare se utilizzano voci generate dall’AI. Inoltre, l’AB 2655 richiede alle grandi piattaforme online, come Facebook e X, di rimuovere o etichettare i deepfake relativi alle elezioni e di creare canali per segnalare tali contenuti. I candidati e i funzionari eletti possono inoltre richiedere un provvedimento ingiuntivo se le piattaforme non rispettano le disposizioni.

Un’altra legge, l’AB 2839, prende di mira gli utenti dei social media che pubblicano o ripubblicano deepfake potenzialmente in grado di fuorviare gli elettori. Analogamente, l’AB 2355 stabilisce l’obbligo di indicazioni chiare per gli annunci politici realizzati utilizzando strumenti di AI.

Punti chiave delle nuove leggi californiane sull’AI#

Le nuove leggi californiane sull’AI riflettono un impegno crescente nel bilanciare innovazione e responsabilità. Affrontando questioni fondamentali come la trasparenza dei dati, la privacy, i deepfake e l’uso dell’AI nella sanità e nell’istruzione, queste leggi mirano a proteggere le persone e la società promuovendo al contempo uno sviluppo responsabile dell’AI. Con la continua evoluzione dell’AI, queste normative contribuiranno a garantire che la sua crescita sia accompagnata da pratiche etiche e dalla fiducia del pubblico. Queste leggi potrebbero inoltre incoraggiare altre regioni del mondo a seguire l’esempio.

Per saperne di più, visita il nostro repository GitHub e partecipa alla nostra community. Scopri le applicazioni dell’IA nella produzione e nell’agricoltura nelle nostre pagine dedicate alle soluzioni. 🚀