I nuovi regolamenti sull'AI in California: un focus sull'AI etica

Dalle self-driving cars alla healthcare, le innovazioni dell'intelligenza artificiale (AI) e le aziende tecnologiche di nuova generazione stanno iniziando a giocare un ruolo chiave nel ridefinire la nostra daily lives. Di conseguenza, la market size of AI a livello globale era di 196,63 miliardi di dollari nel 2023 e si prevede che crescerà a un tasso medio del 36% annuo dal 2024 al 2030. Questi numeri dimostrano quanto velocemente l'AI stia crescendo.

Da un lato, il rapido sviluppo dell'AI sta creando solutions a vari problemi in diversi settori. Dall'altro, questa velocità porta alla luce la necessità di uno sviluppo di responsible AI per assicurarsi che i miglioramenti siano ethical e vantaggiosi per la società.

Ad esempio, nel 2016 Microsoft ha lanciato un chatbot, Tay, su X (ex Twitter). Era progettato per imparare dalle conversazioni con gli utenti. Tuttavia, poco dopo il rilascio, Tay ha iniziato a generare risposte con linguaggio non professionale mentre apprendeva da una serie di interazioni. Sebbene Microsoft abbia rimosso rapidamente il bot, questo è un buon esempio dell'importanza di garantire che i dati utilizzati per l'AI training siano affidabili e che il pubblico sia consapevole di come le aziende utilizzano tali data per i prodotti AI.

Fig 1. Il chatbot di Twitter di Microsoft, Tay.

Per affrontare questa preoccupazione, il governatore della California, Gavin Newsom, ha promulgato più di una dozzina di AI-related bills questo settembre. Queste leggi affrontano di tutto, dalla divulgazione dei dettagli sui training data alla gestione dei deepfakes. In questo articolo esploreremo le leggi sull'AI della California e cosa comportano. Cominciamo!

Legislazione sull'IA in California 2024: Garantire la responsabilità#

Tre importanti disegni di legge sono stati convertiti in legge per fare in modo che lo AI development diventi più sicuro e affidabile. L'Assembly Bill (AB) 2013, che entrerà in vigore nel 2026, richiede ai fornitori di generative AI di pubblicare i dettagli relativi ai propri training datasets. Questi dettagli includono le sources of the datasets, i dettagli su come vengono utilizzati i dati, il numero di punti dati nel set, se sono inclusi dati protetti da copyright o concessi in licenza, il periodo di tempo in cui i dati sono stati raccolti e così via. La condivisione di queste informazioni aiuterà le aziende di AI a costruire la fiducia del pubblico.

Un altro disegno di legge importante che è stato firmato è l'AB 1008. Estende le attuali leggi sulla privacy della California alle generative AI solutions. L'AB 1008 è stato introdotto per affrontare le preoccupazioni e migliorare la fiducia del pubblico nel modo in cui i sistemi di AI gestiscono le informazioni personali. Un sondaggio ha rilevato che oltre l'81% of consumers teme che le AI companies possano usare le proprie informazioni in modi non previsti. Fissando limiti chiari su come le businesses possono utilizzare e trarre profitto dalle informazioni personali, come nomi, indirizzi e biometric data, questa legge aiuta le aziende di AI a rassicurare gli utenti sul fatto che i loro dati saranno gestiti in modo responsabile, anche se esposti da un sistema di AI.

Fig 2. Un'infografica che mostra come molte persone ritengano che le soluzioni di AI possano migliorare in termini di privacy.

Allo stesso modo, il Senate Bill (SB) 896, o Generative AI Accountability Act, richiede al California’s Office of Emergency Services (CalOES) di eseguire analisi dei rischi sulle potenziali minacce poste dai generative AI systems. CalOES collaborerà con aziende di AI pionieristiche, come OpenAI e Anthropic, per discutere e analizzare le potenziali minacce dell'AI alle infrastrutture critiche dello stato.

Adozione e regolamentazione dell'IA nelle istituzioni educative#

In precedenza abbiamo esplorato come l'AI in education possa personalizzare le esperienze di apprendimento, ridefinire le pratiche di insegnamento, offrire feedback in tempo reale e supportare gli educatori con strumenti e approfondimenti avanzati. In effetti, le innovazioni dell'AI possono creare un ambiente di studio più efficace e engaging studying environment per gli studenti. Educatori e insegnanti di tutto il mondo utilizzano l'AI con maggiore regolarità, con progetti pilota di successo e implementazioni più ampie in corso. Gli studi dimostrano che oltre il 50% degli insegnanti ritiene che l'AI in classrooms abbia avuto un impatto positivo sul processo di insegnamento e apprendimento.

Fig 3. Sondaggio che mostra l'opinione degli insegnanti sull'uso dell'AI nelle scuole.

La California ha introdotto due leggi riguardanti l'uso dell'AI in educational institutions. L'AB 2876 impone al State Board of Education della California di prendere in considerazione l'alfabetizzazione all'AI (dopo il 1° gennaio 2025) nei suoi quadri curricolari e materiali didattici di math, science e history. L'obiettivo di questa legge è assicurarsi che le scuole della California educhino gli studenti sulle basi di how artificial intelligence works, nonché sui limiti, sugli impacts e sulle ethical considerations dell'utilizzo della tecnologia.

In aggiunta a ciò, l'SB 1288 richiede ai sovrintendenti della California di creare gruppi di lavoro (entro o prima del 1° gennaio 2026) per esplorare come l'AI viene utilizzata nelle scuole pubbliche. Tali gruppi di lavoro dovranno presentare i propri risultati e raccomandazioni ai comitati politici e fiscali competenti della Legislatura entro il 1° gennaio 2027. Dopo la presentazione del rapporto, il gruppo di lavoro verrà sciolto e le disposizioni saranno abrogate il 1° gennaio 2031.

Normative riguardanti l'IA generativa nell'assistenza sanitaria#

La generative AI sta migliorando l'industria della healthcare consentendo innovazioni per discovering new drugs, diagnosing diseases, planning treatments e chatbot medici. Queste applicazioni possono fornire vantaggi come monitoraggio in tempo reale, consulenza e supporto per improve patient outcomes. Altre tecnologie di AI, come la augmented reality (AR), possono anche essere utilizzate per pianificare e simulare procedure chirurgiche.

Fig 4. Casi d'uso della generative AI nella sanità.

L'integrazione dell'IA generativa nell'assistenza sanitaria comporta alcune avvertenze relative alla privacy dei dati e alle normative. Dare priorità all'accuratezza, all'affidabilità e all'equità dei risultati generati dall'IA, proteggendo al contempo la privacy delle informazioni sanitarie, è fondamentale.

Per affrontare queste sfide, la California ha approvato due leggi sull'uso della generative AI nella sanità. L'AB 3030 richiede ai fornitori di servizi sanitari di comunicare quando utilizzano la generative AI per comunicare con un paziente, in particolare quando tali messaggi contengono informazioni cliniche del paziente. L'SB 1120 pone limitazioni su come i fornitori di servizi sanitari e gli assicuratori sanitari possono automatizzare i propri servizi. Queste nuove leggi garantiscono inoltre che medici abilitati supervisionino l'uso degli strumenti di AI in questi contesti.

Quadro normativo dell'IA in California per i deepfake#

Lo stato della California ha anche approvato leggi relative al contenimento dell'uso dell'AI per diffondere informazioni fuorvianti o imprecise. L'SB 942 richiede ai sistemi di generative AI più diffusi di indicare chiaramente nei loro dati di origine che il contenuto è stato creato dall'AI. Molte aziende di AI lo fanno già e diversi strumenti gratuiti in circolazione (ZeroGPT, Winston AI, GLTR, ecc.) possono aiutare le persone a leggere questi dati di origine e a rilevare contenuti generati dall'AI.

Tre nuove leggi (AB 1831, SB 926, SB 981) sono state approvate in California per affrontare problemi legati ai deepfake. Queste leggi estendono le tutele esistenti, criminalizzano l'uso improprio di contenuti generati dall'AI e richiedono alle piattaforme di social media di creare canali di segnalazione per i contenuti deepfake. L'implementazione delle leggi è prevista per gennaio 2025.

Leggi della California sull'IA riguardanti la definizione di IA e il suo utilizzo nel cinema#

Uno dei disegni di legge convertiti in legge si è concentrato sull'attribuire una definizione appropriata all'AI. L'AB 2885 stabilisce che l'AI è definita come “un sistema ingegnerizzato o basato su macchina che varia nel suo livello di autonomia e che può, per obiettivi espliciti o impliciti, dedurre dall'input che riceve come generare output in grado di influenzare ambienti fisici o virtuali”.

Ci sono state anche due leggi interessanti introdotte per l'industria dell'intrattenimento. Il più grande sindacato di attori cinematografici e televisivi d'America (SAG-AFTRA) ha svolto un ruolo cruciale nel spingere queste leggi all'approvazione. L'AB 2602 richiede agli studi cinematografici di ottenere il permesso da un attore prima di utilizzare l'AI per creare una replica della sua voce e della sua somiglianza. Nel frattempo, l'AB 1836 vieta agli studi di creare repliche digitali di artisti deceduti (simili al personaggio di Peter Cushing in Star Wars: Rogue One) senza il consenso dei loro eredi.

Fig 5. Il personaggio, Grand Moff Tarkin, è stato creato utilizzando le sembianze del defunto attore Peter Cushing.

Il fattore trainante dietro le leggi sull'IA della California#

Mentre prendevamo visione di ciascuna di queste leggi, potresti esserti chiesto perché siano realmente necessarie. Le normative sull'AI sono state un argomento di discussione popolare per un po' di tempo, ma hanno guadagnato slancio significativo con l'ascesa dei contenuti deepfake, che hanno colpito varie aree, tra cui media and politics. L'uso di contenuti generati dall'AI online ha sollevato preoccupazioni sulla disinformazione e sul suo potenziale impact on election outcomes, ad esempio. Vi sono anche crescenti timori riguardo alla privacy e all'uso improprio dei dati personali da parte delle innovazioni dell'AI. Questi problemi sono stati un fattore del motivo per cui sono ora in vigore diverse nuove leggi per affrontare tali questioni.

Ad esempio, l'AB 2905 impone alle chiamate automatizzate (robocall) di dichiarare se utilizzano voci generate dall'AI. Inoltre, l'AB 2655 richiede a grandi piattaforme online come Facebook e X di rimuovere o etichettare i deepfake relativi alle elezioni e di creare canali di segnalazione per tali contenuti. I candidati e i funzionari eletti possono anche richiedere un provvedimento inibitorio se le piattaforme non si conformano.

Un'altra legge, l'AB 2839, prende di mira gli utenti dei social media che pubblicano o ripubblicano deepfake che potrebbero fuorviare gli elettori. Allo stesso modo, l'AB 2355 stabilisce informative chiare per gli annunci politici realizzati utilizzando strumenti di AI.

Punti chiave dalle nuove leggi sull'IA della California#

Le nuove leggi sull'IA della California riflettono un crescente impegno nel bilanciare l'innovazione con la responsabilità. Affrontando preoccupazioni chiave in aree come la trasparenza dei dati, la privacy, i deepfake e l'uso dell'IA nell'assistenza sanitaria e nell'istruzione, queste leggi mirano a salvaguardare gli individui e la società promuovendo al contempo uno sviluppo responsabile dell'IA. Mentre l'IA continua a evolversi, queste normative aiuteranno a garantire che la sua crescita sia accompagnata da pratiche etiche e fiducia pubblica. Queste leggi potrebbero anche incoraggiare altre regioni del mondo a fare lo stesso.

Per saperne di più, visita il nostro GitHub repository e interagisci con la nostra community. Esplora le applicazioni dell'intelligenza artificiale nella produzione e nell'agricoltura nelle nostre pagine delle soluzioni. 🚀