I nuovi regolamenti sull'AI in California: un focus sull'AI etica

Dalle auto a guida autonoma all'assistenza sanitaria, le innovazioni dell'intelligenza artificiale (IA) e le aziende tecnologiche di nuova generazione stanno iniziando a svolgere un ruolo chiave nel rimodellare la nostra vita quotidiana. Di conseguenza, il dimensione del mercato globale dell'IA è stata di 196,63 miliardi di dollari nel 2023 e si prevede una crescita media del 36% annuo dal 2024 al 2030. Questi numeri mostrano quanto rapidamente stia crescendo l'IA.

Da un lato, il rapido sviluppo dell'IA sta creando soluzioni per vari problemi in diversi settori. Dall'altro, questa velocità mette in luce la necessità di uno sviluppo di IA responsabile per garantire che i miglioramenti siano etici e vantaggiosi per la società.

Ad esempio, nel 2016, Microsoft ha lanciato un chatbot, Tay, su X (precedentemente Twitter). Era progettato per imparare dalle conversazioni con gli utenti. Tuttavia, poco dopo il rilascio, Tay ha iniziato a generare risposte con un linguaggio poco professionale poiché ha recepito una serie di interazioni. Sebbene Microsoft abbia rapidamente rimosso il bot, è un buon esempio dell'importanza di garantire che i dati utilizzati per l'AI training siano affidabili e che il pubblico sia consapevole di come le aziende stiano utilizzando tali data per i prodotti AI.

Fig 1. Chatbot Twitter di Microsoft, Tay.

Per affrontare questa preoccupazione, il governatore della California, Gavin Newsom, ha convertito in legge più di una dozzina di progetti di legge sull'IA questo settembre. Queste leggi trattano tutto, dalla divulgazione dei dettagli sui dati di addestramento alla gestione dei deepfake. In questo articolo esploreremo le leggi sull'IA della California e cosa comportano. Iniziamo!

Link to this sectionLegislazione sull'IA in California 2024: Garantire la responsabilità#

Sono stati firmati tre importanti progetti di legge per supportare lo sviluppo dell'IA rendendolo più sicuro e affidabile. L'Assembly Bill (AB) 2013, che entrerà in vigore nel 2026, richiede ai fornitori di IA generativa di pubblicare dettagli riguardanti i propri dataset di addestramento. Questi dettagli includono le fonti dei dataset, dettagli su come vengono utilizzati i dati, il numero di punti dati nel set, se sono inclusi dati protetti da copyright o in licenza, il periodo di tempo in cui i dati sono stati raccolti, ecc. Condividere queste informazioni aiuterà le aziende di IA a costruire la fiducia del pubblico.

Un altro importante progetto di legge firmato è l'AB 1008. Estende le leggi sulla privacy esistenti in California alle soluzioni di IA generativa. L'AB 1008 è stato introdotto per affrontare le preoccupazioni e migliorare la fiducia del pubblico nel modo in cui i sistemi di IA gestiscono le informazioni personali. Un sondaggio ha rilevato che oltre l'81% dei consumatori teme che le aziende di IA possano utilizzare le loro informazioni in modi non previsti. Stabilendo limiti chiari su come le aziende possono utilizzare e trarre profitto dalle informazioni personali, come nomi, indirizzi e dati biometrici, questa legge aiuta le aziende di IA a rassicurare gli utenti che i loro dati saranno gestiti in modo responsabile, anche se esposti da un sistema di IA.

Fig 2. Un'infografica che mostra che molte persone credono che le soluzioni di IA possano migliorare rispetto alla privacy.

Analogamente, il Senate Bill (SB) 896, o Generative AI Accountability Act, richiede all'Office of Emergency Services (CalOES) della California di eseguire analisi dei rischi sulle potenziali minacce poste dai sistemi di IA generativa. CalOES lavorerà con aziende di IA all'avanguardia, come OpenAI e Anthropic, per discutere e analizzare le potenziali minacce dell'IA alle infrastrutture statali critiche.

Link to this sectionAdozione e regolamentazione dell'IA nelle istituzioni educative#

Abbiamo già esplorato come l'IA nell'istruzione possa personalizzare le esperienze di apprendimento, ridefinire le pratiche di insegnamento, offrire feedback in tempo reale e supportare gli educatori con strumenti e approfondimenti avanzati. Infatti, le innovazioni dell'IA possono creare un ambiente di studio più efficace e coinvolgente per gli studenti. Educatori e insegnanti in tutto il mondo utilizzano l'IA sempre più regolarmente, con progetti pilota di successo e implementazioni più ampie in corso. Gli studi dimostrano che oltre il 50% degli insegnanti ritiene che l'IA nelle aule abbia influenzato positivamente il processo di insegnamento e apprendimento.

Fig 3. Sondaggio che mostra cosa pensano gli insegnanti dell'uso dell'IA nelle scuole.

La California ha introdotto due leggi riguardanti l'uso dell'IA nelle istituzioni educative. L'AB 2876 impone allo State Board of Education della California di considerare l'alfabetizzazione all'IA (dopo il 1° gennaio 2025) nei suoi quadri curriculari e materiali didattici di matematica, scienza e storia. Lo scopo di questa legge è assicurarsi che le scuole della California istruiscano gli studenti sulle basi di come funziona l'intelligenza artificiale, così come sulle limitazioni, sugli impatti e sulle considerazioni etiche dell'uso di tale tecnologia.

Oltre a questo, l'SB 1288 richiede ai sovrintendenti della California di creare gruppi di lavoro (entro il 1° gennaio 2026) per esplorare come l'IA viene utilizzata nelle scuole pubbliche. Questi gruppi di lavoro dovranno presentare i loro risultati e raccomandazioni ai comitati politici e fiscali competenti della Legislatura entro il 1° gennaio 2027. Dopo che il rapporto sarà stato presentato, il gruppo di lavoro sarà sciolto e le disposizioni saranno abrogate il 1° gennaio 2031.

Link to this sectionNormative riguardanti l'IA generativa nell'assistenza sanitaria#

L'IA generativa sta migliorando il settore dell'assistenza sanitaria abilitando innovazioni per la scoperta di nuovi farmaci, la diagnosi di malattie, la pianificazione dei trattamenti e i chatbot medici. Queste applicazioni possono fornire vantaggi come monitoraggio in tempo reale, consulenza e supporto per migliorare i risultati per i pazienti. Altre tecnologie di IA, come la realtà aumentata (AR), possono essere utilizzate anche per pianificare e simulare procedure chirurgiche.

Fig 4. Casi d'uso dell'IA generativa nell'assistenza sanitaria.

L'integrazione dell'IA generativa nell'assistenza sanitaria comporta alcune avvertenze relative alla privacy dei dati e alle normative. Dare priorità all'accuratezza, all'affidabilità e all'equità dei risultati generati dall'IA, proteggendo al contempo la privacy delle informazioni sanitarie, è fondamentale.

Per affrontare queste sfide, la California ha approvato due leggi sull'uso dell'IA generativa nell'assistenza sanitaria. L'AB 3030 richiede agli operatori sanitari di divulgare quando utilizzano l'IA generativa per comunicare con un paziente, specificamente quando tali messaggi contengono le informazioni cliniche di un paziente. L'SB 1120 pone limitazioni su come i fornitori di servizi sanitari e gli assicuratori sanitari possono automatizzare i propri servizi. Queste nuove leggi assicurano anche che medici abilitati supervisionino l'uso di strumenti di IA in questi contesti.

Link to this sectionQuadro normativo dell'IA in California per i deepfake#

Lo stato della California ha anche approvato leggi relative al contenimento dell'uso dell'IA per la diffusione di informazioni fuorvianti o inaccurate. L'SB 942 richiede ai popolari sistemi di IA generativa di indicare chiaramente nei propri dati sorgente che il contenuto è stato creato dall'IA. Molte aziende di IA lo fanno già e diversi strumenti gratuiti disponibili (ZeroGPT, Winston AI, GLTR, ecc.) possono aiutare le persone a leggere questi dati sorgente e rilevare contenuti generati dall'IA.

Tre nuove leggi (AB 1831, SB 926, SB 981) sono state approvate in California per affrontare i problemi legati ai deepfake. Queste leggi estendono le protezioni esistenti, criminalizzano l'uso improprio di contenuti generati dall'IA e richiedono alle piattaforme di social media di creare canali di segnalazione per contenuti deepfake. Le leggi dovrebbero essere implementate entro gennaio 2025.

Link to this sectionLeggi della California sull'IA riguardanti la definizione di IA e il suo utilizzo nel cinema#

Uno dei progetti di legge approvati si è concentrato sul dare una definizione corretta all'IA. L'AB 2885 afferma che l'IA è definita come “un sistema progettato o basato su macchine che varia nel suo livello di autonomia e che può, per obiettivi espliciti o impliciti, dedurre dall'input che riceve come generare output che possono influenzare ambienti fisici o virtuali.”

Sono state inoltre introdotte due leggi interessanti per l'industria dell'intrattenimento. Il più grande sindacato di attori cinematografici e radiotelevisivi d'America (SAG-AFTRA) ha svolto un ruolo cruciale nel promuovere l'entrata in vigore di queste leggi. L'AB 2602 richiede agli studi cinematografici di ottenere il permesso da un attore prima di utilizzare l'IA per creare una replica della sua voce e immagine. Nel frattempo, l'AB 1836 proibisce agli studi di creare repliche digitali di attori deceduti (simile al personaggio di Peter Cushing in Star Wars: Rogue One) senza il consenso dei loro eredi.

Fig 5. Il personaggio, Grand Moff Tarkin, è stato creato utilizzando le sembianze del defunto attore Peter Cushing.

Link to this sectionIl fattore trainante dietro le leggi sull'IA della California#

Mentre analizzavamo ciascuna di queste leggi, potresti esserti chiesto perché siano realmente necessarie. Le normative sull'IA sono state un argomento di discussione popolare per un po' di tempo ormai, ma hanno guadagnato uno slancio significativo con l'ascesa dei contenuti deepfake, che hanno influenzato varie aree, inclusi media e politica. L'uso di contenuti generati dall'IA online ha suscitato preoccupazioni riguardo alla disinformazione e al suo potenziale impatto sui risultati elettorali, per esempio. Ci sono anche crescenti timori riguardo alla privacy e all'uso improprio dei dati personali da parte delle innovazioni dell'IA. Questi problemi sono stati un fattore nel motivo per cui diverse nuove leggi sono ora in vigore per affrontare tali questioni.

Per esempio, l'AB 2905 impone alle chiamate automatizzate (robocall) di divulgare se si tratta di voci generate dall'IA. Inoltre, l'AB 2655 richiede alle grandi piattaforme online come Facebook e X di rimuovere o etichettare i deepfake relativi alle elezioni e di creare canali di segnalazione per tali contenuti. I candidati e i funzionari eletti possono anche chiedere provvedimenti ingiuntivi se le piattaforme non si conformano.

Un'altra legge, l'AB 2839, prende di mira gli utenti dei social media che pubblicano o ripubblicano deepfake che potrebbero fuorviare gli elettori. Allo stesso modo, l'AB 2355 stabilisce divulgazioni chiare per gli annunci politici realizzati utilizzando strumenti di IA.

Link to this sectionPunti chiave dalle nuove leggi sull'IA della California#

Le nuove leggi sull'IA della California riflettono un crescente impegno nel bilanciare l'innovazione con la responsabilità. Affrontando preoccupazioni chiave in aree come la trasparenza dei dati, la privacy, i deepfake e l'uso dell'IA nell'assistenza sanitaria e nell'istruzione, queste leggi mirano a salvaguardare gli individui e la società promuovendo al contempo uno sviluppo responsabile dell'IA. Mentre l'IA continua a evolversi, queste normative aiuteranno a garantire che la sua crescita sia accompagnata da pratiche etiche e fiducia pubblica. Queste leggi potrebbero anche incoraggiare altre regioni del mondo a fare lo stesso.

Per saperne di più, visita il nostro repository GitHub e interagisci con la nostra community. Esplora le applicazioni dell'IA nella produzione e nell'agricoltura sulle nostre pagine delle soluzioni. 🚀