10 ottobre 2024
Scopri come le nuove leggi sull'IA della California bilanciano l'innovazione con la responsabilità, coprendo privacy, deepfake, assistenza sanitaria, istruzione e sicurezza.
Dalle auto a guida autonoma all'assistenza sanitaria, le innovazioni dell'intelligenza artificiale (IA) e le aziende tecnologiche di nuova generazione stanno iniziando a svolgere un ruolo chiave nel rimodellare la nostra vita quotidiana. Di conseguenza, la dimensione del mercato globale dell'IA è stata di 196,63 miliardi di dollari nel 2023 e si prevede che crescerà in media del 36% all'anno dal 2024 al 2030. Questi numeri dimostrano la rapidità con cui l'IA sta crescendo.
Da un lato, il rapido sviluppo dell'AI sta creando soluzioni a vari problemi in diversi settori. Dall'altro, questa velocità mette in luce la necessità di uno sviluppo di AI responsabile per garantire che i miglioramenti siano etici e vantaggiosi per la società.
Ad esempio, nel 2016, Microsoft ha lanciato un chatbot, Tay, su X (precedentemente Twitter). Era progettato per imparare dalle conversazioni con gli utenti. Tuttavia, poco dopo il rilascio, Tay ha iniziato a generare risposte con un linguaggio non professionale, poiché riprendeva una serie di interazioni. Sebbene Microsoft abbia rapidamente disattivato il bot, questo è un buon esempio dell'importanza di garantire che i dati utilizzati per il training dell'IA siano affidabili e che il pubblico sia consapevole di come le aziende utilizzano tali dati per i prodotti di IA.
Per affrontare questo problema, il governatore della California, Gavin Newsom, ha firmato più di una dozzina di disegni di legge relativi all'IA questo settembre. Queste leggi affrontano diverse tematiche, dalla divulgazione di dettagli sui dati di addestramento alla gestione dei deepfake. In questo articolo, esploreremo le leggi sull'IA della California e cosa comportano. Iniziamo!
Sono state firmate tre importanti leggi a sostegno di uno sviluppo dell'IA più sicuro e affidabile. L'Assembly Bill (AB) 2013, che entrerà in vigore nel 2026, impone ai fornitori di IA generativa di pubblicare dettagli relativi ai loro dataset di training. Questi dettagli includono le fonti dei dataset, informazioni su come vengono utilizzati i dati, il numero di punti dati nel set, se sono inclusi dati protetti da copyright o concessi in licenza, il periodo di tempo in cui i dati sono stati raccolti, ecc. La condivisione di queste informazioni aiuterà le aziende di IA a costruire la fiducia del pubblico.
Un'altra legge importante che è stata firmata è la AB 1008, che estende le leggi sulla privacy esistenti in California alle soluzioni di IA generativa. L'AB 1008 è stata introdotta per affrontare le preoccupazioni e migliorare la fiducia del pubblico nel modo in cui i sistemi di IA gestiscono le informazioni personali. Un sondaggio ha rilevato che oltre l'81% dei consumatori teme che le aziende di IA possano utilizzare le loro informazioni in modi non previsti. Stabilendo limiti chiari su come le aziende possono utilizzare e trarre profitto dalle informazioni personali, come nomi, indirizzi e dati biometrici, questa legge aiuta le aziende di IA a rassicurare gli utenti che i loro dati saranno gestiti in modo responsabile, anche se esposti da un sistema di IA.
Allo stesso modo, la Senate Bill (SB) 896, o Generative AI Accountability Act, richiede al California’s Office of Emergency Services (CalOES) di eseguire analisi dei rischi sulle potenziali minacce poste dai sistemi di IA generativa. CalOES collaborerà con aziende pioniere nel campo dell'IA, come OpenAI e Anthropic, per discutere e analizzare le potenziali minacce dell'IA alle infrastrutture statali critiche.
In precedenza abbiamo esplorato come l'AI nell'istruzione possa personalizzare le esperienze di apprendimento, ridefinire le pratiche di insegnamento, offrire feedback in tempo reale e supportare gli educatori con strumenti e approfondimenti avanzati. Infatti, le innovazioni dell'AI possono creare un ambiente di studio più efficace e coinvolgente per gli studenti. Educatori e insegnanti di tutto il mondo utilizzano l'AI sempre più regolarmente, con progetti pilota di successo e implementazioni più ampie in corso. Gli studi dimostrano che oltre il 50% degli insegnanti ritiene che l'AI nelle classi abbia avuto un impatto positivo sul processo di insegnamento e apprendimento.
La California ha introdotto due leggi riguardanti l'uso dell'AI negli istituti scolastici. La AB 2876 impone al California’s State Board of Education di considerare l'alfabetizzazione sull'AI (dopo il 1° gennaio 2025) nei suoi quadri curriculari e materiali didattici di matematica, scienze e storia. L'obiettivo di questa legge è garantire che le scuole della California istruiscano gli studenti sui fondamenti del funzionamento dell'intelligenza artificiale, nonché sui limiti, sugli impatti e sulle considerazioni etiche dell'utilizzo della tecnologia.
Oltre a questo, la SB 1288 richiede ai sovrintendenti scolastici della California di creare gruppi di lavoro (entro e non oltre il 1° gennaio 2026) per esplorare come l'IA viene utilizzata nelle scuole pubbliche. Questi gruppi di lavoro dovranno presentare le loro conclusioni e raccomandazioni alle commissioni politiche e fiscali competenti della legislatura entro il 1° gennaio 2027. Dopo la presentazione del rapporto, il gruppo di lavoro sarà sciolto e le disposizioni saranno abrogate il 1° gennaio 2031.
L'IA generativa sta migliorando il settore dell'assistenza sanitaria consentendo innovazioni per la scoperta di nuovi farmaci, la diagnosi di malattie, la pianificazione dei trattamenti e i chatbot medici. Queste applicazioni possono fornire vantaggi come il monitoraggio in tempo reale, la consulenza e il supporto per migliorare i risultati dei pazienti. Altre tecnologie di IA, come la realtà aumentata (AR), possono anche essere utilizzate per pianificare e simulare procedure chirurgiche.
L'integrazione dell'IA generativa nell'assistenza sanitaria comporta alcune avvertenze relative alla privacy dei dati e alle normative. È fondamentale dare priorità all'accuratezza, all'affidabilità e all'equità dei risultati generati dall'IA, proteggendo al contempo la riservatezza delle informazioni sanitarie.
Per affrontare queste sfide, la California ha approvato due leggi sull'uso dell'IA generativa in ambito sanitario. L'AB 3030 richiede ai fornitori di servizi sanitari di divulgare quando utilizzano l'IA generativa per comunicare con un paziente, in particolare quando tali messaggi contengono informazioni cliniche del paziente. L'SB 1120 pone limiti al modo in cui i fornitori di servizi sanitari e le compagnie di assicurazione sanitaria possono automatizzare i propri servizi. Queste nuove leggi garantiscono inoltre che i medici autorizzati supervisionino l'uso di strumenti di IA in questi contesti.
Lo stato della California ha inoltre approvato leggi relative alla limitazione dell'uso dell'IA per la diffusione di informazioni fuorvianti o inaccurate. La SB 942 richiede che i sistemi di IA generativa più diffusi indichino chiaramente nei loro dati di origine che il contenuto è stato creato dall'IA. Molte aziende di IA lo fanno già, e diversi strumenti gratuiti disponibili (ZeroGPT, Winston AI, GLTR, ecc.) possono aiutare le persone a leggere questi dati di origine e a rilevare i contenuti generati dall'IA.
In California sono state approvate tre nuove leggi (AB 1831, SB 926, SB 981) per affrontare i problemi relativi ai deepfake. Queste leggi ampliano le protezioni esistenti, criminalizzano l'uso improprio di contenuti generati dall'IA e richiedono alle piattaforme di social media di creare canali di segnalazione per i contenuti deepfake. Le leggi entreranno in vigore entro gennaio 2025.
Una delle leggi approvate si è concentrata sulla definizione corretta di IA. La AB 2885 afferma che l'IA è definita come “un sistema ingegnerizzato o basato su macchina che varia nel suo livello di autonomia e che può, per obiettivi espliciti o impliciti, dedurre dall'input che riceve come generare output che possono influenzare ambienti fisici o virtuali.”
Sono state inoltre introdotte due leggi interessanti per l'industria dell'intrattenimento. Il più grande sindacato americano di attori cinematografici e televisivi (SAG-AFTRA) ha svolto un ruolo cruciale nel promuovere l'entrata in vigore di queste leggi. La legge AB 2602 impone agli studi cinematografici di ottenere il permesso da un attore prima di utilizzare l'IA per creare una replica della sua voce e delle sue sembianze. Nel frattempo, la legge AB 1836 vieta agli studi di creare repliche digitali di artisti deceduti (simili al personaggio di Peter Cushing in Star Wars: Rogue One) senza il consenso dei loro eredi.
Considerando la portata di ciascuna di queste leggi, potreste esservi chiesti perché siano realmente necessarie. Le normative sull'IA sono un argomento di discussione popolare da tempo, ma hanno guadagnato un'importanza significativa con l'aumento dei contenuti deepfake, che hanno avuto un impatto su varie aree, tra cui i media e la politica. L'uso di contenuti generati dall'IA online ha sollevato preoccupazioni sulla disinformazione e sul suo potenziale impatto sui risultati elettorali, ad esempio. Crescono anche le preoccupazioni sulla privacy e sull'uso improprio dei dati personali da parte delle innovazioni dell'IA. Questi problemi hanno contribuito all'introduzione di diverse nuove leggi per affrontare queste problematiche.
Ad esempio, la legge AB 2905 impone alle chiamate automatiche di rivelare se si tratta di voci generate dall'IA. Inoltre, la legge AB 2655 chiede alle grandi piattaforme online come Facebook e X di rimuovere o etichettare i deepfake relativi alle elezioni e di creare canali di segnalazione per tali contenuti. I candidati e i funzionari eletti possono anche chiedere un provvedimento ingiuntivo se le piattaforme non si conformano.
Un'altra legge, AB 2839, si rivolge agli utenti dei social media che pubblicano o ripubblicano deepfake che potrebbero indurre in errore gli elettori. Allo stesso modo, la legge AB 2355 prevede chiare informative per gli annunci politici realizzati con strumenti di IA.
Le nuove leggi sull'AI della California riflettono un crescente impegno a bilanciare l'innovazione con la responsabilità. Affrontando le principali preoccupazioni in aree come la trasparenza dei dati, la privacy, i deepfake e l'uso dell'AI nell'assistenza sanitaria e nell'istruzione, queste leggi mirano a salvaguardare gli individui e la società promuovendo al contempo uno sviluppo responsabile dell'AI. Mentre l'AI continua a evolversi, queste normative contribuiranno a garantire che la sua crescita sia accompagnata da pratiche etiche e fiducia pubblica. Queste leggi possono anche incoraggiare altre regioni del mondo a fare lo stesso.
Per saperne di più, visita il nostro repository GitHub e interagisci con la nostra community. Esplora le applicazioni dell'IA nella produzione e nell'agricoltura nelle nostre pagine delle soluzioni. 🚀
