Le nuove normative sull'IA in California: focus sull'IA etica

Dalle auto a guida autonoma alla sanità, le innovazioni dell'intelligenza artificiale (AI) e le aziende tecnologiche di nuova generazione stanno iniziando a svolgere un ruolo chiave nel trasformare la nostra vita quotidiana. Di conseguenza, nel 2023 il valore del mercato globale dell'IA era pari a 196,63 miliardi di dollari e si prevede che crescerà in media del 36% all'anno dal 2024 al 2030. Questi numeri mostrano quanto rapidamente stia crescendo l'IA.

Da un lato, il rapido sviluppo dell'IA sta creando soluzioni a diversi problemi in vari settori. Dall'altro, questa velocità evidenzia la necessità di uno sviluppo responsabile dell'IA, per garantire che i progressi siano etici e vantaggiosi per la società.

Ad esempio, nel 2016 Microsoft ha lanciato su X (precedentemente Twitter) un chatbot chiamato Tay, progettato per imparare dalle conversazioni con gli utenti. Tuttavia, poco dopo il lancio, Tay ha iniziato a generare risposte con un linguaggio poco professionale, dopo aver assimilato una serie di interazioni. Microsoft ha messo rapidamente offline il bot, ma questo è un buon esempio dell'importanza di assicurarsi che i dati usati per addestrare l'IA siano affidabili e che il pubblico sappia come le aziende utilizzano questi dati nei prodotti di IA.

Fig. 1 Il chatbot di Microsoft su Twitter, Tay.

Per affrontare questa preoccupazione, a settembre il governatore della California Gavin Newsom ha firmato più di una dozzina di leggi relative all'IA. Queste leggi riguardano aspetti che vanno dalla comunicazione dei dettagli sui dati di addestramento alla gestione dei deepfake. In questo articolo esamineremo le leggi californiane sull'IA e le loro disposizioni.

Legislazione californiana sull'AI del 2024: garantire la responsabilità#

Sono stati firmati tre importanti disegni di legge per rendere lo sviluppo dell'IA più sicuro e affidabile. L'Assembly Bill (AB) 2013, che entrerà in vigore nel 2026, impone ai fornitori di IA generativa di pubblicare i dettagli dei propri set di dati di addestramento. Queste informazioni includono le fonti dei set di dati, i dettagli sul loro utilizzo, il numero di punti dati, l'eventuale presenza di dati protetti da copyright o concessi in licenza e il periodo in cui i dati sono stati raccolti. La condivisione di queste informazioni aiuterà le aziende di IA a conquistare la fiducia del pubblico.

Un altro importante disegno di legge firmato è l'AB 1008, che estende alle soluzioni di IA generativa le leggi sulla privacy già in vigore in California. L'AB 1008 è stato introdotto per affrontare le preoccupazioni e accrescere la fiducia del pubblico nel modo in cui i sistemi di IA gestiscono le informazioni personali. Un sondaggio ha rilevato che oltre l'81% dei consumatori teme che le aziende di IA possano usare le proprie informazioni in modi non previsti. Stabilendo limiti chiari su come le aziende possono utilizzare e monetizzare dati personali, come nomi, indirizzi e dati biometrici, questa legge aiuta le aziende di IA a rassicurare gli utenti sul trattamento responsabile dei loro dati, anche se un sistema di IA li espone.

Fig. 2 Infografica che mostra come molte persone ritengano che le soluzioni di AI possano migliorare sotto il profilo della privacy.

Allo stesso modo, il Senate Bill (SB) 896, o Generative AI Accountability Act, impone all'Ufficio dei servizi di emergenza della California (CalOES) di analizzare i rischi delle potenziali minacce poste dai sistemi di IA generativa. CalOES collaborerà con aziende leader nel settore dell'IA, come OpenAI e Anthropic, per discutere e analizzare le potenziali minacce dell'IA alle infrastrutture critiche dello Stato.

Adozione e regolamentazione dell'AI negli istituti scolastici#

In precedenza abbiamo esaminato come l'IA nell'istruzione possa personalizzare le esperienze di apprendimento, ridefinire le pratiche didattiche, fornire feedback in tempo reale e supportare gli insegnanti con strumenti e approfondimenti avanzati. Le innovazioni dell'IA possono infatti creare un ambiente di studio più efficace e coinvolgente per gli studenti. Insegnanti e docenti di tutto il mondo usano l'IA con sempre maggiore regolarità, mentre sono in corso progetti pilota di successo e implementazioni su più ampia scala. Gli studi mostrano che oltre il 50% degli insegnanti ritiene che l'IA nelle classi abbia avuto un impatto positivo sull'insegnamento e sull'apprendimento.

Fig. 3. Sondaggio sulle opinioni degli insegnanti riguardo all'uso dell'AI nelle scuole.

La California ha introdotto due leggi sull'uso dell'IA negli istituti scolastici. L'AB 2876 impone al consiglio statale per l'istruzione della California di tenere conto dell'alfabetizzazione in materia di IA (dopo il 1° gennaio 2025) nei programmi e nei materiali didattici di matematica, scienze e storia. L'obiettivo della legge è garantire che le scuole californiane insegnino agli studenti i principi di funzionamento dell'intelligenza artificiale, nonché i limiti, gli impatti e le considerazioni etiche legati al suo utilizzo.

Inoltre, la SB 1288 impone ai sovrintendenti scolastici della California di istituire gruppi di lavoro entro il 1° gennaio 2026 per esaminare come viene utilizzata l'AI nelle scuole pubbliche. Entro il 1° gennaio 2027, questi gruppi dovranno presentare i risultati e le raccomandazioni alle commissioni legislative competenti in materia di politiche e finanze. Dopo la presentazione del rapporto, il gruppo di lavoro verrà sciolto e le disposizioni saranno abrogate il 1° gennaio 2031.

Normative sull'AI generativa in ambito sanitario#

L'IA generativa sta migliorando il settore sanitario, consentendo innovazioni nella scoperta di nuovi farmaci, nella diagnosi delle malattie, nella pianificazione delle cure e nei chatbot medici. Queste applicazioni possono offrire vantaggi come monitoraggio, consigli e supporto in tempo reale, migliorando gli esiti per i pazienti. Anche altre tecnologie, come la realtà aumentata (AR), possono essere utilizzate per pianificare e simulare interventi chirurgici.

Fig. 4 Casi d'uso dell'AI generativa in ambito sanitario.

L'integrazione dell'IA generativa nella sanità comporta alcune criticità legate alla privacy dei dati e alla regolamentazione. È fondamentale dare priorità alla precisione, all'affidabilità e all'equità dei risultati generati dall'IA, tutelando al contempo la riservatezza delle informazioni sanitarie.

Per affrontare queste sfide, la California ha approvato due leggi sull'uso dell'AI generativa in ambito sanitario. La AB 3030 impone agli operatori sanitari di dichiarare quando utilizzano l'AI generativa per comunicare con un paziente, in particolare se i messaggi contengono informazioni cliniche sul paziente. La SB 1120 pone limiti all'automazione dei servizi da parte dei fornitori di servizi sanitari e degli assicuratori sanitari. Queste nuove leggi garantiscono inoltre che l'uso degli strumenti di AI in questi contesti sia supervisionato da medici abilitati.

Quadri normativi californiani sull'AI in materia di deepfake#

Anche lo stato della California ha approvato leggi per limitare l'uso dell'IA volto a diffondere informazioni fuorvianti o inesatte. La SB 942 impone ai fornitori di sistemi di IA generativa con oltre un milione di utenti mensili di incorporare un'informativa nascosta (latente) nelle immagini, nei video e negli audio creati dai loro sistemi e di offrire uno strumento gratuito per rilevarla.

In California sono state approvate tre nuove leggi (AB 1831, SB 926, SB 981) per affrontare i problemi legati ai deepfake. Queste leggi ampliano le tutele esistenti, criminalizzano l'uso improprio di contenuti generati dall'AI e impongono alle piattaforme di social media di creare canali per segnalare i deepfake. La loro entrata in vigore è prevista entro gennaio 2025.

Leggi californiane sull'AI: definizione di AI e suo uso nel cinema#

Una delle leggi approvate si è concentrata sulla definizione formale dell'AI. La AB 2885 definisce l'AI come "un sistema progettato o basato su macchine, il cui livello di autonomia può variare e che, sulla base di obiettivi espliciti o impliciti, può dedurre dagli input ricevuti come generare output in grado di influenzare ambienti fisici o virtuali".

Sono state introdotte anche due leggi interessanti per l'industria dell'intrattenimento. Il più grande sindacato statunitense di attori del cinema e della televisione (SAG-AFTRA) ha avuto un ruolo cruciale nel promuovere l'entrata in vigore di queste leggi. La AB 2602 impone agli studi cinematografici di ottenere il consenso di un attore prima di usare l'IA per creare una replica della sua voce e delle sue sembianze. La AB 1836, invece, vieta agli studi di creare repliche digitali di interpreti deceduti (come il personaggio di Peter Cushing in Rogue One: A Star Wars Story) senza il consenso dei loro eredi.

Fig. 5. Il personaggio Grand Moff Tarkin è stato creato utilizzando le sembianze del defunto attore Peter Cushing.

Il fattore che ha spinto la California a introdurre leggi sull'AI#

Dopo aver esaminato ciascuna di queste leggi, potresti chiederti perché siano necessarie. Le normative sull'IA sono da tempo un argomento molto discusso, ma hanno acquisito notevole slancio con la diffusione dei contenuti deepfake, che hanno interessato diversi ambiti, tra cui i media e la politica. Per esempio, l'uso online di contenuti generati dall'IA ha suscitato preoccupazioni per la disinformazione e il suo potenziale impatto sui risultati elettorali. Crescono anche i timori per la privacy e l'uso improprio dei dati personali da parte delle innovazioni dell'IA. Queste preoccupazioni sono uno dei motivi principali per cui ora sono in vigore diverse nuove leggi.

Ad esempio, l'AB 2905 impone alle chiamate automatiche di dichiarare se usano voci generate dall'IA. Inoltre, l'AB 2655 chiede alle grandi piattaforme online, come Facebook e X, di rimuovere o segnalare i deepfake legati alle elezioni e di creare canali per segnalarne i contenuti. I candidati e i funzionari eletti possono anche chiedere un provvedimento ingiuntivo se le piattaforme non rispettano le disposizioni.

Un'altra legge, la AB 2839, prende di mira gli utenti dei social media che pubblicano o ricondividono deepfake potenzialmente in grado di ingannare gli elettori. Analogamente, la AB 2355 stabilisce che gli annunci politici creati con strumenti di AI debbano includere chiare indicazioni.

Punti chiave delle nuove leggi californiane sull'AI#

Le nuove leggi californiane sull'AI riflettono un impegno crescente a bilanciare innovazione e responsabilità. Affrontando questioni fondamentali come la trasparenza dei dati, la privacy, i deepfake e l'uso dell'AI in ambito sanitario e scolastico, queste leggi mirano a tutelare le persone e la società promuovendo al contempo uno sviluppo responsabile dell'AI. Con la continua evoluzione dell'AI, queste normative contribuiranno a garantire che la sua crescita sia accompagnata da pratiche etiche e dalla fiducia del pubblico. Potrebbero inoltre incoraggiare altre regioni del mondo a seguire lo stesso esempio.

Per saperne di più, visita il nostro repository GitHub e partecipa alla nostra community. Scopri le applicazioni dell'IA nei settori della manifattura e dell'agricoltura nelle nostre pagine delle soluzioni.