Os novos regulamentos de IA na Califórnia: Um foco em IA ética

Desde carros autônomos até cuidados de saúde, inovações em inteligência artificial (IA) e empresas de tecnologia de última geração estão começando a desempenhar um papel fundamental na reformulação das nossas vidas diárias. Consequentemente, o tamanho do mercado global de IA foi de 196,63 mil milhões de dólares em 2023 e espera-se que cresça uma média de 36% ao ano entre 2024 e 2030. Estes números demonstram a rapidez com que a IA está a crescer.

Por um lado, o rápido desenvolvimento da IA está a criar soluções para vários problemas em diferentes indústrias. Por outro lado, esta velocidade traz à luz a necessidade de um desenvolvimento de IA responsável para garantir que as melhorias sejam éticas e benéficas para a sociedade.

Por exemplo, em 2016, a Microsoft lançou um chatbot, Tay, no X (anteriormente Twitter). Ele foi projetado para aprender a partir de conversas com usuários. No entanto, pouco depois de seu lançamento, o Tay começou a gerar respostas com linguagem antiprofissional ao assimilar uma série de interações. Embora a Microsoft tenha retirado o bot do ar rapidamente, é um bom exemplo da importância de garantir que os dados usados para treinamento de IA sejam confiáveis e que o público esteja ciente de como as empresas estão usando tais dados para produtos de IA.

Fig 1. Chatbot do Twitter da Microsoft, Tay.

Abordando esta preocupação, o Governador da Califórnia, Gavin Newsom, assinou mais de uma dúzia de projetos de lei relacionados com IA em lei este setembro. Estas leis abrangem tudo, desde a divulgação de detalhes sobre dados de treino até ao manuseamento de deepfakes. Neste artigo, vamos explorar as leis de IA da Califórnia e o que elas implicam. Vamos começar!

Link to this sectionLegislação de IA da Califórnia 2024: Garantindo a responsabilização#

Três grandes projetos de lei foram sancionados para apoiar o desenvolvimento de IA a tornar-se mais seguro e fiável. O Assembly Bill (AB) 2013, que entra em vigor em 2026, exige que os fornecedores de IA generativa publiquem detalhes relativos aos seus conjuntos de dados de treino. Estes detalhes incluem as fontes dos conjuntos de dados, detalhes sobre como os dados são usados, o número de pontos de dados no conjunto, se dados protegidos por direitos de autor ou licenciados estão incluídos, o período de tempo em que os dados foram recolhidos, etc. Partilhar esta informação ajudará as empresas de IA a construir confiança pública.

Outro projeto de lei importante que foi assinado foi o AB 1008. Ele estende as leis de privacidade existentes da Califórnia para soluções de IA generativa. O AB 1008 foi introduzido para abordar preocupações e melhorar a confiança do público na forma como os sistemas de IA lidam com informações pessoais. Uma pesquisa constatou que mais de 81% dos consumidores estão preocupados com o facto de que empresas de IA possam usar as suas informações de maneiras que eles não pretendiam. Ao estabelecer limites claros sobre como as empresas podem usar e lucrar com informações pessoais, como nomes, endereços e dados biométricos, esta lei ajuda as empresas de IA a tranquilizar os utilizadores de que os seus dados serão tratados de forma responsável, mesmo se expostos por um sistema de IA.

Fig 2. Um infográfico que mostra que muitas pessoas acreditam que as soluções de IA podem melhorar no que diz respeito à privacidade.

Da mesma forma, o Senate Bill (SB) 896, ou Lei de Responsabilização de IA Generativa, exige que o Gabinete de Serviços de Emergência da Califórnia (CalOES) realize análises de risco sobre ameaças potenciais representadas por sistemas de IA generativa. O CalOES trabalhará com empresas pioneiras de IA, como a OpenAI e a Anthropic, para discutir e analisar as potenciais ameaças da IA à infraestrutura crítica do estado.

Link to this sectionAdoção e regulamentação da IA em instituições de ensino#

Explorámos anteriormente como a IA na educação pode personalizar experiências de aprendizagem, redefinir práticas de ensino, oferecer feedback em tempo real e apoiar educadores com ferramentas e insights avançados. De facto, as inovações em IA podem criar um ambiente de estudo mais eficaz e envolvente para os alunos. Educadores e professores de todo o mundo estão a usar a IA mais regularmente, com projetos-piloto bem-sucedidos e implementações mais amplas em curso. Estudos mostram que mais de 50% dos professores sentem que a IA nas salas de aula teve um impacto positivo no processo de ensino e aprendizagem.

Fig 3. Pesquisa mostrando como os professores se sentem sobre o uso de IA nas escolas.

A Califórnia introduziu duas leis sobre o uso de IA em instituições de ensino. O AB 2876 obriga o Conselho Estadual de Educação da Califórnia a considerar a literacia em IA (após 1 de janeiro de 2025) nos seus quadros curriculares e materiais didáticos de matemática, ciência e história. O objetivo desta lei é garantir que as escolas da Califórnia eduquem os alunos sobre os princípios básicos de como a inteligência artificial funciona, bem como as limitações, impactos e considerações éticas de usar a tecnologia.

Além disso, o SB 1288 exige que os superintendentes da Califórnia criem grupos de trabalho (em ou antes de 1 de janeiro de 2026) para explorar como a IA está a ser usada nas escolas públicas. Estes grupos de trabalho precisarão de submeter as suas conclusões e recomendações aos comités legislativos e fiscais relevantes da Legislatura até 1 de janeiro de 2027. Após o relatório ser submetido, o grupo de trabalho será dissolvido e as disposições serão revogadas em 1 de janeiro de 2031.

Link to this sectionRegulamentações em torno da IA generativa na saúde#

A IA generativa está a melhorar a indústria dos cuidados de saúde, permitindo inovações para a descoberta de novos medicamentos, diagnóstico de doenças, planeamento de tratamentos e chatbots médicos. Estas aplicações podem proporcionar benefícios como monitorização em tempo real, aconselhamento e apoio para melhorar os resultados dos pacientes. Outras tecnologias de IA, como a realidade aumentada (AR), também podem ser usadas para planear e simular procedimentos cirúrgicos.

Fig 4. Casos de Uso de IA Generativa na Saúde.

Integrar a IA generativa nos cuidados de saúde traz certos cuidados relacionados com a privacidade de dados e regulamentações. Priorizar a precisão, a fiabilidade e a justiça dos resultados gerados pela IA, protegendo simultaneamente a privacidade das informações de saúde, é crucial.

Para enfrentar estes desafios, a Califórnia aprovou duas leis sobre o uso de IA generativa nos cuidados de saúde. O AB 3030 exige que os prestadores de cuidados de saúde divulguem quando usam IA generativa para comunicar com um paciente, especificamente quando essas mensagens contêm informações clínicas do paciente. O SB 1120 coloca limitações sobre como os prestadores de serviços de saúde e seguradoras de saúde podem automatizar os seus serviços. Estas novas leis também garantem que médicos licenciados supervisionem o uso de ferramentas de IA nestes ambientes.

Link to this sectionQuadros regulatórios de IA da Califórnia para deepfakes#

O estado da Califórnia também aprovou leis relacionadas com a limitação do uso de IA para espalhar informações enganosas ou imprecisas. O SB 942 exige que sistemas populares de IA generativa indiquem claramente nos seus dados de origem que o conteúdo foi criado por IA. Muitas empresas de IA já fazem isto, e várias ferramentas gratuitas disponíveis (ZeroGPT, Winston AI, GLTR, etc.) podem ajudar as pessoas a ler estes dados de origem e detetar conteúdo gerado por IA.

Três novas leis (AB 1831, SB 926, SB 981) foram aprovadas na Califórnia para abordar questões relacionadas com deepfakes. Estas leis expandem as proteções existentes, criminalizam o uso indevido de conteúdo gerado por IA e exigem que plataformas de redes sociais criem canais de denúncia para conteúdo deepfake. As leis deverão ser implementadas até janeiro de 2025.

Link to this sectionLeis de IA da Califórnia sobre a definição de IA e o seu uso no cinema#

Um dos projetos de lei que foi convertido em lei focou-se em dar uma definição adequada à IA. O AB 2885 afirma que a IA é definida como "um sistema de engenharia ou baseado em máquina que varia no seu nível de autonomia e que pode, para objetivos explícitos ou implícitos, inferir a partir do input que recebe como gerar outputs que podem influenciar ambientes físicos ou virtuais."

Houve também duas leis interessantes postas em prática para a indústria do entretenimento. O maior sindicato de atores de cinema e transmissão da América (SAG-AFTRA) desempenhou um papel crucial em levar estas leis a efeito. O AB 2602 exige que os estúdios de cinema obtenham permissão de um ator antes de usar IA para criar uma réplica da sua voz e aparência. Entretanto, o AB 1836 proíbe os estúdios de criar réplicas digitais de artistas falecidos (semelhante à personagem de Peter Cushing em Star Wars: Rogue One) sem o consentimento dos seus espólios.

Fig 5. A personagem, Grand Moff Tarkin, foi criada usando a aparência do falecido ator Peter Cushing.

Link to this sectionO fator impulsionador por trás das leis de IA da Califórnia#

À medida que compreendemos cada uma destas leis, talvez te tenhas perguntado por que são realmente necessárias. As regulamentações de IA têm sido um tópico popular de discussão há algum tempo, mas ganharam um impulso significativo com o aumento de conteúdo deepfake, que afetou várias áreas, incluindo media e política. O uso de conteúdo gerado por IA online provocou preocupações sobre desinformação e o seu potencial impacto nos resultados eleitorais, por exemplo. Existem também preocupações crescentes sobre a privacidade e o uso indevido de dados pessoais por inovações de IA. Estas questões foram um fator na razão pela qual várias novas leis estão agora em vigor para abordar estes problemas.

Por exemplo, o AB 2905 obriga as robocalls a divulgar se são vozes geradas por IA. Além disso, o AB 2655 apela a grandes plataformas online como o Facebook e o X para remover ou rotular deepfakes relacionados com eleições e para criar canais de denúncia para esse conteúdo. Candidatos e funcionários eleitos também podem procurar medidas cautelares se as plataformas não cumprirem.

Outra lei, o AB 2839, visa utilizadores de redes sociais que publicam ou republicam deepfakes que podem enganar eleitores. Da mesma forma, o AB 2355 estipula divulgações claras para anúncios políticos feitos usando ferramentas de IA.

Link to this sectionPrincipais conclusões das novas leis de IA da Califórnia#

As novas leis de IA da Califórnia refletem um compromisso crescente em equilibrar a inovação com a responsabilização. Ao abordar preocupações fundamentais em áreas como transparência de dados, privacidade, deepfakes e o uso de IA nos cuidados de saúde e educação, estas leis visam salvaguardar os indivíduos e a sociedade, ao mesmo tempo que promovem o desenvolvimento responsável da IA. À medida que a IA continua a evoluir, estas regulamentações ajudarão a garantir que o seu crescimento seja acompanhado por práticas éticas e confiança pública. Estas leis também podem incentivar outras regiões ao redor do mundo a seguir o exemplo.

Para saber mais, visite nosso GitHub repository e interaja com nossa community. Explore aplicações de IA em manufacturing e agriculture em nossas páginas de soluções. 🚀