Os novos regulamentos de IA na Califórnia: Um foco em IA ética
Descobre como as novas leis de IA da Califórnia equilibram inovação e responsabilidade, abrangendo privacidade, deepfakes, saúde, educação e segurança.
De carros autônomos a cuidados de saúde, as inovações em inteligência artificial (IA) e as empresas de tecnologia de última geração estão começando a desempenhar um papel fundamental na reformulação do nosso cotidiano. Consequentemente, o tamanho do mercado global de IA foi de US$ 196,63 bilhões em 2023 e deve crescer a uma média de 36% ao ano de 2024 a 2030. Esses números mostram a rapidez com que a IA está crescendo.
Por um lado, o rápido desenvolvimento da IA está criando soluções para vários problemas em diferentes setores. Por outro lado, essa velocidade traz à tona a necessidade de um desenvolvimento de IA responsável para garantir que as melhorias sejam éticas e benéficas para a sociedade.
Por exemplo, em 2016, a Microsoft lançou um chatbot, Tay, no X (antigo Twitter). Ele foi projetado para aprender com conversas com usuários. No entanto, pouco tempo depois de seu lançamento, o Tay começou a gerar respostas com linguagem pouco profissional ao absorver uma variedade de interações. Embora a Microsoft tenha retirado o bot do ar rapidamente, é um bom exemplo da importância de garantir que os dados usados para o treinamento de IA sejam confiáveis e de que o público esteja ciente de como as empresas usam esses dados para produtos de IA.
Fig 1. Chatbot do Twitter da Microsoft, Tay.
Abordando essa preocupação, o governador da Califórnia, Gavin Newsom, sancionou mais de uma dezena de projetos de lei relacionados à IA em setembro passado. Essas leis abordam desde a divulgação de detalhes sobre dados de treinamento até o manuseio de deepfakes. Neste artigo, vamos explorar as leis de IA da Califórnia e o que elas implicam. Vamos começar!
Legislação de IA da Califórnia 2024: Garantindo a responsabilização#
Três grandes projetos de lei foram sancionados para apoiar para que o desenvolvimento de IA se torne mais seguro e confiável. O Assembly Bill (AB) 2013, que entra em vigor em 2026, exige que os provedores de IA geradora publiquem detalhes sobre seus conjuntos de dados de treinamento. Esses detalhes incluem as fontes dos conjuntos de dados, informações sobre como os dados são usados, o número de pontos de dados no conjunto, se dados protegidos por direitos autorais ou licenciados estão incluídos, o período em que os dados foram coletados, etc. O compartilhamento dessas informações ajudará as empresas de IA a construir a confiança do público.
Outro projeto de lei importante que foi sancionado foi o AB 1008. Ele estende as leis de privacidade existentes da Califórnia para soluções de IA geradora. O AB 1008 foi apresentado para resolver preocupações e melhorar a confiança do público na forma como os sistemas de IA lidam com informações pessoais. Uma pesquisa constatou que mais de 81% dos consumidores estão preocupados com a possibilidade de as empresas de IA usarem suas informações de maneiras que eles não pretendiam. Ao estabelecer limites claros sobre como as empresas podem usar e lucrar com informações pessoais, como nomes, endereços e dados biométricos, essa lei ajuda as empresas de IA a tranquilizar os usuários de que seus dados serão tratados com responsabilidade, mesmo que sejam expostos por um sistema de IA.
Fig 2. Um infográfico mostrando que muitas pessoas acreditam que as soluções de IA podem melhorar no que diz respeito à privacidade.
Da mesma forma, o Senate Bill (SB) 896, ou a Lei de Responsabilidade em IA Geradora, exige que o Escritório de Serviços de Emergência da Califórnia (CalOES) realize análises de risco sobre ameaças potenciais representadas por sistemas de IA geradora. O CalOES trabalhará com empresas pioneiras de IA, como a OpenAI e a Anthropic, para discutir e analisar as ameaças potenciais da IA à infraestrutura crítica do estado.
Adoção e regulamentação da IA em instituições de ensino#
Já exploramos anteriormente como a IA na educação pode personalizar experiências de aprendizado, redefinir práticas de ensino, oferecer feedback em tempo real e apoiar educadores com ferramentas e insights avançados. De fato, as inovações de IA podem criar um ambiente de estudo mais eficaz e envolvente para os alunos. Educadores e professores do mundo todo estão usando a IA com mais frequência, com projetos piloto bem-sucedidos e implementações mais amplas em andamento. Estudos mostram que mais de 50% dos professores sentem que a IA nas salas de aula impactou positivamente o processo de ensino e aprendizagem.
Fig 3. Pesquisa mostrando a opinião dos professores sobre o uso de IA nas escolas.
A Califórnia introduziu duas leis referentes ao uso de IA em instituições educacionais. O AB 2876 obriga o Conselho de Educação do Estado da Califórnia a considerar a alfabetização em IA (após 1º de janeiro de 2025) em suas estruturas curriculares e materiais instrucionais de matemática, ciências e história. O objetivo desta lei é garantir que as escolas da Califórnia eduquem os alunos sobre os fundamentos de como funciona a inteligência artificial, bem como as limitações, os impactos e as considerações éticas do uso da tecnologia.
Além disso, o SB 1288 exige que os superintendentes da Califórnia criem grupos de trabalho (em ou antes de 1º de janeiro de 2026) para explorar como a IA está sendo usada nas escolas públicas. Esses grupos de trabalho precisarão enviar suas descobertas e recomendações aos comitês fiscais e de políticas relevantes da Legislatura até 1º de janeiro de 2027. Após a entrega do relatório, o grupo de trabalho será dissolvido e as disposições serão revogadas em 1º de janeiro de 2031.
Regulamentações em torno da IA generativa na saúde#
A IA geradora está melhorando a indústria da saúde ao viabilizar inovações para a descoberta de novos medicamentos, diagnóstico de doenças, planejamento de tratamentos e chatbots médicos. Esses aplicativos podem fornecer benefícios como monitoramento em tempo real, conselhos e suporte para melhorar os resultados dos pacientes. Outras tecnologias de IA, como a realidade aumentada (AR), também podem ser usadas para planejar e simular procedimentos cirúrgicos.
Fig 4. Casos de uso de IA geradora na saúde.
Integrar a IA generativa nos cuidados de saúde traz certos cuidados relacionados com a privacidade de dados e regulamentações. Priorizar a precisão, a fiabilidade e a justiça dos resultados gerados pela IA, protegendo simultaneamente a privacidade das informações de saúde, é crucial.
Para enfrentar esses desafios, a Califórnia aprovou duas leis sobre o uso de IA geradora na área da saúde. O AB 3030 exige que os profissionais de saúde divulguem quando usam IA geradora para se comunicar com um paciente, especificamente quando essas mensagens contêm informações clínicas do paciente. O SB 1120 impõe limitações sobre como os provedores de serviços de saúde e operadoras de planos de saúde podem automatizar seus serviços. Essas novas leis também garantem que médicos licenciados supervisionem o uso de ferramentas de IA nesses ambientes.
Quadros regulatórios de IA da Califórnia para deepfakes#
O estado da Califórnia também aprovou leis relacionadas a coibir o uso de IA para disseminar informações enganosas ou imprecisas. O SB 942 exige que os principais sistemas de IA geradora indiquem claramente em seus dados de origem que o conteúdo foi criado por IA. Muitas empresas de IA já fazem isso, e várias ferramentas gratuitas existentes (ZeroGPT, Winston AI, GLTR, etc.) podem ajudar as pessoas a ler esses dados de origem e detectar conteúdo gerado por IA.
Três novas leis (AB 1831, SB 926, SB 981) foram aprovadas na Califórnia para lidar com questões relacionadas a deepfakes. Essas leis ampliam as proteções existentes, criminalizam o uso indevido de conteúdo gerado por IA e exigem que as plataformas de mídia social criem canais de denúncia para conteúdo de deepfake. As leis devem ser implementadas até janeiro de 2025.
Leis de IA da Califórnia sobre a definição de IA e o seu uso no cinema#
Um dos projetos de lei aprovados concentrou-se em dar uma definição adequada à IA. O AB 2885 afirma que a IA é definida como "um sistema projetado ou baseado em máquina que varia em seu nível de autonomia e que pode, para objetivos explícitos ou implícitos, inferir a partir das entradas que recebe como gerar saídas que podem influenciar ambientes físicos ou virtuais".
Também foram implementadas duas leis interessantes para a indústria do entretenimento. O maior sindicato de atores de cinema e transmissão dos EUA (SAG-AFTRA) desempenhou um papel crucial para fazer com que essas leis entrassem em vigor. O AB 2602 exige que os estúdios de cinema obtenham permissão de um ator antes de usar IA para criar uma réplica de sua voz e semelhança. Enquanto isso, o AB 1836 proíbe os estúdios de criarem réplicas digitais de artistas falecidos (semelhante ao personagem de Peter Cushing em Star Wars: Rogue One) sem o consentimento de seus espólios.
Fig 5. O personagem Grand Moff Tarkin foi criado usando a imagem do falecido ator Peter Cushing.
O fator impulsionador por trás das leis de IA da Califórnia#
Ao tomarmos conhecimento de cada uma dessas leis, você deve ter se perguntado por que elas são realmente necessárias. As regulamentações de IA têm sido um tópico popular de discussão há algum tempo, mas ganharam força significativa com o aumento de conteúdo de deepfake, que afetou várias áreas, incluindo mídia e política. O uso de conteúdo gerado por IA online levantou preocupações sobre desinformação e seu potencial impacto nos resultados das eleições, por exemplo. Também há crescentes apreensões sobre privacidade e o uso indevido de dados pessoais por inovações de IA. Esses problemas têm sido um fator para o qual várias novas leis estão agora em vigor para lidar com tais questões.
Por exemplo, o AB 2905 obriga as chamadas automáticas (robocalls) a divulgarem se são vozes geradas por IA. Além disso, o AB 2655 exige que grandes plataformas online como o Facebook e o X removam ou rotulem deepfakes relacionados a eleições e criem canais de denúncia para esse conteúdo. Candidatos e autoridades eleitas também podem buscar medidas cautelares se as plataformas não cumprirem as normas.
Outra lei, o AB 2839, tem como alvo usuários de redes sociais que postam ou repostam deepfakes que podem enganar eleitores. Da mesma forma, o AB 2355 estipula divulgações claras para anúncios políticos feitos com o uso de ferramentas de IA.
Principais conclusões das novas leis de IA da Califórnia#
As novas leis de IA da Califórnia refletem um compromisso crescente em equilibrar a inovação com a responsabilização. Ao abordar preocupações fundamentais em áreas como transparência de dados, privacidade, deepfakes e o uso de IA nos cuidados de saúde e educação, estas leis visam salvaguardar os indivíduos e a sociedade, ao mesmo tempo que promovem o desenvolvimento responsável da IA. À medida que a IA continua a evoluir, estas regulamentações ajudarão a garantir que o seu crescimento seja acompanhado por práticas éticas e confiança pública. Estas leis também podem incentivar outras regiões ao redor do mundo a seguir o exemplo.
Para saber mais, visite nosso GitHub repository e interaja com nossa community. Explore aplicações de IA em manufacturing e agriculture em nossas páginas de soluções. 🚀
