Os novos regulamentos de IA na Califórnia: foco numa IA ética
Descobre como as novas leis de IA da Califórnia equilibram inovação e responsabilização, abrangendo privacidade, deepfakes, cuidados de saúde, educação e segurança.
Dos carros autônomos aos cuidados de saúde, as inovações em inteligência artificial (AI) e as empresas de tecnologia de próxima geração estão começando a desempenhar um papel fundamental na transformação das nossas vidas quotidianas. Consequentemente, o tamanho do mercado de IA global foi de 196,63 bilhões de dólares em 2023 e deverá crescer, em média, 36% ao ano entre 2024 e 2030. Esses números mostram a rapidez com que a IA está crescendo.
Por um lado, o rápido desenvolvimento da IA está criando soluções para vários problemas em diferentes setores. Por outro lado, essa velocidade evidencia a necessidade do desenvolvimento de uma IA responsável para garantir que as melhorias sejam éticas e benéficas para a sociedade.
Por exemplo, em 2016, a Microsoft lançou um chatbot, Tay, no X (anteriormente Twitter). Ele foi desenvolvido para aprender com as conversas com os usuários. No entanto, pouco depois do lançamento, Tay começou a gerar respostas com linguagem pouco profissional ao assimilar uma série de interações. Embora a Microsoft tenha retirado rapidamente o bot do ar, esse é um bom exemplo da importância de garantir que os dados usados no treinamento de IA sejam confiáveis e de que o público saiba como as empresas usam esses dados em produtos de IA.
Fig. 1 Chatbot da Microsoft no Twitter, Tay.
Para lidar com essa preocupação, o governador da Califórnia, Gavin Newsom, sancionou mais de uma dúzia de projetos de lei relacionados à IA em setembro deste ano. Essas leis abordam desde a divulgação de detalhes sobre os dados de treinamento até o tratamento de deepfakes. Neste artigo, vamos explorar as leis de IA da Califórnia e o que elas implicam. Vamos começar!
Legislação de IA da Califórnia em 2024: garantindo a responsabilização#
Três projetos de lei foram sancionados para apoiar um desenvolvimento de IA mais seguro e confiável. O Projeto de Lei da Assembleia (AB) 2013, que entra em vigor em 2026, exige que os fornecedores de IA generativa publiquem detalhes sobre seus conjuntos de dados de treinamento. Esses detalhes incluem as fontes dos conjuntos de dados, informações sobre como os dados são usados, o número de pontos de dados no conjunto, se há dados protegidos por direitos autorais ou licenciados, o período em que os dados foram coletados, entre outros. Compartilhar essas informações ajudará as empresas de IA a conquistar a confiança do público.
Outro projeto de lei importante que foi sancionado foi o AB 1008. Ele estende as leis de privacidade existentes da Califórnia às soluções de IA generativa. O AB 1008 foi apresentado para abordar preocupações e aumentar a confiança do público na forma como os sistemas de IA lidam com informações pessoais. Uma pesquisa constatou que mais de 81% dos consumidores estão preocupados com a possibilidade de empresas de IA usarem suas informações de maneiras que não pretendiam. Ao estabelecer limites claros para a forma como as empresas podem usar e lucrar com informações pessoais, como nomes, endereços e dados biométricos, essa lei ajuda as empresas de IA a tranquilizar os usuários de que seus dados serão tratados com responsabilidade, mesmo que sejam expostos por um sistema de IA.
Fig. 2 Um infográfico mostrando que muitas pessoas acreditam que as soluções de IA podem melhorar no que diz respeito à privacidade.
Da mesma forma, o Projeto de Lei do Senado (SB) 896, ou Lei de Responsabilização da IA Generativa, exige que o Escritório de Serviços de Emergência da Califórnia (CalOES) realize análises de risco sobre possíveis ameaças representadas por sistemas de IA generativa. O CalOES trabalhará com empresas pioneiras de IA, como a OpenAI e a Anthropic, para discutir e analisar as possíveis ameaças da IA à infraestrutura crítica do estado.
Adoção e regulamentação da IA em instituições de ensino#
Já exploramos como a IA na educação pode personalizar as experiências de aprendizagem, redefinir as práticas de ensino, oferecer feedback em tempo real e apoiar educadores com ferramentas e insights avançados. Na verdade, as inovações em IA podem criar um ambiente de estudo mais eficaz e envolvente para os estudantes. Educadores e professores de todo o mundo estão usando IA com mais frequência, com projetos-piloto bem-sucedidos e implementações mais amplas em andamento. Estudos mostram que mais de 50% dos professores acreditam que a IA nas salas de aula teve um impacto positivo no processo de ensino e aprendizagem.
Fig. 3. Pesquisa mostrando como os professores se sentem em relação ao uso da IA nas escolas.
A Califórnia introduziu duas leis sobre o uso da IA em instituições de ensino. O AB 2876 determina que o Conselho Estadual de Educação da Califórnia considere a alfabetização em IA (após 1º de janeiro de 2025) em suas estruturas curriculares e materiais didáticos de matemática, ciências e história. O objetivo dessa lei é garantir que as escolas da Califórnia ensinem aos estudantes os fundamentos de como a inteligência artificial funciona, bem como as limitações, os impactos e as considerações éticas do uso dessa tecnologia.
Além disso, o SB 1288 exige que os superintendentes da Califórnia criem grupos de trabalho (até 1º de janeiro de 2026) para explorar como a IA está sendo usada nas escolas públicas. Esses grupos de trabalho deverão enviar suas conclusões e recomendações aos comitês legislativos relevantes de políticas e finanças até 1º de janeiro de 2027. Após a entrega do relatório, o grupo de trabalho será dissolvido e as disposições serão revogadas em 1º de janeiro de 2031.
Regulamentações relativas à IA generativa na área da saúde#
A IA generativa está melhorando o setor de cuidados de saúde ao possibilitar inovações para a descoberta de novos medicamentos, o diagnóstico de doenças, o planejamento de tratamentos e os chatbots médicos. Essas aplicações podem oferecer benefícios como monitoramento, aconselhamento e suporte em tempo real para melhorar os resultados dos pacientes. Outras tecnologias de IA, como a realidade aumentada (AR), também podem ser usadas para planejar e simular procedimentos cirúrgicos.
Fig. 4 Casos de uso da IA generativa na área da saúde.
A integração da IA generativa à área da saúde envolve algumas ressalvas relacionadas à privacidade dos dados e às regulamentações. É fundamental priorizar a precisão, a confiabilidade e a equidade dos resultados gerados pela IA, protegendo também a privacidade das informações de saúde.
Para enfrentar esses desafios, a Califórnia aprovou duas leis sobre o uso da IA generativa na área da saúde. O AB 3030 exige que os prestadores de serviços de saúde divulguem quando usam IA generativa para se comunicar com um paciente, especificamente quando essas mensagens contêm informações clínicas do paciente. O SB 1120 impõe limitações à forma como os prestadores de serviços de saúde e as seguradoras de saúde podem automatizar seus serviços. Essas novas leis também garantem que médicos licenciados supervisionem o uso de ferramentas de IA nesses contextos.
Estruturas regulatórias de IA da Califórnia para deepfakes#
O estado da Califórnia também aprovou leis relacionadas à contenção do uso da IA para disseminar informações enganosas ou imprecisas. O SB 942 exige que os sistemas populares de IA generativa indiquem claramente nos dados de origem que o conteúdo foi criado por IA. Muitas empresas de IA já fazem isso, e várias ferramentas gratuitas disponíveis (ZeroGPT, Winston AI, GLTR, etc.) podem ajudar as pessoas a ler esses dados de origem e detectar conteúdo gerado por IA.
Três novas leis (AB 1831, SB 926, SB 981) foram aprovadas na Califórnia para tratar de questões relacionadas a deepfakes. Essas leis ampliam as proteções existentes, criminalizam o uso indevido de conteúdo gerado por IA e exigem que as plataformas de redes sociais criem canais de denúncia para conteúdo deepfake. A implementação das leis está prevista para janeiro de 2025.
As leis de IA da Califórnia sobre a definição de IA e seu uso no cinema#
Um dos projetos de lei sancionados concentrou-se em estabelecer uma definição adequada para a IA. O AB 2885 afirma que a IA é definida como “um sistema desenvolvido ou baseado em máquinas que varia em seu nível de autonomia e que pode, com base em objetivos explícitos ou implícitos, inferir a partir da entrada que recebe como gerar resultados capazes de influenciar ambientes físicos ou virtuais.”
Também foram implementadas duas leis interessantes para a indústria do entretenimento. O maior sindicato de atores de cinema e televisão dos Estados Unidos (SAG-AFTRA) desempenhou um papel fundamental na aprovação dessas leis. O AB 2602 exige que os estúdios de cinema obtenham a permissão de um ator antes de usar IA para criar uma réplica de sua voz e imagem. Enquanto isso, o AB 1836 proíbe os estúdios de criar réplicas digitais de artistas falecidos (semelhantes ao personagem de Peter Cushing em Star Wars: Rogue One) sem o consentimento de seus espólios.
Fig. 5. O personagem Grand Moff Tarkin foi criado usando a imagem do falecido ator Peter Cushing.
O principal fator por trás das leis de IA da Califórnia#
Ao analisarmos cada uma dessas leis, você pode ter se perguntado por que elas são realmente necessárias. As regulamentações de IA têm sido um tema popular de discussão há algum tempo, mas ganharam um impulso significativo com o crescimento do conteúdo deepfake, que afetou várias áreas, incluindo a mídia e a política. O uso de conteúdo gerado por IA na internet gerou preocupações sobre a desinformação e seu possível impacto nos resultados eleitorais, por exemplo. Também crescem as apreensões sobre a privacidade e o uso indevido de dados pessoais pelas inovações em IA. Essas questões contribuíram para a adoção de várias novas leis destinadas a enfrentá-las.
Por exemplo, o AB 2905 obriga as chamadas automáticas a divulgar se usam vozes geradas por IA. Além disso, o AB 2655 exige que grandes plataformas online, como Facebook e X, removam ou rotulem deepfakes relacionados a eleições e criem canais de denúncia para esse tipo de conteúdo. Candidatos e autoridades eleitas também podem solicitar medidas cautelares se as plataformas não cumprirem as exigências.
Outra lei, o AB 2839, tem como alvo usuários de redes sociais que publicam ou republicam deepfakes capazes de induzir os eleitores ao erro. Da mesma forma, o AB 2355 estabelece a necessidade de divulgações claras para anúncios políticos feitos com ferramentas de IA.
Principais conclusões das novas leis de IA da Califórnia#
As novas leis de IA da Califórnia refletem um compromisso crescente com o equilíbrio entre inovação e responsabilização. Ao abordar preocupações importantes em áreas como transparência de dados, privacidade, deepfakes e o uso da IA na área da saúde e na educação, essas leis buscam proteger os indivíduos e a sociedade, promovendo ao mesmo tempo o desenvolvimento responsável da IA. À medida que a IA continua evoluindo, essas regulamentações ajudarão a garantir que seu crescimento seja acompanhado por práticas éticas e pela confiança do público. Essas leis também podem incentivar outras regiões do mundo a seguir o mesmo caminho.
Para saberes mais, visita o nosso repositório no GitHub e participa na nossa comunidade. Explora aplicações de IA na indústria e na agricultura nas nossas páginas de soluções. 🚀
