10 de outubro de 2024
Descubra como as novas leis de IA da Califórnia equilibram inovação com responsabilidade, abrangendo privacidade, deepfakes, saúde, educação e segurança.
Desde carros autônomos até assistência médica, as inovações em inteligência artificial (IA) e as empresas de tecnologia de última geração estão começando a desempenhar um papel fundamental na reformulação de nossas vidas diárias. Consequentemente, o tamanho do mercado global de IA foi de US$ 196,63 bilhões em 2023 e espera-se que cresça em média 36% ao ano de 2024 a 2030. Esses números mostram a rapidez com que a IA está crescendo.
Por um lado, o rápido desenvolvimento da IA está criando soluções para vários problemas em diferentes setores. Por outro lado, essa velocidade traz à tona a necessidade de um desenvolvimento de IA responsável para garantir que as melhorias sejam éticas e benéficas para a sociedade.
Por exemplo, em 2016, a Microsoft lançou um chatbot, Tay, no X (antigo Twitter). Ele foi projetado para aprender com as conversas com os usuários. No entanto, logo após seu lançamento, Tay começou a gerar respostas com linguagem não profissional, pois captou uma variedade de interações. Embora a Microsoft tenha rapidamente tirado o bot do ar, é um bom exemplo da importância de garantir que os dados usados para o treinamento de IA sejam confiáveis e que o público esteja ciente de como as empresas estão usando esses dados para produtos de IA.
Abordando essa preocupação, o governador da Califórnia, Gavin Newsom, sancionou mais de uma dezena de projetos de lei relacionados à IA em setembro deste ano. Essas leis abordam tudo, desde a divulgação de detalhes sobre dados de treinamento até o tratamento de deepfakes. Neste artigo, exploraremos as leis de IA da Califórnia e o que elas implicam. Vamos começar!
Três grandes projetos de lei foram sancionados para apoiar o desenvolvimento de IA, tornando-o mais seguro e confiável. O Projeto de Lei da Assembleia (AB) 2013, que entra em vigor em 2026, exige que os provedores de IA generativa publiquem detalhes sobre seus conjuntos de dados de treinamento. Esses detalhes incluem as fontes dos conjuntos de dados, detalhes sobre como os dados são usados, o número de pontos de dados no conjunto, se dados protegidos por direitos autorais ou licenciados estão incluídos, o período em que os dados foram coletados, etc. Compartilhar essas informações ajudará as empresas de IA a construir confiança pública.
Outro projeto de lei importante que foi sancionado foi o AB 1008. Ele estende as leis de privacidade existentes da Califórnia para soluções de IA generativa. O AB 1008 foi introduzido para abordar preocupações e melhorar a confiança pública em como os sistemas de IA lidam com informações pessoais. Uma pesquisa descobriu que mais de 81% dos consumidores estão preocupados com o fato de que empresas de IA possam usar suas informações de maneiras que não pretendiam. Ao estabelecer limites claros sobre como as empresas podem usar e lucrar com informações pessoais, como nomes, endereços e dados biométricos, esta lei ajuda as empresas de IA a garantir aos usuários que seus dados serão tratados de forma responsável, mesmo que expostos por um sistema de IA.
Da mesma forma, o Projeto de Lei do Senado (SB) 896, ou Lei de Responsabilidade da IA Generativa, exige que o Escritório de Serviços de Emergência da Califórnia (CalOES) realize análises de risco sobre as ameaças potenciais representadas por sistemas de IA generativa. O CalOES trabalhará com empresas pioneiras de IA, como OpenAI e Anthropic, para discutir e analisar as ameaças potenciais da IA à infraestrutura crítica do estado.
Já exploramos anteriormente como a IA na educação pode personalizar experiências de aprendizado, redefinir práticas de ensino, oferecer feedback em tempo real e apoiar educadores com ferramentas e insights avançados. De fato, as inovações em IA podem criar um ambiente de estudo mais eficaz e envolvente para os alunos. Educadores e professores em todo o mundo estão usando a IA com mais regularidade, com projetos piloto bem-sucedidos e implementações mais amplas em andamento. Estudos mostram que mais de 50% dos professores sentem que a IA nas salas de aula impactou positivamente o processo de ensino e aprendizagem.
A Califórnia introduziu duas leis sobre o uso de IA em instituições educacionais. O AB 2876 exige que o Conselho Estadual de Educação da Califórnia considere a alfabetização em IA (após 1º de janeiro de 2025) em suas estruturas curriculares e materiais de instrução de matemática, ciência e história. O objetivo desta lei é garantir que as escolas da Califórnia eduquem os alunos sobre o básico de como funciona a inteligência artificial, bem como as limitações, os impactos e as considerações éticas do uso da tecnologia.
Além disso, a SB 1288 exige que os superintendentes da Califórnia criem grupos de trabalho (até 1º de janeiro de 2026) para explorar como a IA está sendo usada nas escolas públicas. Esses grupos de trabalho precisarão apresentar suas conclusões e recomendações aos comitês de política e fiscais relevantes da legislatura até 1º de janeiro de 2027. Após a apresentação do relatório, o grupo de trabalho será dissolvido e as disposições serão revogadas em 1º de janeiro de 2031.
A IA generativa está aprimorando o setor de saúde ao possibilitar inovações para a descoberta de novos medicamentos, diagnóstico de doenças, planejamento de tratamentos e chatbots médicos. Essas aplicações podem fornecer benefícios como monitoramento em tempo real, aconselhamento e suporte para melhorar os resultados dos pacientes. Outras tecnologias de IA, como a realidade aumentada (RA), também podem ser usadas para planejar e simular procedimentos cirúrgicos.
A integração da IA generativa na área da saúde traz consigo certas ressalvas relacionadas à privacidade de dados e regulamentações. Priorizar a precisão, a confiabilidade e a imparcialidade dos resultados gerados pela IA, ao mesmo tempo em que se protege a privacidade das informações de saúde, é crucial.
Para enfrentar esses desafios, a Califórnia aprovou duas leis sobre o uso de IA generativa na área da saúde. A AB 3030 exige que os prestadores de serviços de saúde divulguem quando usam IA generativa para se comunicar com um paciente, especificamente quando essas mensagens contêm informações clínicas do paciente. A SB 1120 impõe limitações sobre como os prestadores de serviços de saúde e as seguradoras de saúde podem automatizar seus serviços. Essas novas leis também garantem que médicos licenciados supervisionem o uso de ferramentas de IA nesses ambientes.
O estado da Califórnia também aprovou leis relacionadas à restrição do uso de IA para disseminar informações enganosas ou imprecisas. A SB 942 exige que os sistemas populares de IA generativa indiquem claramente em seus dados de origem que o conteúdo foi criado por IA. Muitas empresas de IA já fazem isso, e várias ferramentas gratuitas (ZeroGPT, Winston AI, GLTR, etc.) podem ajudar as pessoas a ler esses dados de origem e detectar conteúdo gerado por IA.
Três novas leis (AB 1831, SB 926, SB 981) foram aprovadas na Califórnia para abordar questões relacionadas a deepfakes. Essas leis expandem as proteções existentes, criminalizam o uso indevido de conteúdo gerado por IA e exigem que as plataformas de mídia social criem canais de denúncia para conteúdo deepfake. As leis devem ser implementadas até janeiro de 2025.
Um dos projetos de lei que foi aprovado e transformado em lei se concentrou em dar uma definição adequada à IA. A AB 2885 afirma que a IA é definida como “um sistema projetado ou baseado em máquina que varia em seu nível de autonomia e que pode, para objetivos explícitos ou implícitos, inferir a partir da entrada que recebe como gerar saídas que podem influenciar ambientes físicos ou virtuais.”
Também foram implementadas duas leis interessantes para a indústria do entretenimento. O maior sindicato de atores de cinema e radiodifusão da América (SAG-AFTRA) desempenhou um papel crucial para que essas leis entrassem em vigor. A AB 2602 exige que os estúdios de cinema obtenham permissão de um ator antes de usar IA para criar uma réplica de sua voz e imagem. Enquanto isso, a AB 1836 proíbe os estúdios de criar réplicas digitais de artistas falecidos (semelhante ao personagem de Peter Cushing em Star Wars: Rogue One) sem o consentimento de seus herdeiros.
Ao compreendermos cada uma dessas leis, você pode ter se perguntado por que elas são realmente necessárias. As regulamentações de IA têm sido um tópico popular de discussão há algum tempo, mas ganharam um impulso significativo com o aumento do conteúdo deepfake, que impactou várias áreas, incluindo mídia e política. O uso de conteúdo gerado por IA online gerou preocupações sobre a desinformação e seu potencial impacto nos resultados das eleições, por exemplo. Também existem crescentes apreensões sobre a privacidade e o uso indevido de dados pessoais por inovações de IA. Essas questões têm sido um fator para que várias novas leis estejam agora em vigor para abordar esses problemas.
Por exemplo, a AB 2905 exige que as chamadas automáticas revelem se são vozes geradas por IA. Além disso, a AB 2655 exige que grandes plataformas online como Facebook e X removam ou rotulem deepfakes relacionados às eleições e criem canais de denúncia para esse conteúdo. Candidatos e funcionários eleitos também podem buscar medidas cautelares se as plataformas não cumprirem.
Outra lei, a AB 2839, tem como alvo usuários de mídia social que postam ou repassam deepfakes que podem enganar os eleitores. Da mesma forma, a AB 2355 estipula divulgações claras para anúncios políticos feitos com ferramentas de IA.
As novas leis de IA da Califórnia refletem um compromisso crescente em equilibrar inovação com responsabilidade. Ao abordar as principais preocupações em áreas como transparência de dados, privacidade, deepfakes e o uso de IA na área da saúde e educação, essas leis visam proteger indivíduos e a sociedade, promovendo, ao mesmo tempo, o desenvolvimento responsável da IA. À medida que a IA continua a evoluir, essas regulamentações ajudarão a garantir que seu crescimento seja acompanhado por práticas éticas e confiança pública. Essas leis também podem encorajar outras regiões ao redor do mundo a seguirem o exemplo.
Para saber mais, visite nosso repositório GitHub e interaja com nossa comunidade. Explore aplicações de IA em manufatura e agricultura em nossas páginas de soluções. 🚀
