캘리포니아의 새로운 AI 법률이 개인 정보 보호, 딥페이크, 의료, 교육 및 보안을 다루면서 혁신과 책임의 균형을 맞추는 방법을 알아보십시오.
캘리포니아의 새로운 AI 법률이 개인 정보 보호, 딥페이크, 의료, 교육 및 보안을 다루면서 혁신과 책임의 균형을 맞추는 방법을 알아보십시오.
자율 주행 자동차에서 헬스케어에 이르기까지 인공 지능(AI) 혁신과 차세대 기술 기업은 우리의 일상 생활을 재편하는 데 중요한 역할을 하기 시작했습니다. 결과적으로 전 세계 AI 시장 규모는 2023년에 1,966억 3천만 달러였으며 2024년부터 2030년까지 연평균 36% 성장할 것으로 예상됩니다. 이러한 수치는 AI가 얼마나 빠르게 성장하고 있는지를 보여줍니다.
한편으로 AI의 급속한 발전은 다양한 산업 분야에서 다양한 문제에 대한 솔루션을 창출하고 있습니다. 다른 한편으로 이러한 속도는 개선 사항이 윤리적이고 사회에 유익하도록 책임감 있는 AI 개발의 필요성을 부각시킵니다.
예를 들어, 2016년에 Microsoft는 X(이전의 Twitter)에서 챗봇 Tay를 출시했습니다. 이는 사용자와의 대화에서 학습하도록 설계되었습니다. 그러나 출시 직후 Tay는 다양한 상호 작용을 통해 전문적이지 않은 언어로 응답을 생성하기 시작했습니다. Microsoft는 신속하게 봇을 오프라인으로 전환했지만 AI 훈련에 사용되는 데이터가 신뢰할 수 있는지, 그리고 기업이 AI 제품에 대해 이러한 데이터를 어떻게 사용하는지 대중이 인식하는 것이 중요하다는 좋은 예입니다.
이러한 우려를 해결하기 위해 캘리포니아 주지사 Gavin Newsom은 금년 9월에 12개 이상의 AI 관련 법안에 서명했습니다. 이 법률은 훈련 데이터에 대한 세부 정보 공개부터 딥페이크 처리까지 모든 것을 다룹니다. 이 기사에서는 캘리포니아의 AI 법률과 그 의미를 살펴봅니다. 시작해 보겠습니다!
AI 개발을 보다 안전하고 신뢰할 수 있도록 지원하기 위해 3개의 주요 법안이 법률로 제정되었습니다. 2026년에 발효되는 Assembly Bill(AB) 2013은 생성적 AI 제공업체가 학습 데이터 세트에 대한 세부 정보를 게시하도록 요구합니다. 이러한 세부 정보에는 데이터 세트의 소스, 데이터 사용 방법에 대한 세부 정보, 세트의 데이터 포인트 수, 저작권이 있는 데이터 또는 라이선스가 있는 데이터가 포함되어 있는지 여부, 데이터 수집 기간 등이 포함됩니다. 이 정보를 공유하면 AI 회사가 대중의 신뢰를 구축하는 데 도움이 됩니다.
또 다른 중요한 법안은 AB 1008입니다. 이 법안은 캘리포니아의 기존 개인 정보 보호법을 생성형 AI 솔루션으로 확장합니다. AB 1008은 AI 시스템이 개인 정보를 처리하는 방식에 대한 우려를 해결하고 대중의 신뢰를 높이기 위해 도입되었습니다. 설문 조사에 따르면 소비자의 81% 이상이 AI 회사가 자신의 정보를 의도하지 않은 방식으로 사용할 수 있다고 우려하는 것으로 나타났습니다. 기업이 이름, 주소 및 생체 인식 데이터와 같은 개인 정보를 사용하고 이익을 얻는 방법에 대한 명확한 제한을 설정함으로써 이 법은 AI 회사가 AI 시스템에 의해 노출되더라도 사용자에게 데이터가 책임감 있게 처리될 것이라고 안심시키는 데 도움이 됩니다.
마찬가지로 상원 법안(SB) 896인 생성적 AI 책임법은 캘리포니아 응급 서비스국(CalOES)에 생성적 AI 시스템이 제기할 수 있는 잠재적 위협에 대한 위험 분석을 수행하도록 요구합니다. CalOES는 OpenAI 및 Anthropic과 같은 선구적인 AI 회사와 협력하여 중요한 주 인프라에 대한 AI의 잠재적 위협에 대해 논의하고 분석합니다.
이전에 교육 분야의 AI가 학습 경험을 개인화하고, 교육 방식을 재정의하며, 실시간 피드백을 제공하고, 고급 도구와 통찰력으로 교육자를 지원하는 방법에 대해 살펴보았습니다. 실제로 AI 혁신은 학생들에게 더욱 효과적이고 매력적인 학습 환경을 조성할 수 있습니다. 전 세계의 교육자들은 성공적인 시범 프로젝트와 광범위한 구현을 통해 AI를 보다 정기적으로 사용하고 있습니다. 연구에 따르면 교사의 50% 이상이 교실 내 AI가 교육 및 학습 과정에 긍정적인 영향을 미쳤다고 생각합니다.
캘리포니아주는 교육 기관에서 AI 사용에 관한 두 가지 법률을 도입했습니다. AB 2876은 캘리포니아 주 교육위원회가 수학, 과학 및 역사 커리큘럼 프레임워크 및 교재에서 AI 리터러시를 고려하도록 의무화합니다(2025년 1월 1일 이후). 이 법의 목표는 캘리포니아 학교가 인공 지능 작동 방식의 기본 사항은 물론 기술 사용의 제한 사항, 영향 및 윤리적 고려 사항에 대해 학생들을 교육하도록 하는 것입니다.
이 외에도 SB 1288은 캘리포니아 교육감이 공립학교에서 AI가 사용되는 방식을 탐구하기 위해 (2026년 1월 1일 또는 그 이전에) 실무 그룹을 구성하도록 요구합니다. 이러한 실무 그룹은 2027년 1월 1일까지 입법부의 관련 정책 및 재정 위원회에 조사 결과 및 권장 사항을 제출해야 합니다. 보고서가 제출된 후 실무 그룹은 해산되고 조항은 2031년 1월 1일에 폐지됩니다.
생성형 AI는 신약 발견, 질병 진단, 치료 계획 및 의료 챗봇을 위한 혁신을 가능하게 함으로써 의료 산업을 개선하고 있습니다. 이러한 애플리케이션은 실시간 모니터링, 조언 및 지원과 같은 이점을 제공하여 환자 결과 개선에 기여할 수 있습니다. 증강 현실(AR)과 같은 다른 AI 기술을 사용하여 수술 절차를 계획하고 시뮬레이션할 수도 있습니다.
생성형 AI를 의료에 통합하는 것은 데이터 개인 정보 보호 및 규정과 관련된 특정 주의 사항이 있습니다. AI가 생성한 결과의 정확성, 신뢰성 및 공정성을 우선시하는 동시에 건강 정보의 개인 정보 보호를 보장하는 것이 중요합니다.
이러한 문제를 해결하기 위해 캘리포니아는 의료 분야에서 생성형 AI 사용에 관한 두 가지 법률을 통과시켰습니다. AB 3030은 의료 제공자가 생성형 AI를 사용하여 환자와 소통할 때, 특히 해당 메시지에 환자의 임상 정보가 포함된 경우 이를 공개하도록 요구합니다. SB 1120은 의료 서비스 제공자와 건강 보험 회사가 서비스를 자동화할 수 있는 방법에 제한을 둡니다. 이러한 새로운 법률은 또한 면허를 소지한 의사가 이러한 환경에서 AI 도구 사용을 감독하도록 보장합니다.
캘리포니아 주에서도 오해의 소지가 있거나 부정확한 정보를 퍼뜨리기 위해 AI 사용을 억제하는 관련 법률이 통과되었습니다. SB 942는 인기 있는 생성형 AI 시스템이 콘텐츠가 AI에 의해 생성되었음을 소스 데이터에 명확하게 표시하도록 요구합니다. 많은 AI 기업이 이미 이를 수행하고 있으며, 여러 무료 도구(ZeroGPT, Winston AI, GLTR 등)가 사람들이 이 소스 데이터를 읽고 AI 생성 콘텐츠를 감지하는 데 도움을 줄 수 있습니다.
딥페이크와 관련된 문제를 해결하기 위해 캘리포니아에서 3개의 새로운 법률(AB 1831, SB 926, SB 981)이 통과되었습니다. 이 법률은 기존 보호를 확대하고 AI 생성 콘텐츠의 오용을 범죄화하며 소셜 미디어 플랫폼이 딥페이크 콘텐츠에 대한 보고 채널을 만들도록 요구합니다. 이 법률은 2025년 1월까지 시행될 예정입니다.
법으로 통과된 법안 중 하나는 AI에 대한 적절한 정의를 내리는 데 중점을 두었습니다. AB 2885는 AI를 '자율 수준이 다양하고 명시적 또는 묵시적 목표를 위해 수신하는 입력으로부터 물리적 또는 가상 환경에 영향을 미칠 수 있는 출력을 생성하는 방법을 추론할 수 있는 엔지니어링 또는 기계 기반 시스템'으로 정의한다고 명시합니다.
엔터테인먼트 산업을 위해 마련된 두 가지 흥미로운 법률도 있었습니다. 미국 최대 영화 및 방송 배우 조합(SAG-AFTRA)은 이러한 법률을 시행하는 데 중요한 역할을 했습니다. AB 2602는 영화 스튜디오가 AI를 사용하여 배우의 음성과 초상을 복제하기 전에 배우의 허가를 받도록 요구합니다. 한편, AB 1836은 스튜디오가 유족의 동의 없이 사망한 연기자의 디지털 복제본(스타워즈: 로그 원의 피터 쿠싱 캐릭터와 유사)을 만드는 것을 금지합니다.
이러한 법률 각각에 대한 통찰력을 얻으면서 왜 이러한 법률이 실제로 필요한지 궁금했을 것입니다. AI 규정은 한동안 인기 있는 토론 주제였지만 딥페이크 콘텐츠의 등장으로 상당한 추진력을 얻었으며, 이는 미디어 및 정치를 포함한 다양한 영역에 영향을 미쳤습니다. 예를 들어 온라인에서 AI 생성 콘텐츠를 사용하면 허위 정보와 잠재적인 선거 결과에 미치는 영향에 대한 우려가 제기되었습니다. 또한 AI 혁신에 의한 개인 정보 보호 및 개인 데이터 오용에 대한 우려도 커지고 있습니다. 이러한 문제가 여러 새로운 법률이 제정되어 이러한 문제를 해결하는 요인이 되었습니다.
예를 들어, AB 2905는 로보콜이 AI 생성 음성인지 여부를 공개하도록 강제합니다. 또한 AB 2655는 Facebook 및 X와 같은 대규모 온라인 플랫폼에 선거와 관련된 딥페이크를 제거하거나 라벨을 표시하고, 이러한 콘텐츠에 대한 신고 채널을 만들 것을 요구합니다. 후보자와 선출된 공무원은 플랫폼이 이를 준수하지 않을 경우 금지 명령 구제를 구할 수도 있습니다.
또 다른 법률인 AB 2839는 유권자를 오도할 수 있는 딥페이크를 게시하거나 다시 게시하는 소셜 미디어 사용자를 대상으로 합니다. 마찬가지로 AB 2355는 AI 도구를 사용하여 만든 정치 광고에 대한 명확한 공개를 규정합니다.
캘리포니아의 새로운 AI 법률은 혁신과 책임성의 균형을 맞추려는 노력이 커지고 있음을 반영합니다. 데이터 투명성, 개인 정보 보호, 딥페이크, 의료 및 교육 분야에서 AI 사용과 같은 주요 문제를 해결함으로써 이러한 법률은 책임감 있는 AI 개발을 장려하면서 개인과 사회를 보호하는 것을 목표로 합니다. AI가 계속 발전함에 따라 이러한 규정은 AI 성장이 윤리적 관행 및 대중의 신뢰와 함께 이루어지도록 하는 데 도움이 될 것입니다. 이러한 법률은 또한 전 세계 다른 지역에서도 유사한 조치를 취하도록 장려할 수 있습니다.
자세한 내용은 GitHub 저장소를 방문하여 커뮤니티에 참여하십시오. 솔루션 페이지에서 제조업 및 농업 분야의 AI 응용 프로그램을 살펴보세요. 🚀
