캘리포니아의 새로운 AI 규제: 윤리적 AI에 대한 집중

자율주행 자동차부터 헬스케어까지, 인공지능(AI) 혁신과 차세대 기술 기업들이 우리의 일상생활을 재편하는 데 핵심적인 역할을 하기 시작했습니다. 그 결과, 전 세계 AI 시장 규모는 2023년 1,966억 3천만 달러를 기록했으며, 2024년부터 2030년까지 연평균 36% 성장할 것으로 예상됩니다. 이러한 수치는 AI가 얼마나 빠르게 성장하고 있는지를 잘 보여줍니다.

On one hand, the rapid development of AI is creating solutions to various problems across different industries. On the other hand, this speed brings to light the need for responsible AI development to make sure that improvements are ethical and beneficial for society.

예를 들어, 2016년에 Microsoft는 X(구 Twitter)에서 챗봇 Tay를 출시했습니다. 이 챗봇은 사용자와의 대화를 통해 학습하도록 설계되었습니다. 그러나 출시 직후, Tay는 다양한 상호작용을 습득하면서 비전문적인 언어로 응답을 생성하기 시작했습니다. Microsoft가 신속하게 봇을 오프라인으로 전환했지만, 이는 AI 학습에 사용되는 데이터가 신뢰할 수 있는지 확인하고 기업이 AI 제품을 위해 그러한 데이터를 어떻게 사용하는지 대중이 인지하도록 하는 것이 중요하다는 좋은 사례입니다.

그림 1. Microsoft의 트위터 챗봇, Tay.

이러한 우려를 해결하기 위해 캘리포니아 주지사 Gavin Newsom은 지난 9월 12건 이상의 AI 관련 법안에 서명하여 법제화했습니다. 이 법들은 학습 데이터 공개부터 딥페이크 대응에 이르기까지 모든 것을 다룹니다. 이 기사에서는 캘리포니아의 AI 법률과 그 내용을 살펴볼 것입니다. 시작해 봅시다!

Link to this section2024년 캘리포니아 AI 법안: 책임성 보장#

AI 개발이 더욱 안전하고 신뢰할 수 있도록 지원하기 위해 3개의 주요 법안이 제정되었습니다. 2026년부터 시행되는 주 의회 법안(AB) 2013은 생성형 AI 제공업체가 자사의 학습 데이터셋에 관한 세부 정보를 공개하도록 요구합니다. 이러한 세부 정보에는 데이터셋의 출처, 데이터 사용 방식, 데이터셋 내 데이터 포인트 수, 저작권 또는 라이선스 데이터 포함 여부, 데이터 수집 기간 등이 포함됩니다. 이러한 정보를 공유하면 AI 기업이 대중의 신뢰를 구축하는 데 도움이 될 것입니다.

서명된 또 다른 중요한 법안은 AB 1008입니다. 이 법은 캘리포니아의 기존 개인정보 보호법을 생성형 AI 솔루션까지 확대합니다. AB 1008은 AI 시스템이 개인정보를 처리하는 방식에 대한 우려를 해결하고 대중의 신뢰를 높이기 위해 도입되었습니다. 한 설문조사에 따르면 81% 이상의 소비자가 AI 기업이 의도하지 않은 방식으로 자신의 정보를 사용할 수 있다고 우려하고 있습니다. 기업이 이름, 주소, 생체 데이터와 같은 개인정보를 사용하고 수익을 창출하는 방법에 대한 명확한 제한을 설정함으로써, 이 법은 AI 기업이 사용자의 데이터가 AI 시스템에 노출되더라도 책임 있게 처리될 것임을 안심시키는 데 도움을 줍니다.

그림 2. 많은 사람이 AI 솔루션이 개인정보 보호 측면에서 개선될 수 있다고 믿고 있음을 보여주는 인포그래픽.

이와 유사하게, 상원 법안(SB) 896, 즉 생성형 AI 책임법은 캘리포니아 주 비상관리국(CalOES)이 생성형 AI 시스템이 야기할 수 있는 잠재적 위협에 대한 위험 분석을 수행하도록 요구합니다. CalOES는 OpenAI 및 Anthropic과 같은 선도적인 AI 기업과 협력하여 국가의 핵심 인프라에 대한 AI의 잠재적 위협을 논의하고 분석할 예정입니다.

Link to this section교육 기관에서의 AI 도입 및 규제#

우리는 이전에 교육 분야의 AI가 어떻게 학습 경험을 개인화하고, 교수법을 재정의하며, 실시간 피드백을 제공하고, 고급 도구와 통찰력을 통해 교육자를 지원할 수 있는지 살펴보았습니다. 사실, AI 혁신은 학생들을 위한 더욱 효과적이고 매력적인 학습 환경을 조성할 수 있습니다. 전 세계 교육자와 교사들은 성공적인 시범 프로젝트와 더 광범위한 구현이 진행됨에 따라 AI를 더욱 정기적으로 사용하고 있습니다. 연구에 따르면 50% 이상의 교사가 교실 내 AI가 교수 및 학습 과정에 긍정적인 영향을 미쳤다고 느끼고 있습니다.

그림 3. 학교에서의 AI 사용에 대한 교사들의 생각을 보여주는 설문조사.

캘리포니아는 교육 기관 내 AI 사용과 관련하여 두 가지 법을 도입했습니다. AB 2876은 캘리포니아 주 교육 위원회가 2025년 1월 1일 이후 수학, 과학, 역사 커리큘럼 프레임워크 및 교육 자료에 AI 리터러시를 고려하도록 의무화합니다. 이 법의 목적은 캘리포니아 학교가 학생들에게 인공지능의 작동 원리에 대한 기초 지식과 해당 기술 사용의 한계, 영향, 윤리적 고려 사항을 교육하도록 보장하는 것입니다.

이 외에도 SB 1288은 캘리포니아 교육감들에게 2026년 1월 1일 또는 그 이전에 공립학교에서 AI가 어떻게 사용되고 있는지 조사하기 위한 실무 그룹을 구성하도록 요구합니다. 이 실무 그룹은 2027년 1월 1일까지 조사 결과와 권고 사항을 주 의회의 관련 정책 및 재정 위원회에 제출해야 합니다. 보고서가 제출된 후 실무 그룹은 해산되며, 관련 규정은 2031년 1월 1일에 폐지됩니다.

Link to this section헬스케어 분야의 생성형 AI 관련 규정#

Generative AI is improving the healthcare industry by enabling innovations for discovering new drugs, diagnosing diseases, planning treatments, and medical chatbots. These applications can provide benefits like real-time monitoring, advice, and support to improve patient outcomes. Other AI technologies, like augmented reality (AR), can also be used to plan and simulate surgical procedures.

그림 4. 헬스케어 분야의 생성형 AI 사용 사례.

생성형 AI를 헬스케어에 통합하는 것에는 데이터 개인정보 보호 및 규제와 관련된 몇 가지 주의 사항이 따릅니다. 건강 정보의 개인정보를 보호하면서 AI가 생성한 결과의 정확성, 신뢰성, 공정성을 우선시하는 것이 매우 중요합니다.

이러한 과제를 해결하기 위해 캘리포니아는 헬스케어 분야에서의 생성형 AI 사용에 관한 두 가지 법을 통과시켰습니다. AB 3030은 헬스케어 제공자가 환자와 소통할 때, 특히 해당 메시지에 환자의 임상 정보가 포함된 경우 생성형 AI를 사용함을 공개하도록 요구합니다. SB 1120은 헬스케어 서비스 제공자와 건강 보험사가 서비스를 자동화하는 방법에 제한을 둡니다. 이러한 새로운 법들은 또한 면허를 가진 의사가 이러한 환경에서 AI 도구의 사용을 감독하도록 보장합니다.

Link to this section딥페이크에 대한 캘리포니아의 AI 규제 프레임워크#

캘리포니아 주는 또한 AI를 사용하여 오해의 소지가 있거나 부정확한 정보를 퍼뜨리는 것을 억제하는 법을 통과시켰습니다. SB 942는 대중적인 생성형 AI 시스템이 해당 콘텐츠가 AI에 의해 생성되었음을 소스 데이터에 명확하게 표시하도록 요구합니다. 많은 AI 기업이 이미 이를 시행하고 있으며, ZeroGPT, Winston AI, GLTR 등 시중에 나와 있는 여러 무료 도구가 사람들이 이러한 소스 데이터를 읽고 AI 생성 콘텐츠를 감지하는 데 도움을 줄 수 있습니다.

캘리포니아에서는 딥페이크 관련 문제를 해결하기 위해 3개의 새로운 법(AB 1831, SB 926, SB 981)이 통과되었습니다. 이 법들은 기존의 보호 조치를 확대하고, AI 생성 콘텐츠의 오용을 범죄화하며, 소셜 미디어 플랫폼이 딥페이크 콘텐츠에 대한 신고 채널을 마련하도록 요구합니다. 이 법들은 2025년 1월까지 시행될 예정입니다.

Link to this sectionAI의 정의와 영화 산업에서의 사용에 관한 캘리포니아의 AI 법률#

법제화된 법안 중 하나는 AI에 대한 적절한 정의를 내리는 데 중점을 두었습니다. AB 2885에 따르면 AI는 "자율성 수준이 다르고 명시적 또는 암묵적 목표를 위해 수신한 입력으로부터 물리적 또는 가상 환경에 영향을 줄 수 있는 출력을 생성하는 방법을 추론할 수 있는 설계된 또는 기계 기반 시스템"으로 정의됩니다.

엔터테인먼트 산업을 위해 마련된 두 가지 흥미로운 법도 있었습니다. 미국 최대의 영화 및 방송 배우 조합(SAG-AFTRA)이 이 법들을 시행하는 데 중요한 역할을 했습니다. AB 2602는 영화 제작사가 AI를 사용하여 배우의 목소리와 외모를 복제하기 전에 해당 배우에게 허가를 받도록 요구합니다. 한편, AB 1836은 제작사가 사망한 연기자(스타워즈: 로그 원의 피터 쿠싱 캐릭터와 유사)의 디지털 복제본을 유족의 동의 없이 제작하는 것을 금지합니다.

그림 5. 그랜드 모프 타킨 캐릭터는 고(故) 배우 피터 쿠싱의 외모를 사용하여 만들어졌습니다.

Link to this section캘리포니아의 AI 법률을 추진하게 된 동기#

이러한 각각의 법에 대해 알아보면서 왜 이 법들이 정말 필요한지 궁금했을 수 있습니다. AI 규제는 한동안 인기 있는 토론 주제였지만, 미디어 및 정치를 포함한 다양한 영역에 영향을 미친 딥페이크 콘텐츠의 등장으로 상당한 탄력을 받았습니다. 예를 들어 온라인에서 AI 생성 콘텐츠를 사용하는 것은 잘못된 정보와 그로 인한 선거 결과에 미칠 수 있는 잠재적 영향에 대한 우려를 불러일으켰습니다. 또한 AI 혁신으로 인한 개인정보 보호와 개인 데이터의 오용에 대한 우려도 커지고 있습니다. 이러한 문제들이 현재 이러한 문제를 해결하기 위해 여러 새로운 법이 시행되고 있는 이유 중 하나입니다.

예를 들어, AB 2905는 로보콜이 AI 생성 음성인지 여부를 공개하도록 강제합니다. 또한 AB 2655는 Facebook 및 X와 같은 대형 온라인 플랫폼에 선거 관련 딥페이크를 제거하거나 라벨을 지정하고, 해당 콘텐츠에 대한 신고 채널을 만들 것을 요구합니다. 후보자와 선출직 공무원은 플랫폼이 이를 준수하지 않을 경우 금지 명령을 청구할 수도 있습니다.

또 다른 법인 AB 2839은 유권자를 오도할 수 있는 딥페이크를 게시하거나 재게시하는 소셜 미디어 사용자를 겨냥합니다. 이와 유사하게 AB 2355는 AI 도구를 사용하여 제작된 정치 광고에 대한 명확한 공개를 규정합니다.

Link to this section캘리포니아의 새로운 AI 법안의 핵심 요약#

캘리포니아의 새로운 AI 법안은 혁신과 책임 사이의 균형을 맞추려는 커지는 의지를 반영합니다. 데이터 투명성, 개인정보 보호, 딥페이크, 헬스케어 및 교육 분야에서의 AI 사용과 같은 주요 우려 사항을 다룸으로써, 이러한 법들은 책임 있는 AI 개발을 촉진하면서 개인과 사회를 보호하는 것을 목표로 합니다. AI가 계속 발전함에 따라, 이러한 규정은 그 성장이 윤리적인 관행과 대중의 신뢰를 동반하도록 보장하는 데 도움이 될 것입니다. 또한 이러한 법들은 전 세계의 다른 지역들이 이를 따르도록 장려할 수 있습니다.

자세한 내용을 알아보려면 저희 GitHub 저장소를 방문하고, 저희 커뮤니티와 소통해 보세요. 솔루션 페이지에서 제조 및 농업 분야의 AI 응용 사례를 탐색해보세요. 🚀