캘리포니아의 새로운 AI 규정: 윤리적 AI에 초점

자율주행차부터 의료까지, 인공지능(AI) 혁신과 차세대 기술 기업이 우리의 일상생활을 재편하는 데 핵심적인 역할을 하기 시작했습니다. 이에 따라 전 세계 AI 시장 규모는 2023년에 1,966억 3,000만 달러에 달했으며, 2024년부터 2030년까지 연평균 36% 성장할 것으로 예상됩니다. 이러한 수치는 AI가 얼마나 빠르게 성장하고 있는지 보여줍니다.

한편으로 AI의 급속한 발전은 다양한 산업에서 여러 문제를 해결할 수 있는 솔루션을 만들어 내고 있습니다. 다른 한편으로 이러한 속도는 발전이 윤리적이고 사회에 유익하도록 보장하기 위해 책임감 있는 AI 개발이 필요하다는 점을 부각합니다.

예를 들어 2016년에 Microsoft는 X(이전의 Twitter)에 Tay라는 챗봇을 출시했습니다. 이 챗봇은 사용자와의 대화에서 학습하도록 설계되었습니다. 그러나 출시 직후 Tay는 다양한 상호작용을 접하면서 비전문적인 언어가 포함된 응답을 생성하기 시작했습니다. Microsoft는 신속하게 이 봇을 오프라인으로 전환했지만, 이는 AI 학습에 사용되는 데이터가 신뢰할 수 있는지 확인하고 기업이 AI 제품에 이러한 데이터를 어떻게 사용하는지 대중이 인지하도록 하는 것이 중요하다는 점을 보여주는 좋은 사례입니다.

그림 1. Microsoft의 Twitter 챗봇 Tay입니다.

이러한 우려에 대응하여 캘리포니아 주지사 Gavin Newsom은 올해 9월 12개가 넘는 AI 관련 법안에 서명하여 법률로 제정했습니다. 이러한 법률은 학습 데이터의 세부 정보 공개부터 딥페이크 처리까지 다양한 사항을 다룹니다. 이 글에서는 캘리포니아의 AI 법률과 그 의미를 살펴보겠습니다. 시작하겠습니다!

캘리포니아 AI 법률 2024: 책임성 보장#

AI 개발을 더욱 안전하고 신뢰할 수 있도록 지원하기 위해 세 가지 주요 법안이 법률로 제정되었습니다. 2026년에 발효되는 하원 법안(AB) 2013은 생성형 AI 제공업체가 학습 데이터셋에 관한 세부 정보를 공개하도록 요구합니다. 이러한 세부 정보에는 데이터셋의 출처, 데이터 사용 방식, 데이터셋 내 데이터 포인트 수, 저작권이 있거나 라이선스가 부여된 데이터의 포함 여부, 데이터가 수집된 기간 등이 포함됩니다. 이 정보를 공유하면 AI 기업이 대중의 신뢰를 구축하는 데 도움이 됩니다.

서명된 또 다른 중요한 법안은 AB 1008입니다. 이 법안은 캘리포니아의 기존 개인정보 보호법을 생성형 AI 솔루션으로 확장합니다. AB 1008은 AI 시스템이 개인정보를 처리하는 방식에 대한 우려를 해소하고 대중의 신뢰를 높이기 위해 도입되었습니다. 한 설문조사에 따르면 소비자의 81% 이상이 AI 기업이 자신의 정보를 의도하지 않은 방식으로 사용할 수 있다고 우려하는 것으로 나타났습니다. 이 법률은 이름, 주소, 생체 데이터와 같은 개인정보를 기업이 사용하고 수익화할 수 있는 방식을 명확히 제한함으로써, AI 시스템에 의해 정보가 노출되는 경우에도 데이터가 책임감 있게 처리될 것이라고 AI 기업이 사용자에게 확신을 줄 수 있도록 지원합니다.

그림 2. 많은 사람이 개인정보 보호 측면에서 AI 솔루션이 개선될 수 있다고 생각한다는 점을 보여주는 인포그래픽입니다.

이와 유사하게 상원 법안(SB) 896, 즉 생성형 AI 책임성 법안은 캘리포니아 비상서비스국(CalOES)이 생성형 AI 시스템이 초래할 수 있는 잠재적 위협에 대한 위험 분석을 수행하도록 요구합니다. CalOES는 OpenAI와 Anthropic 같은 선도적인 AI 기업과 협력하여 AI가 주의 핵심 인프라에 미칠 수 있는 잠재적 위협을 논의하고 분석할 예정입니다.

교육 기관의 AI 도입 및 규제#

앞서 교육 분야의 AI가 학습 경험을 개인화하고, 교수 방식을 재정의하며, 실시간 피드백을 제공하고, 고급 도구와 인사이트로 교육자를 지원하는 방식을 살펴본 바 있습니다. 실제로 AI 혁신은 학생에게 더욱 효과적이고 참여도 높은 학습 환경을 조성할 수 있습니다. 전 세계의 교육자와 교사는 성공적인 파일럿 프로젝트와 광범위한 도입을 진행하면서 AI를 더욱 정기적으로 사용하고 있습니다. 연구에 따르면 교사의 50% 이상이 교실에서의 AI가 교수 및 학습 과정에 긍정적인 영향을 미쳤다고 느끼는 것으로 나타났습니다.

그림 3. 학교에서 AI를 사용하는 것에 대한 교사들의 의견을 보여주는 설문조사입니다.

캘리포니아는 교육 기관에서의 AI 사용과 관련하여 두 가지 법률을 도입했습니다. AB 2876은 캘리포니아 주 교육위원회가 (2025년 1월 1일 이후) 수학, 과학, 역사 교육과정 체계와 교육 자료에서 AI 리터러시를 고려하도록 의무화합니다. 이 법률의 목적은 캘리포니아의 학교가 학생에게 인공지능의 작동 원리의 기본 사항과 함께 해당 기술 사용의 한계, 영향, 윤리적 고려 사항을 교육하도록 하는 것입니다.

이와 더불어 SB 1288은 캘리포니아 교육감이 공립학교에서 AI가 어떻게 사용되고 있는지 조사하기 위한 실무 그룹을 (2026년 1월 1일 또는 그 이전에) 구성하도록 요구합니다. 이러한 실무 그룹은 2027년 1월 1일까지 조사 결과와 권고 사항을 주 의회의 관련 정책 및 재정 위원회에 제출해야 합니다. 보고서가 제출되면 실무 그룹은 해산되고, 해당 조항은 2031년 1월 1일에 폐지됩니다.

의료 분야의 생성형 AI 관련 규정#

생성형 AI는 신약 발견, 질병 진단, 치료 계획 수립, 의료 챗봇 등의 혁신을 가능하게 하여 의료 산업을 개선하고 있습니다. 이러한 애플리케이션은 실시간 모니터링, 조언, 지원 등을 제공하여 환자 치료 결과를 개선하는 데 도움을 줄 수 있습니다. 증강 현실(AR)과 같은 다른 AI 기술은 수술 절차를 계획하고 시뮬레이션하는 데에도 사용될 수 있습니다.

그림 4. 의료 분야 생성형 AI의 사용 사례입니다.

생성형 AI를 의료 분야에 통합하면 데이터 개인정보 보호 및 규제와 관련된 몇 가지 주의 사항이 따릅니다. 건강 정보의 개인정보를 보호하는 동시에 AI가 생성한 결과의 정확성, 신뢰성, 공정성을 우선시하는 것이 중요합니다.

이러한 과제를 해결하기 위해 캘리포니아는 의료 분야에서 생성형 AI를 사용하는 것에 관한 두 가지 법률을 통과시켰습니다. AB 3030은 의료 서비스 제공자가 환자와 소통할 때, 특히 해당 메시지에 환자의 임상 정보가 포함된 경우 생성형 AI를 사용했다는 사실을 공개하도록 요구합니다. SB 1120은 의료 서비스 제공자와 건강보험사가 서비스를 자동화할 수 있는 방식에 제한을 둡니다. 이러한 새로운 법률은 또한 해당 환경에서 AI 도구를 사용할 때 면허를 보유한 의사가 감독하도록 보장합니다.

딥페이크에 관한 캘리포니아의 AI 규제 체계#

캘리포니아주는 오해의 소지가 있거나 부정확한 정보를 확산하기 위해 AI를 사용하는 행위를 억제하는 것과 관련된 법률도 통과시켰습니다. SB 942은 널리 사용되는 생성형 AI 시스템이 콘텐츠가 AI로 생성되었다는 사실을 소스 데이터에 명확히 표시하도록 요구합니다. 많은 AI 기업이 이미 이를 시행하고 있으며, 여러 무료 도구(ZeroGPT, Winston AI, GLTR 등)를 통해 사람들이 이 소스 데이터를 읽고 AI 생성 콘텐츠를 감지할 수 있습니다.

딥페이크와 관련된 문제를 해결하기 위해 캘리포니아에서는 세 가지 새로운 법률(AB 1831, SB 926, SB 981)이 통과되었습니다. 이러한 법률은 기존 보호 조치를 확대하고, AI 생성 콘텐츠의 오용을 범죄로 규정하며, 소셜 미디어 플랫폼이 딥페이크 콘텐츠를 신고할 수 있는 채널을 마련하도록 요구합니다. 해당 법률은 2025년 1월까지 시행될 예정입니다.

AI의 정의와 영화에서의 사용에 관한 캘리포니아의 AI 법률#

통과되어 법률로 제정된 법안 중 하나는 AI에 대한 적절한 정의를 제시하는 데 중점을 두었습니다. AB 2885은 AI를 “자율성 수준이 다양하고, 명시적 또는 암묵적 목적에 따라 입력받은 정보로부터 물리적 또는 가상 환경에 영향을 미칠 수 있는 출력을 생성하는 방법을 추론할 수 있는 공학적 또는 기계 기반 시스템”으로 정의합니다.

엔터테인먼트 산업을 위해 마련된 흥미로운 법률도 두 가지 있습니다. 미국 최대의 영화 및 방송 배우 노동조합(SAG-AFTRA)은 이러한 법률의 시행을 추진하는 데 중요한 역할을 했습니다. AB 2602은 영화 스튜디오가 AI를 사용하여 배우의 목소리와 초상을 복제하기 전에 해당 배우의 허가를 받도록 요구합니다. 한편 AB 1836은 유산 관리 주체의 동의 없이 고인이 된 배우의 디지털 복제본을 제작하는 것을 금지합니다(Star Wars: Rogue One의 Peter Cushing 캐릭터와 유사한 사례입니다).

그림 5. 고인이 된 배우 Peter Cushing의 초상을 사용해 제작한 캐릭터 Grand Moff Tarkin입니다.

캘리포니아 AI 법률을 추진한 핵심 요인#

이러한 각 법률을 살펴보면서 왜 실제로 이러한 법률이 필요한지 궁금했을 수 있습니다. AI 규정은 한동안 주요 논의 주제였지만, 미디어와 정치를 비롯한 다양한 영역에 영향을 미친 딥페이크 콘텐츠가 증가하면서 상당한 추진력을 얻었습니다. 온라인에서 AI 생성 콘텐츠가 사용되면서 허위 정보와 이것이 선거 결과에 미치는 영향에 대한 우려도 제기되었습니다. AI 혁신으로 인한 개인정보 보호와 개인정보 오용에 대한 우려도 커지고 있습니다. 이러한 문제로 인해 여러 새로운 법률이 제정되어 관련 문제를 해결하게 되었습니다.

예를 들어 AB 2905은 자동 발신 전화가 AI로 생성된 음성인지 공개하도록 의무화합니다. 또한 AB 2655은 Facebook과 X 같은 대형 온라인 플랫폼이 선거와 관련된 딥페이크를 삭제하거나 라벨을 표시하고, 해당 콘텐츠를 신고할 수 있는 채널을 마련하도록 요구합니다. 플랫폼이 이를 준수하지 않을 경우 후보자와 선출직 공무원은 법원의 금지명령 구제를 요청할 수도 있습니다.

또 다른 법률인 AB 2839은 유권자를 오도할 수 있는 딥페이크를 게시하거나 재게시하는 소셜 미디어 사용자를 대상으로 합니다. 이와 유사하게 AB 2355은 AI 도구를 사용해 제작한 정치 광고에 명확한 공개 표시를 하도록 규정합니다.

캘리포니아의 새로운 AI 법률에서 얻을 수 있는 핵심 내용#

캘리포니아의 새로운 AI 법률은 혁신과 책임성의 균형을 맞추려는 노력이 커지고 있음을 보여줍니다. 데이터 투명성, 개인정보 보호, 딥페이크, 의료 및 교육 분야의 AI 사용과 같은 핵심 우려를 다룸으로써, 이러한 법률은 책임감 있는 AI 개발을 촉진하는 동시에 개인과 사회를 보호하는 것을 목표로 합니다. AI가 계속 발전함에 따라 이러한 규정은 AI의 성장이 윤리적 관행 및 대중의 신뢰와 함께 이루어지도록 지원할 것입니다. 또한 이러한 법률은 전 세계의 다른 지역이 뒤따르도록 장려할 수도 있습니다.

자세한 내용은 GitHub 저장소를 방문하고 커뮤니티에 참여해 보세요. 솔루션 페이지에서 제조 및 농업 분야의 AI 애플리케이션을 살펴보세요. 🚀