캘리포니아의 새로운 AI 규정: 윤리적 AI에 중점을 두다

자율주행차부터 의료에 이르기까지 인공지능(AI) 혁신과 차세대 기술 기업은 일상생활을 재편하는 데 중요한 역할을 하기 시작했습니다. 이에 따라 AI 시장 규모는 2023년 1,966억 3,000만 달러에 달했으며, 2024년부터 2030년까지 연평균 36% 성장할 것으로 예상됩니다. 이 수치는 AI가 얼마나 빠르게 성장하고 있는지를 보여줍니다.

한편으로 AI의 빠른 발전은 다양한 산업의 여러 문제를 해결하는 방법을 만들어 내고 있습니다. 다른 한편으로는 이러한 속도 때문에 개선이 윤리적이고 사회에 도움이 되도록 책임감 있게 AI를 개발해야 한다는 필요성이 부각되고 있습니다.

예를 들어 2016년 Microsoft는 X(구 Twitter)에 챗봇 Tay를 출시했습니다. Tay는 사용자와의 대화를 통해 학습하도록 설계되었습니다. 그러나 출시 직후 다양한 상호작용을 접하면서 전문성이 부족한 표현으로 답변하기 시작했습니다. Microsoft는 신속하게 챗봇을 오프라인으로 전환했지만, 이는 AI 학습에 사용하는 데이터의 신뢰성을 보장하고 기업이 AI 제품에 데이터를 어떻게 활용하는지 대중에게 알리는 일이 얼마나 중요한지 보여주는 좋은 사례입니다.

그림 1. Microsoft의 Twitter 챗봇 Tay.

이러한 우려에 대응해 캘리포니아 주지사 Gavin Newsom은 지난 9월 12개가 넘는 AI 관련 법안에 서명했습니다. 이 법률은 학습 데이터 세부 정보 공개부터 딥페이크 처리까지 다양한 사안을 다룹니다. 이 글에서는 캘리포니아의 AI 법률과 그 내용을 살펴보겠습니다.

2024년 캘리포니아 AI 법률: 책임성 보장#

AI 개발의 보안과 신뢰성을 높이기 위해 세 가지 주요 법안이 통과되었습니다. 2026년에 발효되는 하원 법안(AB) 2013은 생성형 AI 제공업체가 학습 데이터 세트에 관한 세부 정보를 공개하도록 요구합니다. 공개 정보에는 데이터 세트의 출처, 데이터 사용 방식, 데이터 세트의 데이터 포인트 수, 저작권 또는 라이선스가 적용된 데이터의 포함 여부, 데이터 수집 기간 등이 포함됩니다. 이러한 정보를 공유하면 AI 기업이 대중의 신뢰를 쌓는 데 도움이 됩니다.

통과된 또 다른 중요한 법안은 AB 1008입니다. 이 법안은 기존 캘리포니아 개인정보 보호법의 적용 범위를 생성형 AI 솔루션까지 확대합니다. AB 1008은 AI 시스템의 개인정보 처리 방식에 대한 우려를 해소하고 대중의 신뢰를 높이기 위해 발의되었습니다. 설문조사에 따르면 소비자의 81% 이상이 AI 기업이 의도하지 않은 방식으로 자신의 정보를 사용할 수 있다고 우려합니다. 이름, 주소, 생체 정보와 같은 개인정보를 기업이 사용하고 수익화할 수 있는 범위를 명확히 제한함으로써, 이 법률은 AI 시스템에 의해 데이터가 노출되더라도 책임감 있게 처리될 것이라고 사용자에게 안심시킬 수 있도록 지원합니다.

그림 2. 많은 사람이 개인정보 보호 측면에서 AI 솔루션이 개선될 수 있다고 생각한다는 점을 보여 주는 인포그래픽.

마찬가지로 상원 법안(SB) 896, 즉 생성형 AI 책임법은 캘리포니아 비상서비스국(CalOES)이 생성형 AI 시스템이 초래할 수 있는 잠재적 위협을 분석하도록 요구합니다. CalOES는 OpenAI와 Anthropic 같은 선도적인 AI 기업과 협력해 AI가 주의 핵심 인프라에 미칠 수 있는 위협을 논의하고 분석할 예정입니다.

교육기관의 AI 도입 및 규제#

앞서 교육 분야의 AI가 학습 경험을 개인화하고, 교수 방식을 재정의하고, 실시간 피드백을 제공하고, 고급 도구와 인사이트로 교육자를 지원하는 방법을 살펴봤습니다. 실제로 AI 혁신은 학생에게 더 효과적이고 몰입도 높은 학습 환경을 조성할 수 있습니다. 전 세계 교육자와 교사는 AI를 더욱 정기적으로 활용하고 있으며, 성공적인 시범 프로젝트와 더 광범위한 도입이 진행 중입니다. 연구에 따르면 교사의 50% 이상이 교실에서의 AI가 교수·학습 과정에 긍정적인 영향을 미쳤다고 생각합니다.

그림 3. 학교에서 AI를 사용하는 것에 대한 교사들의 의견을 보여 주는 설문조사.

캘리포니아는 교육기관의 AI 활용과 관련해 두 가지 법률을 도입했습니다. AB 2876은 캘리포니아 주 교육위원회가 수학, 과학, 역사 교육과정 프레임워크와 교수 자료에 AI 리터러시를 반영하도록 규정합니다(2025년 1월 1일 이후). 이 법률의 목적은 캘리포니아 학교가 학생에게 인공지능의 작동 원리뿐 아니라 해당 기술의 한계와 영향, 사용에 따른 윤리적 고려 사항도 교육하도록 하는 것입니다.

이와 함께 SB 1288은 캘리포니아 교육감이 2026년 1월 1일 이전 또는 당일까지 공립학교에서 AI가 어떻게 사용되는지 조사하는 실무 그룹을 구성하도록 요구합니다. 실무 그룹은 조사 결과와 권고 사항을 2027년 1월 1일까지 관련 의회 정책 및 재정 위원회에 제출해야 합니다. 보고서 제출 후 실무 그룹은 해산되며, 해당 조항은 2031년 1월 1일에 폐지됩니다.

의료 분야 생성형 AI 관련 규정#

생성형 AI는 신약 발견, 질병 진단, 치료 계획 수립, 의료 챗봇 등의 혁신을 가능하게 하여 의료 산업을 발전시키고 있습니다. 이러한 애플리케이션은 환자 예후를 개선하기 위해 실시간 모니터링, 조언, 지원과 같은 이점을 제공할 수 있습니다. 증강 현실(AR)과 같은 다른 기술도 수술 절차를 계획하고 시뮬레이션하는 데 사용할 수 있습니다.

그림 4. 의료 분야 생성형 AI 활용 사례.

생성형 AI를 의료 분야에 통합할 때는 데이터 개인정보 보호 및 규제와 관련한 몇 가지 주의 사항이 따릅니다. 건강 정보의 개인정보를 보호하면서 AI가 생성하는 결과의 정확성, 신뢰성, 공정성을 우선시하는 것이 중요합니다.

이러한 문제를 해결하기 위해 캘리포니아는 의료 분야의 생성형 AI 사용에 관한 법률 두 건을 통과시켰습니다. AB 3030은 의료 서비스 제공자가 생성형 AI를 사용해 환자와 소통하는 경우, 특히 메시지에 환자의 임상 정보가 포함될 때 이를 공개하도록 요구합니다. SB 1120은 의료 서비스 제공자와 건강 보험사가 서비스를 자동화하는 방식에 제한을 둡니다. 이 새로운 법률은 이러한 환경에서 AI 도구를 사용할 때 면허를 보유한 의사가 감독하도록 보장합니다.

딥페이크에 관한 캘리포니아 AI 규제 체계#

캘리포니아주도 오해의 소지가 있거나 부정확한 정보를 퍼뜨리는 데 AI를 사용하는 것을 억제하는 법률을 통과시켰습니다. SB 942는 월간 사용자가 100만 명이 넘는 생성형 AI 시스템 제공업체에 시스템이 생성하는 AI 이미지, 동영상, 오디오에 보이지 않는(잠재적) 표시를 삽입하고, 이를 감지하는 무료 도구를 제공하도록 요구합니다.

딥페이크 관련 문제를 해결하기 위해 캘리포니아에서는 세 건의 신규 법률(AB 1831, SB 926, SB 981이 통과되었습니다. 이 법률은 기존 보호 조치를 확대하고, AI 생성 콘텐츠의 악용을 범죄로 규정하며, 소셜 미디어 플랫폼이 딥페이크 콘텐츠 신고 채널을 마련하도록 요구합니다. 이 법률은 2025년 1월까지 시행될 예정입니다.

AI의 정의와 영화 산업에서의 사용에 관한 캘리포니아 AI 법률#

통과된 법안 중 하나는 AI에 적절한 정의를 내리는 데 중점을 둡니다. AB 2885는 AI를 "자율성의 수준이 달라지는 공학적 또는 기계 기반 시스템으로, 명시적 또는 암묵적 목표에 따라 입력을 바탕으로 물리적 또는 가상 환경에 영향을 미칠 수 있는 출력을 생성하는 방법을 추론할 수 있는 시스템"으로 정의합니다.

엔터테인먼트 업계와 관련해 흥미로운 법률 두 건도 제정되었습니다. 미국 최대의 영화·방송 배우 노조(SAG-AFTRA)는 이 법률의 제정을 추진하는 데 중요한 역할을 했습니다. AB 2602는 영화 스튜디오가 AI를 사용해 배우의 목소리와 외모를 복제하기 전에 배우의 허가를 받도록 요구합니다. 한편 AB 1836는 유족의 동의 없이 스튜디오가 사망한 배우의 디지털 복제본을 만드는 것을 금지합니다(Rogue One: A Star Wars Story의 Peter Cushing 캐릭터와 유사한 사례입니다).

그림 5. 고(故) 배우 Peter Cushing의 외모를 사용해 만든 Grand Moff Tarkin 캐릭터.

캘리포니아 AI 법률의 추진 배경#

이러한 법률을 살펴보면 왜 필요한지 궁금할 수 있습니다. AI 규제는 한동안 주요 논의 주제였지만, 미디어와 정치 등 다양한 영역에 영향을 미친 딥페이크 콘텐츠의 확산으로 더욱 큰 주목을 받았습니다. 예를 들어 온라인에서 AI 생성 콘텐츠가 사용되면서 허위 정보와 선거 결과에 미칠 수 있는 영향에 대한 우려가 제기되었습니다. AI 혁신으로 인한 개인정보 보호와 개인 데이터 오용에 대한 우려도 커지고 있습니다. 이러한 우려는 여러 새로운 법률이 시행되는 주요 원인입니다.

예를 들어 AB 2905는 자동 발신 전화에서 AI 생성 음성을 사용하는지 공개하도록 요구합니다. 또한 AB 2655는 Facebook과 X 같은 대형 온라인 플랫폼이 선거 관련 딥페이크를 삭제하거나 표시하고, 해당 콘텐츠를 신고할 수 있는 채널을 마련하도록 요구합니다. 플랫폼이 이를 준수하지 않으면 후보자와 선출직 공무원도 금지명령 구제를 요청할 수 있습니다.

또 다른 법률인 AB 2839는 유권자를 오도할 수 있는 딥페이크를 게시하거나 재게시하는 소셜 미디어 사용자를 대상으로 합니다. 마찬가지로 AB 2355는 AI 도구를 사용해 만든 정치 광고에 명확한 고지를 표시하도록 규정합니다.

캘리포니아의 새로운 AI 법률 핵심 정리#

캘리포니아의 새로운 AI 법률은 혁신과 책임성의 균형을 이루려는 노력이 커지고 있음을 보여 줍니다. 데이터 투명성, 개인정보 보호, 딥페이크, 의료 및 교육 분야의 AI 사용과 같은 주요 우려를 다룸으로써, 이러한 법률은 책임 있는 AI 개발을 촉진하는 동시에 개인과 사회를 보호하는 것을 목표로 합니다. AI가 계속 발전함에 따라 이러한 규정은 윤리적 관행과 대중의 신뢰를 바탕으로 AI가 성장하도록 하는 데 도움이 될 것입니다. 또한 이러한 법률은 전 세계 다른 지역에서도 유사한 조치를 도입하도록 촉진할 수 있습니다.

자세한 내용은 GitHub 리포지토리를 방문하고 커뮤니티에 참여해 보세요. 솔루션 페이지에서 제조업과 농업 분야의 AI 적용 사례를 살펴보세요.