캘리포니아의 새로운 AI 규제: 윤리적 AI에 대한 집중

자율주행 자동차부터 의료 분야에 이르기까지, 인공지능(AI) 혁신과 차세대 기술 기업들은 우리의 일상생활을 재정의하는 데 핵심적인 역할을 하기 시작했습니다. 결과적으로, 글로벌 AI 시장 규모는 2023년 1,966억 3,000만 달러를 기록했으며 2024년부터 2030년까지 매년 평균 36% 성장할 것으로 예상됩니다. 이러한 수치는 AI가 얼마나 빠르게 성장하고 있는지 보여줍니다.

한편으로는 AI의 급격한 발전이 다양한 산업 전반의 여러 문제에 대한 해결책을 만들어내고 있습니다. 다른 한편으로, 이러한 속도는 개선 사항이 윤리적이며 사회에 유익하도록 보장하기 위한 책임감 있는 AI 개발의 필요성을 부각시킵니다.

예를 들어, 2016년에 Microsoft는 X(구 트위터)에 Tay라는 챗봇을 출시했습니다. 이 챗봇은 사용자들과의 대화를 통해 학습하도록 설계되었습니다. 그러나 출시 직후, Tay는 다양한 상호작용을 습득하면서 전문적이지 않은 언어로 응답을 생성하기 시작했습니다. Microsoft가 신속하게 봇을 오프라인 상태로 전환하기는 했지만, 이는 AI 학습에 사용되는 데이터가 신뢰할 수 있는지 확인하고 기업이 AI 제품을 위해 그러한 데이터를 어떻게 사용하는지 대중이 인지하도록 하는 것이 얼마나 중요한지 보여주는 좋은 사례입니다.

그림 1. Microsoft의 트위터 챗봇, Tay.

이러한 우려를 해결하기 위해 캘리포니아 주지사 Gavin Newsom은 이번 9월에 1건이 넘는 AI 관련 법안에 서명하여 법으로 제정했습니다. 이 법률들은 학습 데이터 세부 정보 공개부터 딥페이크 처리에 이르기까지 모든 것을 다룹니다. 이 글에서는 캘리포니아의 AI 법률과 그 의미를 살펴보겠습니다. 시작하겠습니다!

2024년 캘리포니아 AI 법안: 책임성 보장#

AI 개발이 더욱 안전하고 신뢰할 수 있도록 지원하기 위해 세 가지 주요 법안이 제정되었습니다. 2026년에 시행되는 주 의회 법안(AB) 2013은 생성형 AI 제공업체들이 학습 데이터셋과 관련된 세부 정보를 게시하도록 요구합니다. 이러한 세부 정보에는 데이터셋의 출처, 데이터 사용 방식에 대한 세부 정보, 세트 내 데이터 포인트 수, 저작권 또는 라이선스 데이터 포함 여부, 데이터 수집 기간 등이 포함됩니다. 이러한 정보를 공유하는 것은 AI 기업이 대중의 신뢰를 구축하는 데 도움이 될 것입니다.

제정된 또 다른 중요한 법안은 AB 1008입니다. 이 법안은 캘리포니아의 기존 개인정보 보호법을 생성형 AI 솔루션으로 확장합니다. AB 1008은 AI 시스템이 개인 정보를 처리하는 방식에 대한 우려를 해결하고 대중의 신뢰를 높이기 위해 도입되었습니다. 한 설문조사에 따르면 소비자의 81% 이상이 AI 기업이 의도하지 않은 방식으로 자신의 정보를 사용할까 봐 우려하고 있는 것으로 나타났습니다. 이름, 주소, 생체 인식 데이터와 같은 개인 정보를 기업이 사용하고 수익을 창출할 수 있는 방법에 명확한 제한을 둠으로써, 이 법은 AI 시스템에 의해 노출되더라도 사용자의 데이터가 책임감 있게 처리될 것이라는 확신을 사용자들이 갖도록 돕습니다.

그림 2. 많은 사람들이 AI 솔루션이 개인정보 보호 측면에서 개선될 수 있다고 믿고 있음을 보여주는 인포그래픽.

마찬가지로 상원 법안(SB) 896 또는 생성형 AI 책임법은 캘리포니아 비상관리국(CalOES)이 생성형 AI 시스템이 제기하는 잠재적 위협에 대한 위험 분석을 수행하도록 요구합니다. CalOES는 OpenAI 및 Anthropic 같은 선도적인 AI 기업들과 협력하여 주 핵심 인프라에 대한 AI의 잠재적 위협을 논의하고 분석할 것입니다.

교육 기관에서의 AI 도입 및 규제#

교육 분야의 AI가 어떻게 학습 경험을 개인화하고, 교육 관행을 재정의하며, 실시간 피드백을 제공하고, 고급 도구와 통찰력으로 교육자를 지원할 수 있는지 이전에 살펴본 적이 있습니다. 실제로 AI 혁신은 학생들을 위해 더욱 효과적이고 몰입감 있는 학습 환경을 조성할 수 있습니다. 전 세계의 교육자와 교사들은 성공적인 시범 프로젝트와 광범위한 구현이 진행되는 가운데 AI를 더욱 정기적으로 사용하고 있습니다. 연구에 따르면 교사의 50% 이상이 교실 내 AI가 교수 및 학습 과정에 긍정적인 영향을 미쳤다고 생각합니다.

그림 3. 학교에서의 AI 사용에 대한 교사들의 인식을 보여주는 설문조사.

캘리포니아는 교육 기관에서의 AI 사용에 관한 두 가지 법률을 도입했습니다. AB 2876은 캘리포니아 주 교육위원회에 수학, 과학, 역사 교육과정 프레임워크 및 교육 자료에 (2025년 1월 1일 이후) AI 리터러시를 고려하도록 의무화합니다. 이 법의 목적은 캘리포니아의 학교가 학생들에게 인공지능의 작동 방식의 기본 원리뿐만 아니라 기술 사용의 한계, 영향, 윤리적 고려 사항에 대해 교육하도록 보장하는 것입니다.

이와 함께 SB 1288은 캘리포니아 교육감이 공립학교에서 AI가 어떻게 사용되고 있는지 탐구하기 위한 실무 그룹을 (2026년 1월 1일 이전에) 구성하도록 요구합니다. 이 실무 그룹은 2027년 1월 1일까지 조사 결과와 권고사항을 입법부의 관련 정책 및 재정 위원회에 제출해야 합니다. 보고서가 제출된 후 실무 그룹은 해산되며, 해당 조항은 2031년 1월 1일부로 폐지됩니다.

헬스케어 분야의 생성형 AI 관련 규정#

생성형 AI는 신약 발굴, 질병 진단, 치료 계획 및 의료용 챗봇을 위한 혁신을 가능하게 함으로써 의료 산업을 개선하고 있습니다. 이러한 애플리케이션은 실시간 모니터링, 조언, 지원과 같은 이점을 제공하여 환자의 치료 결과를 개선할 수 있습니다. 증강 현실(AR)과 같은 다른 AI 기술도 수술 절차를 계획하고 시뮬레이션하는 데 사용할 수 있습니다.

그림 4. 헬스케어에서의 생성형 AI 활용 사례.

생성형 AI를 헬스케어에 통합하는 것에는 데이터 개인정보 보호 및 규제와 관련된 몇 가지 주의 사항이 따릅니다. 건강 정보의 개인정보를 보호하면서 AI가 생성한 결과의 정확성, 신뢰성, 공정성을 우선시하는 것이 매우 중요합니다.

이러한 과제에 대응하기 위해 캘리포니아주는 헬스케어 분야에서의 생성형 AI 사용에 관한 두 가지 법안을 통과시켰습니다. AB 3030은 의료 서비스 제공자가 환자와 통신할 때, 특히 해당 메시지에 환자의 임상 정보가 포함된 경우 생성형 AI를 사용한다는 사실을 공개하도록 요구합니다. SB 1120은 헬스케어 서비스 제공자와 건강 보험사가 서비스를 자동화하는 방식에 제한을 둡니다. 또한 이 새로운 법률은 면허를 소지한 의사가 이러한 환경에서 AI 도구의 사용을 감독하도록 보장합니다.

딥페이크에 대한 캘리포니아의 AI 규제 프레임워크#

캘리포니아주는 오해의 소지가 있거나 부정확한 정보를 퍼뜨리는 데 AI가 사용되는 것을 억제하는 것과 관련된 법률도 통과시켰습니다. SB 942는 대중적인 생성형 AI 시스템이 소스 데이터에 해당 콘텐츠가 AI에 의해 생성되었음을 명확히 표시하도록 요구합니다. 많은 AI 기업들이 이미 이를 실천하고 있으며, 시중에 나와 있는 여러 무료 도구(ZeroGPT, Winston AI, GLTR 등)를 통해 사람들이 이 소스 데이터를 읽고 AI 생성 콘텐츠를 감지할 수 있습니다.

딥페이크 관련 문제를 해결하기 위해 캘리포니아주에서 세 가지 새로운 법안(AB 1831, SB 926, SB 981)이 통과되었습니다. 이 법들은 기존 보호를 확대하고, AI 생성 콘텐츠의 오용을 범죄화하며, 소셜 미디어 플랫폼이 딥페이크 콘텐츠에 대한 신고 채널을 구축하도록 요구합니다. 이 법들은 2025년 1월부터 시행될 예정입니다.

AI의 정의와 영화 산업에서의 사용에 관한 캘리포니아의 AI 법률#

법으로 제정된 법안 중 하나는 AI에 대한 적절한 정의를 내리는 데 초점을 맞추었습니다. AB 2885는 AI를 “자율성 수준이 다양하며 명시적이거나 암묵적인 목표를 위해 수신한 입력으로부터 물리적 또는 가상 환경에 영향을 미칠 수 있는 출력을 생성하는 방법을 추론할 수 있는 엔지니어링 기반 또는 기계 기반 시스템”으로 정의한다고 명시하고 있습니다.

엔터테인먼트 산업을 위해 마련된 두 가지 흥미로운 법률도 있었습니다. 미국의 가장 큰 영화 및 방송 배우 노조(SAG-AFTRA)는 이러한 법률이 발효되도록 추진하는 데 중요한 역할을 했습니다. AB 2602는 영화 스튜디오가 AI를 사용하여 배우의 목소리와 초상권을 복제하기 전에 배우의 허락을 받도록 요구합니다. 한편, AB 1836은 스튜디오가 고인의 유가족 동의 없이 고(故) 출연진의 디지털 복제품을 (스타워즈: 로그 원의 피터 쿠싱 캐릭터처럼) 만드는 것을 금지합니다.

그림 5. 고(故) 피터 쿠싱 배우의 초상권을 활용해 제작된 그랜드 모프 타킨 캐릭터.

캘리포니아의 AI 법률을 추진하게 된 동기#

이러한 각각의 법률을 살펴보면서, 왜 이것들이 진정으로 필요한지 의문이 드셨을 수도 있습니다. AI 규제는 한동안 인기 있는 토론 주제였지만, 미디어 및 정치를 포함한 다양한 영역에 영향을 미친 딥페이크 콘텐츠의 등장으로 상당한 추진력을 얻었습니다. 예를 들어, 온라인에서 AI 생성 콘텐츠의 사용은 허위 정보와 그것이 선거 결과에 미칠 잠재적 영향에 대한 우려를 불러일으켰습니다. 또한 개인정보 보호와 AI 혁신에 의한 개인 데이터 오용에 대한 우려도 커지고 있습니다. 이러한 문제들로 인해 이러한 문제를 해결하기 위한 여러 새로운 법률이 현재 시행 중인 이유 중 일부가 되었습니다.

예를 들어, AB 2905는 로보콜이 AI 생성 음성인지 여부를 밝히도록 강제합니다. 또한 AB 2655는 Facebook 및 X와 같은 대형 온라인 플랫폼에 선거와 관련된 딥페이크를 삭제하거나 라벨을 부착하고 해당 콘텐츠에 대한 신고 채널을 구축할 것을 요구합니다. 후보자와 선출직 공무원은 플랫폼이 이를 준수하지 않을 경우 금지 명령 구제를 구할 수도 있습니다.

또 다른 법안인 AB 2839는 유권자를 오도할 수 있는 딥페이크를 게시하거나 재게시하는 소셜 미디어 사용자를 겨냥합니다. 마찬가지로 AB 2355는 AI 도구를 사용하여 만든 정치 광고에 대해 명확한 공개를 규정합니다.

캘리포니아의 새로운 AI 법안의 핵심 요약#

캘리포니아의 새로운 AI 법안은 혁신과 책임 사이의 균형을 맞추려는 커지는 의지를 반영합니다. 데이터 투명성, 개인정보 보호, 딥페이크, 헬스케어 및 교육 분야에서의 AI 사용과 같은 주요 우려 사항을 다룸으로써, 이러한 법들은 책임 있는 AI 개발을 촉진하면서 개인과 사회를 보호하는 것을 목표로 합니다. AI가 계속 발전함에 따라, 이러한 규정은 그 성장이 윤리적인 관행과 대중의 신뢰를 동반하도록 보장하는 데 도움이 될 것입니다. 또한 이러한 법들은 전 세계의 다른 지역들이 이를 따르도록 장려할 수 있습니다.

자세히 알아보려면 당사의 GitHub repository를 방문하고 당사 community에 참여하세요. 솔루션 페이지에서 manufacturing 및 agriculture 분야의 AI 애플리케이션을 살펴보세요. 🚀