カリフォルニア州の新しいAI規制：倫理的なAIに焦点を当てて

自動運転車からヘルスケアまで、人工知能（AI）のイノベーションと次世代テクノロジー企業が、私たちの日常生活を変革するうえで重要な役割を果たし始めています。その結果、世界のAI市場規模は2023年に1,966億3,000万ドルに達し、2024年から2030年まで年平均36%で成長すると予測されています。これらの数字は、AIがいかに急速に成長しているかを示しています。

一方では、AIの急速な発展により、さまざまな業界の多様な問題に対するソリューションが生み出されています。他方では、このスピードによって、改善が倫理的で社会に有益なものとなるよう、責任あるAI開発の必要性が浮き彫りになっています。

例えば2016年、MicrosoftはX（旧Twitter）上でチャットボット「Tay」を公開しました。Tayはユーザーとの会話から学習するよう設計されていました。しかし、公開直後、さまざまなやり取りから情報を取り込んだTayは、専門職にふさわしくない表現を含む応答を生成し始めました。Microsoftは速やかにこのボットを停止しましたが、これはAIトレーニングに使用するデータが信頼できるものであること、そして企業がAI製品にそのようなデータをどのように利用しているかを一般の人々が把握できるようにすることの重要性を示す良い例です。

図1 MicrosoftのTwitterチャットボット「Tay」。

この懸念に対応するため、カリフォルニア州知事のGavin Newsom氏は、今年9月に十数件のAI関連法案に署名し、法律として成立させました。これらの法律は、トレーニングデータの詳細の開示からディープフェイクへの対応まで、幅広い事項を対象としています。この記事では、カリフォルニア州のAI関連法とその内容を詳しく見ていきます。早速始めましょう。

カリフォルニア州の2024年AI関連法：説明責任の確保#

AI開発をより安全で信頼性の高いものにするため、3つの主要法案が法律として成立しました。2026年に施行される州議会法案（AB）2013は、生成AIのプロバイダーに対し、トレーニングデータセットの詳細を公開するよう義務付けています。これらの詳細には、データセットの出典、データの使用方法、データセット内のデータポイント数、著作権またはライセンス付きデータが含まれているかどうか、データの収集期間などが含まれます。この情報を共有することで、AI企業は社会からの信頼を構築しやすくなります。

成立したもう1つの重要な法案がAB 1008です。この法律は、カリフォルニア州の既存のプライバシー法を生成AIソリューションにも適用します。AB 1008は、AIシステムによる個人情報の取り扱いに関する懸念に対応し、社会からの信頼を高めるために導入されました。ある調査では、消費者の81%以上が、AI企業が自分の意図しない方法で情報を利用する可能性を懸念していることが分かりました。氏名、住所、生体データなどの個人情報を、企業がどのように利用し、利益を得られるかに明確な制限を設けることで、この法律は、AIシステムによってデータが漏えいした場合でも、データが責任を持って取り扱われることをユーザーに保証しやすくします。

図2 多くの人が、プライバシーに関してAIソリューションは改善できると考えていることを示すインフォグラフィック。

同様に、上院法案（SB）896、すなわち生成AI説明責任法は、カリフォルニア州緊急サービス局（CalOES）に対し、生成AIシステムがもたらす潜在的な脅威についてリスク分析を実施するよう義務付けています。CalOESは、OpenAIやAnthropicなどの先進的なAI企業と協力し、州の重要インフラに対するAIの潜在的な脅威について協議・分析します。

教育機関におけるAIの導入と規制#

これまでにも、教育におけるAIが学習体験を個別化し、教育方法を再定義し、リアルタイムのフィードバックを提供し、高度なツールや知見によって教育関係者を支援できることを取り上げてきました。実際、AIのイノベーションは、学生にとってより効果的で学習意欲を高める環境を生み出せます。世界中の教育関係者や教師がAIをより日常的に利用しており、パイロットプロジェクトの成功例や、より広範な導入が進んでいます。調査によると、教師の50%以上が、教室におけるAIが教育と学習のプロセスに良い影響を与えたと感じています。

図3 学校でのAI利用についての教師の意識を示す調査。

カリフォルニア州は、教育機関におけるAIの利用に関して2つの法律を導入しました。AB 2876は、カリフォルニア州教育委員会に対し、2025年1月1日以降、数学、科学、歴史のカリキュラムフレームワークおよび教材にAIリテラシーを取り入れることを義務付けています。この法律の目的は、カリフォルニア州の学校が、人工知能の仕組みの基礎だけでなく、この技術を利用する際の限界、影響、倫理的な考慮事項についても学生に教育することです。

これに加えて、SB 1288は、カリフォルニア州の教育長に対し、遅くとも2026年1月1日までにワーキンググループを設置し、公立学校でAIがどのように利用されているかを調査するよう義務付けています。これらのワーキンググループは、2027年1月1日までに、調査結果と提言を州議会の関連する政策・財政委員会に提出する必要があります。報告書の提出後、ワーキンググループは解散し、規定は2031年1月1日に廃止されます。

ヘルスケアにおける生成AIをめぐる規制#

生成AIは、新薬の発見、疾患の診断、治療計画、医療チャットボットなどのイノベーションを可能にし、ヘルスケア業界を改善しています。これらのアプリケーションは、リアルタイムのモニタリング、助言、サポートなどのメリットを提供し、患者の転帰を改善できます。拡張現実（AR）などの他のAI技術も、外科手術の計画やシミュレーションに利用できます。

図4 ヘルスケアにおける生成AIのユースケース。

生成AIをヘルスケアに統合する際には、データプライバシーや規制に関する一定の注意点があります。AIが生成する結果の正確性、信頼性、公平性を優先すると同時に、医療情報のプライバシーを保護することが重要です。

これらの課題に対応するため、カリフォルニア州はヘルスケアにおける生成AIの利用に関する2つの法律を成立させました。AB 3030は、ヘルスケアプロバイダーに対し、患者とのコミュニケーションに生成AIを使用する場合、特にメッセージに患者の臨床情報が含まれる場合に、その旨を開示するよう求めています。SB 1120は、ヘルスケアサービスプロバイダーや医療保険会社がサービスを自動化する方法に制限を設けています。これらの新法は、こうした環境でのAIツールの利用を有資格医師が監督することも定めています。

ディープフェイクに関するカリフォルニア州のAI規制フレームワーク#

カリフォルニア州は、誤解を招く情報や不正確な情報の拡散にAIを利用することを抑制する法律も成立させました。SB 942は、普及している生成AIシステムに対し、コンテンツがAIによって作成されたことをソースデータ内に明確に示すよう義務付けています。多くのAI企業はすでにこれを実施しており、ZeroGPT、Winston AI、GLTRなどの複数の無料ツールを使えば、ユーザーはこのソースデータを読み取り、AI生成コンテンツを検出できます。

カリフォルニア州では、ディープフェイクに関連する問題に対応するため、3つの新法（AB 1831、SB 926、SB 981）が成立しました。これらの法律は既存の保護を拡大し、AI生成コンテンツの悪用を犯罪とし、ソーシャルメディアプラットフォームにディープフェイクコンテンツの報告窓口を設置するよう義務付けています。これらの法律は2025年1月までに施行される予定です。

AIの定義と映画での利用に関するカリフォルニア州のAI法#

成立した法案の1つは、AIを適切に定義することに焦点を当てています。AB 2885は、AIを「自律性のレベルが変化し、明示的または暗黙的な目的に基づき、受け取った入力から、物理的または仮想的な環境に影響を与え得る出力を生成する方法を推論できる、工学的または機械ベースのシステム」と定義しています。

エンターテインメント業界向けには、興味深い法律も2つ制定されました。米国最大の映画・放送俳優組合（SAG-AFTRA）は、これらの法律の成立を推進するうえで重要な役割を果たしました。AB 2602は、映画スタジオがAIを使って俳優の声や容姿のレプリカを作成する前に、本人の許可を得ることを義務付けています。一方、AB 1836は、遺産管理者の同意なしに、故人となった出演者のデジタルレプリカ（『スター・ウォーズ／ローグ・ワン』に登場するPeter Cushingのキャラクターに類似したもの）をスタジオが作成することを禁止しています。

図5。故Peter Cushingの容姿を用いて作成されたキャラクター、Grand Moff Tarkin。

カリフォルニア州のAI法を推進した要因#

これらの法律を1つずつ見ていくと、なぜ本当に必要なのか疑問に思うかもしれません。AI規制は以前から盛んに議論されてきたテーマですが、メディアと政治などさまざまな分野に影響を及ぼすディープフェイクコンテンツの台頭により、大きな勢いを得ています。オンラインでのAI生成コンテンツの利用は、例えば誤情報や、それが選挙結果に及ぼす影響の可能性に対する懸念を引き起こしています。AIのイノベーションによるプライバシーや個人データの悪用への懸念も高まっています。こうした問題が、これらに対処するために複数の新法が施行された理由の一つとなっています。

例えば、AB 2905は、ロボコールにAI生成音声であるかどうかを開示するよう義務付けています。さらに、AB 2655は、FacebookやXなどの大規模オンラインプラットフォームに対し、選挙に関連するディープフェイクを削除またはラベル付けし、そのようなコンテンツの報告窓口を設置するよう求めています。プラットフォームが従わない場合、候補者や公職者は差止めによる救済を求めることもできます。

別の法律であるAB 2839は、有権者を誤解させる可能性のあるディープフェイクを投稿または再投稿するソーシャルメディアユーザーを対象としています。同様に、AB 2355は、AIツールを使って作成された政治広告に明確な開示を行うことを定めています。

カリフォルニア州の新たなAI法から得られる主なポイント#

カリフォルニア州の新たなAI法は、イノベーションと説明責任のバランスを取る姿勢が強まっていることを示しています。データの透明性、プライバシー、ディープフェイク、ヘルスケアや教育におけるAIの利用などの主要な懸念に対応することで、これらの法律は責任あるAI開発を促進しながら、個人と社会を守ることを目指しています。AIが進化し続ける中、これらの規制は、その成長に倫理的な実践と社会からの信頼が伴うようにするのに役立ちます。これらの法律は、世界の他の地域にも同様の対応を促す可能性があります。

詳しくは、GitHubリポジトリをご覧いただき、コミュニティにご参加ください。当社のソリューションページで、製造および農業におけるAIの応用例をご覧いただけます。🚀