カリフォルニア州の新たなAI規制：倫理的なAIに焦点を当てて

自動運転車から医療に至るまで、人工知能（AI）のイノベーションや次世代テクノロジー企業が、私たちの日常生活を変革するうえで重要な役割を担い始めています。その結果、AIの世界市場規模は2023年に1,966億3,000万ドルとなり、2024年から2030年にかけて年平均36%の成長が見込まれています。これらの数字は、AIが急速に成長していることを示しています。

一方では、AIの急速な発展によって、さまざまな業界の問題を解決する手段が生まれています。他方で、この急速な進歩により、改善が倫理的で社会に有益なものとなるよう、責任あるAI開発の必要性が浮き彫りになっています。

たとえば2016年、MicrosoftはX（旧Twitter）上でチャットボットのTayを公開しました。ユーザーとの会話から学習するように設計されていましたが、公開後まもなく、さまざまなやり取りを学習するうちに、Tayは不適切な言葉遣いの応答を生成し始めました。Microsoftは速やかにボットを停止しましたが、AIのトレーニングに使うデータの信頼性を確保すること、そして企業がAI製品にどのようにデータを使用しているかを一般の人々に知らせることの重要性を示す好例です。

図1. MicrosoftのTwitterチャットボット、Tay。

この懸念に対処するため、カリフォルニア州知事のGavin Newsom氏は、今年9月に十数件のAI関連法案に署名し、法律として成立させました。これらの法律は、トレーニングデータの詳細の開示からディープフェイクへの対応まで、幅広い事項を扱っています。この記事では、カリフォルニア州のAI関連法とその内容を解説します。

2024年カリフォルニア州のAI関連法：説明責任の確保#

AI開発の安全性と信頼性を高めるため、3つの主要法案が成立しました。2026年に施行される州議会法案2013号（AB 2013）は、生成AIプロバイダーに対し、トレーニングデータセットの詳細を公開するよう義務付けています。詳細には、データセットの出典、データの使用方法、データセット内のデータポイント数、著作権付きまたはライセンス対象のデータが含まれるかどうか、データの収集期間などが含まれます。こうした情報の共有は、AI企業が社会からの信頼を築くうえで役立ちます。

成立したもう1つの重要な法案はAB 1008です。この法案は、カリフォルニア州の既存のプライバシー法を生成AIソリューションにも適用します。AB 1008は、AIシステムによる個人情報の取り扱いに関する懸念に対処し、社会の信頼を高めるために導入されました。ある調査では、消費者の81%超が、AI企業が自分の意図しない方法で個人情報を使用する可能性を懸念していることがわかりました。氏名、住所、生体データなどの個人情報を企業がどのように使用し、利益を得られるかについて明確な制限を設けることで、この法律は、AIシステムによって情報が漏えいした場合でも、データが責任を持って扱われるとAI企業がユーザーに保証できるよう支援します。

図2. プライバシーに関してAIソリューションには改善の余地があると、多くの人が考えていることを示すインフォグラフィック。

同様に、上院法案896号（SB 896）、すなわち生成AI説明責任法は、カリフォルニア州緊急サービス局（CalOES）に対し、生成AIシステムがもたらす潜在的な脅威のリスク分析を義務付けています。CalOESは、OpenAIやAnthropicなどの主要AI企業と協力し、AIが州の重要インフラにもたらす潜在的な脅威について話し合い、分析します。

教育機関におけるAIの導入と規制#

以前の記事では、教育におけるAIが学習体験を個別化し、教育実践を再定義し、リアルタイムのフィードバックを提供し、高度なツールや知見を通じて教育者を支援できることを解説しました。実際、AIのイノベーションは、より効果的で魅力的な学習環境を生徒に提供できます。世界中の教育関係者や教師がAIをより頻繁に活用しており、試験的なプロジェクトの成功を受けて、より広範な導入も進んでいます。調査によると、教師の50%超が、教室でのAI活用は教育と学習のプロセスに良い影響を与えていると感じています。

図3。学校でのAI活用に対する教師の意識を示す調査。

カリフォルニア州は、教育機関でのAI利用に関する2つの法律を導入しました。AB 2876は、カリフォルニア州教育委員会に対し、数学、科学、歴史のカリキュラム枠組みと教材において、（2025年1月1日以降）AIリテラシーを考慮するよう義務付けています。この法律の目的は、人工知能の仕組みの基礎に加え、この技術の限界や影響、利用に伴う倫理的配慮について、カリフォルニア州の学校が生徒に教育することを確実にすることです。

さらに、SB 1288は、カリフォルニア州の教育長に対し、2026年1月1日までに公立学校でのAI活用状況を調査する作業部会を設置するよう義務付けています。作業部会は、2027年1月1日までに調査結果と提言を、州議会の関係する政策委員会および財政委員会に提出する必要があります。報告書の提出後、作業部会は解散し、規定は2031年1月1日に失効します。

医療分野における生成AIをめぐる規制#

生成AIは、新薬の発見、疾患の診断、治療計画の立案、医療チャットボットなどのイノベーションを可能にし、医療業界を進歩させています。こうした用途は、リアルタイムのモニタリング、助言、サポートなどを提供し、患者の治療成果の向上に役立ちます。拡張現実（AR）などの技術を、外科手術の計画やシミュレーションに活用することもできます。

図4. 医療分野における生成AIの活用例。

医療分野に生成AIを統合する際には、データプライバシーや規制に関する注意点があります。健康情報のプライバシーを保護すると同時に、AIが生成する結果の正確性、信頼性、公平性を優先することが重要です。

こうした課題に対処するため、カリフォルニア州は医療分野での生成AIの利用に関する2つの法律を成立させました。AB 3030は、医療提供者に対し、生成AIを使って患者とコミュニケーションを取る場合、特にメッセージに患者の臨床情報が含まれる場合は、その旨を開示するよう義務付けています。SB 1120は、医療サービス提供者や健康保険会社によるサービスの自動化に制限を設けています。また、これらの新しい法律は、こうした環境でのAIツールの使用を、免許を持つ医師が監督することも定めています。

ディープフェイクに関するカリフォルニア州のAI規制枠組み#

カリフォルニア州でも、誤解を招く情報や不正確な情報の拡散にAIを利用することを抑制する法律が制定されています。SB 942は、月間ユーザー数が100万人を超える生成AIシステムのプロバイダーに対し、システムが生成するAI画像、動画、音声に不可視の（潜在的な）開示情報を埋め込むことと、それを検出する無料ツールを提供することを義務付けています。

ディープフェイクに関する問題に対処するため、カリフォルニア州では3つの新しい法律（AB 1831、SB 926、SB 981）が成立しました。これらの法律は既存の保護を拡大し、AI生成コンテンツの悪用を犯罪とし、ソーシャルメディアプラットフォームにディープフェイクコンテンツの報告窓口の設置を義務付けています。法律は2025年1月までに施行される予定です。

AIの定義と映画での利用に関するカリフォルニア州のAI関連法#

成立した法案の1つは、AIの適切な定義を定めることを目的としていました。AB 2885では、AIを「自律性の程度がさまざまであり、明示的または暗黙的な目標に基づき、受け取った入力から、物理的または仮想的な環境に影響を与える出力を生成する方法を推論できる、人工的または機械ベースのシステム」と定義しています。

エンターテインメント業界では、ほかにも興味深い法律が2つ制定されました。アメリカ最大の映画・放送俳優組合（SAG-AFTRA）は、これらの法律の成立を推進するうえで重要な役割を果たしました。AB 2602は、映画スタジオがAIを使って俳優の声や容姿の複製を作成する前に、本人の許可を得ることを義務付けています。一方、AB 1836は、遺産管理者の同意なしに、スタジオが故人のパフォーマーのデジタル複製（『ローグ・ワン／スター・ウォーズ・ストーリー』のPeter Cushingのキャラクターなど）を作成することを禁じています。

図5。故ピーター・カッシングの容姿を使って作成されたキャラクター、グランド・モフ・ターキン。

カリフォルニア州のAI関連法を推進する要因#

これらの法律を見てきたところで、なぜ必要なのか疑問に思うかもしれません。AI規制は以前からよく議論されてきたテーマですが、ディープフェイクコンテンツの台頭によって勢いが大きく増し、メディアや政治などさまざまな分野に影響が及んでいます。たとえば、オンラインでAI生成コンテンツが使われることで、誤情報や選挙結果への潜在的な影響に対する懸念が高まっています。また、AIのイノベーションによるプライバシー侵害や個人データの悪用への懸念も増えています。こうした懸念が、複数の新しい法律が施行された主な理由です。

たとえば、AB 2905は、自動音声電話でAI生成音声を使用しているかどうかを開示するよう義務付けています。さらに、AB 2655は、FacebookやXなどの大規模オンラインプラットフォームに対し、選挙に関連するディープフェイクの削除またはラベル付けと、そうしたコンテンツの報告窓口の設置を求めています。プラットフォームが従わない場合、候補者や公職者は差止救済を求めることもできます。

別の法律であるAB 2839は、有権者を誤解させる可能性のあるディープフェイクを投稿または再投稿するソーシャルメディアユーザーを対象としています。同様に、AB 2355は、AIツールを使って作成された政治広告に明確な開示を義務付けています。

カリフォルニア州の新しいAI関連法の要点#

カリフォルニア州の新しいAI関連法は、イノベーションと説明責任のバランスを取ろうとする姿勢の高まりを示しています。データの透明性、プライバシー、ディープフェイク、医療や教育におけるAIの利用など、重要な課題に対処することで、これらの法律は責任あるAI開発を促進しながら、個人と社会を守ることを目指しています。AIが進化し続ける中、こうした規制は、倫理的な取り組みと社会の信頼を伴う成長を確かなものにするのに役立ちます。また、世界のほかの地域でも同様の取り組みが進むきっかけになる可能性があります。

詳しくは、GitHubリポジトリをご覧いただき、コミュニティにご参加ください。ソリューションページでは、製造業と農業におけるAIの活用例をご紹介しています。