カリフォルニア州の新しいAI法が、プライバシー、ディープフェイク、ヘルスケア、教育、セキュリティを対象に、イノベーションと説明責任のバランスをどのように取っているかをご覧ください。
YOLO Vision 2025にご期待ください！
2025年9月25日
10:00 — 18:00（英国夏時間）
ハイブリッドイベント
カリフォルニア州の新しいAI法が、プライバシー、ディープフェイク、ヘルスケア、教育、セキュリティを対象に、イノベーションと説明責任のバランスをどのように取っているかをご覧ください。
自動運転車からヘルスケアまで、人工知能（AI）のイノベーションと次世代のテクノロジー企業は、私たちの日常生活を再構築する上で重要な役割を果たし始めています。 その結果、世界のAIの市場規模は2023年に1,966億3,000万ドルとなり、2024年から2030年まで年平均36％の成長が見込まれています。 これらの数字は、AIがどれだけ急速に成長しているかを示しています。
一方では、AIの急速な発展により、さまざまな業界のさまざまな問題に対するソリューションが生まれています。他方では、このスピードにより、改善が倫理的であり、社会にとって有益であることを確認するために、責任あるAI開発の必要性が明らかになります。
例えば、2016年にマイクロソフトは、TayというチャットボットをX（旧Twitter）上で公開しました。これは、ユーザーとの会話から学習するように設計されていましたが、公開直後から、Tayはさまざまなやり取りを学習するにつれて、プロフェッショナルとは言えない言葉遣いの応答を生成し始めました。マイクロソフトはすぐにこのボットをオフラインにしましたが、これはAIトレーニングに使用するデータが信頼できるものであること、そして企業がそのようなデータをAI製品にどのように使用しているかを一般に周知することの重要性を示す良い例です。
この懸念に対処するため、カリフォルニア州知事のギャビン・ニューサム氏は、この9月にAI関連の法案を12件以上署名しました。これらの法律は、トレーニングデータに関する詳細の開示から、ディープフェイクの取り扱いまで、あらゆる問題に対処するものです。この記事では、カリフォルニア州のAI法とその内容について解説します。それでは始めましょう。
AI開発をより安全で信頼性の高いものにするために、3つの主要な法案が署名され、法律として成立しました。2026年に施行されるAssembly Bill（AB）2013は、生成AIプロバイダーに対し、トレーニングデータセットに関する詳細を公開することを義務付けています。これらの詳細には、データセットのソース、データの使用方法に関する詳細、セット内のデータポイントの数、著作権で保護されたデータまたはライセンスされたデータが含まれているかどうか、データの収集期間などが含まれます。この情報を共有することで、AI企業は社会からの信頼を築くことができます。
署名されたもう一つの重要な法案は、AB 1008です。これは、カリフォルニア州の既存のプライバシー法を生成AIソリューションにまで拡大するものです。AB 1008は、AIシステムが個人情報をどのように扱うかについて、懸念に対処し、国民の信頼を高めるために導入されました。ある調査によると、消費者の81%以上が、AI企業が意図しない方法で自分の情報を使用する可能性があることを懸念しています。この法律は、企業が名前、住所、生体認証データなどの個人情報をどのように使用し、そこから利益を得るかについて明確な制限を設けることで、AI企業は、たとえAIシステムによって情報が漏洩した場合でも、ユーザーのデータが責任を持って取り扱われることを保証できます。
同様に、上院法案（SB）896、またはGenerative AI Accountability Actは、カリフォルニア州緊急事態管理局（CalOES）に、生成AIシステムによってもたらされる潜在的な脅威に関するリスク分析の実施を義務付けています。CalOESは、OpenAIやAnthropicなどの先駆的なAI企業と協力して、州の重要なインフラに対するAIの潜在的な脅威について議論し、分析します。
以前に、教育におけるAIが、学習体験をパーソナライズし、教育方法を再定義し、リアルタイムのフィードバックを提供し、高度なツールと洞察で教育者をサポートする方法を見てきました。実際、AIイノベーションは、学生にとってより効果的で魅力的な学習環境を作り出すことができます。世界中の教育者や教師は、AIをより定期的に使用しており、パイロットプロジェクトやより広範な実装が進行中です。調査によると、50％以上の教師が教室でのAIが教育と学習のプロセスにプラスの影響を与えていると感じています。
カリフォルニア州は、教育機関におけるAIの利用に関して2つの法律を導入しました。AB 2876は、カリフォルニア州教育委員会に対し、AIリテラシーを（2025年1月1日以降）数学、理科、歴史のカリキュラムフレームワークおよび教材で検討することを義務付けています。この法律の目的は、カリフォルニア州の学校が、人工知能の仕組みの基本、およびその限界、影響、倫理的考慮事項について生徒を教育することです。
これに加えて、SB 1288は、カリフォルニア州の教育長に対し、公立学校でAIがどのように使用されているかを調査するためのワーキンググループを（2026年1月1日までに）設立することを義務付けています。これらのワーキンググループは、2027年1月1日までに、調査結果と提言を議会の関連する政策および財政委員会に提出する必要があります。報告書が提出されると、ワーキンググループは解散し、条項は2031年1月1日に廃止されます。
Generative AIは、新薬の発見、病気の診断、治療計画、医療チャットボットのイノベーションを可能にすることで、ヘルスケア業界を改善しています。これらのアプリケーションは、リアルタイムのモニタリング、アドバイス、患者のアウトカムを改善するためのサポートなどの利点を提供できます。拡張現実（AR）のような他のAI技術も、外科手術の計画とシミュレーションに使用できます。
生成AIをヘルスケアに統合するには、データのプライバシーと規制に関連する特定の注意点があります。AIによって生成された結果の正確性、信頼性、および公平性を優先すると同時に、医療情報のプライバシーを保護することが重要です。
これらの課題に対処するため、カリフォルニア州は、医療における生成AIの使用に関する2つの法律を可決しました。AB 3030は、医療提供者が患者とのコミュニケーションに生成AIを使用する場合、特にそれらのメッセージに患者の臨床情報が含まれている場合に、その旨を開示することを求めています。SB 1120は、医療サービス提供者と医療保険会社がサービスを自動化する方法に制限を設けています。これらの新しい法律はまた、認可された医師がこれらの環境でAIツールの使用を監督することを保証します。
カリフォルニア州も、誤解を招く情報や不正確な情報の拡散に対するAIの使用を抑制する法律を可決しました。SB 942は、広く普及している生成AIシステムに対し、コンテンツがAIによって作成されたものであることをソースデータに明確に示すことを義務付けています。多くのAI企業はすでにこれを行っており、いくつかの無料ツール（ZeroGPT、Winston AI、GLTRなど）を利用することで、ソースデータを読み取り、AIによって生成されたコンテンツを検出することができます。
カリフォルニア州では、ディープフェイクに関連する問題に対処するために、3つの新しい法律（AB 1831、SB 926、SB 981）が可決されました。これらの法律は、既存の保護を拡大し、AIが生成したコンテンツの誤用を犯罪とし、ソーシャルメディアプラットフォームにディープフェイクコンテンツの報告チャネルの作成を義務付けています。これらの法律は、2025年1月までに施行される予定です。
法律として可決された法案の1つは、AIに適切な定義を与えることに焦点を当てていました。AB 2885は、AIを「自律性のレベルが異なり、明示的または暗黙的な目的のために、受信した入力から物理的または仮想環境に影響を与える可能性のある出力を生成する方法を推測できる、エンジニアリングまたは機械ベースのシステム」と定義しています。
また、エンターテインメント業界向けに2つの興味深い法律が制定されました。アメリカ最大の映画・放送俳優組合（SAG-AFTRA）は、これらの法律を施行するために重要な役割を果たしました。AB 2602は、映画スタジオがAIを使用して俳優の声や容姿の複製を作成する前に、俳優から許可を得ることを義務付けています。一方、AB 1836は、スタジオが故人のデジタルレプリカ（スター・ウォーズ：ローグ・ワンのピーター・カッシングのキャラクターと同様）を、遺産からの同意なしに作成することを禁止しています。
これらの法律のそれぞれについて洞察を得たとき、なぜそれらが本当に必要なのか疑問に思ったかもしれません。AI規制はしばらくの間、議論の一般的なトピックでしたが、メディアや政治を含むさまざまな分野に影響を与えているディープフェイクコンテンツの台頭により、大きな勢いを増しています。たとえば、オンラインでのAI生成コンテンツの使用は、誤った情報とその選挙結果への影響の可能性について懸念を引き起こしています。また、AIイノベーションによるプライバシーと個人データの悪用についても懸念が高まっています。これらの問題が、これらの問題に対処するためにいくつかの新しい法律が制定された要因となっています。
例えば、AB 2905は、ロボコールに対してAIが生成した音声であるかどうかを開示することを義務付けています。さらに、AB 2655は、FacebookやXのような大規模なオンラインプラットフォームに対し、選挙に関連するディープフェイクを削除またはラベル付けし、そのようなコンテンツの報告チャネルを作成することを求めています。候補者や選出された公務員は、プラットフォームが遵守しない場合、差し止めによる救済を求めることもできます。
もう1つの法律であるAB 2839は、有権者を誤解させる可能性のあるディープフェイクを投稿または再投稿するソーシャルメディアユーザーを対象としています。同様に、AB 2355は、AIツールを使用して作成された政治広告について、明確な開示を義務付けています。
カリフォルニア州の新しいAI法は、イノベーションとアカウンタビリティのバランスを取ろうとする姿勢を反映しています。データ透明性、プライバシー、ディープフェイク、医療や教育におけるAIの利用といった主要な懸念事項に対処することで、これらの法律は、責任あるAI開発を促進しながら、個人と社会を保護することを目的としています。AIが進化し続けるにつれて、これらの規制は、その成長が倫理的な慣行と公衆の信頼を伴うようにするのに役立ちます。これらの法律は、世界の他の地域にも同様の措置を促す可能性があります。
詳細については、GitHubリポジトリをご覧いただき、コミュニティにご参加ください。ソリューションページでは、製造業や農業におけるAIの応用事例を紹介しています。🚀
