カリフォルニア州の新しいAI規制：倫理的AIへの取り組み
カリフォルニア州の新しいAI法が、プライバシー、ディープフェイク、医療、教育、セキュリティといった分野を網羅し、どのようにイノベーションと説明責任のバランスを取っているのかをご覧ください。
自動運転車からヘルスケアに至るまで、人工知能（AI）のイノベーションと次世代テック企業は、私たちの日常生活の在り方を変える上で重要な役割を果たし始めています。その結果、世界のAI市場規模は2023年に1,966億3,000万ドルに達し、2024年から2030年にかけて年平均36%の成長が見込まれています。これらの数字は、AIがいかに急速に成長しているかを示しています。
On one hand, the rapid development of AI is creating solutions to various problems across different industries. On the other hand, this speed brings to light the need for responsible AI development to make sure that improvements are ethical and beneficial for society.
例えば2016年、MicrosoftはX（旧Twitter）上でチャットボット「Tay」を公開しました。これはユーザーとの会話から学習するように設計されていましたが、公開後すぐに、Tayはさまざまなやり取りを学習したことで不適切な言葉を含む応答を生成し始めました。Microsoftは迅速にボットをオフラインにしましたが、これはAIトレーニングに使用されるデータが信頼できるものであること、そして企業がAI製品のためにどのようにデータを使用しているかを一般の人々が認識しておくことの重要性を示す良い例です。
図1：MicrosoftのTwitterチャットボット、Tay。
この懸念に対処するため、カリフォルニア州知事のGavin Newsom氏は、今年9月に10以上のAI関連法案に署名し、法律として成立させました。これらの法律は、トレーニングデータに関する詳細の開示からディープフェイクへの対応まで、あらゆる事柄をカバーしています。本記事では、カリフォルニア州のAI関連法と、それが何を意味するのかを探ります。それでは始めましょう！
Link to this section2024年カリフォルニア州AI関連法：説明責任の確保#
AI開発をより安全で信頼性の高いものにするために、3つの主要法案が成立しました。州議会法案（AB）2013は2026年から施行され、生成AIプロバイダーに対し、トレーニングデータセットに関する詳細を公開することを義務付けています。これらの詳細には、データセットのソース、データの使用方法、データセット内のデータポイント数、著作権またはライセンス供与されたデータが含まれているかどうか、データが収集された期間などが含まれます。この情報を共有することは、AI企業が公的な信頼を構築する助けとなるでしょう。
署名されたもう一つの重要な法案がAB 1008です。これは、カリフォルニア州の既存のプライバシー法を生成AIソリューションにまで拡張するものです。AB 1008は、AIシステムが個人情報をどのように扱うかという懸念に対処し、社会的な信頼を向上させるために導入されました。調査によると、消費者の81%以上が、AI企業が意図しない方法で自分の情報を使用する可能性を懸念しています。企業が氏名、住所、生体認証データなどの個人情報を使用して利益を得る方法に明確な制限を設けることで、この法律は、AIシステムによってデータが流出した場合でも、ユーザーに対してデータが責任を持って扱われることを保証する手助けをします。
図2：多くの人が、AIソリューションがプライバシーに関して改善できると考えていることを示すインフォグラフィック。
同様に、州上院法案（SB）896（生成AI説明責任法）は、カリフォルニア州緊急事態管理局（CalOES）に対し、生成AIシステムがもたらす潜在的な脅威のリスク分析を行うことを義務付けています。CalOESは、OpenAIやAnthropicといった先駆的なAI企業と協力し、重要な州インフラに対するAIの潜在的な脅威を協議・分析します。
Link to this section教育機関におけるAIの導入と規制#
私たちは以前、教育におけるAIがどのように学習体験をパーソナライズし、教育の実践を再定義し、リアルタイムのフィードバックを提供し、高度なツールと洞察によって教育者をサポートできるかを探求しました。実際、AIのイノベーションは、学生にとってより効果的で魅力的な学習環境を作り出すことができます。世界中の教育者や教師がAIをより定期的に活用しており、成功したパイロットプロジェクトやより広範な実装が進んでいます。研究によると、50%以上の教師が、教室でのAIが教育と学習のプロセスにプラスの影響を与えていると感じています。
図3：学校におけるAIの利用に対する教師の意識調査。
カリフォルニア州は、教育機関におけるAIの利用に関して2つの法律を導入しました。AB 2876は、カリフォルニア州教育委員会に対し、（2025年1月1日以降）数学、科学、歴史のカリキュラムフレームワークおよび教材においてAIリテラシーを検討することを義務付けています。この法律の目的は、カリフォルニア州の学校が、人工知能の仕組みの基本だけでなく、その限界、影響、およびテクノロジーを使用する際の倫理的配慮について生徒を教育することを保証することにあります。
これに加えて、SB 1288は、カリフォルニア州の教育長に対し、（2026年1月1日以前に）公立学校でAIがどのように使用されているかを探るワーキンググループを設置することを義務付けています。これらのワーキンググループは、調査結果と提言を2027年1月1日までに州議会の関連政策・財政委員会に提出する必要があります。報告書が提出された後、ワーキンググループは解散し、これらの規定は2031年1月1日に廃止されます。
Link to this sectionヘルスケアにおける生成AIを取り巻く規制#
Generative AI is improving the healthcare industry by enabling innovations for discovering new drugs, diagnosing diseases, planning treatments, and medical chatbots. These applications can provide benefits like real-time monitoring, advice, and support to improve patient outcomes. Other AI technologies, like augmented reality (AR), can also be used to plan and simulate surgical procedures.
図4：ヘルスケアにおける生成AIのユースケース。
生成AIをヘルスケアに統合するには、データプライバシーと規制に関する一定の注意点が必要です。AIが生成する結果の正確性、信頼性、公平性を優先しつつ、同時に健康情報のプライバシーを保護することが極めて重要です。
これらの課題に対処するため、カリフォルニア州はヘルスケアにおける生成AIの利用に関する2つの法律を可決しました。AB 3030は、医療提供者に対し、特に患者の臨床情報が含まれるメッセージで患者と通信する際に生成AIを使用していることを開示することを求めています。SB 1120は、ヘルスケアサービス提供者および医療保険者がサービスを自動化する方法に制限を設けています。これらの新しい法律は、免許を持つ医師がこうした環境でAIツールの使用を監督することも保証しています。
Link to this sectionディープフェイクに関するカリフォルニア州のAI規制フレームワーク#
カリフォルニア州は、誤解を招くような情報や不正確な情報を拡散するためのAI利用を抑制する法律も可決しました。SB 942は、主要な生成AIシステムに対し、そのソースデータ内でコンテンツがAIによって作成されたものであることを明確に示すことを義務付けています。多くのAI企業はすでにこれを行っており、（ZeroGPT、Winston AI、GLTRなど）現在利用可能な無料のツールも、このソースデータを読み取ってAIが生成したコンテンツを検出するのに役立ちます。
ディープフェイクに関連する問題に対処するため、3つの新しい法律（AB 1831、SB 926、SB 981）がカリフォルニア州で可決されました。これらの法律は既存の保護を拡大し、AI生成コンテンツの悪用を犯罪化し、ソーシャルメディアプラットフォームに対してディープフェイクコンテンツの報告チャンネルを作成することを義務付けています。これらの法律は2025年1月までに施行される予定です。
Link to this sectionAIの定義と映画における使用に関するカリフォルニア州のAI法#
成立した法案の一つは、AIに適切な定義を与えることに重点を置いています。AB 2885によると、AIは「自律性のレベルが異なり、明示的または黙示的な目的のために、物理的または仮想環境に影響を与える出力を生成する方法を、受け取った入力から推論できるエンジニアリングまたは機械ベースのシステム」と定義されています。
また、エンターテインメント業界向けに2つの興味深い法律が施行されました。米国最大の映画俳優組合（SAG-AFTRA）は、これらの法律を成立させるために重要な役割を果たしました。AB 2602は、映画スタジオがAIを使用して俳優の声や容姿を複製する前に、俳優から許可を得ることを義務付けています。一方、AB 1836は、故人の出演者（『スター・ウォーズ／ローグ・ワン』のピーター・カッシングのキャラクターに類似）のデジタルレプリカを、遺族の同意なしにスタジオが作成することを禁止しています。
図5：グランド・モフ・ターキンというキャラクターは、故ピーター・カッシングの容姿を使用して作成されました。
Link to this sectionカリフォルニア州のAI関連法を推進する要因#
これらの各法律について知るにつれ、なぜそれらが本当に必要なのか疑問に思ったかもしれません。AI規制は以前から議論の人気のトピックでしたが、ディープフェイクコンテンツの台頭により重要な勢いを得ており、メディアや政治など、さまざまな分野に影響を与えています。オンラインでのAI生成コンテンツの使用は、例えば選挙結果への影響や誤情報に関する懸念を引き起こしました。また、プライバシーやAIイノベーションによる個人データの誤用に対する懸念も高まっています。これらの問題が、現在これらの課題に対処するための新しい法律がいくつも制定されている理由の一因となっています。
例えばAB 2905は、自動音声通話（ロボコール）に対して、それがAI生成の声であるかどうかを開示することを義務付けています。さらに、AB 2655は、FacebookやXのような大規模なオンラインプラットフォームに対し、選挙に関連するディープフェイクを削除またはラベル付けし、そのようなコンテンツのための報告チャンネルを作成することを求めています。プラットフォームが準拠しない場合、候補者や選出された公務員は差し止め命令による救済を求めることもできます。
もう一つの法律であるAB 2839は、有権者を誤導する可能性のあるディープフェイクを投稿または再投稿するソーシャルメディアユーザーを対象としています。同様に、AB 2355は、AIツールを使用して作成された政治広告に対する明確な開示を定めています。
Link to this sectionカリフォルニア州の新しいAI関連法の要点#
カリフォルニア州の新しいAI関連法は、イノベーションと説明責任のバランスを取ることへの取り組みの高まりを反映しています。データの透明性、プライバシー、ディープフェイク、ヘルスケアや教育におけるAIの利用といった分野の重要な懸念に対処することで、これらの法律は責任あるAI開発を促進しながら、個人と社会を守ることを目指しています。AIが進化し続ける中、これらの規制は、その成長に伴って倫理的な慣行と社会的な信頼が確保されることを手助けします。これらの法律は、世界中の他の地域が後に続くことを促す可能性もあります。
詳細については、当社のGitHubリポジトリをご覧いただき、コミュニティに参加してください。当社のソリューションページで、製造業や農業におけるAIアプリケーションをご覧ください。🚀
