カリフォルニア州の新しいAI規制：倫理的AIへの取り組み
カリフォルニア州の新しいAI法が、プライバシー、ディープフェイク、医療、教育、セキュリティといった分野を網羅し、どのようにイノベーションと説明責任のバランスを取っているのかをご覧ください。
自動運転車からヘルスケアに至るまで、人工知能（AI）のイノベーションや次世代テクノロジー企業は、私たちの日常生活の形を変えるうえで重要な役割を果たし始めています。その結果、世界のAI市場規模は2023年に1,966億3,000万ドルに達し、2024年から2030年にかけて年間平均36%成長すると予想されています。これらの数字は、AIの成長がいかに急速であるかを示しています。
一方で、AIの急速な発展はさまざまな業界におけるさまざまな課題に対する解決策を生み出しています。他方で、このスピードは、その改善が倫理的であり、社会にとって有益であることを確実にするために、責任あるAI開発の必要性を浮き彫りにしています。
例えば2016年、MicrosoftはX（旧Twitter）上でチャットボットのTayを公開しました。これはユーザーとの会話から学習するように設計されていました。しかし、リリースから間もなく、Tayはさまざまなやり取りから学習する中で、不適切な言語を含む応答を生成し始めました。Microsoftは速やかにこのボットをオフラインにしましたが、これは、AIトレーニングに使用されるデータが信頼できるものであること、そして企業がAI製品のためにそのようなデータをどのように使用しているかを一般に周知することの重要性を示す良い例となっています。
図1 MicrosoftのTwitterチャットボット「Tay」。
この懸念に対処するため、カリフォルニア州知事のガヴィン・ニューサムは、今年9月に12を超えるAI関連法案に署名し、法律として成立させました。これらの法律は、トレーニングデータの詳細の開示からディープフェイクの取り扱いまで、あらゆる事柄に対応しています。この記事では、カリフォルニア州のAI関連法とそれが意味するものについて探っていきます。それでは始めましょう！
2024年カリフォルニア州AI関連法：説明責任の確保#
AI開発の安全性と信頼性を高めるため、3つの主要な法案が成立しました。2026年に施行される2013年州議会法（AB）は、生成AIプロバイダーに対し、トレーニングデータセットに関する詳細の公開を義務付けています。これらの詳細には、データセットのソース、データの使用方法に関する詳細、セット内のデータポイントの数、著作権で保護されたデータやライセンスされたデータが含まれているかどうか、データが収集された期間などが含まれます。この情報を共有することで、AI企業が一般からの信頼を築く助けとなります。
成立したもう一つの重要な法案がAB 1008です。これは、カリフォルニア州の既存のプライバシー法を生成AIソリューションに拡大適用するものです。AB 1008は、AIシステムが個人情報をどのように取り扱うかに対する懸念に対処し、一般の信頼を向上させるために導入されました。ある調査によると、消費者の81%以上が、AI企業が自分たちの意図しない方法で情報を使用するのではないかと懸念しています。氏名、住所、生体データなどの個人情報を企業がどのように使用し、利益を得るかについて明確な制限を設けることで、この法律は、AIシステムによってデータが露見した場合でも、ユーザーのデータが責任を持って取り扱われることをAI企業が再確認できるよう支援します。
図2 AIソリューションがプライバシーに関して改善できると多くの人々が信じていることを示すインフォグラフィック。
同様に、上院法案（SB）896（別名：生成AI説明責任法）は、カリフォルニア州緊急事態管理局（CalOES）に対し、生成AIシステムによってもたらされる潜在的な脅威のリスク分析を実施することを義務付けています。CalOESは、OpenAIやAnthropicなどの先駆的なAI企業と協力し、州の重要インフラに対するAIの潜在的な脅威について協議・分析を行います。
教育機関におけるAIの導入と規制#
私たちは以前、教育分野におけるAIがどのように学習体験をパーソナライズし、教育手法を再定義し、リアルタイムのフィードバックを提供し、高度なツールや洞察で教育者を支援できるかを探求してきました。実際、AIのイノベーションは、学生にとってより効果的で魅力的な学習環境を作り出すことができます。世界中の教育者や教師は、成功したパイロットプロジェクトやより幅広い導入を進めながら、AIをより定期的に利用しています。調査によると、教師の50%以上が、教室におけるAIが教授および学習プロセスにプラスの影響を与えたと感じています。
図3 学校におけるAIの利用に対する教師の意識を示す調査結果。
カリフォルニア州は、教育機関におけるAIの利用に関する2つの法律を導入しました。AB 2876は、カリフォルニア州教育委員会に対し、（2025年1月1日以降）数学、科学、歴史のカリキュラムフレームワークおよび教材においてAIリテラシーを考慮することを義務付けています。この法律の目的は、カリフォルニア州の学校が、人工知能の仕組み、ならびにそのテクノロジーを使用する際の限界、影響、倫理的配慮について生徒に教育することを確実にすることです。
これに加えて、SB 1288は、カリフォルニア州の教育長に対し、（2026年1月1日またはそれ以前に）公立学校でのAIの利用状況を調査するためのワーキンググループの立ち上げを義務付けています。これらのワーキンググループは、2027年1月1日までに調査結果と勧告を議会の関連政策および財政委員会に提出する必要があります。レポートが提出された後、ワーキンググループは解散され、2031年1月1日付で規定が廃止されます。
ヘルスケアにおける生成AIを取り巻く規制#
生成AIは、新薬の発見、疾病の診断、治療計画の策定、および医療用チャットボットのためのイノベーションを可能にすることにより、ヘルスケア業界を改善しています。これらのアプリケーションは、患者の転帰を改善するためのリアルタイムのモニタリング、助言、サポートなどのメリットを提供できます。拡張現実（AR）などの他のAIテクノロジーも、外科手術の計画やシミュレーションに使用できます。
図4 ヘルスケアにおける生成AIのユースケース。
生成AIをヘルスケアに統合するには、データプライバシーと規制に関する一定の注意点が必要です。AIが生成する結果の正確性、信頼性、公平性を優先しつつ、同時に健康情報のプライバシーを保護することが極めて重要です。
これらの課題に対処するため、カリフォルニア州はヘルスケアにおける生成AIの利用に関する2つの法律を可決しました。AB 3030は、医療従事者に対し、患者とコミュニケーションをとる際に生成AIを使用していること、特にそのメッセージに患者の臨床情報が含まれている場合にそれを開示することを求めています。SB 1120は、医療サービス提供者や健康保険会社がサービスを自動化する方法に制限を課しています。また、これらの新しい法律は、免許を持つ医師がこうした環境でのAIツールの使用を監督することも保証しています。
ディープフェイクに関するカリフォルニア州のAI規制フレームワーク#
カリフォルニア州はまた、誤解を招く情報や不正確な情報の拡散へのAI利用を抑制することに関連する法律を可決しました。SB 942は、人気の生成AIシステムに対し、そのコンテンツがAIによって作成されたものであることをソースデータ内で明確に示すよう義務付けています。多くのAI企業はすでにこれを行っており、世の中にあるいくつかの無料ツール（ZeroGPT、Winston AI、GLTRなど）は、人々がこのソースデータを読み取り、AI生成コンテンツを検出するのに役立ちます。
ディープフェイクに関連する問題に対処するため、カリフォルニア州で3つの新しい法律（AB 1831、SB 926、SB 981）が可決されました。これらの法律は既存の保護を拡大し、AI生成コンテンツの悪用を犯罪とし、ソーシャルメディアプラットフォームに対しディープフェイクコンテンツ用の報告チャネルの設置を義務付けています。これらの法律は2025年1月に施行される予定です。
AIの定義と映画における使用に関するカリフォルニア州のAI法#
法律として成立した法案の一つは、AIに適切な定義を与えることに焦点を当てていました。AB 2885では、AIは「自律性のレベルが異なり、明示的または暗黙の目的に向けて、物理的または仮想的な環境に影響を与える出力を生成する方法を受信した入力から推論できる、エンジニアリングまたは機械ベースのシステム」と定義されています。
エンターテインメント業界に向けて導入された興味深い法律も2つありました。米国最大の映画・放送俳優組合（SAG-AFTRA）は、これらの法律を発効させる上で極めて重要な役割を果たしました。AB 2602は、映画スタジオに対し、俳優の音声や似顔絵（肖像）のレプリカを作成するためにAIを使用する前に、俳優から許可を得ることを義務付けています。一方、AB 1836は、遺族からの同意なしに、スタジオが故人の出演者のデジタルレプリカ（『ローグ・ワン/スター・ウォーズ・ストーリー』のピーター・カッシングのキャラクターに類似）を作成することを禁止しています。
図5 故人となった俳優ピーター・カッシングの肖像を使用して作成されたグランド・モフ・ターキンというキャラクター。
カリフォルニア州のAI関連法を推進する要因#
これらの法律のそれぞれを把握するにつれて、なぜそれらが本当に必要なのか疑問に思ったかもしれません。AIの規制はしばらくの間議論の一般的なトピックでしたが、メディアや政治を含むさまざまな分野に影響を与えてきたディープフェイクコンテンツの台頭に伴い、大きな勢いを増しています。オンラインでのAI生成コンテンツの使用は、例えば誤情報や選挙結果への潜在的な影響についての懸念を引き起こしています。また、プライバシーやAIイノベーションによる個人データの悪用に関する懸念も高まっています。これらの問題が、現在これらの課題に対処するためのいくつかの新しい法律が制定されている理由の要因となっています。
例えば、AB 2905は、ロボコール（自動音声電話）に対し、AIによって生成された音声であるかどうかを開示することを強制しています。さらに、AB 2655は、FacebookやXなどの大手のオンラインプラットフォームに対し、選挙に関連するディープフェイクを削除またはラベル付けし、そのようなコンテンツのための報告チャネルを設置することを求めています。プラットフォームが遵守しなかった場合、候補者や当選した公職者は差止命令による救済を求めることもできます。
もう一つの法律であるAB 2839は、有権者を誤導する可能性のあるディープフェイクを投稿または再投稿するソーシャルメディアユーザーを対象としています。同様に、AB 2355は、AIツールを使用して作成された政治広告に対する明確な開示を規定しています。
カリフォルニア州の新しいAI関連法の要点#
カリフォルニア州の新しいAI関連法は、イノベーションと説明責任のバランスを取ることへの取り組みの高まりを反映しています。データの透明性、プライバシー、ディープフェイク、ヘルスケアや教育におけるAIの利用といった分野の重要な懸念に対処することで、これらの法律は責任あるAI開発を促進しながら、個人と社会を守ることを目指しています。AIが進化し続ける中、これらの規制は、その成長に伴って倫理的な慣行と社会的な信頼が確保されることを手助けします。これらの法律は、世界中の他の地域が後に続くことを促す可能性もあります。
詳細については、GitHub repositoryをご覧いただき、communityにご参加ください。ソリューションページでmanufacturingおよびagricultureにおけるAIの応用事例をご覧ください。 🚀
