Data Privacy

データプライバシーとは、個人情報がどのように収集、使用、共有、保持されるかを個人が管理する権利と、その権利を尊重するために組織が従う法律および慣行です。人工知能では、一般的なソフトウェアよりもリスクが高くなります。モデルは人々について記述することの多い大量の学習データから構築され、そのデータを記憶して再現する可能性があります。また、顔認識のようなシステムは、設計上、個人情報を処理します。

法律と基本原則#

2018年5月に施行されたEUの一般データ保護規則（GDPR）は、第5条で参照すべき原則を定めています。個人データは、適法、公正、透明性のある方法で処理する必要があります。特定の目的のために収集すること（目的の限定）、必要な範囲に限定すること（データ最小化）、正確な状態に保つこと、必要な期間を超えて保存しないこと（保存期間の制限）、適切なセキュリティで保護することが求められます。また、管理者はコンプライアンスを証明できなければなりません（説明責任）。第25条はデータ保護・バイ・デザインとデフォルト設定を、第22条は自動処理のみに基づく意思決定に関する個人の権利を定めています。罰金は2,000万ユーロまたは全世界の年間売上高の4%のうち、いずれか高い方に達します。

他の法律も同様の構成です。カリフォルニア州のCCPAはCPRAによって拡張され、住民に自身のデータを知る権利、削除する権利、販売または共有を拒否する権利を認めています。米国の医療分野では、HIPAAの匿名化基準がセーフハーバー方式で削除すべき18種類の識別子を定めており、顔全体の写真やそれに類する画像も含まれます。EU AI法はAI固有の規則を追加しており、2025年2月以降、インターネットやCCTV映像から顔画像を無差別にスクレイピングして顔認識データベースを構築することを禁止しています。

データセットがこれらの法律の対象となるかどうかは、データから個人を特定できるかによって決まります。

匿名化は見た目ほど簡単ではありません。Latanya Sweeneyは2000年、郵便番号、性別、生年月日だけで米国人口の約87%を一意に特定できることを示しました。そのため、名前を削除しただけではデータセットが匿名になるとは限りません。

AI固有のプライバシーリスク#

モデルは学習例を記憶して再現することがあります。Nicholas Carliniらは、拡散モデルから、個人の写真を含む1,000枚以上の学習画像を抽出しました。データを抽出しなくても、メンバーシップ推論攻撃によって、特定の個人の記録が学習セットに含まれていたかどうかが明らかになることがあります。ある疾患を持つ患者で学習したモデルでは、それ自体が機微な情報です。

もう1つの大きなリスクはデータ収集です。ある目的で集めた画像やテキストが、適法な根拠なく学習に再利用されることがよくあります。欧州の複数のデータ保護当局は、写真をスクレイピングして顔データベースを構築したClearview AIに罰金を科しました。2024年にはオランダの当局が3,050万ユーロの罰金を科しています。組織内では、シャドーAIツールを通じて外部のチャットボットに貼り付けられた個人データが、組織の管理下から外れます。

プライバシー保護技術#

• 差分プライバシー： 統計や学習に調整済みのノイズを加え、出力から個人についてほとんど情報が明らかにならないようにします。
• 連合学習： スマートフォンや病院のサーバーなど、データが保管されている場所で学習し、モデルの更新情報のみを共有します。
• 合成データ： 実際の記録を、統計的なパターンを維持した生成データに置き換えます。
• 機密AIとエッジAI： 認証済みのハードウェアエンクレーブ内、またはデータを取得したデバイス上でデータを処理します。

保存またはトレーニングの前に識別可能な情報を削除する処理が、マスキングです。コンピュータービジョンパイプラインでは、顔とナンバープレートをぼかして、スマートシティの交通分析用の街路画像を処理します。また、医用画像解析用データセットでは、DICOMヘッダーから患者識別情報を削除し、頭部スキャンから顔の特徴を除去します。Ultralytics Platformの顔ぼかしアクションは、サンプル画像上で検出した顔をプレビューしてから、データセット内のすべての画像で該当するピクセルを置き換えます。データセットでは、新規アップロードのたびに顔を自動でぼかすよう設定できます。

データセキュリティは、データプライバシーの要件の1つです。暗号化とアクセス制御によって個人データを不正な第三者から保護できますが、完全に保護されたデータベースであっても、適法な根拠なく収集されたデータや、目的上必要な期間を超えて保持されたデータが含まれていれば、プライバシー法に違反する可能性があります。