AI Governance

AIガバナンスとは、組織がどの人工知能システムを構築または購入するか、各システムの説明責任を誰が負うか、リリース前にどのような証拠が必要か、システムをどのように監視、変更、廃止するかを決めるための方針、役割、プロセス、記録の総体です。AI倫理は、AIに尊重させたい価値を定めます。ガバナンスは、それらの価値を意思決定権限と文書化されたチェックに落とし込み、ライフサイクル全体を通じてすべてのシステムに適用します。対象は、ベンダーから購入した大規模言語モデルのアシスタントから、生産ラインで稼働する社内開発のコンピュータービジョンモデルまで多岐にわたります。

フレームワークと規制#

多くのガバナンスプログラムは、いくつかの主要な参照フレームワークを基盤としています。

• NIST AIリスク管理フレームワーク: 2023年1月に公開された米国の任意フレームワークで、4つの機能で構成されます。Governは方針と説明責任を定め、Mapは各システムのコンテキストと意図した用途を明確にし、Measureはテストと指標を使ってリスクを評価し、Manageはリスクに優先順位を付けて対処します。
• ISO/IEC 42001: 2023年12月に発行された、AIマネジメントシステムに関する初の国際規格です。情報セキュリティに関するISO/IEC 27001と同様に、組織は監査と認証を受けることができます。
• OECD AI原則: 2019年に採択され、2024年に更新されました。多くの国の政策の基盤となり、ほかの枠組みに共通の用語を提供します。

NISTの生成AIプロファイルであるNIST AI 600-1（2024年7月）は、ハルシネーションやプロンプトインジェクションなどのリスクにリスクマネジメントフレームワークを適用します。

EU AI Actは、2024年8月に発効し、段階的に適用されるリスクベースの規制です。ソーシャルスコアリングや職場・学校での感情認識などの行為の禁止とAIリテラシー義務は、2025年2月2日から適用されています。汎用AIモデルのプロバイダーに対する義務は2025年8月2日から、ディープフェイクの開示などの透明性義務は2026年8月2日から適用されています。2026年7月27日に発効したAIデジタル・オムニバスにより、雇用や信用スコアリングなど、付属書IIIに記載された高リスクシステムの要件は2027年12月2日へ、医療機器や機械など規制対象製品に組み込まれたAIの要件は2028年8月2日へ延期されました。これらの要件は、リスク管理、データガバナンス、ログ記録、人間による監督、適合性評価を対象とします。

主要な管理策#

組織は把握していないシステムを管理できないため、まずインベントリを作成します。完全なインベントリには、各システムの所有者、目的、データソース、モデルのバージョン、ベンダーを記録し、審査なしにチームが導入したツールであるシャドーAIを明らかにします。社内で構築したモデルでは、モデルレジストリがそのインベントリとして機能することがよくあります。

次に、目的、自律性、影響を受ける人々、エラーのコストに基づいて、システムをリスクの段階に分類します。社内文書を順位付けするモデルに必要な審査は、求職者を選別したり機械を制御したりするモデルよりも簡素で済みます。リスクの段階が高いほど、厳格なテスト、承認、人間による監督が必要です。

文書化により、意思決定をレビュー可能にします。モデルカードには意図された用途、評価結果、既知の制限事項を記録し、データ来歴の記録には学習データの入手元とライセンスまたは同意条件を記載します。再現性も同じ記録に含めます。各候補モデルの基となる正確なデータセットのバージョン、ベースモデル、コードのバージョン、設定を記録することで、レビュー担当者はデプロイ済みモデルを入力までたどれます。Ultralytics Platformで学習したビジョンモデルでは、各実行に親モデル、Ultralyticsのバージョン、ホスト環境、報告されている場合はGitコミットが記録されます。また、保存したデータセットのバージョンにより、学習に使った画像とラベルを正確に固定できます。

テストは承認の根拠となる証拠を提供します。結果を確認する前にユースケースごとの合格基準を設定し、関連するサブグループ間の精度をテストしてAIのバイアスを検出します。また、暗所や新しいカメラアングルなど入力分布の変化に対する頑健性と、通常はAIレッドチーミングによるセキュリティもテストします。英国NCSCと各国の協力機関は、設計、開発、デプロイ、運用を対象とする安全なAIシステム開発のガイドラインを公開しています。

リリース後は、モデルモニタリングで性能とデータドリフトを追跡し、インシデント対応プロセスでシステムを停止またはロールバックできる担当者を定め、廃止プロセスで不要になったモデルとデータを削除します。意思決定権限によって各管理策が結び付きます。ガバナンスでは、すべてのシステムについて、デプロイを承認する担当者、停止できる担当者、テスト後に残るリスクを受け入れる担当者を明確にします。

関連する取り組みとの違い#

• 規制: 外部から課される法律です。ガバナンスは組織が内部で運用する仕組みであり、組織が規制を遵守していることを示す手段でもあります。
• リスク管理: 特定のリスクを特定、測定、対処することです。ガバナンスでは、誰がその作業を行い、誰が残存リスクを受け入れ、意思決定をどう記録するかを定めます。
• MLOps: モデルをトレーニング、デプロイ、保守するパイプラインです。ガバナンスでは、パイプラインが満たすべき承認ゲートと記録要件を定めます。
• AI安全性: AIシステムを意図したとおりに動作させるための技術的研究です。ガバナンスでは、安全性に関する知見を踏まえ、組織が何をリリースできるかを決めます。