AI Ethics

AI倫理は、人工知能（AI）の設計、開発、利用に道徳的原則を適用する分野です。どのようなシステムを構築すべきか、どのように動作させるべきか、影響に対して誰が責任を負うのかを問いかけます。中心となる課題には、公平性、プライバシー、透明性、安全性、説明責任、人間による監督があり、哲学、法律、社会科学、工学の知見を活用します。実際には、AI倫理はチームによるデータ収集やモデル評価、リリースする製品の決定方法に影響し、EU AI Actやカリフォルニア州のAI法などの規制の基盤にもなっています。

基本原則#

国際的な枠組みでは、共通する一連の原則が収束しつつあります。2019年に採択され、2024年に更新されたOECD AI原則は、AIに関する初の政府間標準です。UNESCOの人工知能の倫理に関する勧告は、2021年に全193加盟国によって採択されました。また、NIST AIリスク管理フレームワーク（2023年）は、同様の価値観を、組織が測定できる信頼性の高いAIの特性へと具体化しています。

• 公平性と差別の禁止： システムは、肌の色、性別、年齢、その他の保護対象となる属性を理由に、人々に対する性能を低下させたり、不利益を与えたりしてはなりません。AIにおけるバイアスは、代表性に欠けるデータやラベルを通じて入り込むことが多く、AIの公平性はそれを検証する指標を提供します。
• プライバシーとデータガバナンス： 個人データは、適法に、必要な場合は同意を得て収集し、目的の達成に必要な範囲を超えて処理してはなりません。差分プライバシーや連合学習などの手法は、モデルが明らかにする情報や一元化する情報を減らします。動画分析では、プライバシー・バイ・デザインとして、映像を保存する前に人物を匿名化する方法があります。Ultralyticsの物体ぼかしソリューションは、すべてのフレームでYOLO26による検出を実行し、人物など検出された各物体にその場でぼかしをかけます。
• 透明性と説明可能性： 人々は、AIシステムとやり取りしていることを認識し、システムの構築方法、すなわちAIの透明性について知ることができる必要があります。また、自分に影響を及ぼす判断は、説明可能なAI（XAI）の手法を用いて説明できなければなりません。
• 安全性と堅牢性： システムは、導入先で遭遇する状況下でも確実に動作し、敵対的攻撃などの操作に耐え、安全に停止できる必要があります。
• 説明責任と人間による監督： システムの成果には、特定の個人または組織が責任を負い、人間がシステムを監視し、動作を上書きし、または停止できる必要があります。

原則から法律へ#

EU AI法は、これらの原則をリスクに応じた義務に具体化しています。2024年8月に発効し、禁止される行為に関する規定は2025年2月2日から、透明性に関する義務は2026年8月2日から適用されています。2026年のデジタル・オムニバス改正後、採用、信用スコアリング、教育など、附属書IIIに記載された高リスク用途の要件は2027年12月2日から適用されます。同法は、AIの各用途を、発生する義務に応じて分類します。

いくつかの禁止事項はコンピュータービジョンに直接関係します。具体的には、認識データベース構築を目的としたインターネットやCCTVからの顔画像の無差別スクレイピング、職場や学校での感情認識、人種や政治的意見などの特性を推定する生体認証による分類、そして限定的な例外を除く、法執行を目的とした公共空間でのリアルタイム遠隔生体認証識別です。組織は、2023年に発行された国際標準であるISO/IEC 42001に照らして、AI管理の実践を認証することもできます。

AI倫理と関連用語#

• AI安全性： システムの能力が高まるにつれて、事故、悪用、制御不能を防ぐことに重点を置きます。AI倫理では、システムが存在すべきか、誰に貢献するのかも問います。
• AIガバナンス： 組織や政府が倫理原則を実践するための方針、プロセス、法律です。
• 責任あるAI： 企業が自社のAI倫理の実践を指す際によく使う用語であり、ほぼ同義語です。
• アルゴリズムバイアス： より広範な分野における特定の倫理的問題であり、不公平な結果を生み出す体系的な誤りです。

コンピュータービジョンにおける倫理的課題#

• 医療： 医用画像解析では、ある病院のスキャナーと患者で検証されたモデルが、学習時に見ていない集団の所見を見落とす可能性があります。そのため、倫理的枠組みでは、属性別の評価と臨床医による監督が求められます。
• 合成メディア： ディープフェイクは詐欺、嫌がらせ、偽情報を可能にし、EU AI法は導入者にその開示を義務付けています。
• 感情認識： 2022年、Microsoftは、感情状態や性別、年齢などの属性を推定するAzure Faceの機能を廃止しました。その理由として、感情の定義に関する科学的合意がないこと、また顔の表情からの推定が地域や人口統計の違いを超えて一般化するかどうかに疑問があることを挙げました。
• 同意とデータセットの由来： 多くの顔・人物データセットは、写っている人々に知らせずにスクレイピングされました。Microsoftは2019年、10万人の約1,000万枚の写真を含むMS-Celeb-1Mデータセットを公開停止しました。
• 顔認識と監視： 2020年6月、IBMは汎用顔認識の提供を停止し、Amazonは警察によるRekognitionサービスの利用を一時停止しました。この一時停止措置は、後に無期限へと延長されました。2024年9月、オランダデータ保護機関は、インターネットからスクレイピングした数十億枚の顔写真を使ってデータベースを構築したとして、Clearview AIに3,050万ユーロの罰金を科しました。