Transparency in AI

AIの透明性とは、人工知能（AI）システムの構築、学習、評価、使用の方法を公開し、ユーザーがAIシステムを利用していることを知らせることです。システム全体について、モデルの学習にどのデータを使ったか、誰が何の目的で構築したか、どの程度の性能を誰に対して発揮するか、何に使うべきではないか、チャット相手や画像、判断がAIによるものかどうか、といった問いに答えます。透明性があれば、ユーザーは信頼度を適切に調整でき、監査担当者や規制当局はシステムの主張を検証でき、研究者はアルゴリズムバイアスなどの欠陥を発見できます。そのため、OECD AI原則をはじめとする多くのAI倫理の枠組みでは、透明性が中核原則として掲げられています。

透明性の形態#

• 開示: AIシステムとやり取りしている場合や、AIが生成したコンテンツを見ている場合に、そのことをユーザーに知らせます。2026年8月2日から適用されるEU AI法第50条では、チャットボットに対して、ユーザーが機械と会話していることを明示するよう求めています。また、生成AIシステムの提供者には出力を機械可読形式でマークすることを、導入者にはディープフェイクにラベルを付けることを義務付けています。Content Credentials（C2PA）やAIウォーターマークなどの標準が、このマーキングを実現します。
• ドキュメント: モデルカードには、モデルの想定用途、トレーニングデータ、グループ別の評価結果、既知の制限事項を記載します。データセットのデータシートも同様に、データの動機、構成、収集プロセス、推奨用途を記録します。EU AI法の下では、汎用AIモデルの提供者は、欧州委員会が2025年7月に公開したテンプレートを使って、トレーニング内容の概要も公開する必要があります。
• アクセス: 重み、コード、データを公開すると、外部の人々が開発者の報告に頼らず、モデルを直接調査、再現、テストできるようになります。
• 出力の説明: GDPRおよびEU AI法により、一部の高リスクな用途では、説明可能なAI（XAI）手法を使って個々の判断を説明することが求められています。

アクセスの程度はさまざまです。クローズドモデルは開発者のAPIを介してのみ利用でき、オープンウェイトモデルはパラメーターを公開します。さらに、Open Source InitiativeのOpen Source AI Definition 1.0（2024年10月公開）では、完全なトレーニングコードと推論コードに加え、熟練者が実質的に同等のシステムを構築できるだけの、データの出所や処理を含むトレーニングデータの詳細も求めています。

透明性と説明可能性#

これらの用語は重なり合っており、「透明性と説明可能性」のように併用されることもあります。透明性はシステムと、それを生み出したプロセスに関するものであり、開発者がトレーニングデータやテスト結果を記録している場合のように、誰にも解釈できないモデルにも当てはまります。説明可能性は、モデルが特定の出力を生成した理由に関するものです。たとえば、どのピクセルが分類結果に影響したかを示すことが該当します。決定木のような小規模な解釈可能モデルは設計上理解しやすく、メカニスティック解釈可能性では大規模ネットワークの内部回路をリバースエンジニアリングします。データの来歴、つまりデータの出所や変更履歴の記録は、透明性レポートに含まれる情報の多くを提供します。

モデルとともに引き継がれるドキュメント#

ドキュメントは、モデルのデプロイ後もモデルに付随していると最も役立ちます。Ultralytics YOLO26は、モデルの説明、トレーニングデータセット、ライブラリのバージョン、エクスポート日、タスク、入力サイズ、クラス名を、エクスポート済みモデルごとに書き込みます。たとえば、ONNXファイルのメタデータプロパティにこれらの情報を保存し、Ultralyticsはこれらのフィールドを読み戻して、モデルを正しく実行します。

import onnx
from ultralytics import YOLO

# Export YOLO26 to ONNX; the exporter embeds provenance metadata in the file
model = YOLO("yolo26n.pt")
onnx_path = model.export(format="onnx")

# Anyone holding only the exported file can read where it came from
metadata = {prop.key: prop.value for prop in onnx.load(onnx_path).metadata_props}
for key in ("description", "author", "version", "date", "task", "imgsz"):
    print(f"{key}: {metadata[key]}")

出力されたフィールドから、モデル、トレーニングデータ、エクスポートに使用したソフトウェア、エクスポート時期を特定できます。元のトレーニング実行にアクセスする必要はありません。

透明性の測定#

StanfordのFoundation Model Transparency Indexは、主要なAI開発企業を対象に、主力モデルの背後にあるデータと計算リソース、モデル自体、リリース後の利用方法に関する100の指標でスコアを算出します。13社を評価した2025年版では、平均スコアが2024年の58点から40点に低下しました。各社が最も情報を公開していなかったのはトレーニングデータと計算リソースで、IBMが95点で最高スコアを記録しました。