Transparency in AI

人工智能（AI）的透明度，是指公开说明人工智能（AI）系统的构建、训练、评估和使用方式，并告知人们何时正在与人工智能系统交互。透明度回答有关整个系统的问题：哪些数据用于训练模型、由谁构建以及用途是什么、模型表现如何以及对哪些人表现如何、模型不应用于哪些场景，以及聊天对象、图像或决策是否由人工智能生成。透明度让用户能够校准信任，让审计人员和监管机构检查系统的声明，也让研究人员能够发现算法偏见等缺陷；因此，经合组织人工智能原则和大多数其他人工智能伦理框架都将透明度列为核心原则。

透明度的形式#

• 披露： 告知人们何时正在与人工智能系统交互，或何时看到人工智能生成的内容。自 2026 年 8 月 2 日起适用的《欧盟人工智能法案》第 50 条要求聊天机器人明确告知用户其交谈对象是机器，要求生成式系统的提供者以机器可读格式标记其输出，并要求部署者标记深度伪造内容。内容凭证（C2PA）和人工智能水印等标准可用于实现标记。
• 文档： 模型卡会说明模型的预期用途、训练数据、按群体细分的评估结果及已知限制；数据集说明书则对数据集提供同类信息，记录数据集的动机、构成、收集流程和建议用途。根据《欧盟人工智能法案》，通用人工智能模型的提供者还必须发布训练内容摘要，并使用欧盟委员会于 2025 年 7 月发布的模板。
• 访问： 发布权重、代码或数据，可让外部人员直接检查、复现和测试模型，而不必依赖开发者的报告。
• 输出解释： 可以使用可解释人工智能（XAI）方法解释单项决策；《通用数据保护条例》（GDPR）和《欧盟人工智能法案》要求在某些高风险场景中采用这类方法。

访问权限有不同层级。封闭模型只能通过其开发者的 API 使用；开放权重模型会公开其参数；而开放源代码促进会的开放源代码人工智能定义 1.0 于 2024 年 10 月发布，还要求提供完整的训练和推理代码，以及足够详细的训练数据信息（包括数据来源和处理过程），让具备相应技能的人能够构建基本等效的系统：

透明度与可解释性的区别#

这两个术语含义有所重叠，有时会一起使用，例如“透明度和可解释性”。透明度关注系统及其生成过程；即使模型无人能够解释，透明度也依然成立，例如开发者记录了训练数据和测试结果。可解释性关注模型为何产生特定输出，例如哪些像素影响了分类结果。小型决策树等可解释模型在设计上就便于理解，而机制可解释性则通过逆向工程分析大型网络的内部电路。数据溯源记录数据的来源及其变化过程，是透明度报告中许多内容的重要依据。

随模型一同保留的文档#

文档在部署后仍与模型保持关联时，最有用。Ultralytics YOLO26会将模型及其训练数据集的说明、库版本、导出日期、任务、输入尺寸和类别名称写入每个导出的模型，例如写入 ONNX 文件的元数据属性；Ultralytics 也会读取这些字段，以正确运行模型：

import onnx
from ultralytics import YOLO

# Export YOLO26 to ONNX; the exporter embeds provenance metadata in the file
model = YOLO("yolo26n.pt")
onnx_path = model.export(format="onnx")

# Anyone holding only the exported file can read where it came from
metadata = {prop.key: prop.value for prop in onnx.load(onnx_path).metadata_props}
for key in ("description", "author", "version", "date", "task", "imgsz"):
    print(f"{key}: {metadata[key]}")

打印出的字段标明了模型、训练数据、用于导出的软件及导出时间，无需访问原始训练过程。

衡量透明度#

斯坦福大学的基础模型透明度指数依据 100 项指标评估主要人工智能开发者，涵盖其旗舰模型所使用的数据和计算资源、模型本身，以及模型发布后的使用情况。在对 13 家开发者进行评分的 2025 年版本中，平均分从 2024 年的 58 分降至 100 分制的 40 分；开发者在训练数据和训练计算资源方面最不透明，而 IBM 以 95 分获得该指数的最高分。