Model Card

了解什么是模型卡、它包含哪些内容，以及它如何支持人工智能透明度、评估、治理、风险管理和负责任的部署。

模型卡（Model Card）是一个结构化文档，用于解释 AI 或机器学习模型的功能、开发和评估方式、适用场景，以及用户需要了解的局限性或风险。它就像一张面向开发者、评审人员、部署人员及受影响利益相关者的实用信息表，支持人工智能透明度，而无需访问源代码或模型内部细节。在此上下文中，模型卡与时尚模特的“个人资料卡（comp card）”无关，后者属于职业作品集。

模型卡包含的内容#

一份有用的模型卡将技术证据与通俗易懂的指导相结合。其详细程度应反映模型的影响：实验性的图像分类器可能只需要一张简短的卡片，而影响医疗或财务决策的模型则需要更详细的文档。

常见组件包括：

用途、所有权和版本： 标识模型、负责团队、发布版本、任务、支持的输入和输出，以及联系方式或维护信息。
训练数据和开发背景： 描述数据来源、采集条件、标注实践、预处理、模型架构、训练过程和重要假设。敏感或专有数据可以在不公开的情况下进行总结。
评估和性能指标： 报告在明确识别的验证集或测试集上的指标。对于目标检测，这些指标可能包括精确率、召回率、平均精度均值、推理延迟以及单个类别或有意义的数据子集的结果。
预期用途与排除项： 解释适用的应用程序、预期的运行条件、所需的人工监督，以及模型并非为此设计的场景。
局限性与风险： 记录已知的失效模式、不确定性、隐私问题、安全注意事项以及可能的数据集偏见。它还应说明错误预测可能导致的后果。

亚马逊云科技 SageMaker 模型卡文档提供了一个结构化生命周期记录的示例，涵盖预期用途、训练详情、评估、风险评级和建议。诸如谷歌 DeepMind 模型卡等公开合集展示了卡片如何向更广泛的受众传达功能、安全评估和局限性。

为什么模型卡很重要#

模型卡可帮助团队在采用或部署模型之前做出明智的决策。亮眼的头条指标可能会掩盖模型在罕见类别、异常环境或特定用户群体上的薄弱表现。通过记录评估数据集、测试条件和各分组结果，卡片为读者提供了正确解读这些数字所需的背景信息。

它们还支持治理和问责制。NIST AI 风险管理框架强调在整个人工智能生命周期中管理可信度，而经合组织透明度和可解释性原则则呼吁提供有关人工智能能力和局限性的有意义信息。模型卡为实现这些目标提供了实用的成果。

在组织内部，卡片改进了数据科学家、产品团队、合规审核人员和运维工程师之间的交接。诸如IBM AI Factsheets之类的系统通过收集跨开发、审批、部署和监控的模型元数据，扩展了这种方法。

实际应用#

制造业视觉检测： 工厂可能会部署计算机视觉模型用于缺陷检测。其模型卡可以列出支持的缺陷类别、相机放置位置、光照假设、罕见缺陷的性能、最小物体尺寸以及边缘设备延迟。如果在反光光照下经常漏掉划痕，记录该局限性有助于操作员要求人工复核或收集额外的训练图像。
临床影像支持： 医疗影像模型的卡片可以识别评估期间代表的扫描类型、设备、患者群体和机构。它可以报告子群性能，并阐明输出是协助合格的临床医生，而不是独立决定诊断。缺少此背景可能会导致医院在不受支持的设备或人群上使用该模型，从而增加不可靠建议的风险。

在选择第三方模型时也会遇到模型卡。例如，微软 Foundry 模型目录文档描述了包含模型详情、基准测试、支持的数据类型、许可证和部署信息的卡片。

创建和维护模型卡#

在项目规划期间着手制作卡片，而不是在部署之后。在产生证据时记录它们，包括数据集版本、训练设置、评估条件和评审员决策。对于 Ultralytics YOLO26 目标检测模型，记录在案的验证工作流可以为评估部分生成指标：

from ultralytics import YOLO

# Load the documented model version
model = YOLO("yolo26n.pt")

# Evaluate it on a labeled validation dataset
metrics = model.val(data="coco8.yaml")

# Record these results with the dataset and test conditions
print(f"mAP50-95: {metrics.box.map:.3f}")
print(f"mAP50: {metrics.box.map50:.3f}")
print(f"mAP75: {metrics.box.map75:.3f}")

只有在附带模型版本、数据集、数据集划分、图像尺寸、硬件和评估配置的情况下，这些值才有意义。团队可以使用 Ultralytics Platform 来标注数据集、跟踪训练运行、部署模型并监控端点，同时维护更新卡片所需的证据。

模型卡应该是一个版本化的动态文档。每当模型、数据集、评估过程、部署环境或已知局限性发生变化时，都要对其进行更新。最重要的是，要为决定是否以及如何使用模型的人编写，而不仅仅是为训练它的团队编写。