Ultralytics YOLO27: 加入候补名单。
获取 YOLO 许可
Ultralytics 平台

如何使用精确率和召回率选择自动标注 VLM

根据精确率和召回率选择用于自动标注的 VLM:哪些模型产生的多余框更少、漏检的目标更少,以及如何在自己的数据上进行测试。

Sergiu WaxmannSergiu Waxmann12 分钟阅读
根据精确率和召回率选择用于自动标注的 VLM:哪些模型产生的多余框更少、漏检的目标更少,以及如何在自己的数据上进行测试。

选择用于自动标注数据集的模型,归根结底取决于审核人员更愿意做哪种清理工作:删除多余的框,还是补上模型漏掉的框。Ultralytics VLM Leaderboard现在展示了每个模型在这两者之间的权衡,并列出精确率(模型预测框中正确框所占的比例)和召回率(模型找到的已标注对象所占的比例);数据来自 2026 年 10 月 28 日发布的基准测试结果。

要获得最干净的初稿,先试试 Gemini 4 Argon。要尽可能少漏掉对象,先试试 GPT-6 Astra。要兼顾两者,并选择六个得分最高的模型中成本最低的一个,就选 GPT-6.1 Terra。如果你没有自己的 AI 提供商 API 密钥,可以先试用托管版 Qwen3.8 27B;对于你宁愿事后删减的拥挤场景,也可以试试 SAM 3.1 Text。

本指南将说明如何解读这些数字、各个模型适用于哪些场景,以及如何用你自己的图像验证选择。每次运行后,排名和价格都会变化,因此请将这里的数据视为 2026 年 10 月的示例,并查看排行榜了解当前结果。

类别提示模型没有置信度滑块,因此模型选择就是你的阈值#

在标注编辑器中使用 Ultralytics YOLO 模型时,你可以自行调整这种取舍。提高置信度阈值,误检框会减少,但漏检会增加;降低阈值则相反。视觉语言模型(VLMs)的工作方式不同。标注编辑器文档中解释了,它们会使用各自特定的阈值检测数据集中的类别,并且不会返回置信度分数,因此选择这类模型时,Ultralytics Platform 会隐藏置信度和 IoU 设置。

这会影响排行榜中的精确率和召回率所代表的含义。根据基准测试方法,计算精确率和召回率时,会统计模型在 IoU 为 0.5 时返回的所有框,不存在隐藏的工作点。这些指标反映的是审核人员实际收到的框。

排行榜背后的基准测试为 UL37 v2:来自 Platform 上 36 个真实目标检测数据集的图像,每个数据集取 10 张;另有 10 张 COCO 2017 参考图像单独评分,共计 370 张图像和 7,268 个框。每张图像都使用与 Smart 和 Batch Annotation 相同的生产流程进行处理,并采用数据集自身的类别名称;SAM 3.1 会优化除 SAM 3 自身之外所有模型的框。评分使用 Ultralytics 软件包自带的检测指标,也就是用于验证 YOLO 模型的代码,并且每个数据集在平均分中的权重相同。

精确率反映未匹配的框,召回率反映未匹配的目标#

精确率是模型预测框中与正确类别的已标注目标匹配、且 IoU 为 0.5 的比例。召回率是模型匹配到的已标注目标所占的比例。从审核角度看:

  • 精确率低意味着有更多框需要删除、重新标注或调整大小,直到它们与目标匹配。
  • 召回率低意味着有更多已标注目标需要补框、调整框的大小或重新标注。
  • F1 是精确率和召回率的调和平均值,计算公式为 2 x P x R / (P + R),用一个数字概括两者。它不衡量审核需要多长时间。
  • mAP50 和 mAP50-95 根据各类别的平均精度对模型进行排名,分别采用 IoU 0.5,以及从 0.50 到 0.95 的更严格阈值。排行榜按 mAP50 排序。

以下是 mAP50 高于 0.51 的六个模型。成本根据服务提供商报告的用量估算,单位为每成功标注 1,000 张基准测试图像所需费用;延迟为请求时间的中位数:

模型mAP50mAP50-95精确率召回率F1服务提供商成本 / 1,000 张图像(基准测试用量)延迟
GPT-6.1 Terra0.5600.3450.650.610.63$4.365.1 s
Gemini 4 Argon0.5370.3430.670.590.62$7.60*4.6 s
Claude Opus 5.50.5270.3330.660.590.62$13.922.7 s
GPT-6 Astra0.5250.3250.560.630.59$49.3111.6 s
Gemini 3.8 Flash0.5160.3210.660.560.60$5.867.4 s
GPT-6.1 Sol0.5140.3180.550.620.58$10.3010.5 s

*Gemini 4 Argon 的估算采用 Google 的入门定价,该价格持续到 2026 年 11 月 30 日。从 12 月 1 日起,Google 的标准费率将翻倍;按相同用量计算,每 1,000 张图像约需 15 美元。对于任何模型(包括托管模型),Ultralytics Platform 的 Batch Annotation 都会对处理的每 1,000 张图像额外收取 1.00 美元。

这六个模型分为两类。Argon、Opus 5.5 和 Gemini 3.8 Flash 的精确率为 0.66 到 0.67,召回率低于 0.60:它们预测的框中匹配正确的比例较高,但匹配到的已标注目标较少。Astra 和 Sol 的召回率达到 0.62 到 0.63,精确率为 0.55 到 0.56:它们匹配到更多已标注目标,但预测框中匹配正确的比例较低。Terra 处于两类模型之间,并在 mAP50 和 F1 上领先。

多余框修正成本高时,优先考虑精确率#

在 40 个基准测试模型中,Gemini 4 Argon 的整体精确率最高,达到 0.667。代价是其平均召回率为 0.585,低于召回率领先的模型。

当未匹配的框难以发现时,精确率最为重要。在拥挤的图像中,审核人员必须在许多正确框中找出错误框,才能修正它。密集零售货架图像集 SKU110K 展示了这类图像上的精确率差异可能有多大:在我们的 GPT-6.1 Terra 测试结果中,Terra 在该数据集上的精确率为 0.79、召回率为 0.73;而 GPT-6.1 Sol 分别为 0.49 和 0.77。

Gemini 4 Argon 在一张 COCO 滑雪照片上的回放

Gemini 4 Argon:为 4 个已标注目标预测了 5 个框,精确率 0.60,召回率 0.75。

Argon 在基准测试中也没有请求失败,其 4.6 秒的中位数响应时间是前两名中最快的。如果你的数据与它表现出色的领域相似,就可以选择它:航拍、水下、热成像和安检 X 光图像(它在 IEDXray 安检扫描数据集上的 mAP50 最高,为 0.298)。如果你的团队宁愿补全少数漏掉的对象,也不愿费力寻找多余的框,也可以选择它。

漏掉目标的错误代价高时,优先考虑召回率#

GPT-6 Astra 的平均召回率在排行榜上最高,为 0.627。其代价是精确率只有 0.56。

当漏标对象造成的代价更高时,优先追求召回率是合理的。训练集中漏掉的缺陷或病灶会让检测器把该对象学成背景;而要找出漏掉的框,就得逐张检查图像,寻找未标注的对象。Astra 在 36 个数据集中有 7 个取得最高 mAP50,其中包括 TBX11K 胸部 X 光图像(0.330)、GRAZPEDWRI-DX 儿童腕部 X 光图像(0.354)和 DsPCBSD+ PCB 表面缺陷(0.394);这说明值得在类似数据上测试它,但不能证明它在你的数据上漏检更少。

GPT-6 Astra 在同一张 COCO 照片上的回放

GPT-6 Astra:同样的 4 个对象标出了 6 个框,其中包括 COCO 标签中未标出的雨伞;精确率为 0.50,召回率为 0.75。

在前六名中,Astra 的成本估算最高,每 1,000 张图像为 49.31 美元;中位耗时为 11.6 秒,且 1% 的图像请求失败。另有两个 OpenAI 模型的召回率接近:GPT-6.1 Sol 为 0.62,估算成本为 10.30 美元;GPT-6.1 Terra 为 0.61,估算成本为 4.36 美元。

结合 mAP50-95 和 F1 权衡两种错误#

GPT-6.1 Terra 以 0.560 的 mAP50 和 0.345 的 mAP50-95 位居榜首。它的精确率为 0.646,召回率为 0.613,都与领先模型相差不到几个百分点;其 F1 为 0.63,是六个模型中最高的,略高于 Argon 和 Opus 5.5 的 0.62。F1 差距很小,而且 F1 不反映审核时间,因此可以根据各领域的结果和在你自己的图像上进行的测试来决定。

它在 mAP50-95 上领先,又提供了另一项参考。mAP50-95 会对最高 0.95 的重叠阈值取平均,因此既奖励匹配框贴合紧密的模型,也奖励能找到正确目标的模型;Terra 在这项指标上同样排名第一。它在前六名中的成本估算也最低,且没有请求失败,排行榜将其标记为“性价比最佳”。

付费模型的 VLM 排行榜图表:mAP50 与每 1,000 张图像成本的关系

没有服务提供商密钥也能标注:托管模型和开放词汇检测器#

并非每个团队都想使用付费服务提供商密钥。Platform 上的托管模型无需密钥即可运行,它们各项指标的表现有所不同:

  • SAM 3.1 Text: mAP50 为 0.332,精确率为 0.19,召回率为 0.47,每张图像耗时 0.2 秒。它在全部 40 个模型中,在 VisDrone(mAP50 为 0.479)和 Fisheye8K 交通数据集(0.478)上的表现最佳。
  • Qwen3.8 27B: mAP50 为 0.351,精确率为 0.54,召回率为 0.40,耗时 1.5 秒。
  • Gemma 4 26B: mAP50 为 0.344,精确率为 0.53,召回率为 0.39,耗时 0.9 秒。

开放词汇检测器也采用托管方式。在这次基准测试中,OWLv2 Large 的 mAP50 为 0.133,Grounding DINO Base 为 0.104,两者每张图像都耗时 0.2 秒;SAM 3.1 Text 的 mAP50 则为 0.332。这些分数衡量的是 Platform 上采用 SAM 3.1 框优化的类别提示流程,并非各模型原始设置下的表现。

SAM 3.1 Text 在同一张 COCO 照片上的回放

SAM 3.1 Text:为 4 个目标预测了 29 个框,精确率 0.10,召回率 0.75。三次回放都找到了 4 个目标中的 3 个;不同之处在于审核人员需要删除多少个多余框。

在拥挤的航拍和交通场景中,如果审核人员预期初稿会有不少框需要删减,SAM 3.1 Text 就很适合。Qwen3.8 27B 和 Gemma 4 26B 的表现与谨慎型模型类似,但准确率较低。在低成本付费模型中,Claude Haiku 5.5 的 mAP50 为 0.429,精确率为 0.56,召回率为 0.47;估算成本为每 1,000 张图像 0.37 美元,是排行榜上另一个被标记为“性价比最佳”的模型。

整体平均值会掩盖你的数据领域差异,因此请查看数据集表格#

每个模型的精确率和召回率是对 36 个数据集取平均,而你的数据只属于其中一个领域。VLM 排行榜的数据集表格按难度从高到低列出所有数据集在全部 40 个模型上的平均精确率和召回率,并列出每个数据集上的最佳模型。

查看表格,留意可能的问题。在 Airbus Oil Storage Detection 上,10 张图像共标注了 2,267 个储油罐;模型的平均精确率为 0.39,平均召回率为 0.11,最佳 mAP50 是 Gemini 4 Argon 的 0.347。在 DeepPCB 上,平均精确率和召回率分别为 0.03 和 0.04,而 GPT-6.1 Sol 的表现较突出,mAP50 为 0.393。

把这些数字当作筛选参考,而不是最终结论。方法说明指出,每个数据集取 10 张图像足以对模型和数据领域进行排名,但不足以确定单个数据集的分数;重复运行时,个别数字也会有几个百分点的波动。Platform 上每个模型页面都会在基准测试数据集和 COCO 上,将模型记录的框与预期框并列回放,因此你可以在开始运行前检查与你的数据最相似的数据集。

五步将模型与审核流程相匹配#

从你的选择优先级出发,然后在自己的图像上确认选择:

你的优先事项候选模型(2026 年 10 月结果)
优先考虑精确率Gemini 4 Argon
优先考虑召回率GPT-6 Astra 或 GPT-6.1 Sol
兼顾两者GPT-6.1 Terra
没有服务提供商密钥托管版:Qwen3.8 27B 或 SAM 3.1 Text

类别提示标注适用于包含 1 到 200 个类别的检测数据集。

  1. 在排行榜上筛选候选模型。将目标检测 VLM 排行榜筛选为付费或托管模型(跳过标记为“平台不提供”的模型),查看与你的优先事项对应的列,并检查数据集表中与你所在领域相关的内容。
  2. 添加服务提供商密钥。 对于付费模型,请在拥有该数据集的工作区中,通过设置 > API 密钥保存你的密钥。服务提供商会直接向你的密钥计费;服务提供商密钥文档介绍了设置方法。
  3. 在已审核的样本上测试。 选取几张能代表你的数据、且已由你手动标注的图像。打开标注编辑器,切换到 Smart 模式,在模型选择器中选择其服务提供商下的模型,然后点击 Predict(P)。统计你删除的框、添加的框,以及审核所需的时间。
  4. 标注数据集。 在数据集页面中,选择 更多操作 > 批量标注。此功能适用于托管在 Platform 上且最多包含三个图像通道的数据集。默认情况下,它会标注未标注的图像,不会更改现有标签,并会先保存一个数据集版本,方便你回滚。开始前,请在对话框中查看预估成本:批量标注每处理 1,000 张图像收费 1.00 美元,另加任何服务提供商费用。
  5. 审核,然后训练。 根据模型的薄弱之处检查框,保存后,在同一工作区中使用结果训练 Ultralytics YOLO 模型。

如需了解背景信息,请参阅Ultralytics Platform 如何使用 AI 自动化标注,以及人在回路审核为何仍是工作流程的一部分。若想了解不同工具中的自动标注与主动学习有何区别,请阅读我们的自动标注与主动学习对比。

按团队需求筛选候选模型(2026 年 10 月结果)#

  • 宁愿补全初稿也不愿清理初稿的审核人员: Gemini 4 Argon,整体精确率最高,在航拍、水下、热成像和安检 X 光数据上表现最强。
  • 漏检会污染训练数据的稀有目标: 追求最高召回率选 GPT-6 Astra,或选择表现紧随其后的 GPT-6.1 Sol。
  • 没有明显偏好的通用标注需求: GPT-6.1 Terra,在 mAP50、mAP50-95 和 F1 上均排名第一。
  • 没有服务提供商密钥的团队: 在拥挤场景中进行偏重召回率的初步标注,可选 SAM 3.1 Text;想要更谨慎的初稿,可选 Qwen3.8 27B。

无论你选择哪个模型,排行榜都能让你在开始审核前预估审核工作量。如需了解这些指标背后的原理,我们的准确率、精确率和召回率指南介绍了基础知识,而 Academy 关于解读检测指标的课程则有更深入的讲解。

常见问题

  • 如果删除错误框更耗时,就优先考虑精确率,例如在拥挤图像中,多余框会混在正确框之间。如果漏掉目标的代价更高,例如稀有缺陷或病灶,就优先考虑召回率,因为漏标目标会让检测器学到该目标属于背景。然后,在你自己的图像中选取一组经人工审核的样本,确认这一选择。

  • 类别提示模型返回的框没有置信度分数,并使用各自特定的阈值,因此选择这类模型时,Platform 会隐藏置信度和 IoU 设置。因此,排行榜中的精确率和召回率会统计模型在 IoU 为 0.5 时返回的所有框。要调整未匹配框与未匹配目标之间的平衡,你需要选择其他模型。

  • 使用 mAP50 查看模型能否找到并标注正确目标;使用 mAP50-95 则可加入更严格的重叠阈值,从而奖励框与目标贴合紧密的模型。两者也都会受到漏检和误检的影响,因此要结合精确率和召回率解读。在 2026 年 10 月的结果中,GPT-6.1 Terra 在这两项指标上都领先,分别为 0.560 和 0.345。

  • 需要。UL37 v2 上排名第一的模型平均 mAP50 为 0.560(2026 年 10 月);而在 PCB 缺陷和胸部 X 光等最难的数据集上,40 个模型的平均值低于 0.05。请审核每张图像,并重点检查模型的薄弱之处:偏重召回率的模型可能会产生多余框,偏重精确率的模型则可能漏掉目标。

  • 费用分为两部分。对于任何模型(包括托管模型),Ultralytics Platform 的 Batch Annotation 每处理 1,000 张图像收费 1.00 美元(最低 0.01 美元);在编辑器中使用托管模型进行单次预测则免费。付费服务提供商模型的费用也会由服务提供商直接计入你自己的 API 密钥。在 2026 年 10 月的基准测试中,本指南所列模型的服务提供商费用估算范围为每 1,000 张图像 0.37 美元(Claude Haiku 5.5)至 49.31 美元(GPT-6 Astra)。停止运行时,已处理图像的费用仍会计入。

  • 可以。SAM 3.1 Text、Qwen3.8 27B 和 Gemma 4 26B 等托管模型,以及你自己的 YOLO 模型,都能在 Ultralytics Platform 上运行,无需服务提供商密钥。批量运行仍按每处理 1,000 张图像收费 1.00 美元,并且每次运行前,对话框都会显示费用估算。

  • 这取决于任务。类别提示 VLM 仅凭类别名称就能为新类别生成标签初稿,但在 2026 年 10 月的基准测试中,得分最高的六个模型每张图像耗时 2.7 到 11.6 秒,并按 token 计费。对于实时检测,一种常见做法是先用 VLM 自动标注,再审核标签,然后训练 Ultralytics YOLO 模型。你已经训练好的 YOLO 模型也可以在同一编辑器中为新图像自动标注。

作者

Sergiu Waxmann
Sergiu Waxmann

首席软件工程师 · Ultralytics

Sergiu Waxmann 是 Ultralytics 的首席 Web 开发工程师。Ultralytics 是开源 YOLO 视觉 AI 模型背后的公司,他专注于打造直观、动态的 Web 体验。他是一名专攻现代 Web 开发框架的软件工程师,拥有 Saxion 应用科技大学计算机软件工程学士学位。

评论2

提出问题、分享你的结果,或帮助其他人。

探索解决方案

体育领域的计算机视觉

体育领域的计算机视觉

了解 Ultralytics YOLO 如何通过球员和球追踪、表现分析、教练洞察及运动员康复,推动体育视觉技术的发展。
了解详情
航空影像计算机视觉

航空影像计算机视觉

使用 Ultralytics YOLO 将无人机和航空影像转化为农业、水产养殖、保护工作和地理空间分析的实时洞察。
了解详情
航空航天中的计算机视觉

航空航天中的计算机视觉

使用 Ultralytics YOLO 将计算机视觉应用于航空航天领域,包括飞机检查、跑道 FOD 检测、机场地面作业和复合材料缺陷检测。
了解详情
安防领域的计算机视觉

安防领域的计算机视觉

使用 Ultralytics YOLO 模型守护每个场所。视觉 AI 可用于周界监控、威胁检测、车牌识别和工作场所安全。
了解详情
机器人领域的计算机视觉

机器人领域的计算机视觉

使用 Ultralytics YOLO 模型提升智能机器的能力。机器人领域的视觉 AI 可用于自主导航、感知、目标跟踪和实时控制。
了解详情
物流中的计算机视觉

物流中的计算机视觉

借助 Ultralytics YOLO 模型优化物流流程。视觉 AI 可用于包裹检查、分拣、车辆跟踪和仓库安全实时监控。
了解详情
零售中的计算机视觉

零售中的计算机视觉

借助 Ultralytics YOLO 模型重新构想零售。视觉 AI 可用于库存跟踪、货架监控、排队管理和更深入的客户洞察。
了解详情
医疗领域的计算机视觉

医疗领域的计算机视觉

借助 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可加快医学影像处理、优化诊断并监测患者。
了解详情
制造业中的计算机视觉

制造业中的计算机视觉

利用 Ultralytics YOLO 模型优化制造流程。视觉 AI 可用于质量控制、缺陷检测、个人防护装备合规检查和装配线自动化。
了解详情
汽车领域的计算机视觉

汽车领域的计算机视觉

利用 Ultralytics YOLO 模型在汽车领域应用计算机视觉。视觉 AI 可提升道路安全、驾驶辅助和车辆自动化水平,让道路更智能。
了解详情
农业中的计算机视觉

农业中的计算机视觉

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。为作物监测、牲畜追踪和精准农业提供支持,从而提高产量并实现更智能的生产。
了解详情

让我们携手构建 AI 的未来!

开启你的旅程,迎接机器学习的未来