Ultralytics Platform 监控：确保视觉 AI 部署顺利运行

部署计算机视觉模型是一个重要里程碑，但生产环境中的成功取决于后续情况。随着流量增长和现实条件变化，团队需要了解端点是否仍然响应及时、可靠且有用。

监控功能位于 Ultralytics Platform，让团队可以在管理数据、训练和部署的同一环境中查看已部署的 Ultralytics YOLO 模型。跟踪运行状况、检查预测趋势、排查问题，并将有价值的生产样例转化为数据，用于后续模型改进。

什么是视觉 AI 模型监控？#

视觉 AI 模型监控可帮助团队了解已部署端点及其预测结果在生产环境中的表现。

Ultralytics Platform 可帮助回答两个重要问题：

• 端点是否可靠运行？跟踪请求数、P95 延迟、错误率、运行状况和日志。
• 模型看到了什么并做出了什么预测？检查样例预测，以及类别数量、置信度、推理时间和预测位置等统计信息（如果支持）。

综合这些信息，比单看端点是否可用能更清楚地了解情况。即使流量模式、响应时间或预测分布发生变化，端点仍可能保持在线。监控能让这些信号更容易排查。

一目了然地了解部署运行状况#

Deploy 页面是端点的集中监控仪表板。概览卡片汇总了过去 24 小时的 HTTP 请求数、活跃部署、错误率和 P95 延迟。

借助这些指标，团队可以：

• 了解需求：查看端点流量是在增加、减少，还是出现意外变化。
• 发现性能问题：利用 P95 延迟排查可能影响应用的响应变慢问题。
• 发现故障：识别 HTTP 错误率升高的情况，并使用部署日志诊断原因。
• 检查可用性：确认各个端点是否运行正常并能响应请求。
• 比较部署：通过卡片视图、紧凑视图或可排序的表格视图查看端点。

错误率超过 5% 时，错误率卡片会突出显示，帮助团队快速发现运行问题，无需逐一检查每个端点。

通过运行状况检查和日志加快故障排查#

端点出现问题时，团队需要的不只是一个概览指标。每个已就绪的部署都包含运行状况指示器，并可查看近期日志。

运行状况检查会显示端点是否有响应，并报告响应延迟。在发送生产流量之前，它们还可以帮助唤醒已缩容至零的端点。

日志通过时间戳、严重性级别、消息和 HTTP 详情提供更多背景信息。这样，团队无需立即切换到单独的日志界面，就能调查请求失败、响应异常或性能变化。

通过将指标、运行状况检查和日志关联到每个部署，Ultralytics Platform 让团队能够更直接地从发现问题转向了解问题。

检查实时预测行为#

按使用时长计费的付费专用端点，如果运行支持监控的运行时，还会提供额外的 Monitoring 选项卡，其中包含临时样例和预测统计信息。

临时样例图库会滚动展示已处理图像样例及其预测叠加层。团队可以利用这些样例抽查模型所看到的内容、检查模型输出，并找出值得进一步审查的输入。

可用的预测统计信息取决于模型任务，可能包括：

• 随时间变化的已处理图像数和预测数
• 模型平均推理时间
• 最常预测的类别
• 每张图像的预测数
• 预测置信度及其趋势
• 预测尺寸
• 预测位置的空间热力图

这些信号可以揭示值得调查的变化，例如置信度下降、类别分布意外变化，或预测出现在图像中不寻常的位置。

置信度表示模型的确定程度，而不代表预测正确。评估模型准确性时，团队应检查样例，并将预测结果与经过审核的标签进行比较。

将生产样例转化为更优质的训练数据#

当生产环境中的洞察能够为下一轮开发提供参考时，监控的价值会更大。

如果某个样例揭示了难以处理的情况、不寻常的对象或潜在的数据覆盖缺口，拥有相应权限的工作区成员可以将其直接保存到兼容的数据集中。随后，图像及其预测结果会进入标准数据集导入工作流，在数据用于训练前，团队可以先审核标签。

这样就形成了一个连贯的改进循环：

1. 使用你的数据集训练 Ultralytics YOLO 模型。
2. 将模型部署到专用端点。
3. 监控端点运行状况和预测行为。
4. 检查有价值或存在问题的生产样例。
5. 在数据集中保存并审核选定的样例。
6. 利用结合实际情况的数据重新训练并重新部署。

团队无需将生产观察结果孤立地留在另一个系统中，而是可以将其关联到已在 Ultralytics Platform 中管理的数据集和模型。

提供运行可见性，不增加复杂性#

生产环境中的计算机视觉工作流通常涉及用于部署、指标、日志、模型检查和数据管理的独立系统。在这些系统之间切换会拖慢问题调查，也会让团队更难将模型行为与后续改进联系起来。

Ultralytics Platform 将这些阶段整合在一起。团队可以从训练转向部署、查看端点运行状况、检查抽样预测，并保存有价值的样例，无需在多个工具之间重新梳理背景信息。

例如，制造业团队可以检查缺陷预测是否出现在图像中的预期位置。物流团队可以随着运营条件变化，查看常见检测类别的变化。零售团队可以调查延迟增加的原因，并判断是否需要关注端点配置或输入图像尺寸。

在每种情况下，监控都能帮助团队从“发生了变化”转向更明智的下一步行动。

监控数据与使用资格#

部署页面提供运行监控功能，包括请求数、延迟、错误、运行状况检查和日志。

实时预测统计信息和临时样例要求端点已就绪、为付费专用端点，且运行支持监控的运行时。较旧的端点可能需要更新后才能显示 Monitoring 选项卡。

预测样例和统计信息保存在推理实例的内存中。端点停止、重启、重新部署、更改资源或替换模型时，这些数据可能会被清除。更改端点之前，请将想要保留的样例保存到数据集中。

开始监控已部署的模型#

Ultralytics Platform Monitoring 为团队提供部署后管理视觉 AI 所需的可见性。它将端点指标、日志、运行状况检查、预测洞察和数据集反馈整合到一个工作流中，帮助团队更快发现问题，并为构建可靠的生产系统铺平道路。

登录 Ultralytics Platform，打开 Deploy，然后选择一个已就绪的端点，查看其运行状况和性能。在 监控文档中了解功能可用性、预测统计信息和数据保留详情。