Ultralytics Platform 监控：让视觉 AI 部署步入正轨

部署计算机视觉模型是一个重要的里程碑，但生产环境的成功取决于接下来发生的事情。随着流量增长和现实世界条件的变化，团队需要了解端点是否保持响应能力、可靠性和实用性。

Ultralytics 平台中的监控功能让团队能够从用于管理数据、训练和部署的同一环境中，直观地了解已部署的 Ultralytics YOLO 模型。你可以跟踪运行状况、检查预测趋势、排查问题，并将有用的生产样本转化为用于未来模型改进的数据。

什么是视觉 AI 模型监控？#

视觉 AI 模型监控帮助团队了解已部署的端点及其预测在生产环境中的行为表现。

Ultralytics 平台解决了两个重要问题：

• 端点运行是否可靠？跟踪请求、P95 延迟、错误率、健康状态和日志。
• 模型看到了什么并做出了什么预测？检查样本预测以及诸如类别计数、置信度、推理时间和支持的预测位置等统计信息。

这些洞察结合起来，比单纯的端点可用性提供了更清晰的全局。端点可能保持在线，而流量模式、响应时间或预测分布却在发生变化。监控使这些信号更容易进行调查。

一眼掌握部署健康状况#

部署页面是端点的中央监控面板。概览卡片总结了过去 24 小时内的 HTTP 请求、活动部署、错误率和 P95 延迟。

借助这些指标，团队可以：

• **了解需求：**查看端点流量是在增加、减少还是发生意外变化。
• **识别性能问题：**使用 P95 延迟调查可能影响应用程序的较慢响应。
• **浮现故障：**发现升高的 HTTP 错误率，并使用部署日志诊断原因。
• **检查可用性：**确认各个端点是否健康并正在响应。
• **比较部署：**通过卡片、紧凑或可排序的表格视图审查端点。

当错误率超过 5% 时，错误率卡片会被高亮显示，帮助运营问题脱颖而出，而无需团队单独检查每个端点。

通过健康检查和日志更快地排查故障#

当端点遇到问题时，团队需要的不仅仅是高层指标。每个就绪的部署都包含一个健康指示器和对最近日志的访问权限。

健康检查显示端点是否在响应并报告其响应延迟。它们还可以帮助在发送生产流量之前，预热已缩减至零的端点。

日志通过时间戳、严重性级别、消息和 HTTP 细节提供额外的上下文。这有助于团队调查失败的请求、意外的响应或性能变化，而无需立即切换到单独的日志记录界面。

通过将指标、健康检查和日志连接到每个部署，Ultralytics 平台创建了一条从识别问题到理解问题的更直接路径。

检查实时预测行为#

运行具备监控能力的运行时付费、按正常运行时间计费的专用端点提供了一个包含临时样本和预测统计信息的额外监控选项卡。

临时样本库呈现了带有预测叠加层的处理图像的滚动样本。团队可以使用这些样本来抽查模型看到的内容、检查其输出，并识别值得进一步审查的输入。

可用的预测统计信息取决于模型任务，可以包括：

• 随时间推移处理的图像和预测
• 平均模型推理时间
• 频繁预测的类别
• 每张图像的预测数
• 预测置信度和置信度趋势
• 预测尺寸
• 预测位置的空间热力图

这些信号可以揭示值得调查的变化，例如置信度下降、类别分布的意外转变，或者预测出现在图像的异常部分中。

置信度表示模型的确定性，而不是正确性。在评估模型准确性时，团队应检查样本并将预测与经过审查的标签进行比较。

将生产样本转化为更好的训练数据#

当生产洞察能够为下一个开发周期提供参考时，监控变得更有价值。

如果样本揭示了困难的条件、不寻常的对象或潜在的覆盖范围缺口，具有适当权限的工作区成员可以直接将其保存到兼容的数据集中。然后，该图像及其预测将通过标准的数据集摄取工作流，在数据用于训练之前可以在其中审查标签。

这创建了一个连贯的改进循环：

1. **训练：**使用你的数据集训练 Ultralytics YOLO 模型。
2. **部署：**将其部署到专用端点。
3. **监控：**端点健康状况和预测行为。
4. **检查：**有用或有问题的生产样本。
5. **保存并审查：**数据集中的选定样本。
6. **重新训练并重新部署：**使用由现实世界条件提供支持的数据。

团队无需将生产观察结果孤立在另一个系统中，而是可以将它们连接到 Ultralytics 平台中已经管理的数据集和模型。

为运营可见性而构建，没有增加复杂性#

生产计算机视觉工作流通常涉及用于部署、指标、日志、模型检查和数据管理的独立系统。在这些系统之间切换会减慢调查速度，并使模型行为与未来改进之间的联系变得更加困难。

Ultralytics 平台将这些阶段汇集在一起。团队可以从训练转到部署、审查端点健康状况、检查采样预测并保存有用的样本，而无需在多个工具之间重建上下文。

例如，制造团队可以检查缺陷预测是否出现在图像的预期区域中。物流团队可以随着运营条件的演变审查频繁检测到的类别的变化。零售团队可以调查延迟增加的情况，并确定端点配置或传入图像大小是否需要关注。

在每种情况下，监控都能帮助团队从“某些事情发生了变化”过渡到更明智的下一步行动。

监控数据和资格#

运行状况监控（包括请求、延迟、错误、健康检查和日志）可从部署体验中获得。

实时预测统计信息和临时样本需要具备监控能力的运行时的就绪、付费专用端点。在监控选项卡可用之前，可能需要更新较旧的端点。

预测样本和统计信息保存在服务实例的内存中。当端点停止、重新启动、重新部署、更改资源或替换其模型时，它们可能会被清除。在更改端点之前，请将你想要保留的所有样本保存到数据集中。

开始监控你已部署的模型#

Ultralytics 平台监控为团队提供了在部署之外管理视觉 AI 所需的可见性。通过将端点指标、日志、健康检查、预测洞察和数据集反馈汇聚到一个工作流中，它帮助团队更快地识别问题，并开辟了一条通往可靠生产系统的更清晰路径。

登录Ultralytics 平台，打开部署，然后选择一个就绪的端点以审查其健康状况和性能。在监控文档中探索功能可用性、预测统计信息和数据保留详细信息。