使用 Ultralytics YOLO11 运行批量推理

如果你曾亲眼见过自动驾驶汽车，那么你就见识过实时 AI 推理。自动驾驶汽车通常利用摄像头、传感器和 AI 来处理周围环境并做出几乎即时的决策。然而，当不需要快速响应时，实时推理可能会消耗大量资源。

在这些情况下，批处理推理是一个更好的选择。批处理推理不是实时连续处理数据，而是按预定间隔处理大量数据集。这种方法有助于节省资源、降低功耗并减少基础设施成本。

例如，在计算机视觉应用中，像 Ultralytics YOLO11 这样的模型可以用于目标检测和实例分割等实时任务。然而，实时处理海量视觉数据可能会有很高的要求。

图 1. 使用 YOLO11 对图像中的对象进行分割的示例。

通过批处理推理，YOLO11 可以分批次处理视觉数据，从而减轻系统压力并提高效率，且不会牺牲性能。这使得大规模部署视觉 AI 解决方案变得更加容易，而不会使硬件不堪重负或增加成本。

在本文中，我们将探讨批处理推理、其优势，以及如何应用 使用 YOLO11 进行批处理推理 到计算机视觉应用中。让我们开始吧！

Link to this section浅谈计算机视觉中的批处理推理#

你可以将批处理推理看作是一次性解决一项大任务，而不是在数据到来时逐个处理。批处理推理允许你在设定的时间间隔内处理大批量数据，而不是持续进行实时处理。当不需要立即响应时，这种方法效率更高，有助于节省计算资源、减少能源使用并降低成本。

在计算机视觉领域，有些应用对低延迟要求极高。低延迟是指接收输入（例如图像或视频帧）与系统响应之间的最小延迟。例如，在实时安全监控中，即使是微小的延迟也可能导致安全风险。

然而，在许多其他计算机视觉场景中，低延迟并非关键因素。这就是批处理推理发挥作用的地方——当系统不需要立即反应时。批处理推理的工作原理是将视觉数据成组或分批馈送给计算机视觉模型，从而使系统能够一次性处理大数据集，而不是持续实时处理。

Link to this section了解批处理推理的工作原理#

以下是批处理推理所涉及步骤的详细说明：

• 数据收集： 在一段时间内收集视觉数据。根据应用的不同，这可能包括安全监控录像、产品图片或客户数据。

• 批处理准备： 收集的数据随后被分组为批次。在此步骤中，数据会根据模型的要求进行格式化。例如，可能需要调整图像大小、进行归一化或转换为模型处理所需的适当格式。

• 预测： 数据准备好后，将整个批次馈送到模型（如 YOLO11）中，模型会一次性处理整个批次。这使模型能够同时对批次中的所有数据进行预测，与单独处理每个数据点相比，该过程效率更高。

Link to this section何时使用批处理推理？#

既然我们已经介绍了什么是批处理推理以及它与实时推理的区别，让我们更深入地了解何时使用它。

批处理推理非常适合分析历史数据。假设你拥有过去一个月地铁站的监控录像，并且你试图识别特定的模式，例如一天中不同时间段进出的人数。

批处理推理允许你以批次形式处理整整一个月的录像，而不是实时处理每一帧，从而在无需即时结果的情况下识别关键事件或趋势。这样，你可以更有效地分析大量数据并深入了解长期模式，而无需使系统过载或进行持续监控。

当系统资源有限时，批处理推理也是一种最佳方案。通过在非高峰时段（例如夜间）运行推理，你可以节省计算成本，并确保系统在高峰使用期间不会超负荷。对于需要处理大数据集但不需要实时分析的企业或项目来说，这是一种高效且具成本效益的方法。

Link to this section使用 Ultralytics YOLO11 进行批处理推理#

Ultralytics Python package 支持像 YOLO11 这样的模型的批量推理。通过 YOLO11，你可以通过指定 ‘batch’ 参数轻松运行批量推理，该参数决定了一次处理多少张图像或视频帧。

在批处理推理过程中，会同时为批次中的所有图像生成预测。默认情况下，批次大小设置为 1，但你可以将其调整为你想要的任何数字。

例如，如果将批次大小设置为 5，YOLO11 将一次处理 5 张图像或视频帧，并同时为这 5 张生成预测。较大的批次大小通常会带来更快的推理时间，因为在批次中处理多个图像比单独处理它们更高效。

Link to this section由批处理推理实现的计算机视觉应用#

接下来，让我们探索一些批处理推理在计算机视觉中的实际用例。

Link to this section加强医疗保健领域的诊断和研究#

在医学研究中，处理大量视觉数据非常普遍。在这里，批处理推理可以帮助科学家在化学、生物学和遗传学等领域更轻松地分析数据。数据不是逐个分析，而是分批处理，从而节省了时间和精力。

例如，在医疗机构中，批处理推理对于分析 MRI 或 CT 扫描等大型医学图像集特别有用。医院可以在全天收集这些扫描结果，并在夜间分批进行处理。

这种方法使医院能够更好地利用其硬件和人员，降低运营成本，并确保所有扫描结果都能以一致且统一的方式进行审核。它也对大型研究项目和长期研究非常有益，在这些项目中，处理海量数据是必不可少的。

图 2。使用 YOLO11 检测医学扫描。

Link to this section通过模拟改进自动驾驶汽车#

自动驾驶汽车使用诸如计算机视觉等 AI 技术来处理周围世界。在 YOLO11 等先进模型的帮助下，汽车上的车载系统可以识别其他车辆、车道线、道路标志和街上的行人。虽然实时推理在路上至关重要，但自动驾驶技术在幕后也严重依赖批处理推理。

图 3。YOLO11 可以轻松检测道路上的行人。

汽车完成行程后，其收集的数据（如数小时的摄像头录像、传感器读数和 LIDAR 扫描）可以在稍后以大批次的形式进行处理。这使得工程师能够更新汽车的 AI 模型，增强系统安全性，并提高其处理各种驾驶条件的能力。

批处理推理也用于自动驾驶模拟中，以测试自动驾驶汽车在不同情况下的反应，例如在繁忙的十字路口导航或响应不可预测的行人移动。这种方法节省了时间，降低了成本，并避免了在现实生活中测试每种场景所带来的风险。

Link to this section由批处理推理驱动的零售数据分析#

同样，对于零售店来说，使用 YOLO11 等计算机视觉模型的批处理推理可以显著提高运营效率。例如，商店中的摄像头系统可以在全天捕获数千张图像，然后可以在夜间进行批处理。

这使得商店能够分析店内正在发生的事情，例如客户行为、客流模式和产品互动，而无需实时处理，这对小型商店来说可能具有挑战性。

另一个有趣的例子是使用批处理推理来生成热力图，它可以可视化商店内客户活动的高频和低频区域。通过分析这些热力图，零售商可以识别哪些区域吸引了最多的客流，以及商店的哪些部分可能需要更多关注或进行产品布局优化。这些数据可以帮助零售商在店面布局、产品定位甚至促销策略方面做出更好的决策，从而改善客户体验并增加销售额。

图 4。热力图可以帮助零售商识别店内热门区域。

Link to this section批处理推理的优缺点#

以下是批处理推理可以为各行业带来的一些主要优势：

• 易于集成： 批处理推理可以轻松集成到现有工作流程中，特别是对于零售、安全或医疗保健等需要批量处理大量数据的行业。
• 更简单的数据管理： 在处理大量数据时，由于数据被分组成可管理的块，批处理推理可以简化数据管理。这使得随着时间的推移跟踪、审查和组织数据变得更加容易。
• 减少网络负载： 当数据分批处理时，可以最小化任何给定时刻传输的数据量，从而减少云端系统或分布式计算环境中的网络资源压力。

虽然使用批处理推理有很多优点，但也需要考虑一些限制因素。以下是需要牢记的几个因素：

• 存储需求： 存储用于批处理的大型数据集可能会显著增加存储成本，特别是在处理高分辨率图像、视频或大量数据时。
• 产生积压的潜力： 如果数据积累速度过快或大批次数据未及时处理，可能会产生积压。这可能导致无法及时提供洞察和处理新数据。
• 资源峰值： 大批次数据（尤其是涉及高分辨率图像的数据）可能会导致内存或计算使用量激增。如果不加以妥善管理，这些峰值可能会使系统不堪重负，导致速度变慢或崩溃。

Link to this section关键要点#

批处理推理是一种处理不需要立即获取结果的海量视觉数据的高效方式。它不是实时分析每张图像，而是在预定时间（如夜间）分批进行处理。

这种方法具有成本效益，减少了计算负载，并且仍能提供准确的结果。从帮助商店管理库存到协助医生进行医学扫描分析，再到增强自动驾驶汽车技术，批处理推理使计算机视觉在实际应用中变得更加易于访问、负担得起且实用。

准备好深入探索 AI 了吗？探索我们的 GitHub 仓库，与我们的社区建立联系，并查看我们的许可选项以开启你的计算机视觉之旅。在我们的解决方案页面上了解更多关于制造业中的 AI 和物流业中的计算机视觉等创新技术的信息。