使用 Ultralytics YOLO11 运行批量推理

如果你见过自动驾驶汽车运行，就亲眼见证过实时 AI 推理。自动驾驶汽车通常使用摄像头、传感器和 AI 来处理周围环境，并几乎即时做出决策。不过，在不需要快速响应的情况下，实时推理可能会消耗大量资源。

在这些情况下，批量推理是更好的选择。批量推理不必持续实时处理数据，而是可以按计划的时间间隔处理大量数据。这种方法有助于节省资源、降低功耗并减少基础设施成本。

例如，在计算机视觉应用中，Ultralytics YOLO11 等模型可用于目标检测和实例分割等实时任务。不过，实时处理大量视觉数据可能会带来很高的计算负担。

图 1。使用 Ultralytics YOLO11 对图像中的对象进行分割的示例。

借助批量推理，Ultralytics YOLO11 可以分批处理视觉数据，从而减轻系统负担并提高效率，同时不会牺牲性能。这样一来，你可以更轻松地大规模部署视觉 AI 解决方案，而不会使硬件不堪重负或增加成本。

本文将介绍批量推理及其优势，并探讨如何将使用 Ultralytics YOLO11 进行批量推理应用于计算机视觉。让我们开始吧！

了解计算机视觉中的批量推理#

你可以把批量推理理解为一次性处理一项大任务，而不是随着数据到来逐项处理。批量推理不必持续实时处理数据，而是允许你按固定时间间隔处理大批数据。这种方法在不需要即时响应时效率更高，有助于节省计算资源、降低能耗并减少成本。

在计算机视觉领域，某些应用对低延迟至关重要。低延迟是指从接收输入（例如图像或视频帧）到系统做出响应之间的最短延时。例如，在实时安全监控中，即使是很小的延迟也可能带来安全风险。

不过，在许多其他计算机视觉场景中，低延迟并没有那么重要。这正是批量推理发挥作用的地方——当系统不需要立即响应时，批量推理会将视觉数据分组或分批输入计算机视觉模型，使系统能够一次处理大型数据集，而不是持续进行实时处理。

了解批量推理的工作原理#

下面详细介绍批量推理所涉及的步骤：

• **数据收集：**在一段时间内收集视觉数据。根据应用场景的不同，这些数据可能包括监控录像、产品图像或客户数据。

• **批次准备：**随后将收集的数据分组为多个批次。在此步骤中，按照模型的要求设置数据格式。例如，可以调整图像大小、进行归一化，或将图像转换为模型能够处理的适当格式。

• 预测**：**准备好数据后，将整个批次输入模型（例如 Ultralytics YOLO11），由模型一次处理完整批次。这样，模型就能同时为批次中的所有数据生成预测；与逐个处理数据相比，整个过程更加高效。

何时使用批量推理？#

现在我们已经介绍了批量推理是什么，以及它与实时推理有何不同，下面进一步了解何时使用批量推理。

批量推理非常适合分析历史数据。假设你拥有过去一个月某个地铁站的监控录像，并希望识别特定模式，例如统计一天中不同时间段进出的人数。

批量推理不必实时处理每一帧，而是可以分批处理整整一个月的录像，识别关键事件或趋势，无需即时得出结果。这样，你就能更高效地分析大量数据，了解长期模式，同时不会使系统不堪重负，也不需要持续监控。

当系统资源有限时，批量推理也是理想的解决方案。在非高峰时段（例如夜间）运行推理，可以节省计算成本，并确保系统在使用高峰期不会过载。对于需要处理大型数据集但不要求实时分析的企业或项目来说，这是一种高效且经济的方式。

使用 Ultralytics YOLO11 进行批量推理#

Ultralytics Python 软件包支持对 YOLO11 等模型进行批量推理。借助 YOLO11，你只需指定‘batch’参数即可轻松运行批量推理，该参数决定一次处理的图像或视频帧数量。

在批量推理过程中，会同时为批次中的所有图像生成预测结果。默认批次大小为 1，但你可以将其调整为任意所需数值。

例如，如果将批次大小设置为 5，Ultralytics YOLO11 就会一次处理五张图像或五个视频帧，并同时为这五个输入生成预测结果。较大的批次通常可以缩短推理时间，因为批量处理多张图像比逐张处理更高效。

批量推理支持的计算机视觉应用#

接下来，让我们探索一些批量推理在现实世界中的计算机视觉应用场景。

提升医疗诊断与研究能力#

在医学研究中，处理大量视觉数据十分常见。在此类场景中，批量推理可以帮助科学家更轻松地分析化学、生物学和遗传学等领域的数据。数据不必逐个分析，而是可以分批处理，从而节省时间和精力。

例如，在医疗机构中，批量推理特别适合分析大量医学图像，例如 MRI 或 CT 扫描图像。医院可以在一天内收集这些扫描图像，并在夜间分批处理。

这种方法可以帮助医院更充分地利用硬件和人员，降低运营成本，并确保以一致、统一的方式检查所有扫描结果。对于需要处理海量数据的大型研究项目和长期研究来说，这种方法同样非常有益。

图 2。使用 Ultralytics YOLO11 检测医学扫描图像。

通过仿真改进自动驾驶汽车#

自动驾驶汽车使用计算机视觉等 AI 技术来处理周围环境。借助 Ultralytics YOLO11 等先进模型，汽车上的车载系统可以识别其他车辆、车道线、道路标志和行人。虽然实时推理对道路行驶至关重要，但自动驾驶技术在后台也高度依赖批量推理。

图 3。YOLO11 可以轻松检测道路上的行人。

汽车完成行程后，可以将其收集的数据（例如数小时的摄像头录像、传感器读数和 LIDAR 扫描数据）以大批量形式延后处理。这样，工程师就可以更新汽车的 AI 模型、提升系统安全性，并增强汽车应对各种驾驶条件的能力。

批量推理还用于自动驾驶仿真，以测试自动驾驶汽车在不同情况下的反应，例如如何通过繁忙的十字路口，或如何应对行人不可预测的移动。这种方法可以节省时间、降低成本，并避免在现实环境中测试每种场景所带来的风险。

批量推理驱动的零售数据分析#

同样，对于零售店来说，使用 Ultralytics YOLO11 等计算机视觉模型进行批量推理可以显著提升运营效率。例如，店内摄像头系统可以在一天内拍摄数千张图像，然后在夜间分批处理。

这样，零售店就能分析店内发生的情况，例如客户行为、人流模式和产品互动，而不必进行实时处理；对于规模较小的店铺来说，实时处理可能颇具挑战。

另一个有趣的应用是使用批量推理生成热力图，以可视化店内客户活动较多和较少的区域。通过分析这些热力图，零售商可以确定哪些区域吸引了最多客流，以及店内哪些位置可能需要更多关注或优化商品摆放。这些数据可以帮助零售商更好地决定店铺布局、商品陈列，甚至制定促销策略，从而改善客户体验并提升销售额。

图 4。热力图可以帮助零售商识别店内热门区域。

批量推理的优缺点#

以下是批量推理可以为各个行业带来的一些主要优势：

• **易于集成：**批量推理可以轻松集成到现有工作流中，尤其适用于零售、安全或医疗等需要批量处理大量数据的行业。
• **更易于管理数据：**处理大量数据时，批量推理会将数据分组成易于管理的块，从而简化数据管理。这样可以更轻松地长期跟踪、审核和整理数据。
• 降低网络负载：分批处理数据时，可以减少任意时刻传输的数据量，从而减轻云端系统或分布式计算环境中的网络资源压力。

虽然使用批量推理有许多优势，但也有一些需要考虑的局限。以下是几个需要注意的因素：

• **存储要求：**为批处理存储大型数据集可能会显著增加存储成本，尤其是在处理高分辨率图像、视频或大量数据时。
• 可能出现积压：如果数据快速累积，或大型批次未能及时处理，就可能形成积压。这会导致洞察交付延迟，也会影响新数据的及时处理。
• 资源峰值：大型批次，尤其是包含高分辨率图像的批次，可能导致内存或计算资源使用量出现峰值。如果管理不当，这些峰值可能使系统不堪重负，导致运行变慢甚至崩溃。

要点总结#

批量推理是处理大量视觉数据的高效方式，适用于不需要即时结果的场景。它不会实时分析每张图像，而是在计划的时间（例如夜间）分批处理图像。

这种方法经济高效，可以降低计算负载，同时仍能提供准确结果。从帮助商店管理库存，到协助医生分析医学扫描图像，再到增强自动驾驶汽车技术，批量推理让计算机视觉更易于应用、更经济实惠，也更适合现实世界中的实际场景。

准备好深入探索 AI 了吗？浏览我们的 GitHub 代码仓库，加入我们的社区，并查看我们的许可选项，开启你的计算机视觉之旅。你还可以在我们的解决方案页面了解制造业中的 AI和物流行业中的计算机视觉等创新应用。