使用 Ultralytics YOLO11 运行批量推理

如果你见过自动驾驶汽车行驶，就亲眼见证过实时 AI 推理。自动驾驶汽车通常使用摄像头、传感器和 AI 来处理周围环境，并几乎即时做出决策。不过，如果不需要快速响应，实时推理可能会消耗大量资源。

在这些情况下，批量推理是更好的选择。批量推理不需要连续实时处理数据，而是可以按计划间隔处理大量数据。这种方法有助于节省资源、降低功耗并减少基础设施成本。

例如，在计算机视觉应用中，Ultralytics YOLO11等模型可用于目标检测和实例分割等实时任务。不过，实时处理海量视觉数据可能会带来很大负担。

图 1：使用 Ultralytics YOLO11 对图像中的物体进行分割的示例。

通过批量推理，Ultralytics YOLO11 可以分批处理视觉数据，减轻系统负担并提升效率，同时不牺牲性能。这样，你就能更轻松地大规模部署视觉 AI 解决方案，而不会让硬件不堪重负或增加成本。

本文将介绍批量推理及其优势，并探讨如何将使用 Ultralytics YOLO11 进行批量推理应用于计算机视觉场景。

计算机视觉中的批量推理概览#

你可以把批量推理理解为一次性完成一项大任务，而不是数据到来时逐件处理。批量推理不再持续实时处理数据，而是允许你按固定间隔处理大量数据。当不需要立即响应时，这种方法效率更高，有助于节省计算资源、减少能耗并降低成本。

在计算机视觉领域，有些应用对低延迟至关重要。低延迟是指接收到输入（例如图像或视频帧）与系统做出响应之间的最短延迟。例如，在实时安防监控中，即使是很短的延迟也可能带来安全风险。

不过，在许多其他计算机视觉场景中，低延迟并没有那么重要。这正是批量推理发挥优势的地方——当系统无需即时响应时，批量推理可以将视觉数据分组或成批输入计算机视觉模型，让系统一次处理大型数据集，而非持续实时处理。

了解批量推理的工作原理#

下面详细介绍批量推理涉及的步骤：

• 数据收集：在一段时间内收集视觉数据。根据应用场景，数据可以包括安防录像、产品图像或客户数据。
• 批次准备：随后将收集到的数据分组为多个批次。在此步骤中，需要按照模型的要求设置数据格式。例如，图像可能需要调整尺寸、归一化，或转换为模型所需的格式。
• 预测： 数据准备好后，整个批次会被输入模型（例如 Ultralytics YOLO11），由模型一次性处理。这样，模型便能同时对批次中的所有数据进行预测，相比逐个处理数据点，效率更高。

何时使用批量推理？#

现在我们已经介绍了什么是批量推理，以及它与实时推理的区别，下面来详细看看何时适合使用批量推理。

批量推理非常适合分析历史数据。假设你有过去一个月的地铁站监控录像，想要找出特定模式，例如一天中不同时段的进出人数。

与实时处理每一帧不同，批量推理可以分批处理整整一个月的录像，从中找出关键事件或趋势，而无需立即获得结果。这样，你可以更高效地分析海量数据，了解长期模式，同时避免系统不堪重负，也不必持续监控。

系统资源有限时，批量推理也是理想的解决方案。在非高峰时段（例如夜间）运行推理，可以节省计算成本，并确保系统在使用高峰期不会过载。对于需要处理大型数据集但不要求实时分析的企业或项目来说，这是一种高效且经济的做法。

使用 Ultralytics YOLO11 进行批量推理#

Ultralytics Python 包支持 YOLO11 等模型的批量推理。使用 YOLO11 时，你只需指定 batch 推理参数，就能轻松运行批量推理；该参数用于确定每次处理的图像或视频帧数量。

在批量推理过程中，系统会同时为批次中的所有图像生成预测结果。默认批次大小为 1，但你可以根据需要调整为任意数值。当数据源是目录、视频文件或列出数据源的 .txt 文件时，批处理就会生效。

例如，如果批次大小设为 5，Ultralytics YOLO11 就会每次处理五张图像或五个视频帧，并同时为它们生成预测结果。较大的批次通常能提升吞吐量并缩短总处理时间，因为批量处理多张图像比逐张处理更高效。

批量推理支持的计算机视觉应用#

接下来，我们来看看批量推理在现实世界中的一些计算机视觉应用案例。

提升医疗诊断与研究能力#

在医学研究中，处理大量视觉数据十分常见。在这里，批量推理可以帮助科学家更轻松地分析化学、生物学和遗传学等领域的数据。数据不再逐项分析，而是按批次处理，从而节省时间和精力。

例如，在医疗机构中，批量推理尤其适用于分析大量医学影像，例如 MRI 或 CT 扫描图像。医院可以在白天收集这些扫描图像，并在夜间分批处理。

这种方法能帮助医院更充分地利用硬件和人员，降低运营成本，并确保所有扫描图像都以一致、统一的方式进行审阅。对于需要处理海量数据的大型研究项目和长期研究来说，这种方法也很有益。

图 2。使用 Ultralytics YOLO11 在医学扫描图像中检测异常发现。

通过仿真改进自动驾驶汽车#

自动驾驶汽车使用计算机视觉等 AI 技术来处理周围环境。借助 Ultralytics YOLO11 等先进模型，车载系统可以识别其他车辆、车道线、道路标志和行人。实时推理对于道路行驶至关重要，但自动驾驶技术在后台也高度依赖批量推理。

图 3：YOLO11 可以轻松检测道路上的行人。

汽车完成行程后，可以稍后分批处理其收集的数据，例如数小时的摄像头录像、传感器读数和 LiDAR 扫描数据。这样，工程师就能更新汽车的 AI 模型、提升系统安全性，并增强汽车应对各种驾驶条件的能力。

自动驾驶仿真也会使用批量推理，测试自动驾驶汽车在不同情况下的反应，例如穿过繁忙的十字路口或应对行人不可预测的移动。这种方法既节省时间、降低成本，也避免了在现实中测试每种场景所涉及的风险。

批量推理驱动的零售数据分析#

同样，对于零售店来说，使用 Ultralytics YOLO11 等计算机视觉模型进行批量推理可以显著提升运营效率。例如，店内摄像头系统一天可以采集数千张图像，然后在夜间分批处理。

这样，门店无需实时处理数据（这对小型门店来说可能颇具挑战），就能分析店内发生的情况，例如客户行为、人流模式和产品互动。

另一个有趣的例子是使用批量推理生成热力图，直观呈现店内客户活动密集和稀少的区域。零售商通过分析这些热力图，可以找出人流最多的区域，以及可能需要更多关注或优化商品陈列的区域。这些数据有助于零售商更好地决定店铺布局、商品摆放，甚至制定促销策略，从而改善客户体验并提升销售额。

图 4：热力图有助于零售商识别店内热门区域。

批量推理的优缺点#

以下是批量推理为各行各业带来的一些主要优势：

• 易于集成：批量推理可以轻松集成到现有工作流中，尤其适用于需要批量处理大量数据的零售、安防或医疗保健等行业。
• 更轻松地管理数据：处理大量数据时，批量推理会将数据分组为易于管理的块，从而简化数据管理。这样，你就能更轻松地跟踪、审查和整理数据。
• 降低网络负载： 分批处理数据可以最大限度地减少任一时刻传输的数据量，从而减轻云系统或分布式计算环境中的网络资源压力。

批量推理有许多优势，但也有一些需要考虑的局限。以下是几点需要注意的因素：

• 存储需求：存储用于批量处理的大型数据集可能会显著增加存储成本，尤其是涉及高分辨率图像、视频或海量数据时。
• 可能造成积压： 如果数据快速累积，或大型批次未能按时处理，就可能形成积压。这会导致洞察结果交付延迟，也会妨碍及时处理新数据。
• 资源使用激增： 大型批次，尤其是涉及高分辨率图像的批次，可能会导致内存或计算资源使用量激增。如果管理不当，这些峰值可能使系统不堪重负，造成运行变慢或崩溃。

要点#

对于不需要立即获取结果的大量视觉数据，批量推理是一种高效的处理方式。它不会实时分析每张图像，而是按计划时间（例如夜间）分批处理图像。

这种方法经济高效，能减轻计算负载，同时仍可提供准确的结果。无论是帮助商店管理库存、协助医生分析医学扫描图像，还是改进自动驾驶汽车技术，批量推理都让计算机视觉更易用、更经济，也更适合现实世界的应用。

想进一步了解 AI？浏览我们的 GitHub 代码库，加入我们的社区，并查看我们的许可选项，开启你的计算机视觉之旅。欢迎通过我们的解决方案页面，进一步了解制造业中的 AI和物流行业中的计算机视觉等创新。