CPU

探索 CPU 在 AI 中的关键作用。学习如何优化数据预处理、后处理，并在边缘设备上运行 Ultralytics YOLO26 推理。

中央处理器 (CPU) 是计算机的主要组件，充当其“大脑”，负责解释和执行来自硬件和软件的指令。在人工智能 (AI) 的背景下，CPU 在数据处理、系统协调和执行推理方面发挥着基础性作用，尤其是在对能效要求极高的边缘设备上。虽然像 GPU 这样的专用硬件通常与深度学习模型训练繁重的工作相关联，但 CPU 对于整个机器学习 (ML) 流程仍然是不可或缺的。

CPU 在 AI 工作流中的作用#

尽管 GPU 以在训练期间实现海量并行处理而闻名，但 CPU 是计算机视觉 (CV) 生命周期许多关键阶段的主力。其架构通常基于 x86（Intel、AMD）或 ARM 设计，针对顺序处理和复杂逻辑控制进行了优化。

数据预处理： 在神经网络能够学习之前，必须准备好数据。CPU 擅长执行文件加载、数据清洗以及使用 NumPy 和 OpenCV 等库进行复杂转换等任务。
边缘推理： 对于真实世界的部署，在庞大的服务器上运行模型并不总是可行的。CPU 允许在消费级硬件上进行高效的模型部署，例如在笔记本电脑或 Raspberry Pi 上运行 Ultralytics YOLO26。
后处理： 在模型输出原始概率之后，CPU 通常会处理最终逻辑，例如目标检测中的非极大值抑制 (NMS)，以过滤掉重复的预测并精炼结果。

CPU 与 GPU 与 TPU#

了解硬件格局对于优化机器学习运维 (MLOps) 至关重要。这些处理器在其架构和理想用例方面存在显着差异。

CPU： 专为多功能性和复杂逻辑而设计。它具有几个功能强大的核心，可以按顺序处理任务。它最适合用于数据增强、管道管理和小批量的低延迟推理。
GPU（图形处理器）： GPU 最初用于图形处理，拥有数千个专为并行处理设计的小核心。它们是模型训练的标准配置，因为它们可以比 CPU 快得多地执行矩阵乘法。
TPU（张量处理器）： 由 Google Cloud 专门为张量数学开发的专用电路 (ASIC)。虽然对于特定工作负载效率极高，但它缺乏 CPU 的通用灵活性。

实际应用#

在成本、可用性和能耗比原始处理吞吐量更重要的应用中，CPU 通常是首选硬件。

智能安全摄像头： 在安全报警系统中，摄像头通常在本地处理视频流。基于 CPU 的目标检测模型可以识别人员或车辆并触发警报，而无需将视频发送到云端，从而保护带宽和用户隐私。
工业自动化： 在工厂车间，预测性维护系统使用 CPU 监视来自机械的传感器数据。这些系统实时分析振动或温度峰值以预测故障，确保顺畅的制造自动化，而无需昂贵的 GPU 集群。

使用 Ultralytics 在 CPU 上运行推理#

开发人员经常在 CPU 上测试模型，以验证与无服务器计算环境或低功耗设备的兼容性。Ultralytics API 允许你轻松定位 CPU，确保你的应用程序在任何地方都能运行。

以下示例演示了如何加载轻量级模型并专门在 CPU 上运行推理：

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

为了进一步提高 Intel CPU 上的性能，开发人员可以将他们的模型导出到 OpenVINO 格式，该格式专门针对 x86 架构优化了神经网络结构。为了管理数据集和编排这些部署，诸如 Ultralytics Platform 之类的工具简化了从标注到边缘执行的工作流。