CPU

探索 CPU 在 AI 中的关键作用。学习如何优化数据预处理、后处理，并在边缘设备上运行 Ultralytics YOLO26 推理。

中央处理器 (CPU) 是计算机的主要组件，充当其“大脑”，负责解释和执行来自硬件和软件的指令。在人工智能 (AI) 的背景下，CPU 在数据处理、系统编排和执行推理方面发挥着基础性作用，尤其是在对功耗效率有严格要求的边缘设备上。虽然像 GPU 这样的专用硬件通常与深度学习模型的重型训练任务相关联，但 CPU 对于整个机器学习 (ML) 流水线仍然不可或缺。

Link to this sectionCPU 在 AI 工作流中的作用#

尽管 GPU 因其在训练期间的强大并行处理能力而备受推崇，但 CPU 仍然是计算机视觉 (CV) 生命周期中许多关键阶段的“主力”。其架构通常基于 x86 (Intel, AMD) 或 ARM 设计，专为顺序处理和复杂的逻辑控制而优化。

数据预处理： 在神经网络能够学习之前，必须先准备好数据。CPU 在文件加载、数据清洗以及利用 NumPy 和 OpenCV 等库进行复杂转换的任务上表现优异。
Edge Inference: For real-world deployment, running models on massive servers isn't always feasible. CPUs allow for efficient model deployment on consumer hardware, such as running Ultralytics YOLO26 on a laptop or a Raspberry Pi.
后处理： 在模型输出原始概率后，CPU 通常负责处理最终逻辑，例如在目标检测中使用非极大值抑制 (NMS) 来过滤重复的预测并优化结果。

Link to this sectionCPU 与 GPU 与 TPU#

了解硬件环境对于优化机器学习运维 (MLOps) 至关重要。这些处理器在架构和理想用例上存在显著差异。

CPU： 专为通用性和复杂逻辑设计。它具有几个强大的内核，可以按顺序处理任务。它最适合用于数据增强、流水线管理以及小批量数据的低延迟推理。
GPU (图形处理器)： GPU 最初用于图形处理，拥有数千个专为并行处理设计的更小内核。它们是模型训练的标准配置，因为它们执行矩阵乘法的速度比 CPU 快得多。
TPU (张量处理器)： 由 Google Cloud 专门为张量数学开发的专用集成电路 (ASIC)。虽然对于特定工作负载非常高效，但它缺乏 CPU 的通用灵活性。

Link to this section实际应用#

在成本、可用性和能耗比原始处理吞吐量更重要的应用中，CPU 通常是首选硬件。

智能安防摄像头： 在安防报警系统中，摄像头通常在本地处理视频源。基于 CPU 的目标检测模型可以识别人员或车辆并触发警报，而无需将视频发送到云端，从而节省带宽并保护用户隐私。
工业自动化： 在工厂车间，预测性维护系统使用 CPU 来监控来自机械的传感器数据。这些系统实时分析振动或温度峰值以预测故障，确保平稳的制造自动化，而无需昂贵的 GPU 集群。

Link to this section使用 Ultralytics 在 CPU 上运行推理#

开发人员通常会在 CPU 上测试模型，以验证其与无服务器计算环境或低功耗设备的兼容性。Ultralytics API 允许你轻松地指定 CPU，确保你的应用程序可以在任何地方运行。

以下示例演示了如何加载轻量级模型并专门在 CPU 上运行推理：

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

为了进一步提高 Intel CPU 上的性能，开发人员可以将模型导出为 OpenVINO 格式，该格式专门针对 x86 架构优化了神经网络结构。对于管理数据集和编排这些部署，Ultralytics Platform 等工具简化了从标注到边缘执行的工作流程。