GPU (Graphics Processing Unit)

图形处理器 (GPU) 是一种专用电子电路，最初用于加速帧缓冲区中的图像处理和创建，以便输出到显示设备。GPU 最初用于为游戏和专业可视化渲染计算机图形，如今已发展成为现代人工智能 (AI)的核心引擎。标准处理器使用少量强大的核心按顺序处理任务，而 GPU 架构由数千个更小、更高效的核心组成，专门用于同时处理多项任务。这种能力称为并行计算，使 GPU 能够高效执行支撑深度学习 (DL)和复杂神经网络 (NN)的海量矩阵和向量运算。

加速 AI 工作负载#

GPU 对机器学习 (ML)不可或缺，主要是因为它能高速执行矩阵乘法。PyTorch和TensorFlow等深度学习框架经过专门优化，可充分利用这种硬件加速。这大幅缩短了模型训练所需的时间：原本在标准处理器上需要数周的计算，使用 GPU 往往只需数小时。这些设备的计算吞吐量通常以 FLOPS（每秒浮点运算次数）衡量，这是评估硬件处理 YOLO26 等先进模型复杂计算需求的关键指标。

硬件比较：GPU、CPU 与 TPU#

要了解硬件领域，区分 GPU 与其他处理单元会很有帮助：

• CPU（中央处理器）：计算机的通用“大脑”。CPU 擅长顺序处理和复杂逻辑分支，但在大规模 AI 训练所需的海量并行计算方面效率较低。
• GPU（图形处理器）：业界训练和推理的标准选择。NVIDIA 等领先厂商利用 CUDA 等软件生态系统，让开发者能够直接对 GPU 编程，以执行通用计算任务。
• TPU（张量处理器）：一种专为神经网络机器学习而开发的专用集成电路 (ASIC)。它在特定张量运算方面效率很高，但在更广泛的计算任务中不如 GPU 灵活。

实际应用#

高性能 GPU 的应用推动了各行各业的创新：

• 自动驾驶汽车：自动驾驶汽车每秒都要处理来自摄像头、雷达和 LiDAR 传感器的数 GB 数据。GPU 支持实时推理，使车载计算机能够运行目标检测模型，即时识别行人、交通标志和障碍物。
• 医学图像分析：在医疗保健领域，GPU 可加速 MRI 和 CT 等高分辨率扫描图像的处理。GPU 能够运行复杂的图像分割算法，精确勾勒肿瘤或器官的边界，帮助放射科医生更快、更准确地做出诊断，而不必完全依赖人工检查。

使用 GPU 训练#

使用 ultralytics 软件包时，利用 GPU 十分简单，而且强烈建议这样做，以提高工作流效率。该库支持自动检测设备，用户也可以明确指定设备。

以下示例演示如何在第一块可用 GPU 上训练 YOLO26 模型：

from ultralytics import YOLO

# 加载 YOLO26n 模型
model = YOLO("yolo26n.pt")

# 在第一个可用的 GPU 上训练模型（device=0）
# 与使用 CPU 相比，这可以显著加快训练速度
results = model.train(data="coco8.yaml", epochs=5, imgsz=640, device=0)

部署与优化#

除了训练之外，GPU 在模型部署中也发挥着关键作用。为了最大限度地提高推理效率，模型通常会转换为 TensorRT 等优化格式。TensorRT 会重新构建神经网络，使其与特定 GPU 架构完美匹配，从而降低延迟。对于无法使用本地高端硬件的开发者，Ultralytics Platform提供了基于云的解决方案，可用于管理数据集并在强大的远程 GPU 集群上训练模型。这种易用性推动了边缘 AI的发展，使复杂的计算机视觉 (CV)任务能够部署到现场使用的小型、低功耗设备上。