CPU

Центральный процессор (CPU) — это основной компонент компьютера, выступающий в роли его "мозга", который отвечает за интерпретацию и выполнение инструкций от оборудования и программного обеспечения. В контексте искусственного интеллекта (AI) CPU играет фундаментальную роль в обработке данных, управлении системой и выполнении инференса, особенно на граничных устройствах (edge devices), где критически важна энергоэффективность. Хотя специализированное оборудование, такое как GPU, часто ассоциируется с тяжелыми задачами обучения моделей глубокого обучения, CPU остается незаменимым для общего конвейера машинного обучения (ML).

Link to this sectionРоль CPU в рабочих процессах AI#

Хотя GPU славятся своей массовой параллелизацией во время обучения, CPU является рабочей лошадкой для многих важных этапов жизненного цикла компьютерного зрения (CV). Его архитектура, обычно основанная на проектах x86 (Intel, AMD) или ARM, оптимизирована для последовательной обработки и управления сложной логикой.

• Предварительная обработка данных: Прежде чем нейронная сеть сможет обучаться, данные должны быть подготовлены. CPU превосходно справляются с такими задачами, как загрузка файлов, очистка данных и сложные преобразования с использованием библиотек, таких как NumPy и OpenCV.
• Граничный инференс (Edge Inference): Для реального развертывания запуск моделей на массивных серверах не всегда целесообразен. CPU позволяют эффективно выполнять развертывание моделей на потребительском оборудовании, например, при запуске Ultralytics YOLO26 на ноутбуке или Raspberry Pi.
• Постобработка: После того как модель выдает необработанные вероятности, CPU часто берет на себя финальную логику, такую как немаксимальное подавление (NMS) в задачах обнаружения объектов, чтобы отфильтровать дублирующиеся предсказания и уточнить результаты.

Link to this sectionCPU vs. GPU vs. TPU#

Понимание ландшафта оборудования критически важно для оптимизации операций машинного обучения (MLOps). Эти процессоры значительно различаются по своей архитектуре и идеальным сценариям использования.

• CPU: Разработан для универсальности и сложной логики. Он имеет несколько мощных ядер, которые обрабатывают задачи последовательно. Это лучший выбор для аугментации данных, управления конвейерами и инференса с низкой задержкой на малых пакетах данных.
• GPU (графический процессор): Изначально созданные для графики, GPU имеют тысячи маленьких ядер, спроектированных для параллельной обработки. Они являются стандартом для обучения моделей, потому что могут выполнять матричные умножения намного быстрее, чем CPU.
• TPU (тензорный процессор): Специализированная интегральная схема (ASIC), разработанная Google Cloud специально для тензорных вычислений. Хотя она высокоэффективна для определенных рабочих нагрузок, у нее нет гибкости общего назначения, свойственной CPU.

Link to this sectionРеальные приложения#

CPU часто являются предпочтительным оборудованием для приложений, где стоимость, доступность и энергопотребление важнее, чем необходимость в массивной пропускной способности.

1. Умные камеры безопасности: В системах охранной сигнализации камеры часто обрабатывают видеопотоки локально. Модель обнаружения объектов на базе CPU может идентифицировать человека или транспортное средство и отправить оповещение, не отправляя видео в облако, тем самым сохраняя пропускную способность сети и конфиденциальность пользователей.

2. Industrial Automation: On factory floors, predictive maintenance systems use CPUs to monitor sensor data from machinery. These systems analyze vibrations or temperature spikes in real-time to predict failures, ensuring smooth manufacturing automation without the need for expensive GPU clusters.

Link to this sectionЗапуск инференса на CPU с помощью Ultralytics#

Разработчики часто тестируют модели на CPU, чтобы проверить совместимость со средами бессерверных вычислений или устройствами с низким энергопотреблением. API Ultralytics позволяет легко выбрать CPU в качестве цели, гарантируя, что твое приложение будет работать везде.

Следующий пример демонстрирует, как загрузить легкую модель и запустить инференс конкретно на CPU:

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

Чтобы дополнительно повысить производительность на CPU Intel, разработчики могут экспортировать свои модели в формат OpenVINO, который оптимизирует структуру нейронной сети специально для архитектуры x86. Для управления наборами данных и организации таких развертываний инструменты, такие как Ultralytics Platform, упрощают рабочий процесс от аннотирования до выполнения на граничных устройствах.