CPU

Центральный процессор (CPU) — это главный компонент компьютера, который служит его «мозгом» и отвечает за интерпретацию и выполнение инструкций от аппаратного и программного обеспечения. В контексте искусственного интеллекта (ИИ) CPU играет фундаментальную роль в обработке данных, оркестровке системы и выполнении инференса, особенно на периферийных устройствах, где критически важна энергоэффективность. Хотя специализированное железо вроде GPU часто ассоциируется с тяжелой работой по обучению моделей глубокого обучения, CPU остается незаменимым для всего пайплайна машинного обучения (ML).

Роль CPU в рабочих процессах AI#

Хотя GPU славятся своей массивной параллельностью во время обучения, CPU является рабочей лошадкой для многих важных этапов жизненного цикла компьютерного зрения (CV). Его архитектура, обычно основанная на проектах x86 (Intel, AMD) или ARM, оптимизирована для последовательной обработки и сложного логического контроля.

• Предобработка данных: Прежде чем нейронная сеть сможет обучаться, данные должны быть подготовлены. CPU преуспевает в таких задачах, как загрузка файлов, очистка данных и сложные преобразования с использованием таких библиотек, как NumPy и OpenCV.
• Периферийный инференс: Для развертывания в реальных условиях запуск моделей на массивных серверах не всегда возможен. CPU позволяют эффективно выполнять развертывание моделей на потребительском железе, например при запуске Ultralytics YOLO26 на ноутбуке или Raspberry Pi.
• Постобработка: После того как модель выдает сырые вероятности, CPU часто берет на себя финальную логику, такую как немаксимальное подавление (NMS) в детекции объектов, чтобы отсеять дублирующиеся предсказания и уточнить результаты.

CPU vs. GPU vs. TPU#

Понимание ландшафта оборудования критически важно для оптимизации операций машинного обучения (MLOps). Эти процессоры существенно различаются по своей архитектуре и идеальным сценариям использования.

• CPU: Создан для универсальности и сложной логики. Он содержит несколько мощных ядер, которые обрабатывают задачи последовательно. Он лучше всего подходит для аугментации данных, управления пайплайнами и низколатентного инференса на малых батчах.
• GPU (Графический процессор): Изначально созданные для графики, GPU имеют тысячи мелких ядер, разработанных для параллельной обработки. Они являются стандартом для обучения моделей, потому что могут выполнять матричные умножения намного быстрее, чем CPU.
• TPU (Тензорный процессор): Специализированная схема (ASIC), разработанная Google Cloud специально для тензорной математики. Будучи крайне эффективной для определенных рабочих нагрузок, она лишена универсальной гибкости CPU.

Реальные приложения#

CPU часто являются предпочтительным оборудованием для приложений, где стоимость, доступность и энергопотребление важнее, чем необходимость в массивной пропускной способности.

1. Умные охранные камеры: В охранных сигнализациях камеры часто обрабатывают видеопотоки локально. Модель детекции объектов на базе CPU может идентифицировать человека или транспортное средство и инициировать тревогу без отправки видео в облако, сохраняя пропускную способность канала и конфиденциальность пользователя.

2. Промышленная автоматизация: На производственных предприятиях системы предиктивного обслуживания используют CPU для мониторинга данных датчиков с оборудования. Эти системы анализируют вибрации или скачки температуры в реальном времени для прогнозирования сбоев, обеспечивая плавную автоматизацию производства без необходимости использования дорогих кластеров GPU.

Запуск инференса на CPU с помощью Ultralytics#

Разработчики часто тестируют модели на CPU для проверки совместимости со средами серверных вычислений или маломощными устройствами. API Ultralytics позволяет легко нацеливаться на CPU, гарантируя, что твое приложение запустится где угодно.

Следующий пример демонстрирует, как загрузить легкую модель и запустить инференс конкретно на CPU:

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

Для дальнейшего повышения производительности на процессорах Intel разработчики могут экспортировать свои модели в формат OpenVINO, который оптимизирует структуру нейронной сети специально под архитектуру x86. Для управления наборами данных и оркестровки таких развертываний инструменты вроде платформы Ultralytics упрощают рабочий процесс от аннотирования до выполнения на периферии.