CPU

Центральный процессор (CPU) — CPU основной компонент компьютера, который действует как его «мозг» и отвечает за интерпретацию и выполнение инструкций от аппаратного и программного обеспечения. В контексте искусственного интеллекта (ИИ) ЦП играет фундаментальную роль в обработке данных, координации систем и выполнении выводов, особенно на периферийных устройствах, где энергоэффективность имеет решающее значение. Хотя специализированное аппаратное обеспечение, такое как графические процессоры (GPU), часто ассоциируется с тяжелой работой по обучению моделей глубокого обучения, CPU незаменимым для общего конвейера машинного обучения (ML).

Роль процессоров в рабочих процессах искусственного интеллекта

Хотя графические процессоры славятся своим массивным параллелизмом во время обучения, CPU рабочей лошадкой для многих важных этапов жизненного цикла компьютерного зрения (CV). Его архитектура, как правило, основанная на x86 (Intel, AMD) или ARM, оптимизирована для последовательной обработки и сложного логического управления.

• Предварительная обработка данных: прежде чем нейронная сеть сможет учиться, необходимо подготовить данные. Процессоры отлично справляются с такими задачами, как загрузка файлов, очистка данных и сложные преобразования с использованием библиотек, таких как NumPy и OpenCV.
• Вывод на периферии: для реального развертывания запуск моделей на мощных серверах не всегда возможен. Процессоры позволяют эффективно развертывать модели на потребительском оборудовании, например запускать Ultralytics на ноутбуке или Raspberry Pi.
• Постобработка: после того, как модель выдает исходные вероятности, CPU обрабатывает окончательную логику, такую как немаксимальное подавление (NMS) при обнаружении объектов, чтобы отфильтровать дублирующиеся прогнозы и уточнить результаты.

CPU GPU TPU

Понимание аппаратной среды имеет решающее значение для оптимизации операций машинного обучения (MLOps). Эти процессоры значительно различаются по архитектуре и идеальным сценариям использования.

• CPU: Разработан для универсальности и сложной логики. Имеет несколько мощных ядер, которые обрабатывают задачи последовательно. Лучше всего подходит для увеличения объема данных, управления конвейером и низкозадержного вывода по небольшим партиям.
• GPU графический процессор): Изначально предназначенные для обработки графики, графические процессоры имеют тысячи небольших ядер, предназначенных для параллельной обработки. Они являются стандартом для обучения моделей, поскольку могут выполнять умножение матриц гораздо быстрее, чем CPU.
• TPU Tensor ): специализированная схема (ASIC), разработанная Google специально для tensor . Хотя она очень эффективна для определенных рабочих нагрузок, ей не хватает универсальной гибкости CPU.

Применение в реальном мире

ЦП часто являются предпочтительным аппаратным обеспечением для приложений, в которых стоимость, доступность и энергопотребление перевешивают потребность в огромной пропускной способности.

1. Интеллектуальные камеры безопасности: в системах охранной сигнализации камеры часто обрабатывают видеопоток локально. Модель обнаружения объектов CPU может идентифицировать человека или транспортное средство и сработать сигнал тревоги без отправки видео в облако, сохраняя пропускную способность и конфиденциальность пользователя.
2. Промышленная автоматизация: на заводских площадках системы прогнозного технического обслуживания используют процессоры для мониторинга данных датчиков с оборудования. Эти системы анализируют вибрации или скачки температуры в режиме реального времени, чтобы предсказывать неисправности, обеспечивая бесперебойную автоматизацию производства без необходимости использования дорогостоящих GPU .

Выполнение вывода на CPU Ultralytics

Разработчики часто тестируют модели на процессорах, чтобы проверить их совместимость с бессерверными вычислительными средами или устройствами с низким энергопотреблением . Ultralytics позволяет легко настроить работу на CPU, гарантируя, что ваше приложение будет работать где угодно.

Следующий пример демонстрирует, как загрузить облегченную модель и выполнить инференцию специально на CPU:

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

Для дальнейшего повышения производительности на Intel разработчики могут экспортировать свои модели в OpenVINO , который оптимизирует структуру нейронной сети специально для архитектуры x86. Для управления наборами данных и координации этих развертываний такие инструменты, как Ultralytics , упрощают рабочий процесс от аннотирования до выполнения на периферии .