CPU

Центральный процессорCPUП) - это основной компонент компьютера, выполняющий функции центра управления, Выполняя инструкции и организуя поток данных в системе. Часто его называют "мозгом" устройства, CPU выполняет вычислительные задачи общего назначения, такие как запуск операционной системы и управление операциями ввода/вывода. В контексте искусственного интеллекта (ИИ) и машинного обучения (ML) CPU играет основополагающую роль. Хотя он не может предложить массивный параллелизм, необходимый для тяжелого обучения моделей, он критически важен для предварительной обработки данных, управления системной логикой и выполнения выводов на граничных устройствах, где энергопотребление и стоимость оборудования являются ограничения.

CPU против GPU и TPU

Понимание аппаратного ландшафта очень важно для оптимизации операций машинного обучения (MLOps). CPU значительно отличается от таких ускорителей, как GPU и TPU, по архитектуре и назначению:

• ЦентральныйCPU (CPU ): Предназначен для последовательной обработки данных с низкой задержкой. Имеет небольшое количество мощных ядер, способных обрабатывать сложной логикой и ветвлениями. Это делает его идеальным для таких задач, как очистка данных и организация общего конвейера. Основные архитектуры включают x86Intel, AMD) и ARM.
• GPU (Graphics Processing Unit): Изначально созданные для рендеринга графики, графические процессоры используют тысячи более мелких ядер для выполнения параллельной обработки данных. Такая архитектура необходима для матричных операций, используемых в глубокого обучения (DL) и значительно ускоряет обучение больших нейронных сетей.
• TPU (Tensor Processing Unit): . Интегральная схема для конкретных приложений (ASIC) разработанная компанией Google специально для ускорения tensor вычислений в таких фреймворках, как TensorFlow.

Роль в рабочих процессах ИИ

Хотя GPU часто используются для обучения, CPU остается незаменимым на протяжении всего жизненного цикла ИИ.

1. Предварительная обработка данных: Прежде чем модель сможет "увидеть" данные, изображения или текст должны быть загружены и преобразовать. Такие операции, как изменение размера, нормализация и расширение данных, обычно выполняются CPU с помощью таких библиотек, как NumPy и OpenCV. Эффективная обработка данных на CPU не позволяет GPU простаивать в ожидании данных.
2. Постобработка: После того как модель генерирует необработанные прогнозы, CPU часто выполняет окончательные вычисления. Например, при обнаружении объектов, CPU выполняет Немаксимальное подавление (NMS), чтобы отфильтровывает перекрывающиеся ограничительные рамки и сохраняет наиболее достоверные обнаружения.
3. Выводы по краям: Во многих реальных сценариях развертывание дорогостоящих графических процессоров нецелесообразно. Пограничный ИИ в значительной степени полагается на центральные процессоры для запуска легких моделей на таких устройствах, как Raspberry Pi или мобильные телефоны. телефонах.

Применение в реальном мире

Процессоры позволяют решать широкий спектр задач, в которых универсальность и энергоэффективность приоритетны по сравнению с сырой пропускная способность.

• Интеллектуальные системы видеонаблюдения: Многие системы безопасности используют алгоритмы обнаружения движения, работающие на стандартных процессорах. Обрабатывая видеопоток локально на записывающем устройстве, система может запускать оповещения или начинать запись только при обнаружении активности. только при обнаружении активности, что позволяет экономить ресурсы хранения и пропускную способность, не требуя специального GPU.
• Промышленный IoT (IIoT): В производстве, системы прогнозируемого обслуживания часто работают на встроенных процессоров промышленных контроллеров. Эти системы отслеживают данные датчиков (вибрация, температура) в режиме реального времени чтобы предсказать отказ оборудования с помощью легких регрессионных или классификационных моделей, обеспечивая Автоматизация производства работает без сбоев.

Выполнение выводов на CPU

Разработчики часто используют CPU для отладки, тестирования или развертывания моделей в средах, не имеющих специализированного аппаратного обеспечения. Такие фреймворки, как PyTorch позволяют пользователям явно нацеливаться на CPU. Кроме того, преобразование моделей в такие форматы, как ONNX или с помощью инструментарияOpenVINO может значительно оптимизировать скорость вычислений на процессорах Intel .

В следующем примере показано, как заставить Ultralytics YOLO11 модель для выполнения вычислений на CPU. Этот особенно полезно для сравнительного анализа производительности на стандартном оборудовании.

from ultralytics import YOLO

# Load the official YOLO11 nano model
model = YOLO("yolo11n.pt")

# Run inference on an image, explicitly setting the device to CPU
# This bypasses any available GPU to simulate an edge deployment environment
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Display the detection results
results[0].show()

Использование device="cpu" аргумент гарантирует, что вычисления останутся на центральном процессоре, позволяя разработчикам проверять совместимость моделей с бессерверные вычисления средах или маломощных краевые устройства.