CPU

Роль в искусственном интеллекте и машинном обучении

Центральные процессоры разрабатываются как процессоры общего назначения, отлично справляющиеся с быстрым выполнением последовательностей инструкций и решением разнообразных вычислительных задач. Ключевыми характеристиками, влияющими на производительность, являются тактовая частота (сколько операций в секунду) и количество ядер (позволяют параллельно выполнять задачи). Хотя современные процессоры от таких производителей, как Intel и AMD имеют несколько ядер, они не обладают массивно-параллельной архитектурой GPU, что делает их менее подходящими для масштабных матричных умножений, характерных для обучения глубокому обучению.

Тем не менее, процессоры незаменимы в конвейерах AI/ML для выполнения нескольких критически важных функций:

• Подготовка данных: Такие задачи, как загрузка наборов данных, их очистка, преобразование и увеличение данных, часто эффективно выполняются на центральных процессорах. Библиотеки вроде Pandas и части Scikit-learn в значительной степени полагаются на CPU обработку. Подготовка данных для проектов по компьютерному зрению - распространенный этап CPU.
• Оркестровка рабочих процессов: Процессоры управляют общим потоком выполнения ML-конвейеров, координируя задачи между различными аппаратными компонентами (например, GPU) и программными модулями.
• Традиционные ML-модели: Многие классические ML-алгоритмы, такие как Support Vector Machines (SVM) и Random Forests, часто обучаются и эффективно работают на центральных процессорах.
• Выводы: Хотя GPU обеспечивают высокую пропускную способность для вычислений, CPU часто используются для вычислений в реальном времени, особенно в средах с ограниченными ресурсами(Edge AI) или когда задержка для единичных предсказаний приоритетнее пакетной пропускной способности. Такие фреймворки, как ONNX Runtime и инструментарий OpenVINO отIntel, обеспечивают оптимизированные возможности для вычислений на центральных процессорах. Модели Ultralytics можно экспортировать в такие форматы, как ONNX для развертывания на CPU , о чем подробно говорится в документации по экспорту моделей.
• Операции ввода/вывода (I/O): Процессоры справляются с чтением и записью данных из хранилища и сетевым взаимодействием, что необходимо для загрузки моделей и данных.

CPU против GPU и TPU

Основное различие между CPU, GPU и TPU заключается в их архитектуре и предназначении:

• CPU: Процессор общего назначения, оптимизированный для выполнения последовательных задач с низкой задержкой. Он имеет несколько мощных ядер. Идеально подходит для потоков управления, функций операционной системы и разнообразных вычислений.
• GPU: Изначально предназначался для графики, а теперь широко используется для ИИ. Имеет тысячи небольших ядер, оптимизированных для параллельной обработки больших блоков данных (например, матриц в глубоком обучении). Примеры см. в статье "Графические процессорыNVIDIA ". Значительно ускоряет обучение таких моделей, как Ultralytics YOLO.
• TPU: Пользовательское оборудованиеGoogle, специально разработанное для ускорения tensor вычислений, используемых в нейронных сетях, в частности в TensorFlow фреймворка TensorFlow. Оптимизирован для высокой пропускной способности и эффективности при выполнении специфических ML-нагрузок.

Даже в системах, сильно зависящих от GPU или TPU для обучения сложных моделей, таких как YOLOv10 или YOLO11CPU управляет всей системой, подготавливает данные и выполняет части рабочего процесса, не подходящие для ускорителей. Выбор правильного оборудования предполагает понимание этих компромиссов для эффективного развертывания моделей.

Примеры реального мира ИИ/МЛ с использованием CPU

1. Предварительная обработка естественного языка (НЛП): Такие задачи, как токенизация, когда текст разбивается на более мелкие единицы (слова или подслова), являются основополагающими в NLP. Такие библиотеки, как Hugging Face's Tokenizers, часто эффективно выполняют эти операции на CPU , прежде чем данные будут переданы на GPU для вывода или обучения модели.
2. Edge Device Inference: Многие приложения Edge AI разворачивают ML-модели на устройствах с ограниченной мощностью и вычислительными ресурсами, например на Raspberry Pi или устройствах на базе архитектуры ARM. В таких сценариях вычисления часто выполняются непосредственно на CPU устройства, возможно, с использованием оптимизированных библиотек вроде TensorFlow Lite или OpenVINO чтобы добиться приемлемой производительности для таких задач, как обнаружение базовых объектов или поиск ключевых слов. Управление этими развертываниями может быть облегчено с помощью таких платформ, как Ultralytics HUB.

Понимание возможностей и ограничений CPU крайне важно для проектирования и оптимизации сквозных систем ИИ, начиная с обработки данных(см. руководство по сбору данных) и заканчивая эффективным развертыванием на различных аппаратных платформах.