GPU (Graphics Processing Unit)

Графический процессор (GPU) — это специализированная электронная схема, изначально разработанная для ускорения обработки и создания изображений в кадровом буфере для вывода на экран. Хотя истоки GPU лежат в рендеринге компьютерной графики для игр и профессиональной визуализации, со временем они превратились в основу современных искусственного интеллекта (AI). В отличие от стандартного процессора, который использует несколько мощных ядер для последовательной обработки задач, архитектура GPU состоит из тысяч небольших эффективных ядер, предназначенных для одновременной обработки множества задач. Эта возможность, известная как параллельные вычисления, делает GPU исключительно эффективными для масштабных матричных и векторных операций, лежащих в основе глубокого обучения (DL) и сложных нейронных сетей (NN).

Ускорение рабочих нагрузок ИИ#

Главная причина, по которой GPU незаменимы для машинного обучения (ML), — их способность выполнять высокоскоростное матричное умножение. Фреймворки глубокого обучения, такие как PyTorch и TensorFlow, специально оптимизированы для использования этого аппаратного ускорения. В результате время обучения модели значительно сокращается: вычисления, которые на стандартном процессоре заняли бы недели, на GPU часто выполняются за несколько часов. Вычислительная производительность этих устройств обычно измеряется в FLOPS (операциях с плавающей запятой в секунду) — важнейшем показателе способности оборудования справляться с высокими требованиями передовых моделей, таких как YOLO26.

Различия между оборудованием: GPU, CPU и TPU#

Чтобы разобраться в аппаратной экосистеме, полезно отличать GPU от других вычислительных устройств:

• CPU (центральный процессор): универсальный «мозг» компьютера. CPU отлично подходят для последовательной обработки и сложной логики с ветвлениями, но менее эффективны для масштабного параллелизма, необходимого при обучении крупномасштабных моделей ИИ.
• GPU (графический процессор): отраслевой стандарт для обучения и инференса. Ведущие производители, такие как NVIDIA, используют программные экосистемы, например CUDA, чтобы разработчики могли напрямую программировать GPU для вычислений общего назначения.
• TPU (тензорный процессор): интегральная схема специального назначения (ASIC), разработанная специально для машинного обучения на нейронных сетях. Хотя TPU очень эффективны для определённых тензорных операций, они менее универсальны, чем GPU, для более широкого спектра вычислительных задач.

Практические применения#

Внедрение высокопроизводительных GPU стало основой инноваций в самых разных отраслях:

• Автономные транспортные средства: беспилотные автомобили должны каждую секунду обрабатывать гигабайты данных с камер, радаров и датчиков LiDAR. GPU обеспечивают инференс в реальном времени, позволяя бортовому компьютеру автомобиля запускать модели обнаружения объектов, которые мгновенно распознают пешеходов, дорожные знаки и препятствия.
• Анализ медицинских изображений: в здравоохранении GPU ускоряют обработку изображений высокого разрешения, например МРТ и КТ. Они позволяют использовать сложные алгоритмы сегментации изображений для точного выделения опухолей или органов, помогая рентгенологам быстрее и точнее ставить диагнозы без необходимости полагаться исключительно на ручной анализ.

Обучение с использованием GPU#

При использовании пакета ultralytics задействовать GPU просто и настоятельно рекомендуется для эффективных рабочих процессов. Библиотека поддерживает автоматическое определение устройства, но ты также можешь явно указать устройство.

В следующем примере показано, как обучить модель YOLO26 на первом доступном GPU:

from ultralytics import YOLO

# Load the YOLO26n model
model = YOLO("yolo26n.pt")

# Train the model on the first available GPU (device=0)
# This significantly accelerates training compared to CPU usage
results = model.train(data="coco8.yaml", epochs=5, imgsz=640, device=0)

Развертывание и оптимизация#

Помимо обучения, GPU играют ключевую роль в развертывании моделей. Чтобы максимизировать эффективность во время инференса, модели часто преобразуют в оптимизированные форматы, такие как TensorRT, который перестраивает нейронную сеть для идеального соответствия конкретной архитектуре GPU и снижает задержку. Для разработчиков, у которых нет доступа к высокопроизводительному локальному оборудованию, платформа Ultralytics предлагает облачные решения для управления датасетами и обучения моделей на мощных удалённых кластерах GPU. Такая доступность способствует инновациям в области ИИ на периферии, позволяя развертывать сложные задачи компьютерного зрения (CV) на небольших энергоэффективных устройствах непосредственно в полевых условиях.