GPU (Graphics Processing Unit)

Графический процессор (GPU) — это специализированная электронная схема, изначально разработанная для ускорения обработки и создания изображений в буфере кадра для вывода на дисплей. Хотя их истоки лежат в рендеринге компьютерной графики для игр и профессиональной визуализации, GPU превратились в фундаментальный двигатель современного искусственного интеллекта (AI). В отличие от стандартного процессора, который использует несколько мощных ядер для последовательной обработки задач, архитектура GPU состоит из тысяч более мелких и эффективных ядер, предназначенных для одновременного выполнения нескольких задач. Эта возможность, известная как параллельные вычисления, делает их исключительно эффективными для масштабных матричных и векторных операций, которые лежат в основе глубокого обучения (DL) и сложных нейронных сетей (NN).

Ускорение рабочих нагрузок ИИ#

Основная причина, по которой GPU незаменимы для машинного обучения (ML), заключается в их способности выполнять высокоскоростное умножение матриц. Фреймворки глубокого обучения, такие как PyTorch и TensorFlow, специально оптимизированы для использования этого аппаратного ускорения. Это приводит к значительному сокращению времени обучения моделей, часто превращая то, что заняло бы недели вычислений на стандартном процессоре, в часы работы на GPU. Вычислительная пропускная способность этих устройств обычно измеряется в FLOPS (операциях с плавающей запятой в секунду), что является критическим метрическим показателем для оценки способности оборудования справляться со строгими требованиями современных моделей, таких как YOLO26.

Аппаратные различия: GPU против CPU против TPU#

Чтобы понять ландшафт оборудования, полезно различать GPU и другие типы процессоров:

• CPU (центральный процессор): Универсальный «мозг» компьютера. CPU превосходно справляются с последовательной обработкой и сложным ветвлением логики, но менее эффективны для масштабного параллелизма, требуемого при обучении масштабного AI.
• GPU (графический процессор): Стандарт индустрии для обучения и инференса. Ведущие производители, такие как NVIDIA, используют программные экосистемы вроде CUDA, позволяющие разработчикам напрямую программировать GPU для вычислений общего назначения.
• TPU (тензорный процессор): Интегральная схема специального назначения (ASIC), разработанная специально для машинного обучения на основе нейронных сетей. Несмотря на высокую эффективность в специфических тензорных операциях, они менее универсальны, чем GPU, в более широких вычислительных задачах.

Реальные приложения#

Внедрение высокопроизводительных GPU способствовало инновациям в самых разных отраслях:

• Автономный транспорт: Беспилотные автомобили должны ежесекундно обрабатывать гигабайты данных с камер, радаров и лидарных датчиков. GPU обеспечивают инференс в реальном времени, позволяя бортовому компьютеру автомобиля запускать модели обнаружения объектов, которые мгновенно распознают пешеходов, дорожные знаки и препятствия.
• Медицинский анализ изображений: В здравоохранении GPU ускоряют обработку сканирований высокого разрешения, таких как МРТ и КТ. Они позволяют сложным алгоритмам сегментации изображений точно оконтуривать опухоли или органы, помогая радиологам ставить более быстрые и точные диагнозы без опоры исключительно на ручной осмотр.

Обучение с использованием GPU#

При использовании пакета ultralytics задействование GPU является простым и настоятельно рекомендуется для эффективных рабочих процессов. Библиотека поддерживает автоматическое определение устройства, но пользователи также могут явно указать устройство.

В следующем примере показано, как обучить модель YOLO26 на первом доступном GPU:

from ultralytics import YOLO

# Load the YOLO26n model
model = YOLO("yolo26n.pt")

# Train the model on the first available GPU (device=0)
# This significantly accelerates training compared to CPU usage
results = model.train(data="coco8.yaml", epochs=5, imgsz=640, device=0)

Развертывание и оптимизация#

Помимо обучения, GPU играют важнейшую роль в развертывании моделей. Для максимизации эффективности во время инференса модели часто конвертируются в оптимизированные форматы, такие как TensorRT, которые перестраивают нейронную сеть так, чтобы она идеально соответствовала конкретной архитектуре GPU, снижая задержку. Для разработчиков, не имеющих доступа к высокопроизводительному локальному оборудованию, Ultralytics Platform предлагает облачные решения для управления датасетами и обучения моделей на мощных удаленных кластерах GPU. Эта доступность стимулирует инновации в сфере Edge AI, позволяя развертывать сложные задачи компьютерного зрения (CV) на более компактных и энергоэффективных устройствах на местах.