Docker

Docker — это платформа с открытым исходным кодом, которая позволяет разработчикам автоматизировать развертывание, масштабирование и управление приложениями с помощью контейнеризации. В контексте искусственного интеллекта и машинного обучения Docker выступает в качестве стандартизированной единицы программного обеспечения, которая упаковывает код и все его зависимости, такие как библиотеки, системные инструменты и настройки, чтобы приложение работало быстро и надежно в любой вычислительной среде. Это устраняет распространенную проблему «у меня на машине работает», гарантируя, что нейронная сеть, обученная на ноутбуке исследователя, ведет себя точно так же при развертывании на мощном облачном сервере или периферийном устройстве.

Link to this sectionПочему Docker важен для ИИ и машинного обучения#

Современные операции машинного обучения (MLOps) во многом опираются на воспроизводимость и переносимость. Проект в области ИИ часто включает сложный стек программного обеспечения, включая конкретные версии Python, драйверы CUDA для GPU-ускорения и фреймворки глубокого обучения, такие как PyTorch или TensorFlow. Ручное управление этим стеком в разных командах и инфраструктурах часто приводит к ошибкам.

Docker упрощает этот процесс за счет создания легких, автономных контейнеров. В отличие от традиционных виртуальных машин (ВМ), которым для каждого экземпляра требуется полноценная операционная система, контейнеры используют ядро ОС хост-машины, но работают в изолированных пространствах пользователя. Это делает их значительно более эффективными в плане ресурсов и быстрыми в запуске, что критически важно при масштабировании инфраструктуры обслуживания моделей или запуске распределенных задач обучения.

Link to this sectionРеальные приложения#

Docker повсеместно используется в жизненном цикле ИИ, от первоначальных экспериментов до финального развертывания.

1. Единые среды обучения: Команда специалистов по данным может использовать образы Docker для совместного использования унифицированной среды разработки. Например, исследователь, работающий над обнаружением объектов, может развернуть готовый образ, содержащий все необходимые драйверы и библиотеки. Это гарантирует, что когда он обучит модель YOLO26, результаты будут воспроизводимы его коллегами, независимо от различий в аппаратном обеспечении.

2. Развертывание Edge AI: В системах интеллектуального городского видеонаблюдения обновленные модели необходимо отправлять на тысячи периферийных устройств, таких как камеры наблюдения или дроны. Контейнеры Docker позволяют инженерам упаковать новую версию модели и развернуть её «по воздуху». Поскольку контейнер включает среду выполнения вывода, процесс обновления проходит бесшовно и не затрагивает базовую операционную систему устройства.

Link to this sectionDocker против Kubernetes против виртуальных машин#

Полезно различать Docker и связанные с ним технологии, чтобы лучше понять его особую роль:

• Docker против виртуальных машин (ВМ): ВМ виртуализируют оборудование, то есть каждая ВМ запускает полноценную ОС (например, Windows или Linux) поверх гипервизора. Это потребляет значительный объем памяти и ресурсов CPU. Docker виртуализирует операционную систему, что делает контейнеры намного компактнее и быстрее, чем ВМ.
• Docker против Kubernetes: Это дополняющие, а не конкурирующие технологии. Docker — это инструмент для создания и запуска отдельных контейнеров. Kubernetes — это платформа для оркестрации контейнеров, которая управляет кластерами контейнеров Docker, выполняя такие задачи, как автоматическое масштабирование, балансировка нагрузки и самовосстановление в крупномасштабных средах облачных вычислений.

Link to this sectionПример: Выполнение вывода в контейнере#

Следующий пример демонстрирует, как может выглядеть Python-скрипт внутри контейнера Docker, предназначенного для компьютерного зрения. Этот скрипт использует пакет ultralytics для загрузки модели и выполнения вывода. Среда контейнера гарантирует, что нужные зависимости (такие как opencv-python и torch) уже установлены.

from ultralytics import YOLO

# Load the YOLO26 model (weights are typically included in the Docker image)
model = YOLO("yolo26n.pt")

# Perform inference on an image source
# In a containerized microservice, this might process incoming API requests
results = model.predict("https://ultralytics.com/images/bus.jpg")

# Log the detection results
print(f"Detected {len(results[0].boxes)} objects in the image.")

Link to this sectionИнтеграция Docker в твой рабочий процесс#

Чтобы начать работу с контейнеризацией, разработчики обычно создают Dockerfile — текстовый документ, содержащий все команды для сборки образа. После сборки эти образы можно хранить в реестрах, таких как Docker Hub или NVIDIA NGC Catalog, где представлены контейнеры, оптимизированные для работы с GPU.

Для тех, кто хочет оптимизировать процесс обучения и развертывания, не управляя вручную файлами Dockerfile, платформа Ultralytics предлагает интегрированные инструменты, которые берут на себя всю сложность настройки облачных сред. Это позволяет тебе сосредоточиться на повышении точности модели, а не на настройке инфраструктуры. Кроме того, ты можешь изучить наше Руководство по быстрому старту Docker, чтобы узнать, как сразу начать запускать модели Ultralytics в контейнерах.