Scalability

Масштабируемость — это способность системы, сети или процесса обрабатывать растущий объём работы за счёт добавления ресурсов. В контексте искусственного интеллекта (AI) и машинного обучения (ML) масштабируемость описывает способность модели или инфраструктуры сохранять заданный уровень производительности по мере роста нагрузки. Обычно эта нагрузка проявляется в виде увеличения объёма наборов данных при обучении, роста пользовательского трафика во время инференса или повышения сложности вычислительных задач. Масштабируемая архитектура обеспечивает плавное расширение — от развёртывания модели [компьютерного зрения](https://ultralytics-translation-2.invalid на одном встраиваемом устройстве до обработки миллионов запросов к API через облачные кластеры — и гарантирует, что задержка инференса остаётся низкой даже при высокой нагрузке.

Важность масштабируемости в AI#

Проектирование с учётом масштабируемости — критически важная составляющая успешных операций машинного обучения (MLOps). Модель, которая идеально работает в контролируемой исследовательской среде, может не справиться с высокоскоростными потоками данных, характерными для промышленной эксплуатации. Эффективная работа с большими данными требует систем, способных масштабироваться горизонтально (за счёт добавления машин в кластер) или вертикально (за счёт увеличения мощности, например объёма RAM или количества GPU, существующих машин).

Ключевые преимущества масштабируемых систем AI:

• Надёжность: Масштабируемые системы обеспечивают стабильную доступность сервиса при неожиданных скачках трафика, предотвращая сбои в критически важных приложениях.
• Экономическая эффективность: Динамическое масштабирование позволяет уменьшать объём ресурсов в периоды низкой нагрузки — такую возможность часто предоставляют платформы облачных вычислений, например AWS или Google Cloud.
• Готовность к будущему: Масштабируемая инфраструктура поддерживает более новые и сложные алгоритмы, такие как трансформеры для компьютерного зрения (ViT), без необходимости полностью перестраивать аппаратную экосистему.

Стратегии достижения масштабируемости#

Создание масштабируемых решений AI включает оптимизацию как архитектуры модели, так и инфраструктуры развёртывания.

• Распределённое обучение: Когда наборы данных для обучения становятся слишком большими для одного процессора, распределённое обучение разделяет рабочую нагрузку между несколькими графическими процессорами (GPUs). Такие фреймворки, как PyTorch Distributed, позволяют разработчикам распараллеливать вычисления и значительно сокращать время, необходимое для обучения базовых моделей. Инструменты, такие как Ultralytics Platform, упрощают этот процесс, автоматически управляя ресурсами облачного обучения.
• Эффективные архитектуры моделей: Выбор подходящей архитектуры модели имеет решающее значение для пропускной способности. Последняя версия Ultralytics YOLO26 разработана так, чтобы быть меньше и быстрее предшественников, благодаря чему она изначально масштабируется на различном оборудовании — от устройств периферийного AI до крупных серверных ферм.
• Контейнеризация и оркестрация: Упаковка приложений с помощью Docker обеспечивает их единообразную работу в разных средах. Для управления большими кластерами контейнеров Kubernetes автоматизирует развёртывание, масштабирование и управление контейнеризованными приложениями.
• Оптимизация моделей: Такие методы, как квантизация моделей и прунинг, уменьшают объём памяти и вычислительные затраты модели. Инструменты, такие как NVIDIA TensorRT, могут дополнительно ускорить инференс, обеспечивая более высокую пропускную способность на существующем оборудовании.

Пример кода: масштабируемый пакетный инференс#

Один из эффективных способов повысить масштабируемость во время инференса — обрабатывать входные данные пакетами, а не последовательно. Это позволяет максимально эффективно использовать GPU и повышает общую пропускную способность.

from ultralytics import YOLO

# Load a scalable YOLO26 model (smaller 'n' version for speed)
model = YOLO("yolo26n.pt")

# Define a batch of images (URLs or local paths)
# Processing multiple images at once leverages parallel computation
batch_images = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]

# Run inference on the batch
results = model(batch_images)

# Print the number of detections for the first image
print(f"Detected {len(results[0].boxes)} objects in the first image.")

Практические применения#

Масштабируемость позволяет технологиям AI перейти от теоретических исследований к глобальным промышленным инструментам.

• Умное производство: В сфере AI в производстве автоматизированные системы контроля должны анализировать тысячи компонентов в час на высокоскоростных сборочных линиях. Масштабируемая система обнаружения объектов гарантирует, что с ростом скорости производства процесс контроля качества сохраняет высокую точность и не становится узким местом.
• Рекомендательные системы в розничной торговле: Крупные платформы электронной коммерции используют рекомендательные системы, чтобы мгновенно предлагать миллионам пользователей персонализированные товары. Масштабируемая инфраструктура позволяет этим платформам справляться с огромными событиями, такими как «Чёрная пятница», когда трафик может вырасти в 100 раз, динамически выделяя дополнительные серверные узлы через Microsoft Azure или аналогичных провайдеров.

Масштабируемость и связанные понятия#

Хотя эти термины часто используют как взаимозаменяемые, масштабируемость отличается от производительности и эффективности.

• Масштабируемость и производительность: Производительность обычно означает, насколько быстро или точно система работает в конкретный момент (например, количество кадров в секунду). Масштабируемость описывает способность системы сохранять эту производительность по мере увеличения рабочей нагрузки.
• Масштабируемость и эффективность: Эффективность измеряет ресурсы, используемые для выполнения конкретной задачи (например, энергопотребление на один инференс). Система может быть эффективной, но не масштабируемой (если она не способна обрабатывать параллельные задачи), или масштабируемой, но неэффективной (если для обработки роста нагрузки она использует чрезмерное количество ресурсов).
• Масштабируемость и гибкость: Гибкость позволяет системе обрабатывать разные типы задач, например YOLO11 может выполнять обнаружение, сегментацию и оценку позы. Масштабируемость сосредоточена именно на обработке большего количества однотипных задач.