Cloud Computing

Облачные вычисления — это предоставление вычислительных ресурсов по запросу через интернет из центров обработки данных провайдера. К таким ресурсам относятся серверы, хранилища, базы данных, сети, GPU и готовые программные приложения; плата взимается за фактическое использование. В 2011 году Национальный институт стандартов и технологий США определил этот термин в документе NIST SP 800-145, перечислив пять основных характеристик: самообслуживание по запросу, широкий сетевой доступ, объединение ресурсов для множества клиентов, быстрая эластичность и измеряемый сервис. Amazon Web Services запустила службы хранения S3 и вычислений EC2 в 2006 году; сегодня AWS, Microsoft Azure и Google Cloud — крупнейшие провайдеры. Для искусственного интеллекта облако превращает дорогостоящие ускорители в ресурс, который можно арендовать на несколько часов. Так большинство команд обучают большие модели, не владея собственным центром обработки данных.

Модели обслуживания и развёртывания#

Модели обслуживания различаются тем, какой частью технологического стека управляет провайдер:

• Инфраструктура как услуга (IaaS): Виртуальные машины, блочное хранилище и сети; заказчик управляет операционной системой, драйверами и программным обеспечением. Виртуальные машины с GPU, например экземпляры Amazon EC2 P5, относятся к IaaS.
• Платформа как услуга (PaaS): Управляемые среды выполнения, базы данных и кластеры Kubernetes: заказчик развёртывает код, а провайдер обслуживает серверы и устанавливает обновления. Управляемые платформы машинного обучения, например Amazon SageMaker, Google Vertex AI и Azure Machine Learning, дополняют эту основу заданиями обучения и конечными точками моделей.
• Бессерверные вычисления: Функции или контейнеры, которые запускаются при каждом запросе, при простое масштабируются до нуля, а оплата взимается за запрос и время выполнения. Эта более поздняя модель полностью скрывает серверы.
• Программное обеспечение как услуга (SaaS): Готовые приложения, которыми пользуются в браузере или через API и которыми заказчику не нужно управлять.

NIST также выделяет четыре модели развёртывания: общедоступные облака, совместно используемые множеством клиентов; частные облака, предназначенные для одной организации; облака сообщества, совместно используемые организациями с общими требованиями; и гибридные облака, сочетающие эти модели. В каждой модели действует модель общей ответственности: провайдер защищает физические центры обработки данных и уровень виртуализации, а заказчик отвечает за свои учётные записи, конфигурации и безопасность данных.

Облачные вычисления для ИИ#

Обучение — самая требовательная к вычислительным ресурсам часть ИИ. Провайдеры облачных услуг сдают в аренду отдельные GPU или кластеры ускорителей NVIDIA H100, H200 и B200, соединённых высокоскоростными каналами для распределённого обучения; Google Cloud также предлагает собственные TPU. Свободные вычислительные мощности обходятся дешевле: AWS Spot Instances стоят до 90% меньше ресурсов по запросу, но провайдер может отозвать их, предупредив за две минуты. Поэтому задания на этих экземплярах часто сохраняют контрольные точки весов модели, чтобы обучение можно было возобновить.

Размещение данных влияет на стоимость облачных услуг. Наборы данных хранятся в объектном хранилище, часто организованном как озеро данных. Провайдеры взимают плату за исходящий трафик, а входящий обычно бесплатен, поэтому вычисления для обучения, как правило, запускают в том же регионе, где находятся используемые ими большие данные. Для инференса модели в контейнерах Docker запускаются на управляемых конечных точках обслуживания моделей или в кластерах Kubernetes, которые добавляют и удаляют реплики при изменении трафика. Так реализуется быстрая эластичность из определения NIST, а выбор регионов поближе к пользователям снижает задержку инференса. Облачные платформы машинного обучения также предоставляют инструменты MLOps для отслеживания экспериментов, реестры моделей и мониторинг моделей.

Ultralytics Platform применяет эту модель оплаты за использование к обучению YOLO: облачное обучение предлагает 26 типов GPU — от RTX 2000 Ada с 16 ГБ до B300 с 288 ГБ, — тарифицирует фактически использованное заданием время работы GPU и, если выбранного GPU нет в наличии, предлагает наиболее близкий доступный вариант: сначала по объёму видеопамяти, затем по скорости и стоимости.

Облачные и периферийные вычисления#

Периферийные вычисления обрабатывают данные на устройствах, которые их создают, или рядом с ними: например, на камерах, роботах и шлюзах. Это устраняет сетевой путь туда и обратно до центра обработки данных и позволяет продолжать работу при потере соединения. Облачные вычисления централизуют эластичные ресурсы для задач, которым они нужнее всего: обучения, крупномасштабной пакетной обработки, долговременного хранения и сервисов, пользователи которых могут терпеть сетевую задержку в десятки миллисекунд. Большинство систем компьютерного зрения сочетают оба подхода. Модель, обученную на облачных GPU, экспортируют в компактный формат, например ONNX или TensorRT, и запускают на устройстве как периферийный ИИ. Устройство отправляет обнаружения и выбранные изображения обратно в облако, где они становятся обучающими данными для следующей версии модели.