Как экспортировать модели Ultralytics YOLO с помощью Ultralytics Platform

В прошлом месяце мы запустили Ultralytics Platform — единую рабочую среду, призванную упростить весь процесс разработки решений компьютерного зрения. Она объединяет ключевые возможности визуального ИИ, включая управление наборами данных, разметку, обучение моделей, тестирование, развертывание и мониторинг, в одном удобном интерфейсе.

Рис. 1. Обзор Ultralytics Platform (Источник)

В этом сквозном процессе развертывание играет ключевую роль, позволяя перейти от экспериментов с моделями к их практическому применению. Ранее мы рассматривали различные варианты развертывания, доступные на платформе: совместный инференс через API, выделенные конечные точки для масштабируемого развертывания в производственной среде и экспорт моделей для запуска на периферийных устройствах или внешней инфраструктуре.

Теперь подробнее рассмотрим экспорт моделей и то, как он помогает развертывать их в разных средах. В отличие от совместного инференса и выделенных конечных точек, где модели выполняются в инфраструктуре под управлением Ultralytics Platform, экспорт позволяет развертывать модели и запускать их во внешних средах, например на периферийных устройствах, в мобильных приложениях и пользовательской инфраструктуре.

Прежде чем запускать модели в таких средах, их нужно преобразовать в форматы, поддерживаемые целевой средой выполнения. Требования к развертыванию различаются: для мобильных и периферийных устройств нужны легковесные форматы, а для облачных систем и систем с GPU — высокопроизводительные.

Традиционно этот процесс может занимать много времени: он включает написание скриптов, установку зависимостей и использование нескольких инструментов. Ultralytics Platform значительно упрощает экспорт. Модели можно преобразовать и оптимизировать всего за несколько кликов, без дополнительной настройки.

В этой статье мы расскажем, что такое экспорт моделей, какие форматы поддерживает Ultralytics Platform и как выбрать подходящий для твоих задач. Начнем!

Обзор экспорта моделей#

Экспорт модели — это преобразование предварительно обученной или обученной на пользовательских данных модели в формат, который можно использовать за пределами исходного фреймворка. Модели Ultralytics YOLO созданы на базе PyTorch и хранятся в исходном формате, который хорошо подходит для обучения, оценки и экспериментов в экосистеме PyTorch.

Однако в средах развертывания часто используются другие среды выполнения и предъявляются иные требования к аппаратному обеспечению. Поэтому формат, который используется при обучении, подходит для развертывания не всегда.

Например, мобильному приложению может потребоваться легковесный формат, оптимизированный для низкого энергопотребления, а браузерному приложению — формат, эффективно работающий в веб-среде.

Периферийным устройствам, например камерам и встроенным системам, нужны компактные и быстрые модели, тогда как облачные системы рассчитаны на высокопроизводительный инференс. Чтобы поддерживать разные сценарии, модели необходимо экспортировать в совместимые форматы.

Почему возможность экспорта моделей важна как никогда#

Сегодня модели компьютерного зрения развертывают ближе к источнику данных, особенно на периферийных устройствах. Смартфоны выполняют задачи компьютерного зрения в реальном времени, камеры видеонаблюдения анализируют происходящее непосредственно на устройстве, а автономные системы принимают решения мгновенно.

Однако развертывание в таких средах сопряжено с собственными трудностями. Периферийные устройства обладают ограниченными вычислительными ресурсами, предъявляют строгие требования к задержке и имеют ограничения по памяти и энергопотреблению. Модель, хорошо работающая при обучении на ресурсном оборудовании, может оказаться неэффективной в таких ограниченных условиях.

Экспорт модели в подходящий формат помогает решить эти проблемы. Правильное преобразование позволяет оптимизировать модель для повышения скорости, уменьшить ее размер и обеспечить совместимость с конкретным оборудованием.

Кроме того, экспорт обеспечивает гибкость. Одну и ту же модель можно адаптировать для разных сред развертывания, преобразовав ее в несколько форматов в соответствии с конкретными требованиями.

Рис. 2. Некоторые форматы экспорта, доступные в Ultralytics Platform (Источник)

Например, формат моделей NCNN оптимизирован для мобильных и периферийных устройств и потребляет мало ресурсов. А формат OpenVINO предназначен для оборудования Intel и обеспечивает более высокую производительность на центральных процессорах (CPUs), графических процессорах (GPUs) и нейропроцессорах (NPUs).

В большинстве случаев для такой гибкости приходилось вручную выполнять преобразование, устанавливать зависимости и использовать несколько инструментов, что делало процесс сложным и долгим. Ultralytics Platform оптимизирует этот процесс, делая экспорт моделей доступнее и проще в управлении.

Как Ultralytics Platform упрощает экспорт моделей#

Как правило, экспорт модели считают отдельным и сложным этапом рабочего процесса компьютерного зрения. Ultralytics Platform меняет этот подход: возможность экспорта модели встроена в единую рабочую среду, которая охватывает весь процесс — от обучения до развертывания.

Одно из ключевых преимуществ — экспорт без написания кода. Тебе не нужно писать скрипты, настраивать среды или использовать команды, специфичные для фреймворка. Экспортировать модели можно всего за несколько кликов в простом интерфейсе.

Рис. 3. Пример экспорта модели из Ultralytics Platform (Источник)

Платформа берет на себя всю сложную работу. Задачи, для которых обычно нужны несколько инструментов и ручная настройка, объединены в единый процесс. Тебе не придется устанавливать дополнительные зависимости или решать проблемы совместимости, поэтому перейти от обученной модели к готовому для эксплуатации решению гораздо проще.

Форматы экспорта моделей, поддерживаемые Ultralytics Platform#

Ultralytics Platform поддерживает 21 формат экспорта, поэтому легко подготовить модели для самых разных сред развертывания без лишних сложностей.

Вот обзор некоторых распространенных форматов экспорта:

• Кроссплатформенность и совместимость: ONNX и TorchScript широко используются для запуска моделей в разных фреймворках и средах. ONNX служит связующим звеном между экосистемами и упрощает перенос моделей между инструментами, а TorchScript позволяет запускать модели PyTorch в производственной среде без среды выполнения Python.
• Высокопроизводительный инференс на GPU: TensorRT предназначен для GPU NVIDIA и оптимизирует модели для низкой задержки и высокой пропускной способности. Он поддерживает такие методы, как снижение точности и объединение слоев, для ускорения инференса, поэтому хорошо подходит для приложений реального времени и масштабных производственных систем.
• Развертывание на мобильных и периферийных устройствах: CoreML, LiteRT (TensorFlow Lite) и NCNN оптимизированы для устройств с ограниченными вычислительными ресурсами и объемом памяти. Эти форматы уменьшают размер модели и повышают эффективность, обеспечивая стабильную работу на смартфонах, во встроенных системах и на периферийном оборудовании. CoreML обычно используют в экосистеме Apple, а LiteRT — на Android.
• Выполнение, оптимизированное для оборудования: OpenVINO предназначен для оборудования Intel, включая CPU, GPU и VPU, и помогает повышать скорость и эффективность инференса на этих устройствах. Такие форматы, ориентированные на конкретное оборудование, полезны, когда нужно добиться максимальной производительности от определенной системы.
• Форматы и специализированные среды выполнения для отдельных фреймворков: такие форматы, как PaddlePaddle и ExecuTorch, предназначены для определенных экосистем и сценариев развертывания, включая эффективный запуск моделей на периферийных устройствах и интеграцию с конкретными стеками глубокого обучения.

Как экспортировать модель с помощью Ultralytics Platform#

Экспорт модели в Ultralytics Platform — простой процесс, выполняемый через пользовательский интерфейс. Весь процесс проходит в интерфейсе, без скриптов и инструментов командной строки.

Вот как экспортировать модель с помощью платформы:

• Войди в систему и выбери модель: Перейди в проект и открой обученную модель, которую хочешь экспортировать.
• Открой вкладку Export: В панели управления моделью нажми вкладку Export, чтобы просмотреть доступные варианты экспорта.
• Выбери формат экспорта: Выбери формат, например ONNX, TensorRT или CoreML, в зависимости от задач развертывания.
• Настрой параметры экспорта (необязательно): Измени такие параметры, как размер изображения, точность или размер пакета, чтобы оптимизировать производительность.
• Запусти экспорт: Нажми «Start Export», чтобы начать процесс. Платформа автоматически выполнит преобразование.
• Скачай экспортированную модель: После завершения экспорта скачай модель и используй ее в своем конвейере развертывания.

Рис. 4. Настройка параметров экспорта в Ultralytics Platform

Как выбрать подходящий формат экспорта#

Изучая форматы экспорта, поддерживаемые Ultralytics Platform, ты можешь задуматься, какой из них выбрать. Ответ зависит от того, где и как ты собираешься использовать модель.

Вот несколько факторов, которые стоит учесть:

• Требования к задержке: Для приложений реального времени, например видеоаналитики или автономных систем, критически важна низкая задержка. Часто лучше подходят форматы, оптимизированные для высокопроизводительного инференса, например TensorRT.
• Ограничения оборудования: Устройствам с ограниченным объемом памяти и вычислительной мощностью, например мобильным телефонам и встроенным системам, нужны легковесные форматы, такие как LiteRT или NCNN.
• Размер модели и энергопотребление: При работе с периферийными устройствами важны размер модели и энергопотребление. Компактные оптимизированные модели обеспечивают стабильную работу без чрезмерного расхода ресурсов.
• Среда развертывания: Если модель должна работать на разных платформах, форматы вроде ONNX обеспечивают гибкость. Для конкретных платформ, например приложений для iOS, чаще всего лучше подходит CoreML.

Универсального формата не существует. Нужно найти баланс между производительностью, совместимостью и ограничениями целевой среды. Ultralytics Platform упрощает эту задачу: ты можешь без лишних усилий пробовать разные форматы и сравнивать их.

Главные выводы#

Экспорт — важный этап подготовки модели к практическому использованию в разных средах. Ultralytics Platform значительно упрощает этот процесс: модели можно преобразовывать и оптимизировать без дополнительной настройки и сложных операций. Выбрав формат, подходящий для твоих задач, ты обеспечишь эффективную работу модели в любой среде развертывания.

Присоединяйся к нашему растущему сообществу и загляни в наш репозиторий на GitHub, чтобы узнать больше о компьютерном зрении. Посети страницы с описанием наших решений и узнай о таких сферах применения, как ИИ в робототехнике и компьютерное зрение в логистике. Ознакомься с нашими вариантами лицензирования и начинай создавать решения на основе визуального ИИ!