Как экспортировать модели Ultralytics YOLO с помощью Ultralytics Platform

В прошлом месяце мы запустили Ultralytics Platform — единое рабочее пространство, созданное для упрощения всего процесса компьютерного зрения. Оно объединяет ключевые возможности ИИ в области зрения, включая управление наборами данных, разметку, обучение, тестирование, развертывание и мониторинг моделей, в одном удобном интерфейсе.

Рис. 1. Взгляд на Ultralytics Platform (Источник)

В рамках этого сквозного процесса развертывание играет решающую роль в переходе от экспериментов к реальному использованию моделей. Ранее мы рассматривали различные варианты развертывания, доступные на платформе, включая совместный вывод через API, выделенные конечные точки для масштабируемого производственного развертывания и экспорт моделей для запуска на периферийных устройствах или внешней инфраструктуре.

Теперь давай подробнее рассмотрим экспорт моделей и то, как он поддерживает развертывание в различных средах. В отличие от совместного вывода и выделенных конечных точек, которые выполняют модели в инфраструктуре, управляемой Ultralytics Platform, экспорт моделей позволяет развертывать и запускать их во внешних средах, таких как периферийные устройства, мобильные приложения и пользовательская инфраструктура.

Прежде чем модели смогут работать в этих средах, их нужно преобразовать в форматы, поддерживаемые целевой средой выполнения. Каждая настройка развертывания имеет свои требования: от облегченных форматов для мобильных и периферийных устройств до высокопроизводительных форматов для облачных и GPU-систем.

Традиционно этот процесс может быть трудоемким и требовать скриптов, зависимостей и нескольких инструментов. С Ultralytics Platform экспорт стал намного проще. Модели можно преобразовывать и оптимизировать всего за несколько кликов, без дополнительной настройки.

В этой статье мы разберем, что значит экспорт моделей, какие форматы поддерживает Ultralytics Platform и как выбрать подходящий для твоей задачи. Давай начнем!

Link to this sectionОбзор экспорта модели#

Экспорт модели подразумевает преобразование предварительно обученной или настроенной модели в формат, пригодный для использования вне исходного фреймворка. Модели Ultralytics YOLO созданы с использованием PyTorch и хранятся в их нативном формате, который отлично подходит для обучения, оценки и экспериментов в экосистеме PyTorch.

Однако среды развертывания часто имеют другие требования к среде выполнения и оборудованию. Из-за этого формат, использованный при обучении, не всегда подходит для развертывания.

Например, мобильному приложению может потребоваться облегченный формат, оптимизированный для низкого энергопотребления, а браузерному приложению — формат, который эффективно работает в веб-среде.

Периферийные устройства, такие как камеры и встроенные системы, выигрывают от компактных и быстрых моделей, тогда как облачные системы предназначены для высокопроизводительного вывода. Чтобы поддержать эти различные сценарии, модели нужно экспортировать в совместимые форматы.

Link to this sectionПочему возможность экспорта моделей стала важнее, чем когда-либо#

Сегодня модели компьютерного зрения развертываются ближе к месту генерации данных, особенно на периферийных устройствах. Смартфоны запускают приложения визуального анализа в реальном времени, камеры CCTV выполняют мониторинг на самом устройстве, а автономные системы полагаются на мгновенное принятие решений.

Однако развертывание в этих средах сопряжено со своими проблемами. Периферийные устройства имеют ограниченную вычислительную мощность, строгие требования к задержке, а также ограничения по памяти и энергопотреблению. Модель, которая хорошо работает при обучении с достаточными ресурсами, может работать неэффективно в таких ограниченных условиях.

Экспорт модели в правильный формат может помочь решить эти проблемы. Благодаря правильному преобразованию модель можно оптимизировать по скорости, уменьшить в размере и сделать совместимой с конкретным оборудованием.

В то же время экспорт обеспечивает гибкость. Одну и ту же модель можно адаптировать для разных сред развертывания, преобразовав её в несколько форматов в зависимости от конкретных требований.

Рис. 2. Некоторые из форматов экспорта, доступных в Ultralytics Platform (Источник)

Например, формат моделей NCNN оптимизирован для мобильных и периферийных устройств с низким потреблением ресурсов. В то время как формат OpenVINO адаптирован для оборудования Intel и обеспечивает лучшую производительность на центральных процессорах (CPU), графических процессорах (GPU) и нейронных процессорах (NPU).

В большинстве случаев достижение такого уровня гибкости означало работу с ручным преобразованием, зависимостями и множеством инструментов, что делало процесс сложным и долгим. Ultralytics Platform оптимизирует этот рабочий процесс, делая экспорт моделей более доступным и простым в управлении.

Link to this sectionКак Ultralytics Platform упрощает экспорт моделей#

Как правило, экспорт модели рассматривается как отдельный и сложный этап в рабочих процессах компьютерного зрения. Ultralytics Platform меняет это, интегрируя возможность экспорта модели непосредственно в единое рабочее пространство, которое охватывает все: от обучения до развертывания.

Одним из её ключевых преимуществ является отсутствие необходимости в написании кода при экспорте. Нет нужды писать скрипты, управлять средами или использовать специфические команды фреймворков. Модели можно экспортировать всего за несколько кликов через простой и понятный интерфейс.

Рис. 3. Пример экспорта модели из Ultralytics Platform (Источник)

За кулисами платформа берет на себя всю тяжелую работу. Задачи, которые обычно требуют нескольких инструментов и ручной настройки, сведены к одному процессу. Тебе не нужно устанавливать дополнительные зависимости или решать проблемы совместимости, что значительно упрощает путь от обученной модели до готового к работе решения.

Link to this sectionФорматы экспорта моделей, поддерживаемые Ultralytics Platform#

Ultralytics Platform поддерживает 17 форматов экспорта, позволяя легко подготовить модели для широкого спектра сред развертывания без лишних сложностей.

Вот краткий обзор некоторых часто используемых форматов экспорта:

• Кроссплатформенность и совместимость: ONNX и TorchScript широко используются для запуска моделей в разных фреймворках и средах. ONNX выступает в качестве моста между экосистемами, упрощая перемещение моделей между инструментами, а TorchScript позволяет запускать модели PyTorch в производстве без необходимости установки среды выполнения Python.
• Высокопроизводительный вывод на GPU: TensorRT разработан для NVIDIA GPU и фокусируется на оптимизации моделей для достижения низкой задержки и высокой пропускной способности. Он поддерживает такие методы, как снижение точности и слияние слоев для ускорения вывода, что делает его отличным выбором для приложений реального времени и производственного масштаба.
• Развертывание на мобильных и периферийных устройствах: CoreML, LiteRT (TensorFlow Lite) и NCNN оптимизированы для устройств с ограниченными вычислительными ресурсами и памятью. Эти форматы уменьшают размер модели и повышают эффективность, обеспечивая плавную работу на смартфонах, встроенных системах и периферийном оборудовании. CoreML обычно используется в экосистеме Apple, в то время как LiteRT популярен для Android.
• Аппаратно-оптимизированное исполнение: OpenVINO адаптирован для оборудования Intel, включая CPU, GPU и VPU, и помогает улучшить скорость и эффективность вывода на этих устройствах. Аппаратно-специфичные форматы, подобные этому, полезны, когда тебе нужно получить максимальную производительность от конкретной системы.
• Специализированные фреймворки и среды выполнения: Форматы, такие как PaddlePaddle и ExecuTorch, поддерживают специфические экосистемы и потребности развертывания, включая эффективный запуск моделей на периферийных устройствах или интеграцию с определенными стеками глубокого обучения.

Link to this sectionКак экспортировать модель с помощью Ultralytics Platform#

Экспорт модели на Ultralytics Platform — это простой процесс на основе пользовательского интерфейса. Весь рабочий процесс управляется через интерфейс без необходимости использования скриптов или инструментов командной строки.

Вот как ты можешь экспортировать модель с помощью платформы:

• Войди в систему и выбери свою модель: Перейди в свой проект и открой обученную модель, которую хочешь экспортировать.
• Перейди на вкладку «Export»: В панели управления моделью нажми на вкладку «Export», чтобы просмотреть доступные варианты экспорта.
• Выберите формат экспорта: Выбери формат, например, ONNX, TensorRT или CoreML, в зависимости от твоих нужд развертывания.
• Настрой параметры экспорта (необязательно): Отрегулируй параметры, такие как размер изображения, точность или размер пакета (batch size), для оптимизации производительности.
• Начни процесс экспорта: Нажми «Start Export», чтобы начать процесс. Платформа выполнит преобразование автоматически.
• Скачай экспортированную модель: Как только экспорт будет завершен, ты сможешь скачать модель и использовать её в своем конвейере развертывания.

Рис. 4. Взгляд на настройку параметров экспорта в Ultralytics Platform

Link to this sectionВыбор правильного формата экспорта#

Изучая различные форматы экспорта, поддерживаемые Ultralytics Platform, ты можешь задаться вопросом, какой из них выбрать. Ответ зависит от того, где и как ты планируешь использовать свою модель.

Вот несколько факторов, которые стоит учесть:

• Требования к задержке: Для приложений реального времени, таких как видеоаналитика или автономные системы, низкая задержка критична. Форматы, оптимизированные для высокопроизводительного вывода, такие как TensorRT, часто подходят лучше всего.
• Аппаратные ограничения: Устройства с ограниченной памятью и вычислительной мощностью, такие как мобильные телефоны или встроенные системы, требуют облегченных форматов, таких как LiteRT или NCNN.
• Размер модели и энергопотребление: При работе с периферийными устройствами размер модели и энергопотребление становятся важными факторами. Меньшие, оптимизированные модели помогают обеспечить стабильную производительность, не истощая ресурсы.
• Среда развертывания: Если твоя модель должна работать на разных платформах, форматы вроде ONNX предлагают гибкость. Для использования на конкретных платформах, таких как приложения iOS, CoreML часто является лучшим выбором.

Универсального формата не существует. Все сводится к балансу производительности, совместимости и ограничений целевой среды. Ultralytics Platform облегчает это, позволяя пробовать и сравнивать различные форматы без лишних усилий.

Link to this sectionКлючевые выводы#

Экспорт — это жизненно важный этап подготовки модели к реальному использованию в различных средах. С Ultralytics Platform этот процесс становится намного проще, позволяя преобразовывать и оптимизировать модели без дополнительной настройки или сложности. Выбирая правильный формат для своей задачи, ты можешь быть уверен, что твоя модель будет работать эффективно везде, где бы ты её ни развернул.

Присоединяйся к нашему растущему сообществу и загляни в наш репозиторий на GitHub, чтобы узнать больше о компьютерном зрении. Изучи страницы с нашими решениями, чтобы узнать больше о применении ИИ в робототехнике и компьютерном зрении в логистике. Ознакомься с нашими вариантами лицензирования и начинай создавать с помощью ИИ в области зрения!