Как экспортировать модели Ultralytics YOLO с помощью Ultralytics Platform

В прошлом месяце мы запустили Ultralytics Platform — единую рабочую среду, созданную для упрощения всего рабочего процесса компьютерного зрения. Она объединяет ключевые возможности ИИ для компьютерного зрения, включая управление наборами данных, аннотирование, обучение моделей, тестирование, развертывание и мониторинг, в одном удобном интерфейсе.

Рис. 1. Обзор Ultralytics Platform (Источник)

В рамках этого сквозного рабочего процесса развертывание играет ключевую роль, помогая перейти от экспериментов с моделями к их использованию в реальных условиях. Ранее мы рассмотрели различные варианты развертывания, доступные на платформе, включая общий инференс через API, выделенные конечные точки для масштабируемого развертывания в продуктивной среде и экспорт моделей для запуска на периферийных устройствах или во внешней инфраструктуре.

Теперь подробнее рассмотрим экспорт моделей и то, как он поддерживает развертывание в различных средах. В отличие от общего инференса и выделенных конечных точек, которые выполняют модели в инфраструктуре под управлением Ultralytics Platform, экспорт моделей позволяет развертывать и запускать их во внешних средах, таких как периферийные устройства, мобильные приложения и пользовательская инфраструктура.

Прежде чем модели смогут работать в этих средах, их необходимо преобразовать в форматы, поддерживаемые целевой средой выполнения. Для каждой конфигурации развертывания предъявляются свои требования: от легковесных форматов для мобильных и периферийных устройств до высокопроизводительных форматов для облачных систем и систем на базе GPU.

Традиционно этот процесс может занимать много времени, поскольку требует скриптов, зависимостей и нескольких инструментов. С Ultralytics Platform экспорт становится значительно проще. Модели можно преобразовать и оптимизировать всего за несколько кликов без дополнительной настройки.

В этой статье мы разберем, что означает экспорт модели, какие форматы поддерживает Ultralytics Platform и как выбрать подходящий вариант для твоего сценария использования. Начнем!

Обзор экспорта модели#

Экспорт модели включает преобразование предварительно обученной или обученной на пользовательских данных модели в формат, пригодный для использования за пределами исходного фреймворка. Модели Ultralytics YOLO создаются с использованием PyTorch и хранятся в собственном формате, который хорошо подходит для обучения, оценки и экспериментов в экосистеме PyTorch.

Однако среды развертывания часто предъявляют разные требования к средам выполнения и аппаратному обеспечению. Поэтому формат, используемый во время обучения, не всегда подходит для развертывания.

Например, мобильному приложению может потребоваться легковесный формат, оптимизированный для низкого энергопотребления, а приложению на основе браузера — формат, эффективно работающий в веб-средах.

Периферийные устройства, такие как камеры и встраиваемые системы, выигрывают от компактных и быстрых моделей, тогда как облачные системы рассчитаны на высокопроизводительный инференс. Чтобы поддерживать эти различные сценарии, модели необходимо экспортировать в совместимые форматы.

Почему возможность экспорта моделей сегодня важна как никогда#

Сегодня модели компьютерного зрения развертываются ближе к месту создания данных, особенно на периферийных устройствах. Смартфоны запускают приложения компьютерного зрения в реальном времени, камеры видеонаблюдения выполняют мониторинг непосредственно на устройстве, а автономные системы полагаются на мгновенное принятие решений.

Однако развертывание в таких средах связано с рядом собственных проблем. Периферийные устройства обладают ограниченной вычислительной мощностью, предъявляют строгие требования к задержке и имеют ограничения по памяти и энергопотреблению. Модель, хорошо работающая во время обучения при наличии достаточных ресурсов, может неэффективно работать в таких ограниченных условиях.

Экспорт модели в подходящий формат помогает решить эти проблемы. При правильном преобразовании модель можно оптимизировать для повышения скорости, уменьшить ее размер и обеспечить совместимость с конкретным оборудованием.

Одновременно экспорт обеспечивает гибкость. Одну и ту же модель можно адаптировать к различным средам развертывания, преобразовав ее в несколько форматов с учетом конкретных требований.

Рис. 2. Некоторые форматы экспорта, доступные в Ultralytics Platform (Источник)

Например, формат модели NCNN оптимизирован для мобильных и периферийных устройств с низким потреблением ресурсов. В свою очередь, формат OpenVINO предназначен для оборудования Intel и обеспечивает более высокую производительность на центральных процессорах (CPUs), графических процессорах (GPUs) и нейронных процессорах (NPUs).

В большинстве случаев достижение такой гибкости требовало ручного преобразования, работы с зависимостями и использования нескольких инструментов, что делало процесс длительным и сложным. Ultralytics Platform упрощает этот рабочий процесс, делая экспорт моделей более доступным и удобным в управлении.

Как Ultralytics Platform упрощает экспорт моделей#

Обычно экспорт модели рассматривается как отдельный и сложный этап рабочего процесса компьютерного зрения. Ultralytics Platform меняет это, интегрируя возможность экспортировать модель непосредственно в единую рабочую среду, охватывающую все этапы — от обучения до развертывания.

Одно из ключевых преимуществ — экспорт без написания кода. Тебе не нужно писать скрипты, управлять средами или использовать команды, специфичные для фреймворка. Модели можно экспортировать всего за несколько кликов через простой интерфейс.

Рис. 3. Пример экспорта модели из Ultralytics Platform (Источник)

За кулисами платформа берет на себя всю сложную работу. Задачи, для которых обычно требуются несколько инструментов и ручная настройка, объединены в единый процесс. Тебе не нужно устанавливать дополнительные зависимости или разбираться с проблемами совместимости, поэтому перейти от обученной модели к готовому для продуктивной эксплуатации решению становится намного проще.

Форматы экспорта моделей, поддерживаемые Ultralytics Platform#

Ultralytics Platform поддерживает 17 форматов экспорта, позволяя легко подготовить модели для широкого спектра сред развертывания без лишних сложностей.

Вот обзор некоторых часто используемых форматов экспорта:

• Кроссплатформенность и совместимость: ONNX и TorchScript широко используются для запуска моделей в различных фреймворках и средах. ONNX служит мостом между экосистемами, упрощая перенос моделей между инструментами, а TorchScript позволяет запускать модели PyTorch в продуктивной среде без среды выполнения Python.
• Высокопроизводительный инференс на GPU: TensorRT предназначен для GPU NVIDIA и ориентирован на оптимизацию моделей для низкой задержки и высокой пропускной способности. Он поддерживает такие методы, как снижение точности и объединение слоев, для ускорения инференса, что делает его отличным выбором для приложений реального времени и крупномасштабных продуктивных систем.
• Развертывание на мобильных и периферийных устройствах: CoreML, LiteRT (TensorFlow Lite) и NCNN оптимизированы для устройств с ограниченными вычислительными ресурсами и объемом памяти. Эти форматы уменьшают размер модели и повышают эффективность, обеспечивая плавную работу на смартфонах, встраиваемых системах и периферийном оборудовании. CoreML обычно используется в экосистемах Apple, а LiteRT — на Android.
• Аппаратно-оптимизированное выполнение: OpenVINO адаптирован для оборудования Intel, включая CPU, GPU и VPU, и помогает повысить скорость и эффективность инференса на этих устройствах. Аппаратно-специфичные форматы, подобные этому, полезны, когда нужно добиться максимальной производительности от конкретной системы.
• Специализированные форматы и среды выполнения для конкретных фреймворков: такие форматы, как PaddlePaddle и ExecuTorch, поддерживают определенные экосистемы и задачи развертывания, включая эффективный запуск моделей на периферийных устройствах или интеграцию с конкретными стеками глубокого обучения.

Как экспортировать модель с помощью Ultralytics Platform#

Экспорт модели в Ultralytics Platform — это простой процесс на основе пользовательского интерфейса. Весь рабочий процесс выполняется через интерфейс без скриптов и инструментов командной строки.

Вот как можно экспортировать модель с помощью платформы:

• Войди в систему и выбери модель: Перейди в свой проект и открой обученную модель, которую хочешь экспортировать.
• Перейди на вкладку Export: На панели управления моделью нажми вкладку Export, чтобы просмотреть доступные варианты экспорта.
• Выбери формат экспорта: Выбери такой формат, как ONNX, TensorRT или CoreML, в зависимости от требований к развертыванию.
• Настрой параметры экспорта (необязательно): Измени такие параметры, как размер изображения, точность или размер пакета, чтобы оптимизировать производительность.
• Начни процесс экспорта: Нажми «Start Export», чтобы начать процесс. Платформа автоматически выполнит преобразование.
• Скачай экспортированную модель: После завершения экспорта ты сможешь скачать модель и использовать ее в своем конвейере развертывания.

Рис. 4. Настройка параметров экспорта в Ultralytics Platform

Как выбрать подходящий формат экспорта#

Изучая различные форматы экспорта, поддерживаемые Ultralytics Platform, ты можешь задуматься, какой из них выбрать. Ответ действительно зависит от того, где и как ты планируешь использовать модель.

Вот несколько факторов, которые стоит учитывать:

• Требования к задержке: Для приложений реального времени, таких как видеоаналитика или автономные системы, критически важна низкая задержка. Часто лучше подходят форматы, оптимизированные для высокопроизводительного инференса, например TensorRT.
• Ограничения оборудования: Устройства с ограниченными объемом памяти и вычислительной мощностью, такие как мобильные телефоны или встраиваемые системы, требуют легковесных форматов, например LiteRT или NCNN.
• Размер модели и энергопотребление: При работе с периферийными устройствами важны размер модели и энергопотребление. Более компактные оптимизированные модели помогают обеспечить стабильную производительность без чрезмерного расхода ресурсов.
• Среда развертывания: Если модель должна работать на разных платформах, такие форматы, как ONNX, обеспечивают гибкость. Для сценариев, связанных с конкретной платформой, например приложений для iOS, часто лучше выбрать CoreML.

Универсального формата не существует. Все сводится к балансу между производительностью, совместимостью и ограничениями целевой среды. Ultralytics Platform упрощает этот процесс, позволяя пробовать и сравнивать разные форматы без лишних усилий.

Основные выводы#

Экспорт — важный этап подготовки модели к использованию в реальных условиях и различных средах. С Ultralytics Platform этот процесс становится намного проще: ты можешь преобразовывать и оптимизировать модели без дополнительной настройки и лишней сложности. Выбрав подходящий формат для своего сценария, ты сможешь обеспечить эффективную работу модели в любой среде развертывания.

Присоединяйся к нашему растущему сообществу и загляни в наш репозиторий GitHub, чтобы узнать больше о компьютерном зрении. Посети страницы решений, чтобы больше узнать о таких применениях, как ИИ в робототехнике и компьютерное зрение в логистике. Ознакомься с нашими вариантами лицензирования и начни создавать решения с ИИ для компьютерного зрения!