С помощью Ultralytics можно легко экспортировать модели искусственного интеллекта для машинного зрения. Узнайте, как всего за несколько кликов подготовить модели к развертыванию на периферийных устройствах, мобильных устройствах и в облаке.
В прошлом месяце мы запустили Ultralytics — единое рабочее пространство, призванное упростить весь рабочий процесс в области компьютерного зрения. Она объединяет ключевые функции искусственного интеллекта в области компьютерного зрения, включая управление наборами данных, аннотирование, обучение моделей, тестирование, развертывание и мониторинг, в едином удобном интерфейсе.
В рамках этого комплексного рабочего процесса развертывание играет ключевую роль в переходе моделей от экспериментальной стадии к практическому применению. Ранее мы рассмотрели различные варианты развертывания, доступные на платформе, включая совместное выполнение инференции через API, выделенные конечные точки для масштабируемого развертывания в производственной среде, а также экспорт моделей для запуска на периферийных устройствах или внешней инфраструктуре.
Теперь давайте подробнее рассмотрим экспорт моделей и то, как он способствует их развертыванию в различных средах. В отличие от общих ресурсов для инференса и выделенных конечных точек, которые выполняют модели в инфраструктуре, Ultralytics , экспорт моделей позволяет развертывать и запускать модели во внешних средах, таких как периферийные устройства, мобильные приложения и пользовательская инфраструктура.
Прежде чем модели смогут работать в этих средах, их необходимо преобразовать в форматы, поддерживаемые целевой средой выполнения. Каждая конфигурация развертывания имеет свои собственные требования: от облегченных форматов для мобильных устройств и периферийных устройств до высокопроизводительных форматов для облачных систем и систем GPU.
Обычно этот процесс может занимать много времени и требует использования скриптов, учета зависимостей и нескольких инструментов. С Ultralytics экспорт становится гораздо проще. Модели можно конвертировать и оптимизировать всего за несколько кликов, без дополнительной настройки.
В этой статье мы расскажем, что такое экспорт модели, какие форматы поддерживает Ultralytics и как выбрать подходящий формат для вашего конкретного случая. Приступим!
Экспорт модели подразумевает преобразование предварительно обученной или настроенной пользователем модели в формат, пригодный для использования за пределами исходной среды. YOLO Ultralytics YOLO создаются с использованием PyTorch хранятся в собственном формате, который хорошо подходит для обучения, оценки и экспериментов в PyTorch .
Однако среды развертывания часто отличаются по средам выполнения и аппаратным требованиям. В связи с этим формат, используемый во время обучения, не всегда подходит для развертывания.
Например, мобильному приложению может потребоваться облегченный формат, оптимизированный для низкого энергопотребления, в то время как браузерному приложению нужен формат, который эффективно работает в веб-среде.
Периферийные устройства, такие как камеры и встроенные системы, требуют компактных и быстрых моделей, тогда как облачные системы рассчитаны на высокопроизводительную инференцию. Для поддержки этих различных сценариев модели необходимо экспортировать в совместимые форматы.
Сегодня модели компьютерного зрения внедряются ближе к месту генерации данных, в частности на периферийных устройствах. На смартфонах запускаются приложения компьютерного зрения, работающие в режиме реального времени, камеры видеонаблюдения осуществляют мониторинг непосредственно на устройстве, а автономные системы полагаются на мгновенное принятие решений.
Однако развертывание в таких средах сопряжено с рядом сложностей. Пограничные устройства отличаются ограниченной вычислительной мощностью, строгими требованиями к задержке, а также ограничениями по объему памяти и энергопотреблению. Модель, демонстрирующая хорошие результаты при обучении в условиях достаточного объема ресурсов, может работать неэффективно в этих ограниченных условиях.
Экспорт модели в подходящий формат может помочь решить эти проблемы. Благодаря правильному преобразованию модели её можно оптимизировать с точки зрения скорости, уменьшить размер и обеспечить совместимость с конкретным оборудованием.
В то же время экспорт обеспечивает гибкость. Одну и ту же модель можно адаптировать для различных сред развертывания, преобразуя её в несколько форматов в соответствии с конкретными требованиями.
Например, форматNCNN оптимизирован для мобильных устройств и периферийных устройств с низким потреблением ресурсов. В то же время OpenVINO разработан специально для Intel и обеспечивает более высокую производительность на центральных процессорах (CPU), графических процессорах (GPU) и нейронных процессорах (NPU).
В большинстве случаев для достижения такого уровня гибкости приходилось сталкиваться с ручным преобразованием данных, зависимостями и множеством инструментов, что делало процесс трудоемким и сложным. Ultralytics оптимизирует этот рабочий процесс, делая экспорт моделей более доступным и простым в управлении.
Как правило, экспорт модели рассматривается как отдельный и сложный этап в рабочих процессах компьютерного зрения. Ultralytics меняет эту ситуацию, интегрировав возможность экспорта модели непосредственно в единое рабочее пространство, которое охватывает все этапы — от обучения до развертывания.
Одно из его ключевых преимуществ — возможность экспорта без написания кода. Не требуется писать скрипты, управлять средами или использовать команды, специфичные для конкретных фреймворков. Модели можно экспортировать всего за несколько кликов через удобный интерфейс.
За кулисами платформа берет на себя всю тяжелую работу. Задачи, для выполнения которых обычно требуется множество инструментов и ручная настройка, объединены в единый процесс. Вам не нужно устанавливать дополнительные зависимости или решать проблемы с совместимостью, что значительно упрощает переход от обученной модели к готовому к использованию решению.
Ultralytics поддерживает 17 форматов экспорта, что позволяет без лишних сложностей подготавливать модели для широкого спектра сред развертывания.
Ниже приводится обзор некоторых наиболее распространенных форматов экспорта:
Экспорт модели на Ultralytics — это простой процесс, осуществляемый через пользовательский интерфейс. Весь рабочий процесс осуществляется через интерфейс, без использования скриптов или инструментов командной строки.
Вот как можно экспортировать модель с помощью платформы:
Изучая различные форматы экспорта, поддерживаемые Ultralytics , вы, возможно, зададитесь вопросом, какой из них выбрать. Ответ на этот вопрос зависит от того, где и как вы планируете использовать свою модель.
Вот несколько факторов, которые следует учитывать:
Универсального формата не существует. Всё сводится к поиску оптимального баланса между производительностью, совместимостью и ограничениями вашей целевой среды. Ultralytics упрощает эту задачу, позволяя без лишних усилий тестировать и сравнивать различные форматы.
Экспорт — это важнейший этап подготовки модели к практическому применению в различных средах. С помощью Ultralytics этот процесс значительно упрощается: вы можете конвертировать и оптимизировать модели без дополнительных настроек и лишних сложностей. Выбрав подходящий формат для вашего конкретного случая, вы обеспечите эффективную работу модели в любой среде, где она будет развернута.
Присоединяйтесь к нашему растущему сообществу и посетите наш репозиторий на GitHub, чтобы узнать больше о компьютерном зрении. Ознакомьтесь со страницами, посвященными нашим решениям, чтобы узнать больше о таких областях применения, как ИИ в робототехнике и компьютерное зрение в логистике. Ознакомьтесь с нашими вариантами лицензирования и начните создавать решения с помощью ИИ для компьютерного зрения!
Начните свой путь в будущее машинного обучения
