Бесшовное развертывание Ultralytics YOLO11 с помощью интеграции MNN

Абирами Вина

4 мин. чтения

25 июня 2025 г.

Узнайте, как экспортировать и развертывать модели Ultralytics YOLO11 с интеграцией MNN для быстрого вывода данных на мобильных, встраиваемых и маломощных платформах.

В настоящее время инновации в области ИИ вышли за пределы удаленных серверных сред. Решения ИИ интегрируются в периферийные устройства, такие как датчики и смартфоны. Благодаря этому технологическому сдвигу данные теперь можно обрабатывать непосредственно там, где они генерируются, что обеспечивает более быструю реакцию, повышенную конфиденциальность и уменьшает зависимость от постоянного подключения к облаку.

В результате краевой ИИ набирает обороты во многих отраслях. Ожидается, что к 2031 году объем рынка программного обеспечения для краевого ИИ достигнет 8,88 миллиарда долларов, поскольку все больше систем будут переходить на более быструю и локальную обработку.

В частности, компьютерное зрение, отрасль искусственного интеллекта, направленная на понимание изображений и видео, быстро находит применение на периферии. От подсчета упакованных продуктов питания до помощи автомобилям в обнаружении пешеходов - компьютерное зрение поддерживает бесчисленные практические приложения в различных отраслях.

Это становится возможным благодаря моделям компьютерного зрения. Например, Ultralytics YOLO11 - это модель, которая поддерживает различные задачи ИИ в области зрения, такие как обнаружение объектов, сегментация объектов, отслеживание объектов и оценка положения. Она разработана как быстрая и эффективная и хорошо работает на устройствах с ограниченными аппаратными ресурсами.

Рис. 1. Обнаружение и отслеживание упаковываемых продуктов питания с помощью YOLO11(источник).

Помимо того, что YOLO11 подходит для развертывания на границе, с помощью различных интеграций, поддерживаемых Ultralytics, его можно экспортировать в различные форматы, подходящие для различных аппаратных сред. 

Один из наиболее эффективных вариантов - MNN (Mobile Neural Network), легковесный механизм вывода, разработанный для устройств с низким уровнем ресурсов. Экспорт YOLO11 в MNN позволяет запускать его непосредственно на мобильных телефонах, встраиваемых системах и других платформах, где важна быстрая обработка данных на устройстве.

В этой статье мы рассмотрим, как работает интеграция с MNN, выделим общие случаи использования и расскажем, как приступить к выполнению выводов с помощью экспортированной модели YOLO11. Давайте начнем!

Обзор MNN: Фреймворк глубокого обучения

Запуск моделей компьютерного зрения на небольших устройствах, таких как мобильные телефоны, промышленные датчики и портативные системы, не всегда прост. Эти устройства часто имеют ограниченный объем памяти, более медленные процессоры и жесткие ограничения по энергопотреблению. 

Мобильная нейронная сеть, или MNN, - это легкий и высокопроизводительный механизм вывода, разработанный компанией Alibaba для обеспечения эффективной работы моделей искусственного интеллекта на аппаратном обеспечении с низким ресурсом, сохраняя при этом производительность в режиме реального времени. MNN поддерживает широкий спектр платформ, включая Android, iOS и Linux, и работает на различных типах оборудования, таких как центральные процессоры (CPU) и графические процессоры (GPU).

Рис. 2. Вид на структуру MNN(Источник).

Интеграция MNN, поддерживаемая Ultralytics, позволяет легко экспортировать модели YOLO11 в формат MNN. Проще говоря, это означает, что модели могут быть преобразованы из формата YOLO в MNN. 

После преобразования они могут быть развернуты на устройствах, поддерживающих фреймворк MNN, для эффективного вычисления на устройстве. Ключевое преимущество использования формата MNN заключается в том, что он упрощает развертывание YOLO11 в сценариях, где важны размер, скорость и эффективность использования ресурсов.

Ключевые особенности бэкенда для вывода MNN

Прежде чем мы рассмотрим, как использовать интеграцию MNN, давайте узнаем, что делает фреймворк MNN отличным выбором для запуска моделей искусственного интеллекта на реальных устройствах. Он создан для работы с уникальными ограничениями граничных сред, обеспечивая при этом быструю и надежную производительность.

Интересно, что MNN используется внутри компании Alibaba в более чем 30 приложениях, включая Taobao, Tmall, Youku, DingTalk и Xianyu, в самых разных сценариях, таких как живое видео, короткий контент, поиск изображений и проверка безопасности на устройствах. Оно поддерживает крупномасштабное развертывание и позволяет выполнять миллионы выводов в день в производственных средах.

Вот некоторые ключевые особенности системы MNN:

  • Автоматический выбор бэкэнда: MNN может автоматически выбирать наиболее подходящий бэкэнд выполнения, например CPU или GPU, в зависимости от аппаратного обеспечения, на котором он работает.
  • Многопоточное выполнение: Поддерживает многопоточность, позволяя использовать все преимущества многоядерных процессоров для более быстрого вывода.
  • Поддерживает квантование модели: Позволяет значительно уменьшить размер модели с помощью квантования FP16 или INT8, что способствует повышению скорости вывода при использовании меньшего объема памяти.
  • Легкий и быстрый: MNN занимает очень мало места: основная библиотека составляет около 400 КБ на Android и около 5 МБ на iOS, что делает его идеальным для мобильных и встраиваемых устройств.

Понимание того, как работает интеграция MNN

Далее рассмотрим, как экспортировать модели YOLO11 в формат MNN.

Первым шагом будет установка пакета Ultralytics Python, который содержит все необходимое для экспорта моделей YOLO11 в формат MNN. Это можно сделать, выполнив команду "pip install ultralytics" в терминале или в командной строке. Если вы используете Jupyter Notebook или Google Colab, добавьте восклицательный знак перед командой.

Если во время установки возникнут какие-либо проблемы, обратитесь к руководству "Общие проблемы", чтобы получить советы по устранению неполадок.

После того как среда настроена, вы можете загрузить предварительно обученную модель YOLO11, например "yolo11n.pt", и экспортировать ее в формат MNN, как показано в приведенном ниже фрагменте кода. Если вы обучили свою собственную модель YOLO11, вы можете экспортировать ее, просто заменив имя файла на путь к вашей модели.

from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="mnn")

После преобразования модели в MNN вы можете использовать ее на различных мобильных и встраиваемых платформах в зависимости от потребностей вашего приложения.

Например, предположим, что вы хотите протестировать экспортированную модель на видео с дорожным движением. В этом случае вы можете загрузить модель YOLO11 в формате MNN для обнаружения таких объектов, как транспортные средства, пешеходы и дорожные знаки, непосредственно на устройство, как показано в примере ниже.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

По окончании работы выходное видео с обнаруженными объектами автоматически сохраняется в папке 'runs/detect/predict'. Кроме того, если вы хотите запустить процесс прогнозирования с помощью пакета MNN Python напрямую, вы можете ознакомиться с официальной документацией Ultralytics для получения более подробной информации и примеров.

Рис. 3. Анализ трафика с помощью модели YOLO11, экспортированной в формат MNN. Изображение автора.

Примеры развертывания моделей искусственного интеллекта на границе с помощью YOLO11 и MNN

Развертывание YOLO11 с MNN позволяет быстро и эффективно решать задачи компьютерного зрения, такие как обнаружение объектов, в условиях, когда облачная обработка нецелесообразна или невозможна. Давайте посмотрим, как эта интеграция может быть особенно полезна в реальных сценариях.

Мобильный краевой ИИ для идентификации болезней растений

Приложения для определения болезней растений, использующие классификацию изображений, набирают популярность среди садоводов, исследователей и любителей природы. С помощью одной лишь фотографии пользователи могут быстро определить первые признаки болезни, например пятна на листьях или их обесцвечивание. Поскольку такие приложения часто используются на открытом воздухе, где доступ к интернету может быть ограничен или отсутствовать, полагаться на облачную обработку данных может быть ненадежно.

После обучения модель YOLO11 может быть экспортирована в формат MNN и запущена непосредственно на мобильных устройствах. Модель может классифицировать виды растений и обнаруживать видимые симптомы болезней на месте, не отправляя данные на сервер. 

Рис. 4. Пример использования YOLO11 для обнаружения признаков ржавчины (болезни растений) на листе(Источник).

Эффективные выводы на устройствах в производстве

Точное отслеживание посылок необходимо на загруженных производственных линиях на предприятиях. С помощью YOLO11 можно отслеживать и подсчитывать каждый товар по мере его прохождения через ключевые контрольные точки, обновляя данные в режиме реального времени и отмечая любые несоответствия. Это помогает сократить количество пропущенных или неучтенных отправлений и способствует более плавной и надежной работе.

Рис. 5. Отслеживание и подсчет пакетов с помощью YOLO11(источник).

В этом контексте интеграция MNN может оказаться особенно полезной. После экспорта модели YOLO11 в формат MNN она может работать непосредственно на компактных устройствах с низким энергопотреблением, установленных вдоль конвейера. 

Поскольку вся обработка происходит локально, система обеспечивает мгновенную обратную связь и не требует подключения к Интернету. Это гарантирует быструю и надежную работу на производстве, обеспечивая эффективное движение производства при сохранении высокой точности и контроля.

Преимущества экспорта YOLO11 в формат модели MNN

Вот некоторые ключевые преимущества интеграции MNN, предоставляемой Ultralytics:

  • Более быстрое время отклика: Так как анализ выполняется на устройстве, предсказания происходят в реальном времени с минимальной задержкой.
  • Улучшенный конфиденциальность данных: Данные остаются на устройстве, что снижает необходимость отправки конфиденциальных изображений или видео в облако.
  • С открытым исходным кодом и активной поддержкой: Поддерживаемая компанией Alibaba и активным сообществом, MNN надежна и регулярно обновляется, улучшая производительность.

Факторы, которые необходимо учитывать при использовании системы MNN

Прежде чем выбрать MNN в качестве структуры развертывания, важно оценить, насколько она соответствует требованиям вашего проекта, целям развертывания и техническим ограничениям. Вот несколько ключевых факторов, которые следует учитывать:

  • Постоянная совместимость: Обновления фреймворка или изменения в целевых платформах могут потребовать повторного тестирования или корректировки, чтобы все работало без сбоев.
  • Меньше инструментов для отладки: По сравнению с более крупными фреймворками, MNN имеет более ограниченные инструменты для отладки и проверки поведения модели, что может затруднить устранение неполадок.
  • Производительность зависит от аппаратного обеспечения: Скорость и эффективность вашей модели зависит от устройства. Протестируйте целевое оборудование, чтобы убедиться, что оно соответствует вашим целям по производительности.

Основные выводы

Поддержка интеграции с MNN в Ultralytics позволяет легко экспортировать модели YOLO11 для использования на мобильных и встраиваемых устройствах. Это практичный вариант для приложений, где требуется быстрое и надежное обнаружение, не зависящее от облачного доступа или постоянного подключения.

Такая настройка помогает упростить развертывание при сохранении производительности и низких требованиях к ресурсам. Независимо от того, создаете ли вы системы "умного дома", полевые инструменты или компактные промышленные устройства, экспорт YOLO11 в MNN обеспечивает гибкий и эффективный способ выполнения задач компьютерного зрения непосредственно на граничных устройствах.

Присоединяйтесь к нашему растущему сообществу! Изучите наш репозиторий GitHub, чтобы глубже погрузиться в мир искусственного интеллекта. Готовы начать работу над проектами в области компьютерного зрения? Ознакомьтесь с нашими вариантами лицензирования. Узнайте больше об ИИ в здравоохранении и компьютерном зрении в розничной торговле на страницах наших решений!

Давайте вместе построим будущее
искусственного интеллекта!

Начните свое путешествие в будущее машинного обучения

Начните бесплатно
Ссылка копируется в буфер обмена