25 июня 2025 г.
Узнайте, как экспортировать и развертывать модели Ultralytics YOLO11 с интеграцией MNN для быстрого вывода на мобильных, встроенных и маломощных платформах.
В настоящее время инновации в области ИИ вышли за рамки сред удаленных серверов. Решения ИИ интегрируются в периферийные устройства, такие как датчики и смартфоны. Благодаря этому технологическому сдвигу данные теперь можно обрабатывать непосредственно там, где они генерируются, что обеспечивает более быстрые ответы, повышенную конфиденциальность и снижение зависимости от постоянного подключения к облаку.
В результате периферийный ИИ набирает обороты во многих отраслях. Ожидается, что к 2031 году объем рынка программного обеспечения для периферийного ИИ достигнет 8,88 миллиарда долларов, поскольку все больше систем переходят к более быстрой и локальной обработке.
В частности, компьютерное зрение, раздел ИИ, который фокусируется на понимании изображений и видео, быстро внедряется на периферии. От подсчета продуктов питания во время их упаковки до помощи транспортным средствам в обнаружении пешеходов, компьютерное зрение поддерживает бесчисленное множество практических применений в различных секторах.
Это стало возможным благодаря моделям компьютерного зрения. Например, Ultralytics YOLO11 — это модель, которая поддерживает различные задачи Vision AI, такие как обнаружение объектов, сегментация экземпляров, отслеживание объектов и оценка позы. Она разработана для обеспечения скорости и эффективности и хорошо работает на устройствах с ограниченными аппаратными ресурсами.
В дополнение к пригодности для развертывания на периферии, благодаря различным интеграциям, поддерживаемым Ultralytics, YOLO11 может быть экспортирована в различные форматы, подходящие для различных аппаратных сред.
Одним из наиболее эффективных вариантов является MNN (Mobile Neural Network) — легкий механизм логического вывода, разработанный для устройств с низким уровнем ресурсов. Экспорт YOLO11 в MNN позволяет запускать его непосредственно на мобильных телефонах, встроенных системах и других периферийных платформах, где важна быстрая обработка на устройстве.
В этой статье мы рассмотрим, как работает интеграция MNN, выделим распространенные варианты использования и рассмотрим, как начать выполнение выводов с использованием экспортированной модели YOLO11. Начнем!
Запуск моделей компьютерного зрения на небольших устройствах, таких как мобильные телефоны, промышленные датчики и портативные системы, не всегда прост. Эти устройства часто имеют ограниченный объем памяти, более медленные процессоры и строгие ограничения по энергопотреблению.
Mobile Neural Network, или MNN, — это легкий и высокопроизводительный механизм инференса, разработанный Alibaba для эффективной работы моделей ИИ на оборудовании с низкими ресурсами при сохранении производительности в реальном времени. MNN поддерживает широкий спектр платформ, включая Android, iOS и Linux, и работает на различных типах оборудования, таких как центральные процессоры (CPU) и графические процессоры (GPU).
Интеграция MNN, поддерживаемая Ultralytics, позволяет легко экспортировать модели YOLO11 в формат MNN. Проще говоря, это означает, что модели можно преобразовать из формата YOLO в MNN.
После преобразования их можно развернуть на устройствах, поддерживающих фреймворк MNN, для эффективного логического вывода на устройстве. Ключевым преимуществом использования формата MNN является то, что он упрощает развертывание YOLO11 в сценариях, где размер, скорость и эффективность использования ресурсов имеют решающее значение.
Прежде чем мы углубимся в то, как использовать интеграцию MNN, давайте посмотрим, что делает фреймворк MNN отличным выбором для запуска моделей ИИ на реальных устройствах. Он создан для обработки уникальных ограничений периферийных сред, обеспечивая при этом быструю и надежную работу.
Интересно, что MNN используется внутри Alibaba в более чем 30 приложениях, включая Taobao, Tmall, Youku, DingTalk и Xianyu, в широком спектре сценариев, таких как прямая трансляция видео, короткий контент, поиск изображений и проверки безопасности на устройстве. Он поддерживает крупномасштабное развертывание и выполняет миллионы выводов в день в производственной среде.
Вот некоторые из ключевых особенностей фреймворка MNN:
Далее давайте рассмотрим, как экспортировать модели YOLO11 в формат MNN.
Первый шаг — установить Python-пакет Ultralytics, который предоставляет все необходимое для экспорта моделей YOLO11 в формат MNN. Вы можете сделать это, запустив "pip install ultralytics" в своем терминале или используя командную строку. Если вы используете Jupyter Notebook или Google Colab, добавьте восклицательный знак перед командой.
Если у вас возникнут какие-либо проблемы во время установки, обратитесь к руководству по распространенным проблемам для получения советов по устранению неполадок.
После настройки среды вы можете загрузить предварительно обученную модель YOLO11, такую как "yolo11n.pt", и экспортировать ее в формат MNN, как показано в фрагменте кода ниже. Если вы обучили свою собственную пользовательскую модель YOLO11, вы можете экспортировать ее, просто заменив имя файла путем к вашей модели.
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="mnn")После преобразования вашей модели в MNN вы можете использовать ее на различных мобильных и встроенных платформах в зависимости от потребностей вашего приложения.
Например, предположим, вы хотите протестировать экспортированную модель на видео с дорожным движением. В этом случае вы можете загрузить модель YOLO11 в формате MNN, чтобы обнаруживать объекты, такие как транспортные средства, пешеходы и дорожные знаки, непосредственно на устройстве, как показано в примере ниже.
mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)Когда вывод завершен, выходное видео с обнаруженными объектами автоматически сохраняется в папке 'runs/detect/predict'. Кроме того, если вы хотите запустить вывод непосредственно с помощью пакета MNN Python, вы можете ознакомиться с официальной документацией Ultralytics для получения более подробной информации и примеров.
Развертывание YOLO11 с MNN обеспечивает быстрое и эффективное выполнение задач компьютерного зрения, таких как обнаружение объектов, в средах, где облачная обработка нецелесообразна или невозможна. Давайте посмотрим, насколько эта интеграция может быть полезна в реальных сценариях.
Приложения для идентификации болезней растений, использующие классификацию изображений, набирают популярность среди садоводов, исследователей и любителей природы. С помощью всего лишь одной фотографии пользователи могут быстро выявить ранние признаки заболевания, такие как пятна на листьях или изменение цвета. Поскольку эти приложения часто используются на открытом воздухе, где доступ к Интернету может быть ограничен или недоступен, использование облачной обработки может быть ненадежным.
После обучения модель YOLO11 можно экспортировать в формат MNN и запускать непосредственно на мобильных устройствах. Затем модель может классифицировать виды растений и обнаруживать видимые симптомы заболеваний локально, без отправки каких-либо данных на сервер.
Точное отслеживание посылок имеет важное значение на загруженных производственных линиях на производственных предприятиях. YOLO11 можно использовать для отслеживания и подсчета каждого элемента по мере его перемещения по ключевым контрольным точкам, обновляя счетчики в режиме реального времени и отмечая любые расхождения. Это помогает сократить количество пропущенных или неучтенных поставок и обеспечивает более плавную и надежную работу.
Интеграция MNN может быть особенно эффективной в этом контексте. После экспорта модели YOLO11 в формат MNN она может работать непосредственно на компактных устройствах с низким энергопотреблением, установленных вдоль конвейера.
Поскольку вся обработка происходит локально, система может обеспечивать мгновенную обратную связь и не требует подключения к Интернету. Это обеспечивает быструю и надежную работу в производственном цеху, поддерживая эффективное производство при сохранении высокой точности и контроля.
Вот некоторые ключевые преимущества интеграции MNN, предоставляемой Ultralytics:
Прежде чем выбрать MNN в качестве фреймворка для развертывания, также важно оценить, насколько хорошо он соответствует требованиям вашего проекта, целям развертывания и техническим ограничениям. Вот некоторые ключевые факторы, которые следует учитывать:
Поддержка MNN интеграции в Ultralytics упрощает экспорт моделей YOLO11 для использования на мобильных и встроенных устройствах. Это практичный вариант для приложений, требующих быстрого и надежного обнаружения без зависимости от облачного доступа или постоянного подключения.
Такая настройка помогает оптимизировать развертывание, сохраняя при этом производительность и низкие требования к ресурсам. Независимо от того, создаете ли вы системы умного дома, полевые инструменты или компактные промышленные устройства, экспорт YOLO11 в MNN обеспечивает гибкий и эффективный способ выполнения задач компьютерного зрения непосредственно на периферийных устройствах.
Присоединяйтесь к нашему растущему сообществу! Изучите наш репозиторий GitHub, чтобы глубже погрузиться в ИИ. Готовы начать свои проекты в области компьютерного зрения? Ознакомьтесь с нашими вариантами лицензирования. Узнайте больше об ИИ в здравоохранении и компьютерном зрении в розничной торговле на страницах с нашими решениями!
.webp)