Бесшовное развертывание Ultralytics YOLO11 с помощью интеграции MNN

25 июня 2025 г.
Узнайте, как экспортировать и развертывать модели Ultralytics YOLO11 с интеграцией MNN для быстрого вывода данных на мобильных, встраиваемых и маломощных платформах.

25 июня 2025 г.
Узнайте, как экспортировать и развертывать модели Ultralytics YOLO11 с интеграцией MNN для быстрого вывода данных на мобильных, встраиваемых и маломощных платформах.
В настоящее время инновации в области ИИ вышли за пределы удаленных серверных сред. Решения ИИ интегрируются в периферийные устройства, такие как датчики и смартфоны. Благодаря этому технологическому сдвигу данные теперь можно обрабатывать непосредственно там, где они генерируются, что обеспечивает более быструю реакцию, повышенную конфиденциальность и уменьшает зависимость от постоянного подключения к облаку.
В результате краевой ИИ набирает обороты во многих отраслях. Ожидается, что к 2031 году объем рынка программного обеспечения для краевого ИИ достигнет 8,88 миллиарда долларов, поскольку все больше систем будут переходить на более быструю и локальную обработку.
В частности, компьютерное зрение, отрасль искусственного интеллекта, направленная на понимание изображений и видео, быстро находит применение на периферии. От подсчета упакованных продуктов питания до помощи автомобилям в обнаружении пешеходов - компьютерное зрение поддерживает бесчисленные практические приложения в различных отраслях.
Это становится возможным благодаря моделям компьютерного зрения. Например, Ultralytics YOLO11 - это модель, которая поддерживает различные задачи ИИ в области зрения, такие как обнаружение объектов, сегментация объектов, отслеживание объектов и оценка положения. Она разработана как быстрая и эффективная и хорошо работает на устройствах с ограниченными аппаратными ресурсами.
Помимо того, что YOLO11 подходит для развертывания на границе, с помощью различных интеграций, поддерживаемых Ultralytics, его можно экспортировать в различные форматы, подходящие для различных аппаратных сред.
Один из наиболее эффективных вариантов - MNN (Mobile Neural Network), легковесный механизм вывода, разработанный для устройств с низким уровнем ресурсов. Экспорт YOLO11 в MNN позволяет запускать его непосредственно на мобильных телефонах, встраиваемых системах и других платформах, где важна быстрая обработка данных на устройстве.
В этой статье мы рассмотрим, как работает интеграция с MNN, выделим общие случаи использования и расскажем, как приступить к выполнению выводов с помощью экспортированной модели YOLO11. Давайте начнем!
Запуск моделей компьютерного зрения на небольших устройствах, таких как мобильные телефоны, промышленные датчики и портативные системы, не всегда прост. Эти устройства часто имеют ограниченный объем памяти, более медленные процессоры и жесткие ограничения по энергопотреблению.
Мобильная нейронная сеть, или MNN, - это легкий и высокопроизводительный механизм вывода, разработанный компанией Alibaba для обеспечения эффективной работы моделей искусственного интеллекта на аппаратном обеспечении с низким ресурсом, сохраняя при этом производительность в режиме реального времени. MNN поддерживает широкий спектр платформ, включая Android, iOS и Linux, и работает на различных типах оборудования, таких как центральные процессоры (CPU) и графические процессоры (GPU).
Интеграция MNN, поддерживаемая Ultralytics, позволяет легко экспортировать модели YOLO11 в формат MNN. Проще говоря, это означает, что модели могут быть преобразованы из формата YOLO в MNN.
После преобразования они могут быть развернуты на устройствах, поддерживающих фреймворк MNN, для эффективного вычисления на устройстве. Ключевое преимущество использования формата MNN заключается в том, что он упрощает развертывание YOLO11 в сценариях, где важны размер, скорость и эффективность использования ресурсов.
Прежде чем мы рассмотрим, как использовать интеграцию MNN, давайте узнаем, что делает фреймворк MNN отличным выбором для запуска моделей искусственного интеллекта на реальных устройствах. Он создан для работы с уникальными ограничениями граничных сред, обеспечивая при этом быструю и надежную производительность.
Интересно, что MNN используется внутри компании Alibaba в более чем 30 приложениях, включая Taobao, Tmall, Youku, DingTalk и Xianyu, в самых разных сценариях, таких как живое видео, короткий контент, поиск изображений и проверка безопасности на устройствах. Оно поддерживает крупномасштабное развертывание и позволяет выполнять миллионы выводов в день в производственных средах.
Вот некоторые ключевые особенности системы MNN:
Далее рассмотрим, как экспортировать модели YOLO11 в формат MNN.
Первым шагом будет установка пакета Ultralytics Python, который содержит все необходимое для экспорта моделей YOLO11 в формат MNN. Это можно сделать, выполнив команду "pip install ultralytics" в терминале или в командной строке. Если вы используете Jupyter Notebook или Google Colab, добавьте восклицательный знак перед командой.
Если во время установки возникнут какие-либо проблемы, обратитесь к руководству "Общие проблемы", чтобы получить советы по устранению неполадок.
После того как среда настроена, вы можете загрузить предварительно обученную модель YOLO11, например "yolo11n.pt", и экспортировать ее в формат MNN, как показано в приведенном ниже фрагменте кода. Если вы обучили свою собственную модель YOLO11, вы можете экспортировать ее, просто заменив имя файла на путь к вашей модели.
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="mnn")
После преобразования модели в MNN вы можете использовать ее на различных мобильных и встраиваемых платформах в зависимости от потребностей вашего приложения.
Например, предположим, что вы хотите протестировать экспортированную модель на видео с дорожным движением. В этом случае вы можете загрузить модель YOLO11 в формате MNN для обнаружения таких объектов, как транспортные средства, пешеходы и дорожные знаки, непосредственно на устройство, как показано в примере ниже.
mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)
По окончании работы выходное видео с обнаруженными объектами автоматически сохраняется в папке 'runs/detect/predict'. Кроме того, если вы хотите запустить процесс прогнозирования с помощью пакета MNN Python напрямую, вы можете ознакомиться с официальной документацией Ultralytics для получения более подробной информации и примеров.
Развертывание YOLO11 с MNN позволяет быстро и эффективно решать задачи компьютерного зрения, такие как обнаружение объектов, в условиях, когда облачная обработка нецелесообразна или невозможна. Давайте посмотрим, как эта интеграция может быть особенно полезна в реальных сценариях.
Приложения для определения болезней растений, использующие классификацию изображений, набирают популярность среди садоводов, исследователей и любителей природы. С помощью одной лишь фотографии пользователи могут быстро определить первые признаки болезни, например пятна на листьях или их обесцвечивание. Поскольку такие приложения часто используются на открытом воздухе, где доступ к интернету может быть ограничен или отсутствовать, полагаться на облачную обработку данных может быть ненадежно.
После обучения модель YOLO11 может быть экспортирована в формат MNN и запущена непосредственно на мобильных устройствах. Модель может классифицировать виды растений и обнаруживать видимые симптомы болезней на месте, не отправляя данные на сервер.
Точное отслеживание посылок необходимо на загруженных производственных линиях на предприятиях. С помощью YOLO11 можно отслеживать и подсчитывать каждый товар по мере его прохождения через ключевые контрольные точки, обновляя данные в режиме реального времени и отмечая любые несоответствия. Это помогает сократить количество пропущенных или неучтенных отправлений и способствует более плавной и надежной работе.
В этом контексте интеграция MNN может оказаться особенно полезной. После экспорта модели YOLO11 в формат MNN она может работать непосредственно на компактных устройствах с низким энергопотреблением, установленных вдоль конвейера.
Поскольку вся обработка происходит локально, система обеспечивает мгновенную обратную связь и не требует подключения к Интернету. Это гарантирует быструю и надежную работу на производстве, обеспечивая эффективное движение производства при сохранении высокой точности и контроля.
Вот некоторые ключевые преимущества интеграции MNN, предоставляемой Ultralytics:
Прежде чем выбрать MNN в качестве структуры развертывания, важно оценить, насколько она соответствует требованиям вашего проекта, целям развертывания и техническим ограничениям. Вот несколько ключевых факторов, которые следует учитывать:
Поддержка интеграции с MNN в Ultralytics позволяет легко экспортировать модели YOLO11 для использования на мобильных и встраиваемых устройствах. Это практичный вариант для приложений, где требуется быстрое и надежное обнаружение, не зависящее от облачного доступа или постоянного подключения.
Такая настройка помогает упростить развертывание при сохранении производительности и низких требованиях к ресурсам. Независимо от того, создаете ли вы системы "умного дома", полевые инструменты или компактные промышленные устройства, экспорт YOLO11 в MNN обеспечивает гибкий и эффективный способ выполнения задач компьютерного зрения непосредственно на граничных устройствах.
Присоединяйтесь к нашему растущему сообществу! Изучите наш репозиторий GitHub, чтобы глубже погрузиться в мир искусственного интеллекта. Готовы начать работу над проектами в области компьютерного зрения? Ознакомьтесь с нашими вариантами лицензирования. Узнайте больше об ИИ в здравоохранении и компьютерном зрении в розничной торговле на страницах наших решений!