Экспорт Ultralytics YOLO11 с помощью интеграции PaddlePaddle

По мере развития искусственного интеллекта (ИИ) машины все лучше понимают окружающий мир. Ключевым направлением этого прогресса является компьютерное зрение — отрасль ИИ, позволяющая машинам интерпретировать визуальные данные и принимать на их основе решения.

Компьютерное зрение стало частью многих повседневных инструментов: от помощи автомобилям в распознавании дорожных знаков до проверки полок в розничных магазинах. Эти задачи основаны на моделях ИИ, способных быстро сканировать фото или видео и определять, что является важным.

Со временем эти модели стали быстрее и точнее, что делает их полезными в таких областях, как сельское хозяйство, здравоохранение, безопасность и розничная торговля. Например, Ultralytics YOLO11 — это модель, созданная для решения широкого спектра задач компьютерного зрения со скоростью и точностью. Она может обнаруживать и классифицировать объекты, отслеживать движение и оценивать позы тела.

Важнейшей частью внедрения компьютерного зрения из исследований в реальные приложения является развертывание. После того как модель обучена, следующий шаг — запуск на таких устройствах, как телефоны, периферийное оборудование или облачные серверы.

Рис. 1. Развертывание модели — ключевая часть любого проекта по компьютерному зрению.

Для поддержки этого модели Ultralytics YOLO, такие как YOLO11, можно экспортировать в различные форматы в зависимости от целевой платформы. Один из таких форматов — PaddlePaddle, фреймворк ИИ с открытым исходным кодом, который обеспечивает эффективное развертывание моделей и инференс на широком спектре устройств и систем.

В этой статье мы рассмотрим, как Ultralytics YOLO11 можно экспортировать с помощью интеграции PaddlePaddle, поддерживаемой Ultralytics, для обеспечения эффективного развертывания на различных платформах.

Link to this sectionЧто такое PaddlePaddle?#

Развертывание моделей ИИ вне исследовательских сред, например на мобильных устройствах или периферийном оборудовании, иногда бывает сложной задачей, особенно когда тебе нужно, чтобы они работали эффективно и потребляли минимум ресурсов. PaddlePaddle — это фреймворк глубокого обучения, разработанный именно для этих целей.

Это китайская платформа с открытым исходным кодом, название которой расшифровывается как Parallel Distributed Deep Learning. Разработанная компанией Baidu, хорошо известной своей работой в области ИИ и программной инфраструктуры, PaddlePaddle была создана специально для реальных приложений, а не только для исследований.

Разработчики могут запускать модели в формате PaddlePaddle на серверах, периферийных устройствах и даже мобильном оборудовании. Платформа также поддерживает инструменты, упрощающие разработку ИИ, включая варианты с низким уровнем кодирования (low-code) и без него (no-code). У платформы сильное сообщество разработчиков, насчитывающее более 4,7 миллиона пользователей, и она используется в самых разных отраслях, включая здравоохранение, сельское хозяйство, производство и финансы.

Link to this sectionОсновные возможности PaddlePaddle#

Вот некоторые ключевые особенности, которые помогают PaddlePaddle запускать модели более эффективно на реальных устройствах:

• Преобразование динамического графа в статический: Эта функция превращает гибкую модель в фиксированную версию, которая работает более плавно и предсказуемо. Фиксированную модель легче оптимизировать, и она быстрее делает прогнозы.
• Слияние операторов: PaddlePaddle может объединять несколько этапов модели в один. Это сокращает объем используемой моделью памяти и помогает ей работать быстрее. Представь это как объединение нескольких задач в одно действие для экономии времени.
• Квантование: делает модель меньше за счет использования более простых чисел (например, округления до меньшего количества десятичных знаков). Это помогает модели работать на устройствах с ограниченной мощностью, таких как телефоны или умные камеры, без значительной потери точности.

Рис. 2. Преимущества использования PaddlePaddle. Изображение автора.

Link to this sectionОбзор развертывания YOLO11 с помощью PaddlePaddle#

Интеграция PaddlePaddle, поддерживаемая Ultralytics, упрощает переход от обучения к развертыванию. Разработчики, которые уже используют инструменты PaddlePaddle, могут легче внедрить YOLO11 в свои рабочие процессы.

Пакет Ultralytics Python поддерживает прямой экспорт моделей YOLO11 в формат PaddlePaddle, позволяя разработчикам развертывать обученные модели без дополнительных инструментов или ручных шагов преобразования.

Процесс экспорта можно выполнить с помощью командной строки или кода Python, поэтому ты можешь выбрать метод, который лучше всего подходит для твоего рабочего процесса. Это помогает поддерживать простоту и снижает вероятность проблем с настройкой. После экспорта модель можно использовать для задач компьютерного зрения, таких как обнаружение объектов, классификация изображений, оценка позы и сегментация экземпляров.

Это отличный вариант для сценариев развертывания, где устройства имеют ограниченную память или требуют быстрой обработки. Экспортированные модели оптимизированы для эффективной работы даже в системах с ограниченными ресурсами.

Link to this sectionКак экспортировать модели YOLO11 в формат PaddlePaddle#

Для экспорта YOLO11 в формат модели PaddlePaddle требуется всего несколько шагов.

Первый шаг — установить пакет Ultralytics Python с помощью менеджера пакетов, такого как pip. Для начала работы выполни команду “pip install ultralytics” в командной строке или терминале.

Пакет Ultralytics предоставляет инструменты для обучения, оценки, дообучения, экспорта и развертывания моделей для целого ряда задач компьютерного зрения. Если в процессе установки возникнут проблемы, ознакомься с руководством по общим проблемам для поиска решений.

Как только среда будет настроена, ты сможешь загрузить и экспортировать предварительно обученную модель YOLO11, такую как “yolo11n.pt”, как показано ниже. Ты также можешь экспортировать свою собственную обученную модель YOLO11.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="paddle")

После преобразования модели в формат PaddlePaddle ее можно развертывать в различных сценариях на разных типах оборудования.

Например, в приведенном ниже примере мы загружаем модель YOLO11, экспортированную в формат PaddlePaddle, и используем ее для прогнозирования. Этот процесс, известный как запуск инференса, просто означает использование модели для анализа новых данных. Здесь мы тестируем ее на изображении двух собак.

paddle_model = YOLO("./yolo11n_paddle_model")
paddle_model("https://images.pexels.com/photos/33287/dog-viszla-close.jpg", save=True)

После запуска кода выходное изображение с прогнозами модели будет автоматически сохранено в папке “runs/detect/predict”.

Рис. 3. Использование экспортированной модели YOLO11 для обнаружения объектов на изображении. Изображение автора.

Link to this sectionРазвертывание YOLO11 с использованием фреймворка PaddlePaddle#

PaddlePaddle предлагает несколько инструментов развертывания, каждый из которых подходит для разных устройств и вариантов использования, таких как облачные среды, встроенные системы и веб-приложения. Вот некоторые из основных вариантов развертывания:

• Paddle Serving: Помогает развертывать модели как REST API, что делает его хорошим выбором для облачных или серверных сред, которым требуются такие функции, как контроль версий и онлайн-тестирование.
• Paddle Inference API: Дает тебе больше контроля над тем, как работают модели, что полезно, когда нужно настроить производительность или создать пользовательскую логику приложения.
• Paddle Lite: Предназначен для облегченного развертывания на мобильных устройствах, планшетах и встроенных системах. Он оптимизирован для небольших моделей и более быстрого инференса на оборудовании с ограниченными ресурсами.
• Paddle.js: Позволяет запускать модели ИИ в веб-браузерах с использованием таких технологий, как WebGL и WebAssembly, что полезно для интерактивных демо и браузерных инструментов.

Рис. 4. Варианты развертывания, обеспечиваемые PaddlePaddle. Изображение автора.

Как только ты выберешь подходящий инструмент для своей настройки, ты сможешь загрузить экспортированную модель. Движок PaddlePaddle возьмет на себя следующие шаги. Он загрузит модель, обработает входное изображение и выдаст результаты.

Link to this sectionКогда стоит выбрать интеграцию PaddlePaddle?#

Пакет Ultralytics Python также поддерживает множество других форматов экспорта, поэтому ты можешь задаться вопросом: когда PaddlePaddle является правильным выбором?

PaddlePaddle — надежный вариант, если ты планируешь развертывать модели на устройствах с ограниченными ресурсами, таких как смартфоны, встроенные системы или периферийное оборудование. Он также отлично подходит для приложений реального времени, требующих быстрой и эффективной работы, например обнаружение объектов в мобильных приложениях, мониторинг на основе зрения в умных камерах или оценка позы, выполняемая непосредственно на устройстве без поддержки облака.

Кроме того, если проекту необходимо работать в автономном режиме или в условиях низкой связности, можешь рассмотреть возможность использования интеграции PaddlePaddle. Такие приложения, как инструменты визуального контроля на производстве, портативные устройства для полевых исследований или ИИ-сканеры в розничной торговле, могут получить выгоду от легкой среды исполнения и гибких вариантов развертывания PaddlePaddle.

Link to this sectionОграничения PaddlePaddle, которые стоит учитывать#

Хотя PaddlePaddle предлагает интересные возможности развертывания, вот некоторые ограничивающие факторы, о которых следует знать:

• Меньшее глобальное сообщество: За пределами Китая база пользователей и участников относительно невелика. Из-за этого может быть сложнее найти поддержку сообщества, решенные проблемы на GitHub или ответы на Stack Overflow.
• Более крутая кривая обучения для инструментов, не связанных с Baidu: PaddlePaddle плавно интегрируется с экосистемой Baidu, но использование его вне этого контекста может потребовать дополнительных шагов по настройке.
• Меньше интеграций с основными инструментами ML: У PaddlePaddle ограниченная совместимость с распространенными инструментами, такими как Hugging Face Transformers, MLflow или Kubernetes-нативными сервисами ИИ.

Link to this sectionОсновные выводы#

Интеграция PaddlePaddle, поддерживаемая Ultralytics, упрощает экспорт и развертывание моделей YOLO11 на ряде устройств. Это особенно полезно для проектов, требующих эффективной производительности на самом устройстве — например, мобильных приложений, умных камер или встроенных систем.

Всего за несколько шагов ты сможешь внедрить мощные модели компьютерного зрения в реальные приложения. По мере развития компьютерного зрения такие инструменты, как YOLO и PaddlePaddle, делают создание быстрых и интеллектуальных систем проще, чем когда-либо, — от потребительских устройств до промышленных инструментов.

Присоединяйся к нашему растущему сообществу уже сегодня! Погрузись глубже в ИИ, изучив наш репозиторий на GitHub. Хочешь создать свои собственные проекты по компьютерному зрению? Изучи наши варианты лицензирования. Узнай, как компьютерное зрение в здравоохранении повышает эффективность, и изучи влияние ИИ в розничной торговле, посетив страницы наших решений!