Экспорт Ultralytics YOLO11 с помощью интеграции PaddlePaddle

По мере развития искусственного интеллекта (ИИ) машины всё лучше понимают окружающий мир. Одна из ключевых областей, стимулирующих этот прогресс, — это computer vision, ветвь ИИ, которая позволяет машинам интерпретировать визуальные данные и принимать решения на их основе.

Компьютерное зрение стало частью многих повседневных инструментов: от помощи автомобилям в распознавании дорожных знаков до проверки полок в розничных магазинах. Эти задачи основаны на моделях ИИ, способных быстро сканировать фото или видео и определять, что является важным.

Со временем эти модели стали быстрее и точнее, что делает их полезными в таких областях, как сельское хозяйство, здравоохранение, безопасность и розничная торговля. Например, Ultralytics YOLO11 — это модель, созданная для решения различных задач computer vision быстро и с высокой точностью. Она умеет обнаруживать и классифицировать объекты, отслеживать движения и оценивать позы.

Важнейшей частью внедрения компьютерного зрения из исследований в реальные приложения является развертывание. После того как модель обучена, следующий шаг — запуск на таких устройствах, как телефоны, периферийное оборудование или облачные серверы.

Рис. 1. Развертывание модели — ключевая часть любого проекта по компьютерному зрению.

Для поддержки этого Ultralytics YOLO models, такие как YOLO11, можно экспортировать в различные форматы в зависимости от целевой платформы. Один из таких форматов — PaddlePaddle, фреймворк ИИ с открытым исходным кодом, который обеспечивает эффективное развертывание моделей и инференс на самых разных устройствах и системах.

В этой статье мы рассмотрим, как можно экспортировать Ultralytics YOLO11 с помощью PaddlePaddle integration, поддерживаемой Ultralytics, для эффективного развертывания на различных платформах.

Что такое PaddlePaddle?#

Развертывание моделей ИИ вне исследовательских сред, например на мобильных устройствах или периферийном оборудовании, порою бывает непростой задачей, особенно когда требуется их эффективная работа с минимальным потреблением ресурсов. PaddlePaddle — это deep learning framework, созданный как раз для этого.

Это китайская платформа с открытым исходным кодом, название которой расшифровывается как Parallel Distributed Deep Learning. Разработанная компанией Baidu, хорошо известной своей работой в области ИИ и программной инфраструктуры, PaddlePaddle была создана специально для реальных приложений, а не только для исследований.

Разработчики могут запускать модели в формате PaddlePaddle на серверах, периферийных устройствах и даже мобильном оборудовании. Платформа также поддерживает инструменты, упрощающие разработку ИИ, включая варианты с низким уровнем кодирования (low-code) и без него (no-code). У платформы сильное сообщество разработчиков, насчитывающее более 4,7 миллиона пользователей, и она используется в самых разных отраслях, включая здравоохранение, сельское хозяйство, производство и финансы.

Основные возможности PaddlePaddle#

Вот некоторые ключевые особенности, которые помогают PaddlePaddle запускать модели более эффективно на реальных устройствах:

• Преобразование динамического графа в статический: Эта функция превращает гибкую модель в фиксированную версию, которая работает более плавно и предсказуемо. Фиксированную модель легче оптимизировать, и она быстрее делает прогнозы.
• Слияние операторов: PaddlePaddle может объединять несколько этапов модели в один. Это сокращает объем используемой моделью памяти и помогает ей работать быстрее. Представь это как объединение нескольких задач в одно действие для экономии времени.
• Quantization: делает модель компактнее за счет использования более простых чисел (например, округления до меньшего числа знаков после запятой). Это помогает модели работать на устройствах с ограниченной мощностью, таких как телефоны или умные камеры, без существенной потери точности.

Рис. 2. Преимущества использования PaddlePaddle. Изображение автора.

Обзор развертывания Ultralytics YOLO11 с помощью PaddlePaddle#

Интеграция PaddlePaddle, поддерживаемая Ultralytics, упрощает переход от обучения к развертыванию. Разработчики, которые уже используют инструменты PaddlePaddle, могут легче внедрить YOLO11 в свои рабочие процессы.

Пакет Python от Ultralytics поддерживает прямой экспорт моделей YOLO11 в формат PaddlePaddle, позволяя разработчикам развертывать trained models без дополнительных инструментов и шагов ручного преобразования.

Процесс экспорта можно выполнить через командную строку или с помощью кода Python, поэтому ты можешь выбрать метод, который лучше всего подходит для твоего рабочего процесса. Это помогает упростить задачу и снизить вероятность проблем с настройкой. После экспорта модель можно использовать для computer vision tasks, таких как обнаружение объектов, классификация изображений, оценка поз и сегментация экземпляров.

Это отличный вариант для сценариев развертывания, где устройства имеют ограниченную память или требуют быстрой обработки. Экспортированные модели оптимизированы для эффективной работы даже в системах с ограниченными ресурсами.

Как экспортировать модели Ultralytics YOLO11 в формат PaddlePaddle#

Экспорт Ultralytics YOLO11 в формат модели PaddlePaddle занимает всего несколько шагов.

Первый шаг — установить Ultralytics Python package с помощью менеджера пакетов вроде pip. Для этого запусти команду "pip install ultralytics" в командной строке или терминале, чтобы начать работу.

Пакет Ultralytics предоставляет инструменты для обучения, оценки, дообучения, экспорта и развертывания моделей для самых разных задач computer vision. Если у тебя возникнут какие-либо проблемы во время установки, загляни в Common Issues guide за советами по устранению неполадок.

Как только среда будет настроена, ты сможешь загрузить и экспортировать предварительно обученную модель YOLO11, такую как “yolo11n.pt”, как показано ниже. Ты также можешь экспортировать свою собственную обученную модель YOLO11.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="paddle")

После преобразования модели в формат PaddlePaddle ее можно развертывать в различных сценариях на разных типах оборудования.

Например, в примере ниже мы загружаем модель Ultralytics YOLO11, экспортированную в формат PaddlePaddle, и используем её для выполнения предсказания. Этот процесс, известный как запуск инференса, означает просто использование модели для анализа новых данных. Здесь мы тестируем её на изображении с двумя собаками.

paddle_model = YOLO("./yolo11n_paddle_model")
paddle_model("https://images.pexels.com/photos/33287/dog-viszla-close.jpg", save=True)

После запуска кода выходное изображение с прогнозами модели будет автоматически сохранено в папке “runs/detect/predict”.

Рис. 3. Использование экспортированной модели Ultralytics YOLO11 для обнаружения объектов на изображении. Изображение автора.

Развертывание Ultralytics YOLO11 с использованием фреймворка PaddlePaddle#

PaddlePaddle предлагает несколько инструментов развертывания, каждый из которых подходит для разных устройств и сценариев использования, например облачных сред, встроенных систем и веб-приложений. Вот некоторые из основных deployment options:

• Paddle Serving: Помогает развертывать модели как REST API, что делает его хорошим выбором для облачных или серверных сред, которым требуются такие функции, как контроль версий и онлайн-тестирование.
• Paddle Inference API: Дает тебе больше контроля над тем, как работают модели, что полезно, когда нужно настроить производительность или создать пользовательскую логику приложения.
• Paddle Lite: Предназначен для облегченного развертывания на мобильных устройствах, планшетах и встроенных системах. Он оптимизирован для небольших моделей и более быстрого инференса на оборудовании с ограниченными ресурсами.
• Paddle.js: Позволяет запускать модели ИИ в веб-браузерах с использованием таких технологий, как WebGL и WebAssembly, что полезно для интерактивных демо и браузерных инструментов.

Рис. 4. Варианты развертывания, обеспечиваемые PaddlePaddle. Изображение автора.

Как только ты выберешь подходящий инструмент для своей настройки, ты сможешь загрузить экспортированную модель. Движок PaddlePaddle возьмет на себя следующие шаги. Он загрузит модель, обработает входное изображение и выдаст результаты.

Когда стоит выбрать интеграцию PaddlePaddle?#

Пакет Python от Ultralytics также поддерживает различные другие export formats, поэтому у тебя может возникнуть вопрос: когда PaddlePaddle является правильным выбором?

PaddlePaddle — надежный вариант, если ты планируешь развертывать модели на устройствах с ограниченными ресурсами, таких как смартфоны, встроенные системы или периферийное оборудование. Он также отлично подходит для приложений реального времени, требующих быстрой и эффективной работы, например обнаружение объектов в мобильных приложениях, мониторинг на основе зрения в умных камерах или оценка позы, выполняемая непосредственно на устройстве без поддержки облака.

Кроме того, если проекту необходимо работать в автономном режиме или в условиях низкой связности, можешь рассмотреть возможность использования интеграции PaddlePaddle. Такие приложения, как инструменты визуального контроля на производстве, портативные устройства для полевых исследований или ИИ-сканеры в розничной торговле, могут получить выгоду от легкой среды исполнения и гибких вариантов развертывания PaddlePaddle.

Ограничения PaddlePaddle, которые стоит учитывать#

Хотя PaddlePaddle предлагает интересные возможности развертывания, вот некоторые ограничивающие факторы, о которых следует знать:

• Меньшее глобальное сообщество: За пределами Китая база пользователей и участников относительно невелика. Из-за этого может быть сложнее найти поддержку сообщества, решенные проблемы на GitHub или ответы на Stack Overflow.
• Более крутая кривая обучения для инструментов, не связанных с Baidu: PaddlePaddle плавно интегрируется с экосистемой Baidu, но использование его вне этого контекста может потребовать дополнительных шагов по настройке.
• Меньше интеграций с основными инструментами ML: PaddlePaddle обладает ограниченной совместимостью с популярными инструментами, такими как Hugging Face Transformers, MLflow или AI-сервисы на базе Kubernetes.

Основные выводы#

Интеграция PaddlePaddle, поддерживаемая Ultralytics, упрощает экспорт и развертывание моделей YOLO11 на ряде устройств. Это особенно полезно для проектов, требующих эффективной производительности на самом устройстве — например, мобильных приложений, умных камер или встроенных систем.

Всего за несколько шагов ты сможешь внедрить мощные модели компьютерного зрения в реальные приложения. По мере развития компьютерного зрения такие инструменты, как YOLO и PaddlePaddle, делают создание быстрых и интеллектуальных систем проще, чем когда-либо, — от потребительских устройств до промышленных инструментов.

Присоединяйся к нашему растущему community уже сегодня! Погружайся глубже в ИИ, изучая наш GitHub repository. Хочешь создать собственные проекты в области computer vision? Ознакомься с нашими licensing options. Узнай, как computer vision in healthcare повышает эффективность, и оцени влияние AI in retail, посетив страницы наших решений!