Экспорт Ultralytics YOLO11 с использованием интеграции PaddlePaddle

По мере развития искусственного интеллекта (AI) машины все лучше понимают окружающий мир. Одно из ключевых направлений этого прогресса — компьютерное зрение, область ИИ, которая позволяет машинам интерпретировать визуальные данные и принимать решения на их основе.

Компьютерное зрение уже стало частью многих повседневных инструментов: оно помогает автомобилям распознавать дорожные знаки и проверяет наличие товаров на полках магазинов. В основе этих задач лежат модели визуального ИИ, способные быстро анализировать фотографии и видео и выявлять важные объекты.

Со временем эти модели стали быстрее и точнее, поэтому их используют в сельском хозяйстве, здравоохранении, сфере безопасности и розничной торговле. Например, Ultralytics YOLO11 — модель, созданная для быстрого и точного решения широкого круга задач компьютерного зрения. Она умеет обнаруживать и классифицировать объекты, отслеживать перемещения и оценивать позы людей.

Важнейший этап внедрения компьютерного зрения из научных исследований в реальные приложения — развертывание. После обучения модели ее нужно запустить на устройстве: например, телефоне, периферийном оборудовании или облачном сервере.

Рис. 1. Развертывание модели — важная часть любого проекта в области компьютерного зрения.

Для этого модели Ultralytics YOLO, например YOLO11, можно экспортировать в разные форматы в зависимости от целевой платформы. Один из таких форматов — PaddlePaddle, платформа ИИ с открытым исходным кодом, которая обеспечивает эффективное развертывание моделей и инференс на самых разных устройствах и системах.

В этой статье мы расскажем, как экспортировать Ultralytics YOLO11 с помощью интеграции с PaddlePaddle, поддерживаемой Ultralytics, чтобы эффективно развертывать модель на различных платформах.

Что такое PaddlePaddle?#

Развертывание моделей ИИ за пределами исследовательской среды — например, на мобильных устройствах или периферийном оборудовании — иногда бывает непростой задачей, особенно если модели должны работать эффективно и потреблять минимум ресурсов. PaddlePaddle — это фреймворк для глубокого обучения, созданный именно для таких задач.

Это китайская платформа с открытым исходным кодом; ее название означает «параллельное распределенное глубокое обучение». PaddlePaddle разработала компания Baidu, известная своими достижениями в области ИИ и программной инфраструктуры. Платформа создавалась прежде всего для практического применения, а не только для исследований.

Разработчики могут запускать модели в формате PaddlePaddle на серверах, периферийных устройствах и даже мобильном оборудовании. Также поддерживаются инструменты, упрощающие разработку ИИ, в том числе решения с низким и нулевым уровнем программирования. У платформы большое сообщество разработчиков, а сама она используется в разных отраслях, включая здравоохранение, сельское хозяйство, производство и финансы.

Ключевые возможности PaddlePaddle#

Вот несколько ключевых возможностей, благодаря которым PaddlePaddle эффективнее запускает модели на реальных устройствах:

• Преобразование динамического графа в статический: Эта функция преобразует гибкую модель в фиксированный вариант, который работает стабильнее и предсказуемее. Фиксированную модель проще оптимизировать, и она быстрее выполняет предсказания.
• Объединение операторов: PaddlePaddle может объединить несколько операций модели в одну. Это сокращает потребление памяти и ускоряет работу модели. Представь, что несколько задач объединяют в одно действие, чтобы сэкономить время.
• Квантование: оно уменьшает размер модели за счет использования упрощенных чисел (например, округления до меньшего количества знаков после запятой). Это помогает модели работать на устройствах с ограниченной мощностью, таких как телефоны и интеллектуальные камеры, практически без потери точности.

Рис. 2. Преимущества использования PaddlePaddle. Изображение автора.

Обзор развертывания Ultralytics YOLO11 с помощью PaddlePaddle#

Интеграция с PaddlePaddle, поддерживаемая Ultralytics, упрощает переход от обучения к развертыванию. Разработчики, уже использующие инструменты PaddlePaddle, могут проще встроить YOLO11 в свои рабочие процессы.

Пакет Ultralytics для Python поддерживает прямой экспорт моделей YOLO11 в формат PaddlePaddle. Это позволяет разработчикам развертывать обученные модели без дополнительных инструментов и ручного преобразования.

Экспортировать модель можно через командную строку или с помощью кода Python, поэтому разработчики могут выбрать способ, который лучше вписывается в их рабочий процесс. Это упрощает работу и снижает вероятность проблем с настройкой. После экспорта модель можно использовать для решения задач компьютерного зрения, например обнаружения объектов, сегментации экземпляров, классификации изображений и оценки позы.

Это отличный вариант для развертывания на устройствах с ограниченной памятью или там, где требуется высокая скорость обработки. Экспортированные модели оптимизированы для эффективной работы даже в системах с ограниченными ресурсами.

Как экспортировать модели Ultralytics YOLO11 в формат PaddlePaddle#

Чтобы экспортировать Ultralytics YOLO11 в формат модели PaddlePaddle, достаточно выполнить несколько шагов.

Сначала установи пакет Ultralytics для Python с помощью менеджера пакетов, например pip. Для начала выполни команду pip install ultralytics в командной строке или терминале.

Пакет Ultralytics предоставляет инструменты для обучения, оценки, дообучения, экспорта и развертывания моделей для самых разных задач компьютерного зрения. Если при установке возникнут проблемы, ознакомься с руководством по распространенным проблемам, чтобы найти советы по их устранению.

После настройки среды можно загрузить и экспортировать предварительно обученную модель YOLO11, например YOLO11n (yolo11n.pt), как показано ниже. Также можно экспортировать собственную модель YOLO11, обученную на своих данных.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="paddle")

После преобразования модели в формат PaddlePaddle ее можно развернуть в самых разных сценариях и на разных типах оборудования.

Например, в приведённом ниже фрагменте кода мы загружаем модель Ultralytics YOLO11, экспортированную в формат PaddlePaddle, и используем её для предсказания. Этот процесс, называемый инференсом, означает, что модель анализирует новые данные. В данном случае мы проверяем её на изображении с двумя собаками.

paddle_model = YOLO("./yolo11n_paddle_model")
paddle_model("https://images.pexels.com/photos/33287/dog-viszla-close.jpg", save=True)

После выполнения кода изображение с предсказаниями модели автоматически сохранится в папке runs/detect/predict.

Рис. 3. Обнаружение объектов на изображении с помощью экспортированной модели Ultralytics YOLO11. Изображение автора.

Развертывание Ultralytics YOLO11 с помощью фреймворка PaddlePaddle#

PaddlePaddle предлагает несколько инструментов развертывания для разных устройств и сценариев использования, например облачных сред, встраиваемых систем и веб-приложений. Вот основные варианты развертывания:

• Paddle Serving: помогает развертывать модели в виде REST API. Это хороший выбор для облачных и серверных сред, где нужны такие функции, как контроль версий и онлайн-тестирование.
• Paddle Inference API: предоставляет больше контроля над запуском моделей. Это удобно, если нужно точно настроить производительность или реализовать пользовательскую логику приложения.
• Paddle Lite: предназначен для легковесного развертывания на мобильных устройствах, планшетах и во встраиваемых системах. Он оптимизирован для небольших моделей и ускоренного инференса на оборудовании с ограниченными ресурсами.
• Paddle.js: позволяет запускать модели ИИ в веб-браузерах с помощью таких технологий, как WebGL и WebAssembly. Это полезно для интерактивных демонстраций и инструментов, работающих в браузере.

Рис. 4. Варианты развертывания с помощью PaddlePaddle. Изображение автора.

Выбрав подходящий для своей конфигурации инструмент, можно загрузить экспортированную модель. Дальше все сделает движок PaddlePaddle: загрузит модель, обработает входное изображение и вернет результаты.

Когда стоит выбрать интеграцию с PaddlePaddle?#

Пакет Ultralytics для Python также поддерживает различные другие форматы экспорта, поэтому ты можешь спросить: в каких случаях стоит выбрать PaddlePaddle?

PaddlePaddle — надежный вариант, если нужно развернуть модели на устройствах с ограниченными ресурсами, например смартфонах, встраиваемых системах или периферийном оборудовании. Платформа также отлично подходит для приложений реального времени, которым нужна высокая скорость и эффективность: например, обнаружения объектов в мобильных приложениях, мониторинга с помощью интеллектуальных камер или оценки поз непосредственно на устройстве без обращения к облаку.

Кроме того, интеграцию с PaddlePaddle стоит рассмотреть, если проект должен работать автономно или в условиях нестабильного подключения. Легковесная среда выполнения и гибкие варианты развертывания PaddlePaddle пригодятся таким приложениям, как инструменты визуального контроля на производстве, портативные устройства для полевых исследований и розничные сканеры с ИИ.

Ограничения PaddlePaddle, которые стоит учитывать#

Хотя PaddlePaddle предлагает интересные возможности для развертывания, важно учитывать следующие ограничения:

• Небольшое международное сообщество: За пределами Китая пользователей и участников сообщества сравнительно мало. Поэтому сложнее найти поддержку сообщества, решения проблем на GitHub и ответы на Stack Overflow.
• Более сложное освоение инструментов, не относящихся к Baidu: PaddlePaddle легко интегрируется с экосистемой Baidu, но его использование за ее пределами может потребовать дополнительной настройки.
• Меньше интеграций с популярными инструментами машинного обучения: PaddlePaddle ограниченно совместим с распространенными инструментами, такими как Hugging Face Transformers, MLflow, а также с ИИ-сервисами на базе Kubernetes.

Главные выводы#

Интеграция с PaddlePaddle, поддерживаемая Ultralytics, упрощает экспорт и развертывание моделей YOLO11 на самых разных устройствах. Она особенно полезна для проектов, которым нужна эффективная работа непосредственно на устройстве, например мобильных приложений, интеллектуальных камер и встраиваемых систем.

Всего за несколько шагов можно внедрить мощные модели компьютерного зрения в реальные приложения. По мере развития компьютерного зрения такие инструменты, как YOLO и PaddlePaddle, делают создание быстрых и интеллектуальных систем проще, чем когда-либо, — от потребительских устройств до промышленного оборудования.

Присоединяйся к нашему растущему сообществу уже сегодня! Погрузись в тему ИИ и загляни в наш репозиторий GitHub. Хочешь создать собственные проекты в области компьютерного зрения? Изучи наши варианты лицензирования. Узнай, как компьютерное зрение в здравоохранении повышает эффективность, и изучи влияние ИИ в розничной торговле на страницах наших решений!