Экспорт Ultralytics YOLO11 с использованием интеграции PaddlePaddle

По мере развития искусственного интеллекта (AI) машины всё лучше понимают окружающий мир. Одним из ключевых направлений этого прогресса является компьютерное зрение — отрасль AI, которая позволяет машинам интерпретировать визуальные данные и принимать решения на их основе.

От помощи автомобилям в распознавании дорожных знаков до проверки полок в розничных магазинах — компьютерное зрение теперь используется во множестве повседневных инструментов. Эти задачи опираются на модели AI для компьютерного зрения, которые могут быстро просканировать фото или видео и определить, что важно.

Со временем эти модели стали быстрее и точнее, что сделало их полезными в таких областях, как сельское хозяйство, здравоохранение, безопасность и розничная торговля. Например, Ultralytics YOLO11 — это модель, предназначенная для быстрого и точного выполнения различных задач компьютерного зрения. Она может обнаруживать и классифицировать объекты, отслеживать движения и оценивать позы людей.

Важнейшая часть переноса компьютерного зрения из исследовательской среды в реальные приложения — развёртывание. После обучения модели следующий шаг — запустить её на таких устройствах, как телефоны, периферийное оборудование или облачные серверы.

Рис. 1. Развёртывание модели — ключевая часть любого проекта компьютерного зрения.

Чтобы поддержать этот процесс, модели Ultralytics YOLO, такие как YOLO11, можно экспортировать в различные форматы в зависимости от целевой платформы. Один из таких форматов — PaddlePaddle, фреймворк AI с открытым исходным кодом, обеспечивающий эффективное развёртывание и выполнение инференса моделей на широком спектре устройств и систем.

В этой статье мы рассмотрим, как экспортировать Ultralytics YOLO11 с помощью интеграции PaddlePaddle, поддерживаемой Ultralytics, чтобы обеспечить эффективное развёртывание на различных платформах.

Что такое PaddlePaddle?#

Развёртывание моделей AI за пределами исследовательской среды, например на мобильных устройствах или периферийном оборудовании, иногда бывает сложным, особенно когда модели должны работать эффективно и использовать минимум ресурсов. PaddlePaddle — это фреймворк глубокого обучения, созданный именно для таких задач.

Это китайская платформа с открытым исходным кодом, название которой расшифровывается как Parallel Distributed Deep Learning. PaddlePaddle разработан компанией Baidu, хорошо известной своими разработками в области AI и программной инфраструктуры, и создан специально для реальных приложений, а не только для исследований.

Разработчики могут запускать модели в формате PaddlePaddle на серверах, периферийных устройствах и даже мобильном оборудовании. Платформа также поддерживает инструменты, упрощающие разработку AI, включая варианты с малым объёмом или отсутствием кода. У платформы есть крупное сообщество разработчиков, насчитывающее более 4,7 миллиона пользователей, и она используется в самых разных отраслях, включая здравоохранение, сельское хозяйство, производство и финансы.

Ключевые возможности PaddlePaddle#

Вот некоторые ключевые возможности, благодаря которым PaddlePaddle эффективнее запускает модели на реальных устройствах:

• Преобразование динамического графа в статический: эта функция преобразует гибкую модель в фиксированную версию, которая работает более плавно и предсказуемо. Фиксированную модель проще оптимизировать, и она быстрее выполняет предсказания.
• Слияние операторов: PaddlePaddle может объединять несколько этапов модели в один. Это уменьшает объём используемой моделью памяти и помогает ей работать быстрее. Представь, что несколько задач объединяются в одно действие для экономии времени.
• Квантизация: этот процесс уменьшает размер модели за счёт использования более простых чисел, например округления до меньшего количества знаков после запятой. Он помогает модели работать на устройствах с ограниченной мощностью, таких как телефоны или умные камеры, практически без потери точности.

Рис. 2. Преимущества использования PaddlePaddle. Изображение автора.

Обзор развёртывания Ultralytics YOLO11 с помощью PaddlePaddle#

Интеграция PaddlePaddle, поддерживаемая Ultralytics, упрощает переход от обучения к развёртыванию. Разработчики, которые уже используют инструменты PaddlePaddle, могут проще интегрировать YOLO11 в свои рабочие процессы.

Пакет Ultralytics для Python поддерживает прямой экспорт моделей YOLO11 в формат PaddlePaddle, позволяя разработчикам развёртывать обученные модели без дополнительных инструментов или ручных этапов конвертации.

Процесс экспорта можно выполнять как через командную строку, так и с помощью кода Python, поэтому разработчики могут выбрать наиболее подходящий для своего рабочего процесса способ. Это упрощает работу и снижает вероятность проблем с настройкой. После экспорта модель можно использовать для таких задач компьютерного зрения, как обнаружение объектов, классификация изображений, оценка поз и сегментация экземпляров.

Это отличный вариант для сценариев развёртывания, в которых устройства имеют ограниченный объём памяти или требуют быстрой обработки. Экспортированные модели оптимизированы для эффективной работы даже в системах с ограниченными ресурсами.

Как экспортировать модели Ultralytics YOLO11 в формат PaddlePaddle#

Чтобы экспортировать Ultralytics YOLO11 в формат модели PaddlePaddle, достаточно выполнить несколько шагов.

Сначала установи пакет Ultralytics для Python с помощью менеджера пакетов, например ‘pip’. Для начала выполни команду “pip install ultralytics” в командной строке или терминале.

Пакет Ultralytics предоставляет инструменты для обучения, оценки, дообучения, экспорта и развёртывания моделей для различных задач компьютерного зрения. Если во время установки возникнут проблемы, обратись к руководству «Распространённые проблемы», чтобы найти советы по устранению неполадок.

После настройки окружения ты можешь загрузить и экспортировать предварительно обученную модель YOLO11, например “yolo11n.pt”, как показано ниже. Также можно экспортировать собственную модель YOLO11, обученную на пользовательских данных.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="paddle")

После конвертации модели в формат PaddlePaddle её можно развернуть в различных сценариях на разных типах оборудования.

Например, в приведённом ниже примере мы загружаем модель Ultralytics YOLO11, экспортированную в формат PaddlePaddle, и используем её для выполнения предсказания. Этот процесс, известный как выполнение инференса, означает простое использование модели для анализа новых данных. Здесь мы тестируем её на изображении с двумя собаками.

paddle_model = YOLO("./yolo11n_paddle_model")
paddle_model("https://images.pexels.com/photos/33287/dog-viszla-close.jpg", save=True)

После выполнения кода изображение с предсказаниями модели автоматически сохранится в папке “runs/detect/predict”.

Рис. 3. Использование экспортированной модели Ultralytics YOLO11 для обнаружения объектов на изображении. Изображение автора.

Развёртывание Ultralytics YOLO11 с помощью фреймворка PaddlePaddle#

PaddlePaddle предлагает несколько инструментов развёртывания, каждый из которых подходит для разных устройств и сценариев использования, таких как облачные среды, встроенные системы и веб-приложения. Вот некоторые основные варианты развёртывания:

• Paddle Serving: помогает развёртывать модели как REST API, что делает его хорошим выбором для облачных или серверных сред, которым нужны такие функции, как управление версиями и онлайн-тестирование.
• Paddle Inference API: предоставляет больше контроля над запуском моделей, что полезно, когда нужно точно настроить производительность или создать пользовательскую логику приложения.
• Paddle Lite: предназначен для лёгкого развёртывания на мобильных устройствах, планшетах и встроенных системах. Он оптимизирован для небольших моделей и более быстрого инференса на оборудовании с ограниченными ресурсами.
• Paddle.js: позволяет запускать модели AI в веб-браузерах с использованием таких технологий, как WebGL и WebAssembly, что полезно для интерактивных демонстраций и браузерных инструментов.

Рис. 4. Варианты развёртывания, доступные в PaddlePaddle. Изображение автора.

Выбрав подходящий инструмент для своей конфигурации, ты можешь загрузить экспортированную модель. Движок PaddlePaddle выполнит следующие шаги: загрузит модель, обработает входное изображение и вернёт результаты.

Когда стоит выбрать интеграцию PaddlePaddle?#

Пакет Ultralytics для Python также поддерживает различные другие форматы экспорта, поэтому у тебя может возникнуть вопрос: когда PaddlePaddle является правильным выбором?

PaddlePaddle — надёжный вариант, если ты хочешь развернуть модели на устройствах с ограниченными ресурсами, таких как смартфоны, встроенные системы или периферийное оборудование. Он также отлично подходит для приложений реального времени, требующих быстрой и эффективной работы, например для обнаружения объектов в мобильных приложениях, мониторинга на основе компьютерного зрения в умных камерах или оценки поз непосредственно на устройстве без поддержки облака.

Кроме того, если проект должен работать в автономном режиме или в средах с низким качеством соединения, можно рассмотреть использование интеграции PaddlePaddle. Такие приложения, как инструменты визуального контроля на производстве, портативные устройства для полевых обследований или розничные сканеры с поддержкой AI, могут воспользоваться лёгкой средой выполнения PaddlePaddle и гибкими вариантами развёртывания.

Ограничения PaddlePaddle, которые стоит учитывать#

Хотя PaddlePaddle предлагает интересные возможности развёртывания, следует учитывать следующие сдерживающие факторы:

• Меньшее глобальное сообщество: за пределами Китая база пользователей и участников разработки относительно невелика. Из-за этого бывает сложнее найти поддержку сообщества, решения проблем на GitHub или ответы на Stack Overflow.
• Более крутая кривая обучения при использовании инструментов не от Baidu: PaddlePaddle легко интегрируется с экосистемой Baidu, но его использование за пределами этой экосистемы может потребовать дополнительной настройки и выполнения дополнительных шагов.
• Меньше интеграций с распространёнными инструментами ML: PaddlePaddle имеет ограниченную совместимость с популярными инструментами, такими как Hugging Face Transformers, MLflow или сервисы AI на основе Kubernetes.

Основные выводы#

Интеграция PaddlePaddle, поддерживаемая Ultralytics, упрощает экспорт и развёртывание моделей YOLO11 на различных устройствах. Она особенно полезна для проектов, требующих эффективной работы непосредственно на устройстве, — например, мобильных приложений, умных камер или встроенных систем.

Всего за несколько шагов ты можешь внедрить мощные модели компьютерного зрения в реальные приложения. По мере развития компьютерного зрения такие инструменты, как YOLO и PaddlePaddle, упрощают создание быстрых интеллектуальных систем — от пользовательских устройств до промышленных инструментов.

Присоединяйся к нашему растущему сообществу уже сегодня! Узнай больше об AI, изучив наш репозиторий на GitHub. Хочешь создавать собственные проекты в области компьютерного зрения? Ознакомься с нашими вариантами лицензирования. Узнай, как компьютерное зрение в здравоохранении повышает эффективность, и изучи влияние AI в розничной торговле на наших страницах решений!