Экспорт Ultralytics YOLO11 с помощью интеграции PaddlePaddle

По мере развития искусственного интеллекта (ИИ) машины все лучше понимают окружающий мир. Одной из ключевых областей, определяющих этот прогресс, является компьютерное зрение- направление ИИ, позволяющее машинам интерпретировать и принимать решения на основе визуальных данных.

Компьютерное зрение - от помощи автомобилям в распознавании дорожных знаков до проверки полок в розничных магазинах - сегодня является частью многих повседневных инструментов. В этих задачах используются модели искусственного зрения, которые могут быстро просканировать фотографию или видео и определить, что является важным.

Со временем эти модели стали быстрее и точнее, что сделало их полезными в таких областях, как сельское хозяйство, здравоохранение, безопасность и розничная торговля. Например, Ultralytics YOLO11 - это модель, созданная для быстрого и точного решения целого ряда задач компьютерного зрения. Она может обнаруживать и классифицировать объекты, отслеживать движение и оценивать позу тела.

Важнейшей частью перехода от исследований в области компьютерного зрения к реальным приложениям является развертывание. После того как модель обучена, следующим шагом будет ее запуск на устройствах, таких как телефоны, пограничное оборудование или облачные серверы. 

‍

Для этого модели Ultralytics YOLO, такие как YOLO11, можно экспортировать в различные форматы в зависимости от целевой платформы. Одним из таких форматов является PaddlePaddle, фреймворк ИИ с открытым исходным кодом, который позволяет эффективно развертывать модели и делать выводы на широком спектре устройств и систем.

В этой статье мы рассмотрим, как можно экспортировать данные Ultralytics YOLO11 с помощью интеграции PaddlePaddle, поддерживаемой Ultralytics, чтобы обеспечить эффективное развертывание на различных платформах.

Что такое PaddlePaddle? 

Развертывание моделей искусственного интеллекта за пределами исследовательской среды, например на мобильных устройствах или граничном оборудовании, порой бывает непростой задачей, особенно когда требуется, чтобы они работали эффективно и использовали минимум ресурсов. PaddlePaddle - это фреймворк глубокого обучения, призванный помочь именно в этом.

Это китайская платформа с открытым исходным кодом, название которой расшифровывается как Parallel Distributed Deep Learning. Разработанная компанией Baidu, известной своей работой в области ИИ и программной инфраструктуры, PaddlePaddle была создана специально для реальных приложений, а не только для исследований.

Разработчики могут запускать модели в формате PaddlePaddle на серверах, пограничных устройствах и даже на мобильном оборудовании. Платформа также поддерживает инструменты, упрощающие разработку ИИ, включая варианты с низким уровнем кода и без кода. Платформа имеет сильное сообщество разработчиков, насчитывающее более 4,7 миллиона пользователей, и используется в различных отраслях, включая здравоохранение, сельское хозяйство, производство и финансы.

Ключевые особенности PaddlePaddle

Вот некоторые ключевые особенности, которые помогают PaddlePaddle запускать модели более эффективно на реальных устройствах:

• Преобразование динамических графов в статические: Эта функция превращает гибкую модель в фиксированную версию, которая работает более плавно и предсказуемо. Фиксированную модель легче оптимизировать и быстрее делать прогнозы.
  ‍
• Объединение операторов: PaddlePaddle может объединить несколько этапов модели в один. Это уменьшает объем памяти, используемой моделью, и помогает ей работать быстрее. Подумайте об этом, как об объединении нескольких задач в одно действие для экономии времени.
  ‍
• Квантование: Это позволяет уменьшить размер модели за счет использования более простых чисел (например, округления до меньшего количества десятичных знаков). Это помогает модели работать на устройствах с ограниченной мощностью, таких как телефоны или смарт-камеры, без значительной потери точности.

‍

Обзор развертывания YOLO11 с помощью PaddlePaddle

Интеграция PaddlePaddle, поддерживаемая Ultralytics, облегчает переход от обучения к внедрению. Разработчики, которые уже используют инструменты PaddlePaddle, могут легче внедрить YOLO11 в свои рабочие процессы.

Пакет Ultralytics Python поддерживает прямой экспорт моделей YOLO11 в формат PaddlePaddle, что позволяет разработчикам развертывать обученные модели без дополнительных инструментов и ручного преобразования. 

Процесс экспорта может осуществляться как с помощью командной строки, так и с помощью кода Python, поэтому разработчики могут выбрать тот метод, который лучше всего подходит для их рабочего процесса. Это позволяет упростить процесс и снизить вероятность возникновения проблем с настройкой. После экспорта модель можно использовать для задач компьютерного зрения, таких как обнаружение объектов, классификация изображений, оценка позы и сегментация экземпляров.

Это отличный вариант для сценариев развертывания, когда устройства имеют ограниченный объем памяти или требуют быстрой обработки. Экспортированные модели оптимизированы для эффективной работы даже на системах с ограниченными ресурсами. 

Как экспортировать модели YOLO11 в формат PaddlePaddle

Чтобы экспортировать YOLO11 в формат модели PaddlePaddle, потребуется всего несколько шагов.

Первым шагом будет установка пакета Ultralytics Python с помощью менеджера пакетов, например 'pip'. Это можно сделать, выполнив команду "pip install ultralytics" в командной строке или терминале, чтобы начать работу.

Пакет Ultralytics предоставляет инструменты для обучения, оценки, тонкой настройки, экспорта и развертывания моделей для ряда задач компьютерного зрения. Если во время установки возникли проблемы, обратитесь к руководству "Общие проблемы", чтобы получить советы по устранению неполадок.

После настройки среды вы можете загрузить и экспортировать предварительно обученную модель YOLO11, например "yolo11n.pt", как показано ниже. Вы также можете экспортировать свою собственную модель YOLO11.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")

model.export(format="paddle")

После преобразования модели в формат PaddlePaddle она может быть развернута в различных сценариях на различных типах оборудования.

Например, в примере ниже мы загружаем модель YOLO11, экспортированную в формат PaddlePaddle, и используем ее для прогнозирования. Этот процесс, известный как выполнение умозаключений, означает использование модели для анализа новых данных. Здесь мы тестируем ее с помощью изображения двух собак.

paddle_model = YOLO("./yolo11n_paddle_model")

paddle_model("https://images.pexels.com/photos/33287/dog-viszla-close.jpg", save=True)

После выполнения кода выходное изображение с предсказаниями модели будет автоматически сохранено в папке "runs/detect/predict".

‍

Развертывание YOLO11 с помощью фреймворка PaddlePaddle

PaddlePaddle предлагает несколько инструментов развертывания, каждый из которых подходит для различных устройств и случаев использования, таких как облачные среды, встраиваемые системы и веб-приложения. Вот некоторые из основных вариантов развертывания:

• Paddle Serving: Он помогает развертывать модели в виде REST API, что делает его хорошим выбором для облачных или серверных сред, которым необходимы такие функции, как контроль версий и онлайн-тестирование.
  ‍
• Paddle Inference API: Он дает вам больше возможностей контролировать работу моделей, что очень полезно, когда вам нужно точно настроить производительность или создать пользовательскую логику приложения.
  ‍
• Paddle Lite: предназначен для легкого развертывания на мобильных устройствах, планшетах и встраиваемых системах. Она оптимизирована для создания небольших моделей и более быстрых выводов на оборудовании с ограниченными ресурсами.
  ‍
• Paddle.js: Позволяет запускать модели ИИ в веб-браузерах с помощью таких технологий, как WebGL и WebAssembly, что полезно для интерактивных демонстраций и браузерных инструментов.

‍

Выбрав подходящий инструмент, вы можете загрузить экспортированную модель. Движок PaddlePaddle позаботится о следующих шагах. Он загружает модель, обрабатывает входное изображение и выдает результаты.

Когда вам следует выбрать интеграцию PaddlePaddle?

Пакет Ultralytics Python также поддерживает различные другие форматы экспорта, поэтому вы можете задаться вопросом: Когда PaddlePaddle является правильным выбором?

PaddlePaddle - надежный вариант для развертывания моделей на устройствах с ограниченными ресурсами, таких как смартфоны, встраиваемые системы или граничное оборудование. Он также отлично подходит для приложений реального времени, требующих быстрой и эффективной работы, таких как обнаружение объектов в мобильных приложениях, мониторинг на основе зрения в умных камерах или оценка позы, выполняемая непосредственно на устройстве без поддержки облака.

Кроме того, если проект должен работать в автономном режиме или в среде с низким уровнем подключения, вы можете рассмотреть возможность использования интеграции PaddlePaddle. Такие приложения, как инструменты визуального контроля на производстве, портативные устройства для полевых исследований или сканеры для розничной торговли с поддержкой искусственного интеллекта, могут воспользоваться преимуществами легкого времени выполнения PaddlePaddle и гибких вариантов развертывания. 

Ограничения PaddlePaddle, которые следует учитывать

Хотя PaddlePaddle предлагает интересные возможности развертывания, здесь есть несколько ограничивающих факторов, о которых следует знать:

• Небольшое глобальное сообщество: За пределами Китая база пользователей и разработчиков относительно невелика. Это может затруднить поиск поддержки сообщества, решенных проблем на GitHub или ответов на Stack Overflow.
  ‍.
• Более сложная кривая обучения для инструментов, не относящихся к Baidu: PaddlePaddle легко интегрируется в экосистему Baidu, но его использование вне этого контекста может потребовать дополнительных шагов по настройке и установке.
  ‍
• Меньше интеграций с основными инструментами ML: PaddlePaddle имеет ограниченную совместимость с такими распространенными инструментами, как Hugging Face Transformers, MLflow или Kubernetes-native AI сервисы.

Основные выводы

Интеграция PaddlePaddle, поддерживаемая Ultralytics, позволяет легко экспортировать и развертывать модели YOLO11 на различных устройствах. Это особенно полезно для проектов, требующих эффективной работы на устройствах, таких как мобильные приложения, интеллектуальные камеры или встраиваемые системы.

Всего за несколько шагов вы сможете внедрить мощные модели технического зрения в реальные приложения. Поскольку компьютерное зрение продолжает развиваться, такие инструменты, как YOLO и PaddlePaddle, позволяют создавать быстрые интеллектуальные системы во всем - от потребительских устройств до промышленных инструментов.

Присоединяйтесь к нашему растущему сообществу уже сегодня! Изучите наш репозиторий на GitHub, чтобы глубже погрузиться в мир искусственного интеллекта. Хотите создавать собственные проекты в области компьютерного зрения? Изучите наши возможности лицензирования. Узнайте, как компьютерное зрение в здравоохранении повышает эффективность, и изучите влияние ИИ в розничной торговле, посетив страницы наших решений!