24 мая 2024 г.
Оптимизируйте модель Ultralytics YOLOv8 для выводов с помощью OpenVINO. Следуйте нашему руководству, чтобы преобразовать модели PyTorch в ONNX и оптимизировать их для приложений реального времени.
В этом блоге мы рассмотрим, как можно экспортировать и оптимизировать предварительно обученные или настроенные данные. Ultralytics YOLOv8 для выводов с помощью OpenVINO. Если вы используете систему Intel, будь то CPU или GPU, это руководство покажет вам, как значительно ускорить вашу модель с минимальными усилиями.
Оптимизация модели YOLOv8 с помощью OpenVINO может обеспечить до трехкратного увеличения скорости выполнения задач вывода, особенно если вы используетеCPU Intel . Этот прирост производительности может иметь огромное значение для приложений реального времени, от обнаружения объектов до сегментации и систем безопасности.
Прежде всего, давайте разберем процесс. Мы собираемся преобразовать модель PyTorch в ONNX , а затем оптимизировать ее с помощью OpenVINO. Этот процесс состоит из нескольких простых шагов и может применяться к различным моделям и форматам, включая TensorFlow, PyTorch, Caffe и ONNX.
Заглянув вдокументацию Ultralytics , мы узнаем, что экспорт модели YOLOv8 предполагает использование метода экспорта из фреймворка Ultralytics . Этот метод позволяет нам преобразовать нашу модель из PyTorch в ONNXи, наконец, оптимизировать ее для OpenVINO. В результате модель работает значительно быстрее, используя мощное оборудование Intel.
Перед запуском сценария экспорта необходимо убедиться, что все необходимые зависимости установлены. К ним относятся библиотека Ultralytics , ONNX и OpenVINO. Установка этих пакетов - простой процесс, который можно выполнить с помощью pip, программы установки пакетов Python .
После того как среда настроена, вы можете запустить скрипт экспорта. Этот скрипт преобразует вашу модель PyTorch в ONNX , а затем в OpenVINO. Процесс прост и включает в себя вызов одной функции для обработки экспорта. Фреймворк Ultralytics позволяет легко конвертировать и оптимизировать ваши модели, обеспечивая наилучшую производительность при минимальных затратах.
После экспорта важно сравнить производительность исходной и оптимизированной моделей. Сравнивая время вывода обеих моделей, вы можете наглядно увидеть прирост производительности. Как правило, модель OpenVINO демонстрирует значительное сокращение времени вывода по сравнению с исходной моделью PyTorch . Это особенно верно для больших моделей, где прирост производительности наиболее заметен.
Оптимизация моделей YOLOv8 с помощью OpenVINO особенно полезна для приложений, требующих обработки данных в реальном времени. Вот несколько примеров:
Внедряя эти оптимизации, вы не только повышаете производительность, но и повышаете надежность и эффективность ваших приложений. Это может привести к улучшению пользовательского опыта, повышению производительности и более инновационным решениям.
Экспорт и оптимизация модели YOLOv8 для OpenVINO - это мощный способ использовать аппаратное обеспечение Intel для более быстрых и эффективных приложений ИИ. Всего несколько простых шагов позволят вам повысить производительность вашей модели и эффективно использовать ее в реальных сценариях.
Обязательно ознакомьтесь с другими учебниками и руководствами от Ultralytics , чтобы продолжать совершенствовать свои проекты в области искусственного интеллекта. Посетите наш репозиторий GitHub и присоединяйтесь к сообществу Ultralytics для получения новых знаний и обновлений. Давайте внедрять инновации вместе!
Помните, что оптимизация моделей — это не только скорость, но и открытие новых возможностей, а также обеспечение надежности, эффективности и готовности ваших решений на основе ИИ к будущему.
