24 мая 2024 г.
Оптимизируйте модель Ultralytics YOLOv8 для выводов с помощью OpenVINO. Следуйте нашему руководству, чтобы преобразовать модели PyTorch в ONNX и оптимизировать их для приложений реального времени.
В этом блоге мы рассмотрим, как экспортировать и оптимизировать предварительно обученную или настраиваемую модель Ultralytics YOLOv8 для выводов с помощью OpenVINO. Если вы используете систему на базе Intel, будь то CPU или GPU, это руководство покажет вам, как значительно ускорить вашу модель с минимальными усилиями.
Оптимизация модели YOLOv8 с помощью OpenVINO может обеспечить до трехкратного увеличения скорости выполнения задач вывода, особенно если вы используете процессор Intel. Этот прирост производительности может иметь огромное значение для приложений реального времени, от обнаружения объектов до сегментации и систем безопасности.
Прежде всего, давайте разберем процесс. Мы собираемся преобразовать модель PyTorch в ONNX, а затем оптимизировать ее с помощью OpenVINO. Этот процесс состоит из нескольких простых шагов и может применяться к различным моделям и форматам, включая TensorFlow, PyTorch, Caffe и ONNX.
Заглянув в документацию Ultralytics, мы узнаем, что экспорт модели YOLOv8 предполагает использование метода экспорта из фреймворка Ultralytics. Этот метод позволяет нам преобразовать нашу модель из PyTorch в ONNX и, наконец, оптимизировать ее для OpenVINO. В результате модель работает значительно быстрее, используя мощное оборудование Intel.
Перед запуском сценария экспорта необходимо убедиться, что все необходимые зависимости установлены. К ним относятся библиотека Ultralytics, ONNX и OpenVINO. Установка этих пакетов - простой процесс, который можно выполнить с помощью pip, программы установки пакетов Python.
После того как среда настроена, вы можете запустить скрипт экспорта. Этот скрипт преобразует вашу модель PyTorch в ONNX, а затем в OpenVINO. Процесс прост и включает в себя вызов одной функции для обработки экспорта. Фреймворк Ultralytics позволяет легко конвертировать и оптимизировать ваши модели, обеспечивая наилучшую производительность при минимальных затратах.
После экспорта важно сравнить производительность исходной и оптимизированной моделей. Сравнивая время вывода обеих моделей, вы можете наглядно увидеть прирост производительности. Как правило, модель OpenVINO демонстрирует значительное сокращение времени вывода по сравнению с исходной моделью PyTorch. Это особенно верно для больших моделей, где прирост производительности наиболее заметен.
Оптимизация моделей YOLOv8 с помощью OpenVINO особенно полезна для приложений, требующих обработки данных в реальном времени. Вот несколько примеров:
Внедряя эти оптимизации, вы не только повышаете производительность, но и увеличиваете надежность и эффективность своих приложений. Это может привести к улучшению пользовательского опыта, повышению производительности и появлению более инновационных решений.
Экспорт и оптимизация модели YOLOv8 для OpenVINO - это мощный способ использовать аппаратное обеспечение Intel для более быстрых и эффективных приложений ИИ. Всего несколько простых шагов позволят вам повысить производительность вашей модели и эффективно использовать ее в реальных сценариях.
Обязательно ознакомьтесь с другими учебниками и руководствами от Ultralytics, чтобы продолжать совершенствовать свои проекты в области искусственного интеллекта. Посетите наш репозиторий GitHub и присоединяйтесь к сообществу Ultralytics для получения новых знаний и обновлений. Давайте внедрять инновации вместе!
Помните, что оптимизация моделей - это не только скорость, но и раскрытие новых возможностей, а также обеспечение надежности, эффективности и готовности к будущему ваших ИИ-решений.
RU
EN
ZH
KO
JA
DE
FR
ES
PT
IT
TR
VI
AR
.webp)
.webp)