Ускорь инференс с Ultralytics YOLOv8 и OpenVINO от Intel

При развертывании моделей искусственного интеллекта важны скорость и эффективность. Ultralytics рада представить нашу новую интеграцию с инструментарием Intel OpenVINO™, который упрощает развертывание оптимизированных моделей ИИ на оборудовании Intel. Это сотрудничество с Intel объединяет мощь моделей Ultralytics YOLOv8 и эффективность Intel OpenVINO™, обеспечивая ускорение до 3 раз на CPU и повышение производительности во всей обширной экосистеме оборудования Intel, включая встроенные GPU, дискретные GPU и VPU.

Чем особенна эта интеграция?#

Инструментарий Intel OpenVINO™ предназначен для максимального повышения производительности моделей ИИ на оборудовании Intel. Помимо задач компьютерного зрения, OpenVINO™ поддерживает множество задач — от обработки языка до анализа аудио. Оптимизируя модели YOLOv8 для OpenVINO™, Ultralytics помогает пользователям быстрее и эффективнее запускать инференс ИИ при разработке приложений для видеоаналитики, умных городов и розничной торговли нового поколения.

Подробную пошаговую инструкцию по экспорту и оптимизации модели Ultralytics YOLOv8 для инференса с OpenVINO™ смотри в нашем пошаговом руководстве по экспорту YOLOv8 в OpenVINO.

Как это работает#

Представь, что ты можешь напрямую экспортировать модели Ultralytics YOLOv8 в формат, специально созданный для высокой скорости и эффективности. Именно это и позволяет делать интеграция. Всего несколько строк кода — и разработчики могут преобразовать модели YOLOv8 в версии, совместимые с OpenVINO™, готовые использовать аппаратное ускорение Intel. Это позволяет запускать приложения ИИ, которые раньше ограничивались вычислительными ресурсами.

Преимущества OpenVINO: упрощаем разработку ИИ#

Интеграция Ultralytics и Intel — практичный шаг вперед в разработке ИИ. Объединив YOLOv8 и OpenVINO™, разработчики получают эффективный способ использовать CPU Intel®, которые лежат в основе вычислений во многих областях. Благодаря этому ИИ становится доступнее и эффективнее для практических задач.

Использование OpenVINO™ оптимизирует процесс инференса, позволяя моделям Ultralytics YOLOv8 эффективно работать в реальных условиях. Это дает возможность быстро развертывать решения на базе ИИ на самых разных устройствах без дорогостоящих конфигураций GPU и расширяет возможности в таких областях, как инициативы по созданию умных городов и улучшение обслуживания клиентов в розничной торговле.

Практическая польза#

• Повышенная производительность: инференс ИИ на CPU выполняется до трёх раз быстрее, а на других типах оборудования Intel прирост скорости ещё выше.
• Универсальное развёртывание: напиши приложение один раз и запускай его на любом оборудовании в экосистеме Intel — от CPU до VPU — без дополнительных изменений кода.
• Простота использования: изучи более 80 учебных материалов по оптимизации моделей ИИ — даже если ты не эксперт в глубоком обучении.

Истории успеха: о многом говорят результаты тестов#

Ultralytics и Intel проверили интеграцию на практике, сравнив производительность моделей YOLOv8 на различных аппаратных платформах Intel. Результаты показывают, что модели, оптимизированные для OpenVINO™, стабильно работают быстрее аналогов без ущерба для точности — от серии Intel Data Center GPU Flex до новейших CPU Xeon.

Рис. 1. Время инференса одного изображения в зависимости от размера и формата модели (CPU Xeon)

Внедряем ИИ в реальную жизнь#

Эта интеграция — не просто числа и результаты тестов. Она помогает разработчикам проще и эффективнее внедрять ИИ в реальные приложения. Будь то повышение безопасности благодаря более быстрому обнаружению объектов или создание более привлекательного клиентского опыта в розничной торговле с помощью интеллектуальной аналитики — интеграция Ultralytics YOLOv8 и Intel OpenVINO™ помогает создавать новое поколение приложений ИИ.

Начни прямо сейчас!#

Чтобы самостоятельно опробовать интеграцию, экспортируй модель YOLOv8 в OpenVINO™ и сравни ее производительность на своем оборудовании Intel. Дополнительную информацию и пошаговое руководство смотри на странице документации по интеграции с OpenVINO.