Запуск моделей Ultralytics YOLO на ИИ-ПК Intel с OpenVINO

YOLO Vision 2024 (YV24), ежегодное гибридное мероприятие Ultralytics, объединило энтузиастов ИИ, разработчиков и экспертов со всего мира, чтобы обсудить последние инновации в области компьютерного зрения. На YV24 ведущие представители индустрии ИИ представили свои новейшие разработки. Среди них была Intel, выступившая с ключевым докладом о новом ИИ-ПК и интеграции Intel OpenVINO с моделями Ultralytics YOLO, например Ultralytics YOLO11.

Доклад представили Адриан Богушевский, евангелист программных продуктов, соавтор набора данных LandCover.ai и специалист по обучению разработчиков работе с инструментарием Intel OpenVINO, и Дмитрий Пастушенков, евангелист ИИ-ПК с более чем 20-летним опытом в промышленной автоматизации и ИИ. Во время мероприятия Адриан сказал: «Сегодняшнее мероприятие прекрасно не только потому, что Ultralytics выпустила новую версию YOLO, но и потому, что мы можем показать эту новую модель на нашем новом оборудовании и представить новую версию OpenVINO».

В этой статье мы рассмотрим ключевые моменты доклада Intel на YV24: ИИ-ПК Intel, серию Intel Core Ultra 200V и их интеграцию с моделями Ultralytics YOLO с помощью инструментария OpenVINO.

Технологии ИИ в 2024 году#

Дмитрий начал ключевой доклад с объяснения основных различий между традиционным ИИ и генеративным ИИ. Он рассказал, как эти технологии и варианты их применения развиваются в 2024 году. Традиционные методы ИИ, такие как компьютерное зрение и обработка естественного языка, играют важную роль в таких задачах, как оценка позы, обнаружение объектов и распознавание речи. Генеративный ИИ — более новое направление, включающее такие приложения, как чат-боты, генерация изображений по тексту, написание кода и даже создание видео по тексту.

Рис. 1. Адриан и Дмитрий из Intel на сцене YV24 обсуждают варианты применения ИИ.

Дмитрий отметил, что эти два подхода отличаются масштабом. Он объяснил, что традиционные модели ИИ содержат миллионы параметров, а генеративные модели работают в гораздо большем масштабе. Генеративные модели часто включают миллиарды и даже триллионы параметров, поэтому требуют значительно больше вычислительных ресурсов.

ПК Intel с ИИ: новая эра аппаратного обеспечения для ИИ#

Дмитрий представил ПК Intel с ИИ как новое аппаратное решение, созданное для эффективного запуска традиционных и генеративных моделей ИИ, отвечающее на растущие сложности. ПК Intel с ИИ — мощная и энергоэффективная машина. Она способна локально запускать широкий спектр моделей ИИ без необходимости облачной обработки.

Локальная обработка помогает сохранять конфиденциальность чувствительных данных. Если модели ИИ могут работать без подключения к интернету, это помогает решать этические вопросы конфиденциальности и безопасности, актуальные для отрасли.

Основой ИИ-ПК Intel стал процессор Intel Core Ultra 200V Series. В него входят три ключевых компонента: центральный процессор (CPU), графический процессор (GPU) и нейропроцессор (NPU). Каждый из них предназначен для обработки разных типов рабочих нагрузок ИИ. CPU подходит для небольших задач с низкой задержкой, требующих быстрого отклика, а GPU оптимизирован для высокопроизводительных операций, например запуска моделей ИИ. NPU, разработанный с упором на энергоэффективность, хорошо подходит для длительных задач, таких как обнаружение объектов в реальном времени с помощью моделей вроде YOLO11.

Отмечалось, что CPU обеспечивает производительность до 5 TOPS (триллионов операций в секунду), GPU — до 67 TOPS, а NPU позволяет энергоэффективно выполнять задачи ИИ непрерывно, не расходуя системные ресурсы.

Достижения Intel в области ИИ: серия Intel Core Ultra 200V#

Процессор Intel Core Ultra 200V Series объединяет все три движка ИИ — NPU, CPU и GPU — в одном небольшом чипе. Он хорошо подходит для компактных устройств, например ноутбуков.

Процессор также оснащен встроенной оперативной памятью, поэтому отдельная видеокарта не нужна. Это помогает снизить энергопотребление и сохранить компактность устройства. Дмитрий также подчеркнул гибкость процессора. Пользователи могут выбирать, запускать ли модели ИИ на CPU, GPU или NPU, в зависимости от задачи. Например, обнаружение объектов с моделями YOLO11 можно выполнять на любом из этих вычислительных блоков, а для более сложных задач, таких как генерация изображений по тексту, можно одновременно задействовать GPU и NPU для повышения производительности.

Во время презентации Дмитрий достал чип из кармана, наглядно показав, насколько он мал, несмотря на способность справляться с такими сложными задачами ИИ. Это был веселый и запоминающийся способ продемонстрировать, как Intel делает мощные возможности ИИ доступнее для более портативных и практичных устройств.

Рис. 2. Процессор Intel Core Ultra 200V помещается в кармане.

Оптимизация моделей ИИ с помощью Intel OpenVINO#

Показав новейшее оборудование Intel, Дмитрий перешёл к программному стеку Intel для ИИ. Он представил OpenVINO — фреймворк с открытым исходным кодом, разработанный Intel для эффективной оптимизации и развёртывания моделей ИИ на разных устройствах. OpenVINO подходит не только для задач компьютерного зрения: он также поддерживает модели ИИ для обработки естественного языка, обработки аудио, трансформеров и других задач.

OpenVINO совместим с популярными фреймворками, такими как PyTorch, TensorFlow и ONNX, и разработчики могут легко встроить его в свои рабочие процессы. Одной из важных функций, на которой он остановился, была квантизация. Квантизация сжимает веса модели, уменьшая её размер, чтобы большие модели могли работать на локальных устройствах без облака. OpenVINO поддерживает разные фреймворки и работает на CPU, GPU, NPU, FPGA и даже устройствах ARM, а также поддерживает Windows, Linux и macOS. Дмитрий также показал, как легко начать работу с OpenVINO.

Рис. 3. Дмитрий рассказывает, как начать работу с OpenVINO.

Интеграция Ultralytics с Intel OpenVINO#

Во второй части доклада микрофон передали Адриану. Он объяснил, как интеграция моделей Ultralytics YOLO с инструментарием Intel OpenVINO упрощает развёртывание моделей YOLO. Он пошагово показал, как быстро и просто экспортировать модель YOLO в формат OpenVINO с помощью пакета Ultralytics для Python. Эта интеграция упрощает разработчикам оптимизацию моделей для оборудования Intel и помогает максимально использовать возможности обеих платформ.

Рис. 4. Адриан объясняет, как Ultralytics упрощает экспорт модели в формат OpenVINO.

Адриан показал, что после обучения модели Ultralytics YOLO её можно экспортировать, указав несколько простых флагов командной строки. Например, можно выбрать экспорт модели в формате с плавающей точкой для максимальной точности или в квантизованном формате для повышения скорости и эффективности. Он также отметил, что разработчики могут управлять этим процессом непосредственно из кода, используя такие параметры, как квантизация INT8, чтобы повысить производительность без существенной потери точности.

Демонстрации ИИ в реальном времени на ПК Intel AI PC#

Чтобы перейти от теории к практике, команда Intel провела демонстрацию обнаружения объектов в реальном времени, запустив YOLO11 на ИИ-ПК Intel. Адриан показал, как система обрабатывала модель на разных процессорах: 36 кадров в секунду (FPS) на CPU с моделью в формате с плавающей точкой, более 100 FPS на встроенном GPU и 70 FPS с квантизованной версией INT8. Демонстрация показала, насколько эффективно ИИ-ПК Intel справляется со сложными задачами ИИ.

Он также отметил, что система может запускать модели параллельно, одновременно используя CPU, GPU и NPU для задач, в которых все данные или видеокадры доступны заранее. Это полезно при обработке больших объемов данных, например видео. Система может распределить нагрузку между разными процессорами, повышая скорость и эффективность.

В завершение Адриан упомянул, что пользователи могут попробовать демоверсии дома, включая решения для подсчёта людей и интеллектуального управления очередями. Затем он показал дополнительную демонстрацию, в которой пользователи вводили запросы и в реальном времени создавали мечтательные изображения на GPU. Она продемонстрировала универсальность ИИ-ПК Intel для традиционных задач ИИ, а также творческих проектов на базе генеративного ИИ.

Обнаружение объектов в реальном времени с Intel OpenVINO#

На мероприятии у Intel был стенд, где демонстрировали обнаружение объектов в реальном времени с помощью Ultralytics YOLO11 на Intel AI PC. Посетители увидели модель в действии: оптимизированную с помощью OpenVINO и развернутую на процессоре Intel Core Ultra 200V.

Рис. 5. Посетители смогли посмотреть демонстрацию в реальном времени на стенде Intel OpenVINO.

На стенде Intel Дмитрий поделился впечатлениями: «Я впервые на YOLO Vision и рад быть в Мадриде. Мы представляем модель YOLO11 от Ultralytics, работающую на процессоре Intel Core Ultra 200V. Она демонстрирует отличную производительность, а для оптимизации и развертывания модели мы используем OpenVINO. С Ultralytics было очень легко сотрудничать и запускать модель на новейшем оборудовании Intel, задействуя CPU, GPU и NPU». На стенде также раздавали посетителям сувениры — футболки и блокноты.

Главные выводы#

Техническая презентация Intel на YV24, посвященная процессорам серии Intel Core Ultra 200V, показала, как набор инструментов OpenVINO оптимизирует модели ИИ, например Ultralytics YOLO11. Эта интеграция позволяет пользователям запускать модели YOLO непосредственно на своих устройствах и обеспечивает высокую производительность в задачах компьютерного зрения, таких как обнаружение объектов. Главное преимущество — пользователям не нужно полагаться на облачные сервисы.

Разработчики и энтузиасты ИИ могут запускать и дообучать модели YOLO, полностью используя CPU, GPU и NPU для приложений реального времени. Инструментарий Intel OpenVINO в сочетании с моделями Ultralytics YOLO открывает новые возможности для запуска передовых функций ИИ непосредственно на персональных устройствах и становится отличным выбором для разработчиков приложений ИИ в самых разных отраслях.

Посети наш репозиторий на GitHub, чтобы узнать о наших разработках, и присоединяйся к нашему сообществу. Посмотри, как мы используем ИИ, чтобы менять такие отрасли, как производство и здравоохранение.