Запуск моделей Ultralytics YOLO на AI PC от Intel с OpenVINO

YOLO Vision 2024 (YV24), ежегодное гибридное мероприятие Ultralytics, объединило энтузиастов ИИ, разработчиков и экспертов со всего мира, чтобы изучить последние инновации в области компьютерного зрения. YV24 стало отличной возможностью и площадкой для обсуждения новых прорывов. На мероприятии ключевые игроки индустрии ИИ представили свои последние инновации. Среди них была Intel, принявшая участие в мероприятии с докладом о своем новом революционном AI-ПК и интеграции Intel OpenVINO с моделями Ultralytics YOLO, такими как Ultralytics YOLO11.

Доклад провели Adrian Boguszewski, евангелист программного обеспечения, соавтор [датасета](https://ultralytics-translation-1.invalid LandCover.ai), который обучает разработчиков работе с инструментарием OpenVINO от Intel, и Dmitriy Pastushenkov, евангелист AI-ПК с более чем 20-летним опытом в области промышленной автоматизации и ИИ. Во время мероприятия Adrian поделился своим воодушевлением: «Сегодня отличное мероприятие — не только потому, что Ultralytics выпустила новую версию YOLO, но и потому, что мы можем показать, как эта новая модель работает на нашем новом оборудовании, а также представить новую версию OpenVINO».

В этой статье мы рассмотрим ключевые моменты из доклада Intel на YV24, подробно разберем их AI-ПК, серию Intel Core Ultra 200V и интеграцию с моделями Ultralytics YOLO с помощью инструментария OpenVINO. Начнем!

Передовые технологии ИИ в 2024 году#

Dmitriy начал доклад с подробного разбора ключевых различий между традиционным ИИ и генеративным ИИ. Основное внимание было уделено тому, как эти технологии и варианты их применения развиваются в 2024 году. Традиционные методы ИИ, такие как компьютерное зрение и обработка естественного языка, необходимы для таких задач, как оценка позы, обнаружение объектов и распознавание голоса. Однако генеративный ИИ представляет собой новую волну технологий ИИ, включающую такие приложения, как чат-боты, генерация изображений по тексту, написание кода и даже генерация видео по тексту.

Рис. 1. Adrian и Dmitriy из Intel на сцене YV24 обсуждают варианты применения ИИ.

Dmitriy отметил разницу в масштабе между ними. Он объяснил, что если традиционные модели ИИ состоят из миллионов параметров, то генеративные модели ИИ работают в гораздо большем масштабе. Генеративные модели ИИ часто содержат миллиарды и даже триллионы параметров, что делает их значительно более требовательными к вычислительным ресурсам.

AI-ПК Intel: новый рубеж в области оборудования для ИИ#

Dmitriy представил AI-ПК Intel как новое аппаратное решение, разработанное для решения растущих проблем эффективного запуска традиционных и генеративных моделей ИИ. AI-ПК Intel — мощная и энергоэффективная машина. Он способен локально запускать широкий спектр моделей ИИ без необходимости обработки в облаке.

Локальная обработка помогает сохранять конфиденциальность данных. Когда модели ИИ могут работать независимо от интернет-соединения, это помогает решить этические вопросы отраслей, связанные с конфиденциальностью и безопасностью.

Движущей силой AI-ПК Intel служит процессор Intel Core Ultra 200V Series. Этот процессор объединяет три ключевых компонента: центральный процессор (CPU), графический процессор (GPU) и нейронный процессор (NPU). Каждый из них выполняет определенную роль при обработке различных типов рабочих нагрузок ИИ. CPU идеально подходит для небольших задач с низкой задержкой, требующих быстрых ответов, а GPU оптимизирован для высокопроизводительных операций, например запуска моделей ИИ. NPU, разработанный с учетом энергоэффективности, хорошо подходит для длительных задач, таких как обнаружение объектов в реальном времени с моделями вроде YOLO11.

Было отмечено, что CPU обеспечивает до 5 TOPS (триллионов операций в секунду), GPU — до 67 TOPS, а NPU позволяет энергоэффективно выполнять задачи ИИ непрерывно, не истощая системные ресурсы.

Достижения Intel в области ИИ: Intel Core Ultra 200V series#

Процессор Intel Core Ultra 200V Series объединяет все три движка ИИ — NPU, CPU и GPU — в одном компактном чипе. Его конструкция идеально подходит для компактных устройств, таких как ноутбуки, без ущерба для производительности.

Процессор также оснащен встроенной RAM, что снижает потребность в отдельных видеокартах. Это помогает уменьшить энергопотребление и сохранить компактность устройства. Dmitriy также подчеркнул гибкость процессора. Пользователи могут выбирать, запускать ли модели ИИ на CPU, GPU или NPU, в зависимости от задачи. Например, обнаружение объектов с моделями YOLO11 может выполняться на любом из этих движков, а более сложные задачи, такие как генерация изображений по тексту, могут одновременно использовать GPU и NPU для повышения производительности.

Во время презентации Dmitriy достал чип из кармана, наглядно показав, насколько он мал, несмотря на способность выполнять такие сложные задачи ИИ. Это был забавный и запоминающийся способ продемонстрировать, как Intel переносит мощные возможности ИИ на более мобильные и практичные устройства.

Рис. 2. Процессор Intel Core Ultra 200V помещается в кармане.

Оптимизация моделей ИИ с помощью Intel OpenVINO#

Продемонстрировав последние достижения Intel в области оборудования, Dmitriy перешел к программному стеку Intel для поддержки ИИ. Он представил OpenVINO — опенсорсный фреймворк Intel, предназначенный для эффективной оптимизации и развертывания моделей ИИ на различных устройствах. OpenVINO выходит за рамки задач компьютерного зрения и поддерживает модели ИИ, используемые для обработки естественного языка, обработки аудио, трансформеров и т. д.

OpenVINO совместим с популярными платформами, такими как PyTorch, TensorFlow, и ONNX, поэтому разработчики могут легко встроить его в свои рабочие процессы. Одной из ключевых функций, на которую он обратил внимание, была квантизация. Квантизация сжимает веса моделей, уменьшая их размер, чтобы большие модели могли плавно работать на локальных устройствах без облака. OpenVINO работает с несколькими фреймворками, запускается на CPU, GPU, NPU, FPGA и даже устройствах ARM, а также поддерживает Windows, Linux и macOS. Dmitriy также наглядно показал аудитории, как легко начать работу с OpenVINO.

Рис. 3. Dmitriy показывает, как начать работу с OpenVINO.

Интеграция Ultralytics с Intel OpenVINO#

Во второй части доклада микрофон передали Adrian, который объяснил бесшовную интеграцию моделей Ultralytics YOLO с инструментарием Intel OpenVINO, упрощающую процесс развертывания моделей YOLO. Он пошагово объяснил, как быстро и просто экспортировать модель YOLO с помощью пакета Ultralytics для Python в формат OpenVINO. Эта интеграция значительно упрощает разработчикам оптимизацию моделей для оборудования Intel и позволяет максимально эффективно использовать обе платформы.

Рис. 4. Adrian объясняет, как Ultralytics упрощает экспорт модели в формат OpenVINO.

Adrian продемонстрировал, что после обучения модели Ultralytics YOLO пользователи могут экспортировать ее с помощью нескольких простых флагов командной строки. Например, можно указать, нужно ли экспортировать модель в формате с плавающей точкой для максимальной точности или в квантизованном формате для повышения скорости и эффективности. Он также показал, как разработчики могут управлять этим процессом непосредственно из кода, используя такие параметры, как квантизация INT8, чтобы повысить производительность без существенной потери точности.

Демонстрация ИИ в реальном времени на AI-ПК Intel#

Перейдя от теории к практике, команда Intel представила демонстрацию обнаружения объектов в реальном времени, запустив YOLO11 на AI-ПК Intel. Adrian показал, как система обрабатывала модель на разных процессорах: 36 кадров в секунду (FPS) на CPU с моделью с плавающей точкой, более 100 FPS на интегрированном GPU и 70 FPS с квантизованной версией INT8. Это наглядно продемонстрировало, насколько эффективно AI-ПК Intel справляется со сложными задачами ИИ.

Он также отметил, что система может запускать модели параллельно, используя CPU, GPU и NPU вместе для задач, где все данные или видеокадры доступны заранее. Это полезно при обработке больших нагрузок, например видео. Система может распределять нагрузку между разными процессорами, повышая скорость и эффективность.

В завершение Adrian упомянул, что пользователи могут опробовать демонстрации дома, включая такие решения, как подсчет людей и интеллектуальное управление очередями. Затем он показал бонусную демонстрацию, в которой пользователи могли вводить запросы для генерации сюрреалистичных изображений в реальном времени на GPU. Это продемонстрировало универсальность AI-ПК Intel для традиционных задач ИИ и творческих проектов с генеративным ИИ.

Обнаружение объектов в реальном времени с помощью Intel OpenVINO#

На мероприятии Intel организовала стенд, где представила демонстрацию обнаружения объектов в реальном времени с использованием Ultralytics YOLO11, запущенного на AI-ПК Intel. Участники увидели модель в действии: она была оптимизирована с помощью OpenVINO и развернута на процессоре Intel Core Ultra 200V.

Рис. 5. Участники смогли увидеть демонстрацию в реальном времени на стенде Intel OpenVINO.

На стенде Intel Dmitriy поделился: «Я впервые на YOLO Vision и рад быть в Мадриде. Мы представляем модель YOLO11 от Ultralytics, работающую на процессоре Intel Core Ultra 200V. Она показывает отличную производительность, а для оптимизации и развертывания модели мы используем OpenVINO. Сотрудничать с Ultralytics и запускать модель на новейшем оборудовании Intel, используя CPU, GPU и NPU, было очень легко». На стенде также раздавали забавные подарки — футболки и блокноты, которые участники могли забрать домой.

Основные выводы#

Технический доклад Intel на YV24, посвященный процессорам Intel Core Ultra 200V Series, показал, как инструментарий OpenVINO оптимизирует модели ИИ, такие как Ultralytics YOLO11. Эта интеграция позволяет пользователям запускать модели YOLO непосредственно на своих устройствах, обеспечивая отличную производительность в задачах компьютерного зрения, например при обнаружении объектов. Главное преимущество заключается в том, что пользователям не нужно полагаться на облачные сервисы.

Разработчики и энтузиасты ИИ могут легко запускать и дообучать модели YOLO, полностью используя такие аппаратные компоненты, как CPU, GPU и NPU, для приложений реального времени. Инструментарий Intel OpenVINO в сочетании с моделями Ultralytics YOLO открывает новые возможности для переноса передовых возможностей ИИ непосредственно на персональные устройства, что делает это решение идеальным для разработчиков, стремящихся внедрять инновации в области ИИ в различных отраслях.

Давай сотрудничать и внедрять инновации! Посети наш репозиторий на GitHub, чтобы изучить наши разработки и пообщаться с нашим сообществом. Узнай, как мы используем ИИ, чтобы менять такие отрасли, как производство и здравоохранение.