9 октября 2024 г.
Посмотрите еще раз доклад Дмитрия Пастушенкова и Адриана Богушевского на YOLO Vision 2024 об оптимизации моделей YOLO с помощью Intel OpenVino и выполнении выводов в реальном времени на AI PC от Intel.
YOLO Vision 2024 (YV24), ежегодное гибридное мероприятие Ultralytics, собрало энтузиастов, разработчиков и экспертов в области искусственного интеллекта со всего мира для изучения последних инноваций в области компьютерного зрения. YV24 стала отличной возможностью и платформой для обсуждения новых прорывов. На мероприятии ключевые игроки индустрии искусственного интеллекта представили свои последние инновации. Среди них была Intel, которая приняла участие в мероприятии, представив основной доклад о своем новом революционном AI PC и интеграции Intel OpenVino с моделями Ultralytics YOLO, такими как Ultralytics YOLO11.
Доклад вели Адриан Богушевский, евангелист программного обеспечения, соавтор набора данных LandCover.ai и обучающий разработчиков работе с инструментарием Intel OpenVINO, и Дмитрий Пастушенков, евангелист AI PC с более чем 20-летним опытом работы в области промышленной автоматизации и ИИ. Во время мероприятия Адриан поделился своим восторгом и сказал: "Сегодня отличное мероприятие, не только потому, что Ultralytics выпустила новую версию YOLO, но и потому, что мы можем представить эту новую модель, работающую на нашем новом оборудовании, а также новую версию OpenVINO".
В этой статье мы рассмотрим основные моменты выступления Intel на YV24, углубившись в особенности их AI PC, Intel Core Ultra 200V Series, и то, как они интегрируются с моделями Ultralytics YOLO с помощью инструментария OpenVINO. Давайте начнем!
Дмитрий начал свой доклад с рассмотрения ключевых различий между традиционным ИИ и генеративным ИИ. Основное внимание было уделено тому, как эти технологии и варианты их использования развиваются в 2024 году. Традиционные методы ИИ, такие как компьютерное зрение и обработка естественного языка, были важны для таких задач, как оценка позы, обнаружение объектов и распознавание голоса. Генеративный ИИ, однако, представляет собой новую волну технологий ИИ, которая включает в себя такие приложения, как чат-боты, генерация текста в изображение, написание кода и даже преобразование текста в видео.
Дмитрий указал на разницу в масштабе между ними. Он объяснил, что в то время как традиционные модели ИИ состоят из миллионов параметров, генеративные модели ИИ работают в гораздо большем масштабе. Генеративные модели ИИ часто включают миллиарды или даже триллионы параметров, что делает их гораздо более требовательными к вычислениям.
Дмитрий представил Intel AI PC как новое аппаратное решение, разработанное для решения растущих проблем эффективного запуска как традиционных, так и генеративных моделей ИИ. Intel AI PC — это мощная и энергоэффективная машина. Она способна запускать широкий спектр моделей ИИ локально, без необходимости обработки в облаке.
Локальная обработка помогает сохранить конфиденциальность данных. Когда модели ИИ могут работать независимо от подключения к Интернету, решаются этические проблемы отраслей, касающиеся конфиденциальности и безопасности.
Движущей силой Intel AI PC является процессор Intel Core Ultra серии 200V. Этот процессор включает в себя три ключевых компонента: центральный процессор (CPU), графический процессор (GPU) и нейронный процессор (NPU). Каждый играет определенную роль в обработке различных типов рабочих нагрузок ИИ. CPU идеально подходит для небольших задач с низкой задержкой, требующих быстрой реакции, в то время как GPU оптимизирован для операций с высокой пропускной способностью, таких как запуск моделей ИИ. NPU, разработанный для энергоэффективности, хорошо подходит для длительных задач, таких как обнаружение объектов в реальном времени с помощью моделей, таких как YOLO11.
Было подчеркнуто, что ЦП может обеспечивать до 5 TOPS (триллионов операций в секунду), графический процессор — до 67 TOPS, а NPU обеспечивает энергоэффективный способ непрерывного выполнения задач ИИ без истощения системных ресурсов.
Процессор Intel Core Ultra 200V Series объединяет все три движка ИИ — NPU, CPU и GPU — в одном небольшом чипе. Его конструкция идеально подходит для компактных устройств, таких как ноутбуки, без ущерба для производительности.
Процессор также включает встроенную оперативную память, что снижает потребность в отдельных видеокартах. Это помогает снизить энергопотребление и сохранить компактность устройства. Дмитрий также подчеркнул гибкость процессора. Пользователи могут сами решать, запускать ли модели ИИ на CPU, GPU или NPU, в зависимости от задачи. Например, обнаружение объектов с помощью моделей YOLO11 может выполняться на любом из этих движков, в то время как более сложные задачи, такие как генерация текста в изображение, могут использовать как GPU, так и NPU одновременно для повышения производительности.
Во время презентации Дмитрий достал чип из кармана, наглядно продемонстрировав всем, насколько он мал, несмотря на его способность справляться со сложными задачами ИИ. Это был интересный и запоминающийся способ показать, как Intel внедряет мощные возможности ИИ в более портативные и практичные устройства.
Представив последние достижения Intel в области аппаратного обеспечения, Дмитрий переключился на программный стек Intel, поддерживающий ИИ. Он представил OpenVINO, платформу с открытым исходным кодом от Intel, предназначенную для оптимизации и развертывания моделей ИИ на различных устройствах. OpenVINO выходит за рамки визуальных задач, расширяя свою поддержку на модели ИИ, используемые для обработки естественного языка, обработки аудио, трансформеров и т. д.
OpenVINO совместим с популярными платформами, такими как PyTorch, TensorFlow и ONNX, и разработчики могут легко интегрировать его в свои рабочие процессы. Одной из ключевых особенностей, на которую он обратил внимание, была квантизация. Квантизация сжимает веса модели, чтобы уменьшить их размер, чтобы большие модели могли плавно работать на локальных устройствах без необходимости использования облака. OpenVINO работает на нескольких фреймворках, работающих на CPU, GPU, NPU, FPGA или даже ARM-устройствах, и поддерживает Windows, Linux и macOS. Дмитрий также рассказал аудитории, как легко начать работу с OpenVINO.
Во второй части доклада микрофон был передан Адриану, который объяснил простую интеграцию между моделями Ultralytics YOLO и инструментарием Intel OpenVINO, упрощающую процесс развертывания моделей YOLO. Он предоставил пошаговое объяснение того, как экспорт модели YOLO с использованием пакета Ultralytics Python в формат OpenVINO выполняется быстро и просто. Эта интеграция значительно упрощает разработчикам оптимизацию своих моделей для оборудования Intel и получение максимальной отдачи от обеих платформ.
Адриан продемонстрировал, что после того, как модель Ultralytics YOLO обучена, пользователи могут экспортировать ее, используя несколько простых флагов командной строки. Например, пользователи могут указать, хотят ли они экспортировать модель как версию с плавающей запятой для максимальной точности или как квантованную версию для повышения скорости и эффективности. Он также подчеркнул, как разработчики могут управлять этим процессом непосредственно через код, используя такие параметры, как квантование INT8, для повышения производительности без ущерба для точности.
Переходя от теории к практике, команда Intel представила демонстрацию обнаружения объектов в реальном времени, запустив YOLO11 на Intel AI PC. Адриан продемонстрировал, как система обрабатывает модель на различных процессорах, достигая 36 кадров в секунду (FPS) на CPU с моделью с плавающей запятой, более 100 FPS на интегрированном GPU и 70 FPS с квантованной версией INT8. Они смогли показать, насколько эффективно Intel AI PC может справляться со сложными задачами ИИ.
Он также отметил, что система может запускать модели параллельно, используя ЦП, ГП и NPU вместе для задач, в которых все данные или видеокадры доступны заранее. Это полезно при обработке больших нагрузок, таких как видео. Система может разделить рабочую нагрузку между различными процессорами, что делает ее более быстрой и эффективной.
В заключение Адриан упомянул, что пользователи могут попробовать демоверсии дома, включая такие решения, как подсчет людей и интеллектуальное управление очередями. Затем он показал бонусную демоверсию, где пользователи могли вводить запросы для создания похожих на сновидения изображений в режиме реального времени на графическом процессоре. Это продемонстрировало универсальность Intel AI PC как для традиционных задач ИИ, так и для творческих, генеративных проектов ИИ.
На мероприятии у Intel был стенд, где они демонстрировали обнаружение объектов в реальном времени с использованием YOLO11, работающей на их Intel AI PC. Участники смогли увидеть модель в действии, оптимизированную с помощью OpenVINO и развернутую на процессоре Intel Core Ultra 200V.
На стенде Intel Дмитрий поделился: «Я впервые на YOLO Vision, и я рад быть в Мадриде. Мы представляем модель YOLO11 от Ultralytics, работающую на процессоре Intel Core Ultra 200V. Она демонстрирует отличную производительность, и мы используем OpenVINO для оптимизации и развертывания модели. Было очень легко сотрудничать с Ultralytics и запускать модель на новейшем оборудовании Intel, используя CPU, GPU и NPU». На стенде также были забавные подарки, такие как футболки и блокноты, которые участники могли взять домой.
Техническая презентация Intel на YV24, посвященная процессорам Intel Core Ultra 200V Series, продемонстрировала, как инструментарий OpenVINO оптимизирует AI-модели, такие как Ultralytics YOLO11. Эта интеграция позволяет пользователям запускать модели YOLO непосредственно на своих устройствах, обеспечивая высокую производительность для задач компьютерного зрения, таких как обнаружение объектов. Ключевым преимуществом является то, что пользователям не нужно полагаться на облачные сервисы.
Разработчики и энтузиасты ИИ могут без труда запускать и дообучать модели YOLO, в полной мере используя аппаратное обеспечение, такое как ЦП, ГП и NPU, для приложений реального времени. Инструментарий Intel OpenVINO в сочетании с моделями Ultralytics YOLO открывает новые возможности для внедрения передовых возможностей ИИ непосредственно в персональные устройства, что делает его идеальным вариантом для разработчиков, стремящихся к внедрению инноваций в области ИИ в различных отраслях.
Давайте сотрудничать и внедрять инновации! Посетите наш репозиторий GitHub, чтобы ознакомиться с нашим вкладом и пообщаться с нашим сообществом. Узнайте, как мы используем ИИ, чтобы оказать влияние на такие отрасли, как производство и здравоохранение.
.webp)