9 октября 2024 г.
Пересмотрите доклад Дмитрия Пастушенкова и Адриана Богушевского YOLO Vision 2024 об оптимизации моделей YOLO с помощью Intel OpenVino и проведении выводов в реальном времени на компьютере Intel AI PC.
YOLO Vision 2024 (YV24), ежегодное гибридное мероприятие Ultralytics, собрало энтузиастов искусственного интеллекта, разработчиков и экспертов со всего мира для изучения последних инноваций в области компьютерного зрения. YV24 стал отличной возможностью и платформой для обсуждения новых прорывов. На мероприятии ключевые игроки индустрии ИИ представили свои последние инновации. Среди них была и компания Intel, которая приняла участие в мероприятии, представив ключевой доклад о своем новом революционном компьютере с искусственным интеллектом и интеграции Intel OpenVino с моделями Ultralytics YOLO, такими как Ultralytics YOLO11.
Доклад вели Адриан Богушевски, специалист по программному обеспечению, который является соавтором набора данных LandCover.ai и обучает разработчиков инструментарию Intel OpenVINO, и Дмитрий Пастушенков, специалист по компьютерному искусственному интеллекту с более чем 20-летним опытом работы в области промышленной автоматизации и искусственного интеллекта. Во время мероприятия Адриан поделился своим волнением и сказал: "Это замечательное событие сегодня не только потому, что Ultralytics представила новую версию YOLO, но и потому, что мы можем представить эту новую модель, работающую на нашем новом оборудовании, а также новую версию OpenVINO".
В этой статье мы рассмотрим основные моменты выступления Intel на YV24, углубившись в тонкости и особенности их компьютеров с искусственным интеллектом серии Intel Core Ultra 200V и их интеграции с моделями Ultralytics YOLO с помощью набора инструментов OpenVINO. Давайте начнем!
Дмитрий начал выступление с обсуждения ключевых различий между традиционным и генеративным ИИ. Основное внимание было уделено тому, как эти технологии и их применение будут развиваться в 2024 году. Традиционные методы ИИ, такие как компьютерное зрение и обработка естественного языка, были необходимы для решения таких задач, как оценка позы, обнаружение объектов и распознавание голоса. Генеративный ИИ, однако, представляет собой новую волну технологий ИИ, которая включает в себя такие приложения, как чат-боты, генерация текста в изображение, написание кода и даже превращение текста в видео.
Дмитрий обратил внимание на разницу в масштабах между ними. Он объяснил, что если традиционные модели ИИ состоят из миллионов параметров, то генеративные модели ИИ работают в гораздо больших масштабах. Генеративные модели ИИ часто включают в себя миллиарды или даже триллионы параметров, что делает их гораздо более требовательными к вычислительным ресурсам.
Дмитрий представил Intel AI PC как новое аппаратное решение, призванное решить растущие проблемы эффективной работы как традиционных, так и генеративных моделей ИИ. Intel AI PC - это мощная и энергоэффективная машина. Он способен выполнять широкий спектр моделей ИИ локально, без необходимости использования облачных вычислений.
Локальная обработка помогает сохранить конфиденциальность данных. Когда модели ИИ могут работать независимо от подключения к Интернету, этические проблемы, связанные с конфиденциальностью и безопасностью, становятся понятными.
Движущей силой Intel AI PC является процессор Intel Core Ultra 200V Series. Этот процессор включает в себя три ключевых компонента: центральный процессор (CPU), графический процессор (GPU) и блок нейронной обработки (NPU). Каждый из них играет определенную роль в обработке различных типов рабочих нагрузок ИИ. CPU идеально подходит для небольших задач с низкой задержкой, требующих быстрой реакции, в то время как GPU оптимизирован для высокопроизводительных операций, таких как запуск моделей ИИ. NPU, разработанный для повышения энергоэффективности, хорошо подходит для длительных задач, таких как обнаружение объектов в реальном времени с помощью моделей типа YOLO11.
Было подчеркнуто, что CPU может выполнять до 5 TOPS (триллионов операций в секунду), GPU - до 67 TOPS, а NPU обеспечивает энергоэффективный способ непрерывного выполнения задач искусственного интеллекта без истощения системных ресурсов.
Процессор серии Intel Core Ultra 200V объединяет все три движка искусственного интеллекта - NPU, CPU и GPU - в одном небольшом чипе. Его дизайн идеально подходит для компактных устройств, таких как ноутбуки, без ущерба для производительности.
Процессор также оснащен встроенной оперативной памятью, что избавляет от необходимости использовать отдельные видеокарты. Это позволяет снизить энергопотребление и сохранить компактность устройства. Дмитрий также подчеркнул гибкость процессора. Пользователи могут выбирать, на каком процессоре, GPU или NPU запускать модели ИИ, в зависимости от задачи. Например, обнаружение объектов с помощью моделей YOLO11 может выполняться на любом из этих процессоров, а более сложные задачи, такие как генерация текста в изображение, могут использовать GPU и NPU одновременно для повышения производительности.
Во время презентации Дмитрий достал чип из кармана, дав всем понять, насколько он мал, несмотря на способность решать столь сложные задачи ИИ. Это был забавный и запоминающийся способ показать, как Intel внедряет мощные возможности ИИ в более портативные и практичные устройства.
Показав последние аппаратные достижения Intel, Дмитрий переключился на программный стек Intel, поддерживающий ИИ. Он представил OpenVINO, фреймворк Intel с открытым исходным кодом, предназначенный для оптимизации и эффективного развертывания моделей ИИ на различных устройствах. OpenVINO выходит за рамки визуальных задач, расширяя свою поддержку до моделей ИИ, используемых для обработки естественного языка, аудио, трансформаторов и т. д.
OpenVINO совместим с такими популярными платформами, как PyTorch, TensorFlow и ONNX, и разработчики могут легко внедрить его в свои рабочие процессы. Одной из ключевых особенностей, на которую он обратил внимание, является квантование. Квантование сжимает веса моделей для уменьшения их размера, так что большие модели могут плавно работать на локальных устройствах, не нуждаясь в облаке. OpenVINO работает в нескольких фреймворках, на CPU, GPU, NPU, FPGA и даже ARM-устройствах, и поддерживает Windows, Linux и macOS. Дмитрий также рассказал слушателям о том, как легко начать работу с OpenVINO.
Во второй части доклада микрофон был передан Адриану, который рассказал о бесшовной интеграции моделей YOLO от Ultralytics с инструментарием OpenVINO от Intel, что упрощает процесс развертывания моделей YOLO. Он представил пошаговое объяснение того, как быстро и просто экспортировать модель YOLO с помощью пакета Ultralytics Python в формат OpenVINO. Такая интеграция значительно облегчает разработчикам оптимизацию моделей для оборудования Intel и позволяет получить максимальную отдачу от обеих платформ.
Адриан продемонстрировал, что после обучения модели Ultralytics YOLO пользователи могут экспортировать ее с помощью нескольких простых флагов командной строки. Например, пользователи могут указать, экспортировать ли модель в виде версии с плавающей точкой для максимальной точности или в виде квантованной версии для большей скорости и эффективности. Он также рассказал о том, как разработчики могут управлять этим процессом непосредственно через код, используя такие опции, как квантование INT8, для повышения производительности без ущерба для точности.
Применив всю эту теорию на практике, команда Intel представила демонстрацию обнаружения объектов в реальном времени, запустив YOLO11 на Intel AI PC. Адриан продемонстрировал, как система обрабатывает модель на разных процессорах, добившись 36 кадров в секунду (FPS) на CPU с моделью с плавающей точкой, более 100 FPS на интегрированном GPU и 70 FPS с квантованной версией INT8. Они смогли продемонстрировать, насколько эффективно Intel AI PC может справляться со сложными задачами ИИ.
Он также отметил, что система может запускать модели параллельно, используя CPU, GPU и NPU для задач, в которых все данные или видеокадры доступны заранее. Это полезно при обработке тяжелых грузов, таких как видео. Система может распределять рабочую нагрузку между разными процессорами, что делает ее быстрее и эффективнее.
В завершение Адриан упомянул, что пользователи могут опробовать демо-версии у себя дома, включая такие решения, как подсчет людей и интеллектуальное управление очередью. Затем он продемонстрировал бонусную демонстрацию, в которой пользователи могли вводить подсказки для генерации сновидческих образов в реальном времени на GPU. Это продемонстрировало универсальность Intel AI PC как для традиционных задач ИИ, так и для творческих, генеративных проектов ИИ.
На мероприятии был представлен стенд Intel, на котором демонстрировалась демонстрация обнаружения объектов в реальном времени с помощью YOLO11, запущенная на ПК Intel AI. Присутствующие смогли увидеть модель в действии, оптимизированную с помощью OpenVINO и развернутую на процессоре Intel Core Ultra 200V.
На стенде Intel Дмитрий поделился: "Я впервые участвую в выставке YOLO Vision и очень рад быть в Мадриде. Мы представляем модель YOLO11 от Ultralytics, работающую на процессоре Intel Core Ultra 200V. Она демонстрирует отличную производительность, а для оптимизации и развертывания модели мы используем OpenVINO. Было очень легко сотрудничать с Ultralytics и запустить модель на новейшем оборудовании Intel, используя CPU, GPU и NPU". На стенде также было несколько забавных подарков, таких как футболки и ноутбуки, которые посетители могли забрать домой.
В ходе выступления Intel на выставке YV24 с процессорами серии Intel Core Ultra 200V было показано, как инструментарий OpenVINO оптимизирует модели искусственного интеллекта, такие как Ultralytics YOLO11. Эта интеграция позволяет пользователям запускать модели YOLO непосредственно на своих устройствах, обеспечивая высокую производительность в задачах компьютерного зрения, таких как обнаружение объектов. Главное преимущество заключается в том, что пользователям не нужно полагаться на облачные сервисы.
Разработчики и энтузиасты искусственного интеллекта могут без труда запускать и настраивать модели YOLO, полностью используя аппаратные средства, такие как CPU, GPU и NPU, для работы приложений в режиме реального времени. Инструментарий Intel OpenVINO в сочетании с моделями YOLO от Ultralytics открывает новые возможности для внедрения передовых возможностей ИИ прямо в персональные устройства, что делает его идеальным вариантом для разработчиков, стремящихся к внедрению инноваций в области ИИ в различных отраслях.
Давайте сотрудничать и внедрять инновации! Посетите наш репозиторий GitHub, чтобы ознакомиться с нашими разработками и пообщаться с нашим сообществом. Посмотрите, как мы используем искусственный интеллект для оказания влияния на такие отрасли, как производство и здравоохранение.
.webp)
