Ultralytics YOLO с DEEPX: вычисления на периферии для физического ИИ
Узнайте, как новая интеграция с DEEPX позволяетYOLO Ultralytics на периферийных устройствах искусственного интеллекта, оснащённых нейропроцессорами (NPU).

Узнайте, как новая интеграция с DEEPX позволяетYOLO Ultralytics на периферийных устройствах искусственного интеллекта, оснащённых нейропроцессорами (NPU).

В Ultralytics мы наблюдаем растущую тенденцию к запуску моделей компьютерного зрения непосредственно на периферийных устройствах по мере того, как искусственный интеллект все глубже внедряется в физический мир. От робототехники и промышленного оборудования до интеллектуальных камер и автономных транспортных средств — все больше интеллектуальных систем должны уметь «видеть», «понимать» и действовать в режиме реального времени, не полагаясь на облачные сервисы.
Эту новую волну интеллектуальных систем называют «физическим ИИ», и она требует высокопроизводительных и сверхэнергоэффективных вычислительных систем, способных автономно функционировать в реальных условиях. Системы, работающие в реальных условиях, нуждаются в ИИ для обработки изображений, который работает локально, надежно и эффективно на аппаратном обеспечении, специально разработанном для периферийных устройств.
YOLO Ultralytics YOLO , такие как Ultralytics , разработаны для компьютерного зрения в режиме реального времени, однако для полного раскрытия их потенциала на периферийных устройствах необходимо правильное сочетание программного и аппаратного обеспечения. В связи с этим мы рады объявить о нашем новом партнерстве с компанией DEEPX.
Мы заключили партнерское соглашение с компанией DEEPX с целью внедрения новой экспортной интеграции, которая обеспечит эффективное и высокопроизводительное развертываниеYOLO Ultralytics YOLO на аппаратных платформах DEEPX NPU. Совместными усилиями мы устанавливаем единый глобальный стандарт разработки, развертывания и масштабирования решений в области физического искусственного интеллекта.
Ultralytics , являясь наиболее широко используемой в мире платформой для компьютерного зрения, Ultralytics «глаза» этих систем. DEEPX, один из ведущих производителей нейронных процессоров (NPU), обеспечивает «мозг», необходимый для их масштабного внедрения.
В компаниях Ultralytics DEEPX мы руководствуемся принципами доступности, высокой производительности и ориентированности на разработчиков. Объединяя экосистемы Ultralytics DEEPX, мы предлагаем единый и надежный путь для коммерческого внедрения технологий искусственного интеллекта в области компьютерного зрения — будь то начинающая компания в сфере робототехники, выпускающая свой первый продукт, или производитель из списка Fortune 500, внедряющий эти технологии на тысячах своих предприятий.
Это означает:
Прежде чем углубиться в тему новой интеграции экспортных функций, давайте подробнее познакомимся с DEEPX и ролью, которую играют его нейронные процессоры (NPU) в обеспечении эффективного физического ИИ.
DEEPX — инновационная компания в сфере полупроводниковых решений для искусственного интеллекта, которая выпускает высокоэффективное периферийное оборудование для искусственного интеллекта, специально разработанное для моделей компьютерного зрения, таких как Ultralytics YOLO непревзойденным показателем количества кадров в секунду на ватт (FPS/W).
Чипы DEEPX устанавливают новые стандарты производительности, уделяя внимание реальной эффективности, а не теоретическим показателям, что позволяет разработчикам достигать результатов, GPU, при значительно меньшем энергопотреблении.
Особенно инновационным подход DEEPX делает его полнофункциональная архитектура. НПУ DX-M1 разработан специально для ускорения вычислительных процессов моделей компьютерного зрения, отличается пассивным охлаждением и низким энергопотреблением, что делает его идеальным решением для внедрения в промышленных масштабах, где важны соотношение производительности к энергопотреблению и долгосрочная надежность. DX-M1 находится в серийном производстве на 5-нм технологическом процессе Samsung Foundry, а DX-M2 уже включен в дорожную карту на 2-нм GAA Samsung, чтобы расширить границы эффективности в эпоху агентского ИИ.
Python Ultralytics Python и Ultralytics предоставляют полноценную унифицированную среду для обучения, оценки и развертывания YOLO для всех пяти задач компьютерного зрения. Независимо от того, предпочитаете ли вы работать с кодом или использовать удобный визуальный рабочий процесс, оба подхода обеспечивают вам единообразный и масштабируемый способ прохождения всего пути от данных до развертывания модели.
В рамках этого партнерства Ultralytics новую интеграцию с DEEPX для экспорта, позволяющую экспортировать YOLO для развертывания на аппаратных средствах DEEPX NPU с помощью одной команды: format=deepx. Эта интеграция полностью поддерживается во всей Ultralytics , что означает, что разработчики могут экспортировать модели в DEEPX из Python или напрямую с Ultralytics после аннотирования и обучения модели. Во время экспорта модель компилируется и квантуется в INT8 в оптимизированный двоичный файл .dxnn, при этом калибровка EMA обеспечивает максимальную производительность NPU без ущерба для качества модели.
На практике это означает, что коммерческие команды могут всего за три команды перейти от помеченных данных к готовой к производственному использованию модели, работающей на нейропроцессорах DEEPX:
Подробную информацию о настройке, включая установку в среде выполнения и визуализацию с помощью средства просмотра графов dxtron от DEEPX, см. в документации по интеграции DEEPX.
Вот некоторые из основных преимуществ развертыванияYOLO Ultralytics YOLO на аппаратном обеспечении DEEPX с помощью новой интеграции:
Итак, в каких типичных областях применения физического ИИYOLO Ultralytics можно внедрять на аппаратных платформах DEEPX в реальных условиях?
Современные системы видеонаблюдения требуют обнаружения объектов в режиме реального времени без ущерба для конфиденциальности или возможности подключения.YOLO Ultralytics YOLO , работающие на нейронных процессорах DEEPX, позволяют камерам видеонаблюдения и системам мониторинга анализировать видеопоток локально, распознавая людей, транспортные средства и необычную активность в режиме реального времени при низком энергопотреблении и без зависимости от облачных сервисов. В связи с ужесточением требований GDPR в Европе и все более частым включением в условия муниципальных закупок обязательного хранения данных на территории страны, вычисления на устройстве становятся преимуществом не только с технической, но и с нормативной точки зрения.
На заводах и производственных предприятиях технологии искусственного интеллекта на базе систем машинного зрения все чаще используются для автоматизации контроля качества, выявления дефектов и мониторинга производственных процессов. СочетаниеYOLO Ultralytics с аппаратным обеспечением DEEPX позволяет осуществлять проверку непосредственно на устройствах, которые надежно работают круглосуточно в сложных промышленных условиях, что способствует сокращению отходов, повышению качества продукции и обеспечению безопасности работников.
В робототехнике скорость и оперативность имеют решающее значение. Будь то перемещение по складу, работа в динамичных промышленных условиях или взаимодействие с людьми — роботы должны мгновенно анализировать окружающую обстановку.YOLO Ultralytics , работающие на нейронных процессорах DEEPX, позволяют роботам detect , track и распознавать объекты в режиме реального времени, обеспечивая более безопасное перемещение и повышенную автономность без необходимости постоянного подключения к облаку.
YOLO Ultralytics и нейропроцессоры DEEPX позволяют как никогда просто внедрять высокопроизводительные решения в области физического ИИ на периферийных устройствах. Благодаря упрощению развертывания с помощью нового стандарта format=deepx и оптимизации моделей под энергоэффективное аппаратное обеспечение DEEPX, это партнерство помогает преодолеть разрыв между разработкой и реальными коммерческими приложениями. На фоне продолжающегося роста сферы физического ИИ данное сотрудничество является шагом к тому, чтобы сделать ИИ для систем технического зрения, готовый к промышленному применению, доступным, экономичным и масштабируемым для предприятий любого размера.
Готовы быстрее вывести на рынок свои продукты на базе периферийного ИИ?
Узнайте, как такие инновации, как искусственный интеллект в робототехнике и искусственный интеллект в производстве, определяют будущее.
Начните свой путь в будущее машинного обучения