Партнерство Ultralytics YOLO с DEEPX: Edge AI инференс для Physical AI

В Ultralytics мы наблюдаем растущий сдвиг в сторону запуска моделей компьютерного зрения непосредственно на периферийных устройствах (edge devices), поскольку ИИ всё глубже проникает в физический мир. От робототехники и промышленного оборудования до умных камер и автономных транспортных средств — всё больше интеллектуальных систем требуют способности видеть, понимать и действовать в режиме реального времени, не завися от облака.

Эту новую волну интеллектуальных систем называют Physical AI, и она требует высокопроизводительных, ультраэнергоэффективных вычислений, способных функционировать автономно в реальных условиях. Системе реального времени нужен ИИ зрения, который работает локально, надежно и эффективно на аппаратном обеспечении, специально созданном для периферии.

Модели Ultralytics YOLO, такие как Ultralytics YOLO26, разработаны для компьютерного зрения в реальном времени, но для раскрытия их полного потенциала на периферии требуется правильное сочетание программного и аппаратного обеспечения. В связи с этим мы рады объявить о нашем новом партнерстве с DEEPX.

Мы заключили партнерство с DEEPX, чтобы представить новую интеграцию экспорта, позволяющую эффективно и высокопроизводительно развертывать модели Ultralytics YOLO на NPU-оборудовании DEEPX. Вместе мы устанавливаем единый глобальный стандарт того, как Physical AI создается, развертывается и масштабируется.

Link to this sectionОбщее видение будущего Physical AI#

Будучи самым широко используемым в мире фреймворком компьютерного зрения, Ultralytics предоставляет «глаза» для этих систем. Как один из самых эффективных производителей NPU, DEEPX предоставляет «мозг» для их масштабируемого запуска.

В Ultralytics и DEEPX мы верим в доступность, производительность и дизайн, ориентированный на разработчика, и это движет нами. Объединяя экосистемы Ultralytics и DEEPX, мы предоставляем единый, надежный путь для коммерческого развертывания ИИ зрения, будь то робототехническая компания на ранней стадии, выпускающая свой первый продукт, или производитель из списка Fortune 500, внедряющий ИИ зрения на тысячах объектов.

Это означает:

• Более быстрый вывод на рынок: от аннотирования до развертывания за дни, а не месяцы.
• Снижение затрат на развертывание: производительность уровня GPU при доле затрат на питание и кремний, что дает тебе 250+ FPS при энергопотреблении 2-4 Вт.
• Новые возможности для получения дохода: создавай и поставляй edge AI продукты, которые раньше были экономически невыгодными.
• Масштабируемость с заделом на будущее: специальный CI/CD конвейер гарантирует, что каждый новый релиз Ultralytics работает «из коробки» с оборудованием DEEPX при поддержке многолетних обязательств DEEPX по поставкам.

Link to this sectionИзучение технологии NPU компании DEEPX#

Прежде чем погрузиться в новую интеграцию экспорта, давай узнаем больше о DEEPX и той роли, которую её NPU играют в обеспечении эффективного Physical AI.

DEEPX — это инноватор в области ИИ-полупроводников, поставляющий эффективное edge AI оборудование, специально созданное для таких моделей зрения, как Ultralytics YOLO, с непревзойденным показателем кадров в секунду на ватт (FPS/W).

Чипы DEEPX переопределяют производительность, фокусируясь на реальной эффективности, а не на теоретических метриках, позволяя разработчикам достигать результатов уровня GPU при гораздо меньшем бюджете энергопотребления.

Что делает подход DEEPX особенно инновационным, так это полностековый дизайн. NPU DX-M1 спроектирован специально для ускорения вычислительных паттернов моделей компьютерного зрения, с пассивным охлаждением и низким энергопотреблением, что делает его идеальным для производственных развертываний, где важны производительность на ватт и долгосрочная надежность. DX-M1 находится в массовом производстве на мощностях Samsung Foundry 5 нм, а DX-M2 уже находится в дорожной карте на 2 нм GAA Samsung, чтобы расширить этот диапазон эффективности до эры Agentic AI.

Link to this sectionНачало работы с экспортом моделей Ultralytics YOLO в DEEPX#

Python-пакет Ultralytics и платформа Ultralytics предоставляют полную, унифицированную среду для обучения, оценки и развертывания моделей YOLO по всем пяти задачам компьютерного зрения. Независимо от того, предпочитаешь ли ты работать в коде или через бесшовный визуальный рабочий процесс, оба пути дают тебе последовательный и масштабируемый способ прохождения пути модели от данных до развертывания.

Благодаря этому партнерству Ultralytics представила новую интеграцию экспорта с DEEPX, позволяющую экспортировать модели YOLO для развертывания на NPU-оборудовании DEEPX с помощью одной команды: format=deepx. Интеграция полностью поддерживается во всей экосистеме Ultralytics, что означает, что разработчики могут выполнять экспорт в DEEPX из Python-пакета или непосредственно с платформы Ultralytics после аннотирования и обучения модели. Во время экспорта модель компилируется и квантуется в INT8 в оптимизированный бинарный файл .dxnn, а калибровка на основе EMA обеспечивает максимальную производительность NPU без ущерба для качества модели.

На практике это означает, что коммерческие команды могут пройти путь от размеченных данных до готовой к работе модели, запущенной на NPU DEEPX, всего за три команды:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Для получения полной информации о настройке, включая установку среды выполнения и визуализацию с помощью программы просмотра графов DEEPX dxtron, ознакомься с документацией по интеграции DEEPX.

Link to this sectionКлючевые преимущества запуска моделей Ultralytics YOLO на NPU DEEPX#

Вот некоторые из ключевых преимуществ развертывания моделей Ultralytics YOLO на оборудовании DEEPX с использованием новой интеграции:

• Бесшовная интеграция с рабочим процессом Ultralytics: экспорт моделей YOLO для развертывания на DEEPX органично вписывается в Python-пакет Ultralytics, где одна команда format=deepx стандартизирует процесс развертывания на периферии.
• Поддержка нескольких задач компьютерного зрения: ты можешь развертывать модели для обнаружения объектов, сегментации, оценки позы, обнаружения ориентированных ограничивающих рамок (OBB) и классификации в YOLOv8, YOLO11 и YOLO26.
• Ультраэффективный edge инференс: NPU DEEPX обеспечивают производительность уровня GPU при доле энергопотребления, с пассивным охлаждением и сверхнизким энергопотреблением, что идеально подходит для развертываний производственного масштаба.
• Масштабируемость с заделом на будущее: выделенный CI/CD конвейер гарантирует совместимость «из коробки» с каждым новым релизом Ultralytics, а дорожная карта от DX-M1 до DX-M2 расширяет тот же программный стек до эры Agentic AI.
• Масштабируемость для приложений Physical AI: от умного видеонаблюдения и промышленного контроля до робототехники и автономных систем — интеграция поддерживает широкий спектр реальных сценариев использования.

Link to this sectionГде модели Ultralytics YOLO и оборудование DEEPX могут оказать влияние#

Итак, каковы же некоторые распространенные приложения Physical AI, где модели Ultralytics YOLO могут быть развернуты на оборудовании DEEPX в реальных сценариях?

Link to this sectionУмное видеонаблюдение на периферии#

Современные системы наблюдения требуют обнаружения в реальном времени без ущерба для конфиденциальности или возможности подключения. Модели Ultralytics YOLO, работающие на NPU DEEPX, позволяют камерам безопасности и системам мониторинга анализировать видеопотоки локально, идентифицируя людей, транспортные средства и необычную активность в режиме реального времени, с низким энергопотреблением и без зависимости от облака. Поскольку соблюдение GDPR ужесточается в Европе, а муниципальные закупки все чаще требуют локального хранения данных, инференс на устройстве становится таким же регуляторным преимуществом, как и техническим.

Link to this sectionПромышленная автоматизация и контроль качества#

На фабриках и производственных предприятиях ИИ зрения все чаще используется для автоматизации контроля качества, обнаружения дефектов и мониторинга процессов. Сочетание моделей Ultralytics YOLO с оборудованием DEEPX позволяет проводить инспекцию на устройстве, которая работает надежно в режиме 24/7 в сложных промышленных условиях, помогая сократить количество отходов, повысить качество продукции и обеспечить безопасность работников.

Link to this sectionРобототехника и автономные системы#

Для робототехники скорость и отзывчивость имеют решающее значение. Будь то навигация по складу, работа в динамичных промышленных условиях или совместная работа с людьми, роботы должны мгновенно интерпретировать окружающую обстановку. Модели Ultralytics YOLO, работающие на NPU DEEPX, позволяют роботам обнаруживать препятствия, отслеживать людей и идентифицировать объекты в реальном времени, поддерживая более безопасное перемещение и большую автономность без зависимости от постоянного облачного соединения.

Link to this sectionКлючевые выводы#

Модели Ultralytics YOLO и NPU DEEPX делают как никогда простым внедрение высокопроизводительного Physical AI на периферии. Упрощая развертывание с помощью нового стандарта format=deepx и оптимизируя модели для энергоэффективного оборудования DEEPX, это партнерство помогает сократить разрыв между разработкой и реальными коммерческими приложениями. Поскольку Physical AI продолжает расти, это сотрудничество является шагом к тому, чтобы сделать ИИ зрения производственного уровня доступным, недорогим и масштабируемым для компаний любого размера.

Готов вывести свои edge AI продукты на рынок быстрее?

• Запроси лицензию для доступа к коммерческой поддержке и моделям Enterprise YOLO.
• Попробуй платформу Ultralytics для аннотирования, обучения и развертывания своей первой модели, готовой для DEEPX.
• Стань партнером Ultralytics, чтобы изучить возможности совместного развертывания.
• Читай документацию для получения полного технического руководства.

Узнай, как такие инновации, как ИИ в робототехнике и ИИ в производстве, формируют будущее.