Ultralytics YOLO сотрудничает с DEEPX: периферийный инференс для Physical AI

В Ultralytics мы наблюдаем всё более заметный переход к запуску моделей компьютерного зрения непосредственно на периферийных устройствах по мере того, как AI всё глубже проникает в физический мир. От робототехники и промышленного оборудования до умных камер и автономных транспортных средств — всё больше интеллектуальных систем должны видеть, понимать и действовать в реальном времени без зависимости от облака.

Эту новую волну интеллектуальных систем называют Physical AI, и для неё нужны высокопроизводительные, сверхэнергоэффективные вычисления, способные автономно работать в реальном мире. Системам реального мира нужен vision AI, который локально, надёжно и эффективно работает на оборудовании, специально разработанном для периферийных устройств.

Модели Ultralytics YOLO, такие как Ultralytics YOLO26, предназначены для компьютерного зрения в реальном времени, но для полного раскрытия их потенциала на периферии требуется правильное сочетание программного и аппаратного обеспечения. Поэтому мы рады объявить о новом партнёрстве с DEEPX.

Мы объединились с DEEPX, чтобы представить новую интеграцию экспорта, обеспечивающую эффективное высокопроизводительное развертывание моделей Ultralytics YOLO на оборудовании DEEPX NPU. Вместе мы формируем единый глобальный стандарт создания, развертывания и масштабирования Physical AI.

Рис. 1. Экосистема оборудования DEEPX для AI-инференса на устройстве, включая модуль DX-M1 M.2 и AI Box DX-AIPlayer N97*.*

Общее видение будущего Physical AI#

Как самый широко используемый в мире фреймворк компьютерного зрения, Ultralytics обеспечивает этим системам «зрение». DEEPX, один из самых эффективных производителей NPU, обеспечивает «мозг», позволяющий запускать их в масштабе.

В Ultralytics и DEEPX мы верим в доступность, производительность и дизайн с приоритетом разработчиков и руководствуемся ими. Объединяя экосистемы Ultralytics и DEEPX, мы предоставляем единый надёжный путь для коммерческого развертывания vision AI — как для молодой робототехнической компании, выпускающей свой первый продукт, так и для производителя из списка Fortune 500, внедряющего vision AI на тысячах предприятий.

Это означает:

• Более быстрый выход на рынок: от разметки до развертывания за несколько дней, а не месяцев.
• Более низкая стоимость развертывания: производительность уровня GPU при значительно меньших затратах на энергопотребление и кремний, обеспечивающая 250+ FPS при потреблении 2–4 Вт.
• Новые возможности для получения дохода: создание и выпуск периферийных AI-продуктов, которые раньше были экономически нецелесообразны.
• Масштабирование с расчётом на будущее: выделенный конвейер CI/CD обеспечивает готовую совместимость каждого нового релиза Ultralytics с оборудованием DEEPX при поддержке многолетних обязательств DEEPX по поставкам.

Знакомство с технологией NPU DEEPX#

DEEPX — инновационная компания в области AI-полупроводников, поставляющая эффективное оборудование для периферийного AI, специально разработанное для vision-моделей, таких как Ultralytics YOLO, с лидирующей в классе эффективностью по числу кадров в секунду на ватт (FPS/W). Вместо оптимизации теоретических показателей DEEPX сосредоточена на эффективности в реальных условиях, позволяя разработчикам получать результаты уровня GPU при значительно меньшем энергопотреблении.

Это стало возможным благодаря полноcтековой разработке. NPU DX-M1 специально спроектирован для ускорения вычислительных паттернов моделей компьютерного зрения; пассивное охлаждение и низкое энергопотребление делают его подходящим для развертывания в производственном масштабе, где важны производительность на ватт и долгосрочная надёжность.

По мере того как Edge AI получает массовое распространение, ключевое значение приобретает стабильная производительность: надёжный запуск продвинутых моделей в жёстких ограничениях по энергопотреблению и температуре при сохранении масштабируемости для развертывания в реальных условиях. Поэтому FPS на ватт стал одной из важнейших метрик оценки платформ Edge AI.

Рис. 2. Бенчмарк-фронт Парето для YOLO26, YOLO11 и YOLOv8 на NPU DX-M1. Измерения выполнены на DX-M1 с хостом i5-14600K (32 ГБ RAM), SDK dx-com v2.3.0, только чип NPU.

По мере перехода рынка от PoC к крупномасштабному развертыванию заказчикам всё чаще требуется одновременный запуск нескольких AI-моделей в рамках одного бюджета мощности и тепловыделения. На приведённом выше графике видно, что YOLO26 стабильно обеспечивает более сбалансированное сочетание точности и эффективности: YOLO26n достигает примерно 405 FPS/W на DX-M1, позволяя разработчикам запускать более продвинутые AI-нагрузки без перехода на более крупное и энергоёмкое оборудование.

Начало работы с экспортом моделей Ultralytics YOLO в DEEPX#

Пакет Ultralytics для Python и Ultralytics Platform предоставляют полноценную унифицированную среду для обучения, оценки и развертывания моделей YOLO во всех пяти задачах компьютерного зрения. Независимо от того, предпочитаешь ли ты работать с кодом или использовать простой визуальный процесс, оба варианта обеспечивают единый масштабируемый способ перевести модель от данных к развертыванию.

В рамках этого партнёрства Ultralytics представила новую интеграцию экспорта с DEEPX, позволяющую экспортировать модели YOLO для развертывания на оборудовании DEEPX NPU одной командой: format=deepx. Интеграция полностью поддерживается во всей экосистеме Ultralytics, поэтому разработчики могут экспортировать модели в DEEPX из пакета Python или непосредственно из Ultralytics Platform после разметки и обучения модели. Во время экспорта модель компилируется и квантуется в INT8, преобразуясь в оптимизированный бинарный файл .dxnn, а калибровка на основе EMA обеспечивает максимальную производительность NPU без потери качества модели.

На практике это означает, что коммерческие команды могут перейти от размеченных данных к готовой для производства модели, работающей на NPU DEEPX, всего за три команды:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Полные сведения о настройке, включая установку среды выполнения и визуализацию с помощью просмотрщика графов dxtron от DEEPX, см. в документации по интеграции DEEPX.

Ключевые преимущества запуска моделей Ultralytics YOLO на NPU DEEPX#

Вот некоторые ключевые преимущества развертывания моделей Ultralytics YOLO на оборудовании DEEPX с помощью новой интеграции:

• Бесшовная интеграция с рабочим процессом Ultralytics: экспорт моделей YOLO для развертывания в DEEPX естественно вписывается в пакет Ultralytics для Python, а единая команда format=deepx стандартизирует процесс периферийного развертывания.
• Поддержка нескольких задач компьютерного зрения: ты можешь развертывать модели для обнаружения объектов, сегментации, оценки позы, обнаружения ориентированных ограничивающих прямоугольников (OBB) и классификации в YOLOv8, YOLO11 и YOLO26.
• Сверхэффективный периферийный инференс: NPU DEEPX обеспечивают производительность уровня GPU при значительно меньшем энергопотреблении; пассивное охлаждение и сверхнизкое энергопотребление идеально подходят для развертывания в производственном масштабе.
• Основа с расчётом на будущее: выделенный конвейер CI/CD гарантирует готовую совместимость с каждым новым релизом Ultralytics, а дорожная карта DX-M1 → DX-M2 переносит тот же программный стек в эпоху Agentic AI.
• Масштабируемость для приложений Physical AI: от интеллектуального видеонаблюдения и промышленного контроля до робототехники и автономных систем — интеграция поддерживает широкий спектр сценариев использования в реальном мире.

Где модели Ultralytics YOLO и оборудование DEEPX могут принести пользу#

Итак, в каких распространённых приложениях Physical AI модели Ultralytics YOLO можно развернуть на оборудовании DEEPX в реальных сценариях?

Интеллектуальное периферийное видеонаблюдение#

Современным системам видеонаблюдения требуется обнаружение в реальном времени без ущерба для конфиденциальности и подключения. Модели Ultralytics YOLO, работающие на NPU DEEPX, позволяют камерам безопасности и системам мониторинга локально анализировать видеопотоки, распознавая людей, транспортные средства и необычную активность в реальном времени при низком энергопотреблении и без зависимости от облака. По мере ужесточения применения GDPR в Европе и всё более частого требования к локализации данных при муниципальных закупках инференс на устройстве становится не только техническим, но и регуляторным преимуществом.

Промышленная автоматизация и контроль качества#

На заводах и производственных предприятиях vision AI всё чаще используют для автоматизации контроля качества, обнаружения дефектов и мониторинга процессов. Сочетание моделей Ultralytics YOLO с оборудованием DEEPX обеспечивает надёжный круглосуточный контроль непосредственно на устройстве в сложных промышленных условиях, помогая сокращать отходы, повышать качество продукции и защищать безопасность работников.

Робототехника и автономные системы#

Для робототехники критически важны скорость и быстрота реакции. Будь то навигация по складу, работа в динамичной промышленной среде или взаимодействие с людьми, роботам необходимо мгновенно интерпретировать окружающую обстановку. Модели Ultralytics YOLO, работающие на NPU DEEPX, позволяют роботам обнаруживать препятствия, отслеживать людей и распознавать объекты в реальном времени, обеспечивая более безопасное перемещение и большую автономность без постоянной зависимости от облачного подключения.

Основные выводы#

Модели Ultralytics YOLO и NPU DEEPX как никогда упрощают перенос высокопроизводительного Physical AI на периферийные устройства. Упрощая развертывание с помощью нового стандарта format=deepx и оптимизируя модели для энергоэффективного оборудования DEEPX, это партнёрство помогает сократить разрыв между разработкой и коммерческими приложениями в реальном мире. По мере развития Physical AI это сотрудничество приближает создание производительного vision AI, доступного, экономичного и масштабируемого для компаний любого размера.

Готов ускорить вывод своих периферийных AI-продуктов на рынок?

• Запроси лицензию, чтобы получить доступ к коммерческой поддержке и корпоративным моделям YOLO.
• Попробуй Ultralytics Platform, чтобы разметить данные, обучить и развернуть свою первую модель, готовую для DEEPX.
• Стань партнёром Ultralytics, чтобы изучить возможности совместного развертывания.
• Прочитай документацию с полным техническим руководством.

Узнай, как такие инновации, как AI в робототехнике и AI в производстве, формируют будущее.