Ultralytics YOLO и DEEPX объединяют усилия: периферийный ИИ-инференс для физического ИИ

В Ultralytics мы наблюдаем, как всё больше моделей компьютерного зрения запускают непосредственно на периферийных устройствах по мере того, как ИИ всё глубже проникает в физический мир. От робототехники и промышленного оборудования до интеллектуальных камер и автономных транспортных средств — всё больше интеллектуальных систем должны видеть, понимать и действовать в реальном времени, не полагаясь на облако.

Это новое поколение интеллектуальных систем называют физическим ИИ. Для него нужны высокопроизводительные и чрезвычайно энергоэффективные вычисления, способные работать автономно в реальном мире. Реальным системам необходим ИИ для компьютерного зрения, который локально, надежно и эффективно работает на оборудовании, специально созданном для периферийных вычислений.

Модели Ultralytics YOLO, такие как Ultralytics YOLO26, предназначены для компьютерного зрения в реальном времени, но для раскрытия всего их потенциала на периферии нужно правильно сочетать программное и аппаратное обеспечение. В связи с этим мы рады объявить о новом партнерстве с DEEPX.

Мы объединились с DEEPX, чтобы представить новую интеграцию экспорта, обеспечивающую эффективное высокопроизводительное развертывание моделей Ultralytics YOLO на оборудовании DEEPX NPU. Вместе мы устанавливаем единый глобальный стандарт создания, развертывания и масштабирования физического ИИ.

Рис. 1. Аппаратная экосистема DEEPX для инференса ИИ непосредственно на устройстве, включающая модуль DX-M1 M.2 и AI-бокс DX-AIPlayer N97.

Общее видение будущего физического ИИ#

Как самый распространенный в мире фреймворк компьютерного зрения, Ultralytics обеспечивает этим системам «зрение». DEEPX, один из самых эффективных производителей NPU, предоставляет «мозг», позволяющий запускать их в масштабах.

В работе Ultralytics и DEEPX руководствуются доступностью, производительностью и подходом, в центре которого разработчик. Объединив экосистемы Ultralytics и DEEPX, мы предлагаем единый надежный способ коммерческого развертывания ИИ для компьютерного зрения — как для молодой робототехнической компании, выпускающей свой первый продукт, так и для производителя из списка Fortune 500, внедряющего такие решения на тысячах площадок.

Это означает:

• Более быстрый выход на рынок: От аннотирования до развертывания за дни, а не месяцы.
• Снижение затрат на развертывание: Производительность уровня GPU при значительно меньшем энергопотреблении и стоимости микросхем; более 250 FPS при потреблении 2–4 Вт.
• Новые возможности для получения дохода: Создавай и выпускай периферийные ИИ-продукты, которые раньше было экономически невыгодно производить.
• Масштабирование с расчетом на будущее: Специализированный конвейер CI/CD гарантирует, что каждый новый выпуск Ultralytics будет работать с оборудованием DEEPX без дополнительной настройки; это подкреплено обязательствами DEEPX по поставкам на несколько лет.

Изучаем технологию NPU от DEEPX#

DEEPX — инновационная компания в области полупроводников для ИИ, выпускающая эффективное периферийное ИИ-оборудование, специально созданное для моделей зрения, таких как Ultralytics YOLO, и обеспечивающее один из лучших в отрасли показателей количества кадров в секунду на ватт (FPS/W). Вместо оптимизации теоретических показателей DEEPX сосредоточена на эффективности в реальных условиях, позволяя разработчикам достигать результатов уровня GPU при значительно меньшем энергопотреблении.

Это стало возможным благодаря комплексной архитектуре. NPU DX-M1 разработан специально для ускорения вычислительных операций, характерных для моделей компьютерного зрения. Пассивное охлаждение и низкое энергопотребление делают его подходящим для крупномасштабных производственных внедрений, где важны производительность на ватт и долгосрочная надежность.

По мере массового внедрения периферийного ИИ на первый план выходит устойчивая производительность: надежный запуск продвинутых моделей при строгих ограничениях по энергопотреблению и температуре с возможностью масштабирования для реальных развертываний. Поэтому FPS на ватт стал одной из важнейших метрик для оценки платформ периферийного ИИ.

Рис. 2. Сравнение по фронту Парето моделей YOLO26, YOLO11 и YOLOv8 на NPU DX-M1. Измерения проведены на DX-M1 с хостом i5-14600K (32GB RAM), SDK dx-com v2.3.0; учитывался только чип NPU.

По мере перехода рынка от PoC к масштабным развертываниям заказчикам все чаще требуется одновременно запускать несколько моделей ИИ в пределах одного бюджета мощности и тепловыделения. График выше показывает, что YOLO26 стабильно обеспечивает более удачный баланс точности и эффективности: YOLO26n достигает примерно 405 FPS/W на DX-M1, позволяя разработчикам запускать более сложные задачи ИИ без перехода на более крупное и энергоемкое оборудование.

Начало работы с экспортом моделей Ultralytics YOLO для DEEPX#

Пакет Ultralytics для Python и Ultralytics Platform предоставляют полноценную единую среду для обучения, оценки и развертывания моделей YOLO во всех поддерживаемых задачах компьютерного зрения. Предпочитаешь работать с кодом или через удобный визуальный интерфейс — оба подхода позволяют последовательно и масштабируемо пройти путь от данных до развертывания модели.

В рамках этого партнерства Ultralytics представила новую интеграцию экспорта с DEEPX, позволяющую экспортировать модели YOLO для развертывания на оборудовании DEEPX NPU одной командой: format=deepx. Интеграция полностью поддерживается во всей экосистеме Ultralytics: разработчики могут экспортировать модели в DEEPX из пакета для Python или напрямую через Ultralytics Platform после разметки данных и обучения модели. Во время экспорта модель компилируется и квантуется до INT8, преобразуясь в оптимизированный бинарный файл .dxnn. Калибровка на основе EMA обеспечивает максимальную производительность NPU без потери качества модели.

На практике это означает, что коммерческие команды могут всего тремя командами перейти от размеченных данных к готовой к производству модели, работающей на NPU DEEPX:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Полную информацию по настройке, включая установку среды выполнения и визуализацию с помощью средства просмотра графов dxtron от DEEPX, смотри в документации по интеграции DEEPX.

Основные преимущества запуска моделей Ultralytics YOLO на NPU DEEPX#

Вот некоторые ключевые преимущества развертывания моделей Ultralytics YOLO на оборудовании DEEPX с помощью новой интеграции:

• Бесшовная интеграция с рабочим процессом Ultralytics: Экспорт моделей YOLO для развертывания на DEEPX естественно встроен в пакет Ultralytics для Python, а единая команда format=deepx стандартизирует развертывание на периферийных устройствах.
• Поддержка множества задач компьютерного зрения: Ты можешь развертывать модели для обнаружения объектов, сегментации экземпляров, классификации, оценки позы и обнаружения объектов с ориентированными ограничивающими рамками (OBB) на YOLOv8, YOLO11 и YOLO26, а также модели семантической сегментации и оценки глубины на YOLO26.
• Сверхэффективный вывод на периферии: NPU DEEPX обеспечивают производительность уровня GPU при значительно меньшем энергопотреблении. Пассивное охлаждение и сверхнизкое энергопотребление идеально подходят для крупномасштабного производственного внедрения.
• Основа с расчетом на будущее: Специализированный конвейер CI/CD гарантирует совместимость с каждым новым выпуском Ultralytics без дополнительной настройки, а дорожная карта от DX-M1 к DX-M2 распространяет тот же стек программного обеспечения на эпоху агентного ИИ.
• Масштабируемость для приложений физического ИИ: Интеграция поддерживает широкий спектр сценариев реального мира — от интеллектуального видеонаблюдения и промышленного контроля до робототехники и автономных систем.

Где модели Ultralytics YOLO и оборудование DEEPX могут принести пользу#

В каких распространенных приложениях физического ИИ модели Ultralytics YOLO можно развернуть на оборудовании DEEPX в реальных условиях?

Интеллектуальное видеонаблюдение на периферии#

Современные системы видеонаблюдения должны обнаруживать объекты в реальном времени, не ставя под угрозу конфиденциальность или подключение. Модели Ultralytics YOLO на NPU DEEPX позволяют камерам безопасности и системам мониторинга локально анализировать видеопотоки, выявляя людей, транспортные средства и необычную активность в реальном времени при низком энергопотреблении и без подключения к облаку. По мере ужесточения контроля за соблюдением GDPR в Европе и того, как муниципальные закупки всё чаще требуют локального хранения данных, вывод на устройстве становится не только техническим преимуществом, но и преимуществом с точки зрения соответствия нормативным требованиям.

Промышленная автоматизация и контроль качества#

На фабриках и производственных объектах ИИ для компьютерного зрения всё чаще применяют для автоматизации контроля качества, обнаружения дефектов и мониторинга процессов. Сочетание моделей Ultralytics YOLO с оборудованием DEEPX позволяет выполнять проверки непосредственно на устройстве и надежно работать круглосуточно в сложных промышленных условиях, сокращая количество отходов, повышая качество продукции и обеспечивая безопасность работников.

Робототехника и автономные системы#

В робототехнике критически важны скорость и быстрота реакции. Перемещаясь по складу, работая в динамичной промышленной среде или взаимодействуя с людьми, роботы должны мгновенно интерпретировать окружение. Модели Ultralytics YOLO на NPU DEEPX позволяют роботам обнаруживать препятствия, отслеживать людей и распознавать объекты в реальном времени, обеспечивая более безопасное передвижение и высокую автономность без постоянного подключения к облаку.

Главные выводы#

Модели Ultralytics YOLO и NPU DEEPX как никогда упрощают внедрение высокопроизводительного физического ИИ на периферии. Новая стандартная команда format=deepx упрощает развертывание, а оптимизация моделей для энергоэффективного оборудования DEEPX помогает этому партнерству сократить разрыв между разработкой и коммерческим применением в реальном мире. По мере развития физического ИИ это сотрудничество приближает доступные, экономичные и масштабируемые решения ИИ для компьютерного зрения производственного уровня к компаниям любого размера.

Хочешь быстрее вывести свои периферийные ИИ-продукты на рынок?

• Запроси лицензию, чтобы получить доступ к коммерческой поддержке и моделям YOLO Enterprise.
• Попробуй Ultralytics Platform, чтобы аннотировать данные, обучить и развернуть свою первую модель, готовую к работе на DEEPX.
• Стань партнером Ultralytics, чтобы изучить возможности совместного развертывания.
• Читай документацию с полным техническим руководством.

Узнай, как инновации, такие как ИИ в робототехнике и ИИ в производстве, формируют будущее.