Ultralytics YOLO11 на NVIDIA Jetson Orin Nano Super: быстро и эффективно

Комплект разработчика NVIDIA Jetson Orin Nano Super, выпущенный 17 декабря 2024 года, представляет собой компактный, но мощный суперкомпьютер с генеративным ИИ, созданный для предоставления расширенных возможностей в edge computing. Он обеспечивает обработку данных в реальном времени и устраняет необходимость использования облачных вычислений. NVIDIA Jetson Orin Nano Super позволяет тебе создавать доступные интеллектуальные системы, эффективно работающие в локальных средах.

В сочетании с моделями Ultralytics YOLO, такими как Ultralytics YOLO11, Jetson Orin Nano Super способен справляться с широким спектром задач компьютерного зрения на периферии. В частности, YOLO11 — это модель компьютерного зрения, известная своей скоростью и точностью в таких задачах, как обнаружение объектов, отслеживание объектов и сегментация по маске.

Сочетание возможностей Ultralytics YOLO11 с мощным GPU (Graphics Processing Unit) этого комплекта и поддержкой таких frameworks, как PyTorch, ONNX и NVIDIA TensorRT, обеспечивает высокую производительность развертывания. Эта комбинация предоставляет разработчикам эффективное решение для создания ИИ-приложений — от обнаружения объектов в робототехнике до отслеживания объектов в реальном времени в «умных» пространствах и торговых системах.

В этой статье мы рассмотрим комплект разработчика NVIDIA Jetson Orin Nano Super, его совместную работу с Ultralytics YOLO11 для edge AI, показатели его производительности, реальные сценарии применения и то, как он может помочь тебе создавать проекты в области компьютерного зрения. Давай начнем!

Что такое комплект разработчика NVIDIA Jetson Orin Nano Super?#

Комплект разработчика NVIDIA Jetson Orin Nano Super — это компактный, но мощный компьютер, который переосмысливает генеративный ИИ для небольших граничных устройств. Он обеспечивает до 67 TOPS (триллионов операций в секунду) производительности ИИ, что делает его идеальным выбором для разработчиков, студентов и энтузиастов, работающих над сложными проектами в области ИИ.

Вот некоторые из его ключевых особенностей:

• Производительность GPU: Устройство построено на базе графического процессора с архитектурой NVIDIA Ampere, который включает 1024 ядра CUDA и 32 тензорных ядра. Ядра CUDA обрабатывают множество задач одновременно, ускоряя сложные вычисления, в то время как тензорные ядра специализируются на задачах ИИ, таких как глубокое обучение.
• Мощный CPU: Он оснащен 6-ядерным процессором Arm Cortex-A78AE, разработанным для обеспечения баланса между скоростью и эффективностью. Устройство способно плавно обрабатывать несколько задач, сохраняя при этом низкое энергопотребление. Это важно для систем, работающих локально без доступа к мощным источникам питания.
• Эффективная память: Комплект поставляется с 8 ГБ памяти LPDDR5 (Low Power Double Data Rate 5). LPDDR5 — это тип оперативной памяти (RAM), оптимизированный для высокой скорости и энергоэффективности, что позволяет устройству работать с крупными наборами данных и выполнять обработку в реальном времени без избыточного энергопотребления.
• Возможности подключения: Он включает в себя порты USB 3.2 для быстрой передачи данных, порт Gigabit Ethernet для надежного сетевого подключения и интерфейсы камер для интеграции датчиков или камер.
• Инструменты разработки ИИ: Jetson Orin Nano Super работает с SDK NVIDIA JetPack, который предоставляет такие инструменты, как CUDA для ускорения вычислений и TensorRT для оптимизации моделей ИИ. Эти инструменты упрощают быстрое и эффективное создание и развертывание приложений ИИ.

Сравнительные тесты производительности: Jetson Orin Nano Super против Orin NX 16GB#

Если ты знаком с разработками NVIDIA, тебе может быть интересно, как этот новый выпуск соотносится с существующим NVIDIA Jetson Orin NX 16GB (без режима super). Хотя Jetson Orin NX обладает более высокими общими возможностями, комплект разработчика Jetson Orin Nano Super обеспечивает впечатляющую производительность за долю стоимости.

Fig 2. Обзор экосистемы NVIDIA Jetson Orin.

Вот краткий обзор:

• Производительность ИИ: Jetson Orin Nano Super выдает до 67 TOPS, что отлично подходит для большинства задач граничного ИИ, тогда как Jetson Orin NX предлагает до 100 TOPS для более требовательных приложений.
• Память: Jetson Orin Nano Super включает 8 ГБ LPDDR5, что достаточно для задач в реальном времени, в то время как в Orin NX объем памяти увеличен вдвое до 16 ГБ для работы с более крупными рабочими нагрузками.
• Энергоэффективность: Jetson Orin Nano Super более энергоэффективен и поддерживает настройку потребления между 7 Вт и 25 Вт по сравнению с более высокими требованиями к питанию у Jetson Orin NX.
• GPU: Оба устройства используют архитектуру NVIDIA Ampere с 1024 ядрами CUDA и 32 тензорными ядрами для высокой производительности GPU.

Ultralytics YOLO11 с Jetson Orin Nano Super: переносим ИИ компьютерного зрения на периферию#

Теперь, когда у нас есть лучшее представление о Jetson Orin Nano Super, давай посмотрим, как YOLO11 может помочь внедрить возможности ИИ компьютерного зрения на границу сети. Модели Ultralytics YOLO, включая YOLO11, обладают универсальными режимами, такими как обучение (train), предсказание (predict) и экспорт (export), что делает их адаптируемыми для множества рабочих процессов ИИ.

Например, в режиме обучения (training mode) модели Ultralytics YOLO можно дообучать на пользовательских наборах данных для конкретных задач, таких как обнаружение уникальных объектов или оптимизация под определенные условия. Аналогичным образом, режим предсказания (prediction mode) предназначен для инференса, обеспечивая выполнение задач компьютерного зрения в реальном времени. Наконец, режим экспорта (export mode) можно использовать для конвертации моделей в форматы, оптимизированные для развертывания.

Fig 3. Модели Ultralytics YOLO поддерживают различные функции и режимы.

Ultralytics YOLO11 в режиме export поддерживает различные варианты развертывания моделей, включая следующие:

• NVIDIA TensorRT: Этот формат оптимизирован для GPU NVIDIA, обеспечивая высокую производительность и низкую задержку вывода на Jetson Orin Nano Super.
• ONNX (Open Neural Network Exchange): Обеспечивает совместимость между различными платформами, что делает его универсальным для различных экосистем аппаратного и программного обеспечения.
• TorchScript: этот формат идеально подходит для приложений на базе PyTorch, обеспечивая плавную интеграцию в рабочие процессы PyTorch.
• TFLite (TensorFlow Lite): формат, разработанный для легких развертываний ИИ, что делает его идеальным для мобильных и встраиваемых систем.

Используя эти форматы развертывания, ты можешь в полной мере задействовать аппаратное обеспечение Jetson Orin Nano Super для запуска Ultralytics YOLO11 в приложениях реального времени, таких как «умные» пространства, робототехника и автоматизация ритейла.

Тестирование производительности Ultralytics YOLO11 на NVIDIA Jetson Orin Nano Super#

Далее, чтобы лучше понять, насколько быстро Ultralytics YOLO11 может работать на NVIDIA Jetson Orin Nano Super, давай изучим его впечатляющую производительность и бенчмарки с использованием ускоренных с помощью GPU форматов экспорта, таких как PyTorch, ONNX и TensorRT. Эти тесты показывают, что Jetson Orin Nano Super достигает времени инференса с моделями YOLO11, которое сопоставимо с существующим Jetson Orin NX 16GB (без суперрежима) и иногда превосходит его.

Рис. 4. Тестирование производительности Ultralytics YOLO11 на NVIDIA Jetson Orin Nano Super.

Еще более удивительным это делает доступность Jetson Orin Nano Super. Предлагая такую производительность менее чем за половину стоимости Jetson Orin NX 16GB, плата обеспечивает исключительную ценность для разработчиков, создающих высокопроизводительные приложения на базе Ultralytics YOLO11. Такое сочетание цены и производительности делает Jetson Orin Nano Super отличным выбором для задач компьютерного зрения в реальном времени на периферии.

Рис. 5. Тестирование производительности Ultralytics YOLO11 на Jetson Orin NX 16GB.

Начни работу с Ultralytics YOLO11 и NVIDIA Jetson Orin Nano Super#

Если тебе не терпится getting started с развертыванием Ultralytics YOLO11 на Jetson Orin Nano Super, есть хорошая новость: это простой процесс. После прошивки твоего устройства с помощью NVIDIA JetPack SDK ты можешь использовать предварительно собранный образ Docker для быстрой настройки или установить необходимые пакеты вручную.

Для тех, кто ищет более быструю и плавную интеграцию, обновленный контейнер Docker JetPack 6 станет идеальным решением. Контейнер Docker — это легкая и портативная среда, которая включает все необходимые инструменты и зависимости для запуска конкретного программного обеспечения.

Контейнер Ultralytics, оптимизированный для JetPack 6.1, поставляется с предварительно установленными CUDA 12.6, TensorRT 10.3 и необходимыми инструментами вроде PyTorch и TorchVision, адаптированными под архитектуру ARM64 на Jetson. Используя этот контейнер, ты сможешь сэкономить время на настройку и сосредоточиться на создании и оптимизации своих приложений компьютерного зрения с помощью YOLO11.

Применение Ultralytics YOLO11 на NVIDIA Jetson Orin Nano Super#

Если ты ищешь вдохновение для своего следующего ИИ-проекта, вокруг нас полно потенциала для граничных приложений компьютерного зрения.

В повседневной жизни граничный ИИ переосмысливает «умные» пространства, позволяя системам обнаруживать и отслеживать объекты в реальном времени, не полагаясь на облачную обработку. Будь то мониторинг дорожного движения в шумном городе или выявление необычной активности в общественных местах, граничный ИИ компьютерного зрения повышает безопасность и эффективность.

Ритейлеры также активно внедряют периферийный ИИ и компьютерное зрение. От автоматизированной проверки инвентаря до theft prevention — такие модели, как Ultralytics YOLO11, позволяют компаниям развертывать решения реального времени прямо в магазинах.

Аналогичным образом, когда речь заходит об AI in healthcare, периферийный мониторинг обеспечивает безопасность пациентов, обнаруживает аномалии и поддерживает соответствие требованиям — и все это без задержек, вызванных зависимостью от облака. С такими инструментами, как Jetson Orin Nano Super и Ultralytics YOLO11, будущее визуального ИИ разворачивается прямо на периферии, где это нужнее всего.

Основные выводы#

Развертывание моделей Ultralytics YOLO, таких как YOLO11, на комплекте разработчика NVIDIA Jetson Orin Nano Super предлагает надежное и эффективное решение для граничных приложений ИИ. Благодаря высокой производительности GPU, бесшовной поддержке PyTorch, ONNX и TensorRT, а также впечатляющим результатам тестов, он отлично подходит для задач компьютерного зрения в реальном времени, таких как обнаружение и отслеживание объектов.

Инновации и сотрудничество в передовых технологиях, таких как визуальный ИИ и аппаратное ускорение, меняют то, как мы работаем, позволяя тебе создавать масштабируемые и высокопроизводительные решения на периферии. По мере развития ИИ такие инструменты, как Ultralytics YOLO11 и Jetson Orin Nano Super, делают воплощение интеллектуальных решений реального времени проще, чем когда-либо.

Интересуешься ИИ? Посети наш репозиторий на GitHub, чтобы ознакомиться с нашими разработками и присоединиться к нашему сообществу. Посмотри, как мы используем ИИ для создания пользы в таких отраслях, как сельское хозяйство и здравоохранение.