Ultralytics YOLO11 на NVIDIA Jetson Orin Nano Super: быстро и эффективно

Комплект разработчика NVIDIA Jetson Orin Nano Super, выпущенный 17 декабря 2024 года, — компактный, но мощный суперкомпьютер для генеративного ИИ, созданный для расширения возможностей периферийных вычислений. Он обеспечивает обработку данных в реальном времени и устраняет необходимость в облачных вычислениях. NVIDIA Jetson Orin Nano Super позволяет разработчикам создавать доступные интеллектуальные системы, эффективно работающие в локальных средах.

В сочетании с моделями Ultralytics YOLO, такими как Ultralytics YOLO11, Jetson Orin Nano Super способен выполнять широкий спектр задач компьютерного зрения на периферии. В частности, YOLO11 — это модель компьютерного зрения, известная своей скоростью и точностью в таких задачах, как обнаружение объектов, отслеживание объектов и сегментация экземпляров.

Сочетание возможностей Ultralytics YOLO11 с мощным GPU (графическим процессором) комплекта и поддержкой таких фреймворков, как PyTorch, ONNX и NVIDIA TensorRT, обеспечивает высокопроизводительное развертывание. Это сочетание предоставляет разработчикам эффективное решение для создания приложений ИИ — от обнаружения объектов в робототехнике до отслеживания объектов в реальном времени в интеллектуальных пространствах и розничных системах.

В этой статье мы рассмотрим комплект разработчика NVIDIA Jetson Orin Nano Super, его работу с Ultralytics YOLO11 для ИИ на периферии, результаты тестов производительности, реальные сценарии применения и возможности для разработчиков при создании проектов в области компьютерного зрения. Начнём!

Что такое комплект разработчика NVIDIA Jetson Orin Nano Super?#

Комплект разработчика NVIDIA Jetson Orin Nano Super — это компактный, но мощный компьютер, который переосмысливает возможности генеративного ИИ для небольших периферийных устройств. Он обеспечивает до 67 TOPS (триллионов операций в секунду) производительности ИИ, что делает его идеальным для разработчиков, студентов и энтузиастов, работающих над передовыми проектами в области ИИ.

Вот некоторые из его ключевых особенностей:

• Производительность GPU: устройство создано на базе GPU с архитектурой NVIDIA Ampere и включает 1 024 ядра CUDA и 32 тензорных ядра. Ядра CUDA обрабатывают множество задач одновременно, ускоряя сложные вычисления, а тензорные ядра оптимизированы для задач ИИ, таких как глубокое обучение.
• Мощный CPU: устройство оснащено 6-ядерным процессором Arm Cortex-A78AE, разработанным для баланса между скоростью и эффективностью. Оно может плавно выполнять несколько задач, сохраняя низкое энергопотребление. Это важно для систем, работающих локально без доступа к мощным источникам питания.
• Эффективная память: комплект поставляется с 8 ГБ памяти LPDDR5 (памяти с низким энергопотреблением и удвоенной скоростью передачи данных). LPDDR5 — это тип RAM (оперативной памяти), оптимизированный для скорости и энергоэффективности, что позволяет устройству работать с большими наборами данных и обрабатывать информацию в реальном времени без чрезмерного энергопотребления.
• Возможности подключения: устройство оснащено портами USB 3.2 для быстрой передачи данных, портом Gigabit Ethernet для стабильного сетевого подключения и интерфейсами камер для интеграции датчиков или камер.
• Инструменты разработки ИИ: Jetson Orin Nano Super работает с NVIDIA JetPack SDK, который предоставляет такие инструменты, как CUDA для ускорения вычислений и TensorRT для оптимизации моделей ИИ. Эти инструменты упрощают разработчикам быстрое и эффективное создание и развертывание приложений ИИ.

Тесты производительности: Jetson Orin Nano Super против Orin NX 16GB#

Если ты знаком с разработками NVIDIA, то, возможно, задаёшься вопросом, как этот новый выпуск сравнивается с существующим NVIDIA Jetson Orin NX 16GB (без суперрежима). Хотя Jetson Orin NX обладает более высокими общими возможностями, комплект разработчика Jetson Orin Nano Super обеспечивает впечатляющую производительность за долю стоимости.

Рис. 2. Обзор экосистемы NVIDIA Jetson Orin.

Краткий обзор:

• Производительность ИИ: Jetson Orin Nano Super обеспечивает до 67 TOPS, что отлично подходит для большинства задач ИИ на периферии, тогда как Jetson Orin NX предлагает до 100 TOPS для более требовательных приложений.
• Память: Jetson Orin Nano Super оснащён 8 ГБ LPDDR5, чего достаточно для задач в реальном времени, тогда как Orin NX удваивает этот объём до 16 ГБ для более крупных рабочих нагрузок.
• Энергоэффективность: Jetson Orin Nano Super потребляет меньше энергии и поддерживает настройку мощности в диапазоне от 7 до 25 Вт по сравнению с более высоким энергопотреблением Jetson Orin NX.
• GPU: оба устройства используют архитектуру NVIDIA Ampere, 1 024 ядра CUDA и 32 тензорных ядра, обеспечивая высокую производительность GPU.

Ultralytics YOLO11 с Jetson Orin Nano Super: компьютерное зрение на периферии#

Теперь, когда мы лучше понимаем возможности Jetson Orin Nano Super, давай рассмотрим, как YOLO11 может обеспечить работу компьютерного зрения на периферии. Модели Ultralytics YOLO, включая YOLO11, поддерживают универсальные режимы, такие как train, predict и export, благодаря чему адаптируются к различным рабочим процессам ИИ.

Например, в режиме обучения модели Ultralytics YOLO можно дообучать и обучать на пользовательских наборах данных для конкретных приложений, таких как обнаружение уникальных объектов или оптимизация для определённых сред. Аналогично, режим predict предназначен для инференса и обеспечивает выполнение задач компьютерного зрения в реальном времени. Наконец, режим export можно использовать для преобразования моделей в форматы, оптимизированные для развертывания.

Рис. 3. Модели Ultralytics YOLO поддерживают различные функции и режимы.

Режим экспорта Ultralytics YOLO11 поддерживает широкий спектр вариантов развертывания моделей, включая, помимо прочего:

• NVIDIA TensorRT: этот формат оптимизирован для GPU NVIDIA и обеспечивает высокопроизводительный инференс с низкой задержкой на Jetson Orin Nano Super.
• ONNX (обмен открытыми нейронными сетями): он обеспечивает совместимость с различными платформами, что делает его универсальным решением для разных аппаратных и программных экосистем.
• TorchScript: этот формат идеально подходит для приложений на базе PyTorch и обеспечивает бесшовную интеграцию с рабочими процессами PyTorch.
• TFLite (TensorFlow Lite): формат, разработанный для лёгкого развертывания ИИ, что делает его идеальным для мобильных и встраиваемых систем.

Используя эти форматы развертывания, разработчики могут в полной мере задействовать аппаратные возможности Jetson Orin Nano Super для запуска Ultralytics YOLO11 в приложениях реального времени, таких как интеллектуальные пространства, робототехника и автоматизация розничной торговли.

Тестирование Ultralytics YOLO11 на NVIDIA Jetson Orin Nano Super#

Чтобы лучше понять, с какой скоростью Ultralytics YOLO11 может работать на NVIDIA Jetson Orin Nano Super, рассмотрим его впечатляющую производительность и результаты тестов с использованием форматов экспорта с GPU-ускорением, таких как PyTorch, ONNX и TensorRT. Эти тесты показывают, что Jetson Orin Nano Super обеспечивает время инференса моделей YOLO11, сопоставимое с показателями существующего Jetson Orin NX 16GB (без суперрежима), а иногда и превосходящее их.

Рис. 4. Тестирование Ultralytics YOLO11 на NVIDIA Jetson Orin Nano Super.

Ещё более примечательной эту картину делает доступная цена Jetson Orin Nano Super. Обеспечивая такую производительность менее чем за половину стоимости Jetson Orin NX 16GB, он предлагает разработчикам, создающим высокопроизводительные приложения Ultralytics YOLO11, исключительную ценность. Такое сочетание стоимости и производительности делает Jetson Orin Nano Super отличным выбором для задач компьютерного зрения и ИИ в реальном времени на периферии.

Рис. 5. Тестирование Ultralytics YOLO11 на Jetson Orin NX 16GB.

Попробуй Ultralytics YOLO11 и NVIDIA Jetson Orin Nano Super на практике#

Если ты хочешь начать работу с развертыванием Ultralytics YOLO11 на Jetson Orin Nano Super, есть хорошие новости: процесс довольно прост. После прошивки устройства с помощью NVIDIA JetPack SDK можно использовать готовый образ Docker для быстрой настройки или вручную установить необходимые пакеты.

Для тех, кто ищет более быструю и бесшовную интеграцию, обновлённый контейнер Docker для JetPack 6 — идеальное решение. Контейнер Docker — это лёгкая переносимая среда, включающая все необходимые инструменты и зависимости для запуска определённого программного обеспечения.

Контейнер Ultralytics, оптимизированный для JetPack 6.1, предварительно содержит CUDA 12.6, TensorRT 10.3 и необходимые инструменты, такие как PyTorch и TorchVision, адаптированные под архитектуру ARM64 Jetson. Используя этот контейнер, разработчики могут сэкономить время на настройке и сосредоточиться на создании и оптимизации своих приложений компьютерного зрения и ИИ с YOLO11.

Применение Ultralytics YOLO11 на NVIDIA Jetson Orin Nano Super#

Если ты ищешь вдохновение для следующего проекта в области ИИ, то вокруг нас повсюду есть возможности для применения компьютерного зрения на периферии.

В повседневной жизни ИИ на периферии преобразует интеллектуальные пространства, позволяя системам обнаруживать и отслеживать объекты в реальном времени без зависимости от облачной обработки. Будь то мониторинг трафика в оживлённом городе или выявление необычной активности в общественных местах, компьютерное зрение и ИИ на периферии повышают безопасность и эффективность.

Розничные компании также используют ИИ на периферии и компьютерное зрение. От автоматизированной проверки запасов до предотвращения краж — такие модели, как Ultralytics YOLO11, позволяют компаниям развертывать решения реального времени непосредственно в магазинах.

Аналогично, когда речь идёт о ИИ в здравоохранении, мониторинг на периферии обеспечивает безопасность пациентов, выявляет аномалии и помогает соблюдать нормативные требования — без задержек, вызванных зависимостью от облака. Благодаря таким инструментам, как Jetson Orin Nano Super и Ultralytics YOLO11, будущее компьютерного зрения и ИИ развивается прямо на периферии, где оно нужнее всего.

Основные выводы#

Развертывание моделей Ultralytics YOLO, таких как YOLO11, на комплекте разработчика NVIDIA Jetson Orin Nano Super предлагает надёжное и эффективное решение для приложений ИИ на периферии. Благодаря мощному GPU, бесшовной поддержке PyTorch, ONNX и TensorRT, а также впечатляющим результатам тестов, устройство хорошо подходит для задач компьютерного зрения в реальном времени, таких как обнаружение и отслеживание объектов.

Инновации и сотрудничество в передовых технологиях, таких как компьютерное зрение и аппаратное ускорение, меняют наши рабочие процессы и позволяют разработчикам создавать масштабируемые высокопроизводительные решения на периферии. По мере развития ИИ такие инструменты, как Ultralytics YOLO11 и Jetson Orin Nano Super, как никогда упрощают создание интеллектуальных решений реального времени.

Интересуешься ИИ? Посети наш репозиторий GitHub, чтобы изучить наши разработки и присоединиться к нашему сообществу. Узнай, как мы используем ИИ, чтобы менять такие отрасли, как сельское хозяйство и здравоохранение.