9 января 2025 г.
Узнайте, как развертывание Ultralytics YOLO11 на NVIDIA Jetson Orin Nano Super обеспечивает впечатляющие показатели и ускоренную GPU производительность для передовых AI-приложений.
NVIDIA Jetson Orin Nano Super Developer Kit, выпущенный 17 декабря 2024 года, представляет собой компактный, но мощный суперкомпьютер для генеративного AI, предназначенный для расширения возможностей периферийных вычислений. Он облегчает обработку в реальном времени и устраняет необходимость в облачных вычислениях. NVIDIA Jetson Orin Nano Super позволяет разработчикам создавать доступные интеллектуальные системы, которые эффективно работают в локальных средах.
В сочетании с моделями Ultralytics YOLO, такими как Ultralytics YOLO11, Jetson Orin Nano Super может обрабатывать широкий спектр приложений Vision AI на периферии. В частности, YOLO11 — это модель компьютерного зрения, известная своей скоростью и точностью в таких задачах, как обнаружение объектов, отслеживание объектов и сегментация экземпляров.
Сочетание возможностей YOLO11 с надежным GPU (графическим процессором) комплекта и поддержкой фреймворков, таких как PyTorch, ONNX и NVIDIA TensorRT, обеспечивает высокую производительность развертываний. Эта комбинация предоставляет разработчикам эффективное решение для создания AI-приложений, от обнаружения объектов в робототехнике до отслеживания объектов в реальном времени в интеллектуальных пространствах и розничных системах.
В этой статье мы рассмотрим NVIDIA Jetson Orin Nano Super Developer Kit, то, как он работает с Ultralytics YOLO11 для Edge AI, его эталонные показатели производительности, реальные приложения и то, как он может помочь разработчикам создавать проекты Vision AI. Давайте начнем!
NVIDIA Jetson Orin Nano Super Developer Kit — это компактный, но мощный компьютер, который меняет представление о генеративном ИИ для небольших периферийных устройств. Он обеспечивает до 67 TOPS (триллионов операций в секунду) производительности ИИ, что делает его идеальным для разработчиков, студентов и любителей, работающих над передовыми проектами в области ИИ.
Вот некоторые из его ключевых особенностей:
Если вы знакомы с продукцией NVIDIA, вам может быть интересно, как этот новый выпуск соотносится с существующим NVIDIA Jetson Orin NX 16GB (без суперрежима). В то время как Jetson Orin NX предлагает более широкие возможности, Jetson Orin Nano Super Developer Kit обеспечивает впечатляющую производительность за меньшую цену.
Вот краткий обзор:
Теперь, когда у нас есть лучшее понимание Jetson Orin Nano Super, давайте посмотрим, как YOLO11 может помочь внедрить возможности Vision AI на периферии. Модели Ultralytics YOLO, включая YOLO11, поставляются с универсальными режимами, такими как train, predict и export, что делает их адаптируемыми к различным рабочим процессам ИИ.
Например, в режиме обучения модели Ultralytics YOLO можно точно настраивать и обучать на пользовательских наборах данных для конкретных приложений, таких как обнаружение уникальных объектов или оптимизация для конкретных сред. Аналогично, режим предсказания предназначен для инференса, обеспечивая задачи компьютерного зрения в реальном времени. Наконец, режим экспорта можно использовать для преобразования моделей в форматы, оптимизированные для развертывания.
YOLO11 в режиме экспорта поддерживает ряд вариантов развертывания моделей, включая, среди прочего:
Используя эти форматы развертывания, разработчики могут в полной мере воспользоваться аппаратным обеспечением Jetson Orin Nano Super для запуска YOLO11 в приложениях реального времени, таких как интеллектуальные пространства, робототехника и автоматизация розничной торговли.
Далее, чтобы лучше понять, насколько быстро YOLO11 может работать на NVIDIA Jetson Orin Nano Super, давайте рассмотрим его впечатляющую производительность и результаты бенчмаркинга с использованием форматов экспорта с GPU-ускорением, таких как PyTorch, ONNX и TensorRT. Эти тесты показывают, что Jetson Orin Nano Super достигает времени инференса с моделями YOLO11, сопоставимого с существующим Jetson Orin NX 16GB (и иногда превосходящего его) без использования суперрежима.
Что делает это еще более примечательным, так это доступность Jetson Orin Nano Super. Предлагая такую производительность по цене, составляющей менее половины стоимости Jetson Orin NX 16GB, он обеспечивает исключительную ценность для разработчиков, создающих высокопроизводительные приложения YOLO11. Это сочетание стоимости и производительности делает Jetson Orin Nano Super отличным выбором для задач Vision AI в реальном времени на периферии.
Если вы хотите начать развертывание YOLO11 на Jetson Orin Nano Super, есть хорошие новости — это довольно простой процесс. После прошивки вашего устройства с помощью NVIDIA JetPack SDK вы можете либо использовать предварительно созданный образ Docker для быстрой настройки, либо вручную установить необходимые пакеты.
Для тех, кто ищет более быструю и простую интеграцию, обновленный Docker-контейнер JetPack 6 является идеальным решением. Docker-контейнер — это легкая, переносимая среда, которая включает в себя все необходимые инструменты и зависимости для запуска определенного программного обеспечения.
Контейнер Ultralytics, оптимизированный для JetPack 6.1, поставляется с предустановленными CUDA 12.6, TensorRT 10.3 и необходимыми инструментами, такими как PyTorch и TorchVision, адаптированными для архитектуры ARM64 Jetson. Используя этот контейнер, разработчики могут сэкономить время на настройке и сосредоточиться на создании и оптимизации своих приложений Vision AI с помощью YOLO11.
Для тех, кто ищет вдохновение для своего следующего AI-проекта, существует потенциал для периферийных приложений компьютерного зрения вокруг нас.
В повседневной жизни Edge AI переопределяет интеллектуальные пространства, позволяя системам обнаруживать и отслеживать объекты в режиме реального времени, и все это без использования облачной обработки. Будь то мониторинг трафика в оживленном городе или выявление необычной активности в общественных местах, Edge Vision AI повышает безопасность и эффективность.
Ритейлеры также используют Edge AI и компьютерное зрение. От автоматизированных проверок инвентаря до предотвращения краж, такие модели, как YOLO11, позволяют предприятиям развертывать решения в реальном времени непосредственно в магазинах.
Аналогично, когда речь идет об AI в здравоохранении, периферийный мониторинг обеспечивает безопасность пациентов, обнаруживает аномалии и поддерживает соответствие требованиям — и все это без задержек, вызванных облачной зависимостью. С помощью таких инструментов, как Jetson Orin Nano Super и YOLO11, будущее Vision AI разворачивается прямо на периферии, где это больше всего необходимо.
Развертывание моделей Ultralytics YOLO, таких как YOLO11, на NVIDIA Jetson Orin Nano Super Developer Kit предлагает надежное и эффективное решение для периферийных AI-приложений. Благодаря высокой производительности GPU, бесшовной поддержке PyTorch, ONNX и TensorRT, а также впечатляющим результатам бенчмаркинга, он хорошо подходит для задач компьютерного зрения в реальном времени, таких как обнаружение и отслеживание объектов.
Инновации и сотрудничество в передовых технологиях, таких как Vision AI и аппаратное ускорение, преобразуют то, как мы работаем, позволяя разработчикам создавать масштабируемые, высокопроизводительные решения на периферии. По мере развития AI такие инструменты, как YOLO11 и Jetson Orin Nano Super, упрощают создание интеллектуальных решений в реальном времени.
Интересуетесь AI? Посетите наш репозиторий GitHub, чтобы изучить наши разработки и взаимодействовать с нашим сообществом. Узнайте, как мы используем AI, чтобы оказать влияние на такие отрасли, как сельское хозяйство и здравоохранение.
.webp)
