Wenn Sie auf "Alle Cookies akzeptieren" klicken, stimmen Sie der Speicherung von Cookies auf Ihrem Gerät zu, um die Navigation auf der Website zu verbessern, die Nutzung der Website zu analysieren und unsere Marketingaktivitäten zu unterstützen. Mehr Infos
Cookie-Einstellungen
Wenn Sie auf "Alle Cookies akzeptieren" klicken, stimmen Sie der Speicherung von Cookies auf Ihrem Gerät zu, um die Navigation auf der Website zu verbessern, die Nutzung der Website zu analysieren und unsere Marketingaktivitäten zu unterstützen. Mehr Infos
Erfahren Sie, wie der Einsatz von Ultralytics YOLO11 auf NVIDIA Jetson Orin Nano Super beeindruckende Benchmarks und GPU-beschleunigte Leistung für fortschrittliche KI-Anwendungen liefert.
Das NVIDIA Jetson Orin Nano Super Developer Kit, das am 17. Dezember 2024 auf den Markt kommt, ist ein kompakter, aber leistungsstarker generativer KI-Supercomputer, der fortschrittliche Funktionen für das Edge-Computing bietet. Er ermöglicht Echtzeitverarbeitung und macht Cloud-Computing überflüssig. Mit dem NVIDIA Jetson Orin Nano Super können Entwickler erschwingliche intelligente Systeme entwickeln, die in lokalen Umgebungen effizient arbeiten.
In Verbindung mit Ultralytics YOLO-Modellen wie Ultralytics YOLO11 kann der Jetson Orin Nano Super eine breite Palette von KI-Anwendungen im Edge-Bereich bewältigen. YOLO11 ist ein Computer Vision Modell, das für seine Geschwindigkeit und Genauigkeit bei Aufgaben wie Objekterkennung, Objektverfolgung und Instanzsegmentierung bekannt ist.
Die Kombination der Fähigkeiten von YOLO11 mit der robusten GPU (Graphics Processing Unit) des Kits und der Unterstützung von Frameworks wie PyTorch, ONNX und NVIDIA TensorRT ermöglicht leistungsstarke Implementierungen. Diese Kombination bietet Entwicklern eine effiziente Lösung für die Erstellung von KI-Anwendungen, von der Objekterkennung in der Robotik bis zur Echtzeit-Objektverfolgung in intelligenten Räumen und Einzelhandelssystemen.
In diesem Artikel sehen wir uns das NVIDIA Jetson Orin Nano Super Developer Kit an, wie es mit Ultralytics YOLO11 für Edge AI funktioniert, seine Leistungsbenchmarks, reale Anwendungen und wie es Entwicklern helfen kann, Vision AI Projekte zu erstellen. Legen wir los!
Was ist das NVIDIA Jetson Orin Nano Super Developer Kit?
Das NVIDIA Jetson Orin Nano Super Developer Kit ist ein kompakter und dennoch leistungsstarker Computer, der generative KI für kleine Endgeräte neu definiert. Es liefert eine KI-Leistung von bis zu 67 TOPS (Billionen von Operationen pro Sekunde) und ist damit ideal für Entwickler, Studenten und Hobbyisten, die an fortgeschrittenen KI-Projekten arbeiten.
Hier sind einige der wichtigsten Merkmale des Programms:
GPU-Leistung: Das Gerät basiert auf der NVIDIA Ampere Architektur GPU, die 1.024 CUDA Kerne und 32 Tensor Cores umfasst. CUDA Kerne verarbeiten viele Aufgaben gleichzeitig und beschleunigen so komplexe Berechnungen, während Tensor Cores für KI-Aufgaben wie Deep Learning spezialisiert sind.
Leistungsstarke CPU: Das Gerät verfügt über einen 6-Kern-Arm-Cortex-A78AE-Prozessor, der für ein ausgewogenes Verhältnis zwischen Geschwindigkeit und Effizienz sorgt. Das Gerät kann mehrere Aufgaben reibungslos bewältigen und gleichzeitig den Energieverbrauch niedrig halten. Dies ist wichtig für Systeme, die lokal ohne Zugang zu großen Stromquellen betrieben werden.
Effizienter Speicher: Das Kit ist mit 8 GB LPDDR5-Speicher (Low Power Double Data Rate 5) ausgestattet. LPDDR5 ist ein RAM-Typ (Random Access Memory), der für Geschwindigkeit und Energieeffizienz optimiert ist und es dem Gerät ermöglicht, große Datensätze und Echtzeitverarbeitung zu verarbeiten, ohne übermäßig viel Strom zu verbrauchen.
Konnektivitätsoptionen: Es verfügt über USB 3.2-Anschlüsse für schnelle Datenübertragungen, einen Gigabit-Ethernet-Anschluss für starke Netzwerkverbindungen und Kamera-Schnittstellen für die Integration von Sensoren oder Kameras.
KI-Entwicklungstools: Der Jetson Orin Nano Super arbeitet mit dem NVIDIA JetPack SDK, das Tools wie CUDA für schnellere Berechnungen und TensorRT für die Optimierung von KI-Modellen bietet. Diese Tools erleichtern es Entwicklern, KI-Anwendungen schnell und effizient zu erstellen und einzusetzen.
Leistungs-Benchmarks: Jetson Orin Nano Super vs. Orin NX 16GB
Wenn Sie mit der Arbeit von NVIDIA vertraut sind, fragen Sie sich vielleicht, wie diese neue Version im Vergleich zum bestehenden NVIDIA Jetson Orin NX 16GB (ohne Super-Modus) abschneidet. Während der Jetson Orin NX eine höhere Gesamtleistung bietet, bietet das Jetson Orin Nano Super Developer Kit eine beeindruckende Leistung zu einem Bruchteil der Kosten.
Abbildung 2. Ein Blick auf das NVIDIA Jetson Orin Ökosystem.
Hier ist ein kurzer Überblick:
KI-Leistung: Jetson Orin Nano Super liefert bis zu 67 TOPS, was für die meisten Edge-KI-Aufgaben geeignet ist, während Jetson Orin NX bis zu 100 TOPS für anspruchsvollere Anwendungen bietet.
Speicher: Der Jetson Orin Nano Super verfügt über 8 GB LPDDR5, ausreichend für Echtzeitaufgaben, während der Orin NX die Speicherkapazität auf 16 GB verdoppelt, um größere Arbeitslasten zu bewältigen.
Leistungseffizienz: Der Jetson Orin Nano Super ist energieeffizienter und kann zwischen 7W und 25W konfiguriert werden, verglichen mit dem höheren Energiebedarf des Jetson Orin NX.
GRAFIKPROZESSOR: Beide nutzen die NVIDIA Ampere-Architektur mit 1.024 CUDA-Kernen und 32 Tensor-Cores für eine robuste GPU-Leistung.
YOLO11 mit Jetson Orin Nano Super: KI als Vision für die Zukunft
Nachdem wir nun ein besseres Verständnis des Jetson Orin Nano Super haben, lassen Sie uns einen Blick darauf werfen, wie YOLO11 dazu beitragen kann, Vision-KI-Fähigkeiten an den Rand zu bringen. Die YOLO-Modelle von Ultralytics, einschließlich YOLO11, verfügen über vielseitige Modi wie Trainieren, Vorhersagen und Exportieren, wodurch sie an eine Vielzahl von KI-Workflows angepasst werden können.
Im Trainingsmodus können die Ultralytics YOLO-Modelle beispielsweise fein abgestimmt und auf benutzerdefinierten Datensätzen für spezifische Anwendungen trainiert werden, z. B. zur Erkennung einzigartiger Objekte oder zur Optimierung für bestimmte Umgebungen. In ähnlicher Weise ist der Vorhersagemodusfür Schlussfolgerungen konzipiert und ermöglicht Computer-Vision-Aufgaben in Echtzeit. Schließlich kann der Exportmodus verwendet werden, um Modelle in Formate zu konvertieren, die für den Einsatz optimiert sind.
Abbildung 3. Die YOLO-Modelle von Ultralytics unterstützen verschiedene Funktionen und Modi.
YOLO11 unterstützt im Exportmodus eine Reihe von Optionen für den Einsatz von Modellen, unter anderem:
NVIDIATensorRT: Dieses Format ist für NVIDIA-GPUs optimiert und bietet leistungsstarke Inferenzen mit geringer Latenz auf dem Jetson Orin Nano Super.
ONNX (Open Neural Network Exchange): Es gewährleistet Kompatibilität über verschiedene Plattformen hinweg und ist somit vielseitig für unterschiedliche Hardware- und Software-Ökosysteme einsetzbar.
TorchScript: Dieses Format ist ideal für PyTorch-basierte Anwendungen und hilft bei der nahtlosen Integration in PyTorch-Workflows.
TFLite (TensorFlow Lite): Ein Format, das für leichtgewichtige KI-Einsätze entwickelt wurde und sich daher perfekt für mobile und eingebettete Systeme eignet.
Mit diesen Bereitstellungsformaten können Entwickler die Hardware des Jetson Orin Nano Super voll ausnutzen, um YOLO11 für Echtzeitanwendungen wie intelligente Räume, Robotik und Einzelhandelsautomatisierung einzusetzen.
Benchmarking von YOLO11 auf dem NVIDIA Jetson Orin Nano Super
Um eine bessere Vorstellung davon zu bekommen, wie schnell YOLO11 auf dem NVIDIA Jetson Orin Nano Super laufen kann, wollen wir seine beeindruckende Leistung und Benchmarks mit GPU-beschleunigten Exportformaten wie PyTorch, ONNX und TensorRT untersuchen. Diese Tests zeigen, dass der Jetson Orin Nano Super Inferenzzeiten mit YOLO11-Modellen erreicht, die mit denen des Jetson Orin NX 16GB (ohne Super-Modus) vergleichbar sind - und diese gelegentlich sogar übertreffen.
Abb. 4. Benchmarking von YOLO11 auf NVIDIA Jetson Orin Nano Super.
Was dies noch bemerkenswerter macht, ist die Erschwinglichkeit des Jetson Orin Nano Super. Er bietet eine derartige Leistung zu weniger als der Hälfte des Preises des Jetson Orin NX 16GB und bietet damit einen außergewöhnlichen Wert für Entwickler, die leistungsstarke YOLO11-Anwendungen entwickeln. Diese Kombination aus Kosten und Leistung macht den Jetson Orin Nano Super zu einer ausgezeichneten Wahl für Echtzeit-Vision-KI-Aufgaben im Edge-Bereich.
Abb. 5. Benchmarking von YOLO11 auf Jetson Orin NX 16GB.
Erfahren Sie mehr über YOLO11 und den NVIDIA Jetson Orin Nano Super
Wenn Sie YOLO11 auf dem Jetson Orin Nano Super einsetzen möchten, gibt es gute Nachrichten - es ist ein unkomplizierter Prozess. Nachdem Sie Ihr Gerät mit dem NVIDIA JetPack SDK geflasht haben, können Sie entweder ein vorgefertigtes Docker-Image für eine schnelle Einrichtung verwenden oder die erforderlichen Pakete manuell installieren.
Für diejenigen, die eine schnellere und nahtlosere Integration wünschen, ist der aktualisierte JetPack 6 Docker-Container die ideale Lösung. Ein Docker-Container ist eine leichtgewichtige, portable Umgebung, die alle notwendigen Tools und Abhängigkeiten für die Ausführung bestimmter Software enthält.
Der Ultralytics-Container, der für JetPack 6.1 optimiert ist, ist mit CUDA 12.6, TensorRT 10.3 und wichtigen Tools wie PyTorch und TorchVision vorinstalliert, die alle auf die ARM64-Architektur des Jetson zugeschnitten sind. Durch die Verwendung dieses Containers können Entwickler Zeit bei der Einrichtung sparen und sich auf die Erstellung und Optimierung ihrer Vision AI-Anwendungen mit YOLO11 konzentrieren.
Anwendungen von YOLO11 auf dem NVIDIA Jetson Orin Nano Super
Wer nach Inspirationen für sein nächstes KI-Projekt sucht: Das Potenzial für kantenbasierte Computer-Vision-Anwendungen ist allgegenwärtig.
Im alltäglichen Leben definiert Edge AI intelligente Räume neu, indem sie Systeme in die Lage versetzt, Objekte in Echtzeit zu erkennen und zu verfolgen, ohne dabei auf Cloud-Verarbeitung angewiesen zu sein. Ob es um die Überwachung des Verkehrs in einer belebten Stadt geht oder um die Erkennung ungewöhnlicher Aktivitäten im öffentlichen Raum - Edge Vision AI erhöht die Sicherheit und Effizienz.
Einzelhändler nutzen auch KI und Computer Vision. Von automatisierten Bestandskontrollen bis hin zur Diebstahlprävention- Modelle wie YOLO11 ermöglichen es Unternehmen, Echtzeitlösungen direkt in den Geschäften einzusetzen.
Ähnlich verhält es sich bei der KI im Gesundheitswesen: Die Edge-basierte Überwachung gewährleistet die Sicherheit der Patienten, erkennt Anomalien und sorgt für die Einhaltung von Vorschriften - und das alles ohne Verzögerungen durch die Abhängigkeit von der Cloud. Mit Werkzeugen wie dem Jetson Orin Nano Super und YOLO11 entfaltet sich die Zukunft der Vision AI direkt an der Schnittstelle, wo sie am meisten gebraucht wird.
Die wichtigsten Erkenntnisse
Der Einsatz von Ultralytics YOLO-Modellen wie YOLO11 auf dem NVIDIA Jetson Orin Nano Super Developer Kit bietet eine zuverlässige und effiziente Lösung für Edge-KI-Anwendungen. Mit robuster GPU-Leistung, nahtloser Unterstützung für PyTorch, ONNX und TensorRT und beeindruckenden Benchmarks ist es für Echtzeit-Computer-Vision-Aufgaben wie Objekterkennung und -verfolgung bestens geeignet.
Innovationen und Kooperationen im Bereich der Spitzentechnologien wie Vision AI und Hardwarebeschleunigung verändern unsere Arbeitsweise und ermöglichen es Entwicklern, skalierbare, leistungsstarke Lösungen für den Edge-Bereich zu entwickeln. Mit den Fortschritten der KI machen es Tools wie YOLO11 und der Jetson Orin Nano Super einfacher denn je, intelligente Echtzeitlösungen zum Leben zu erwecken.
Neugierig auf KI? Besuchen Sie unser GitHub-Repository, um unsere Beiträge zu erkunden und sich mit unserer Community auszutauschen. Sehen Sie, wie wir KI einsetzen, um in Branchen wie der Landwirtschaft und dem Gesundheitswesen etwas zu bewirken.