Ultralytics YOLO kooperiert mit DEEPX: Edge-KI-Inferenz für Physical AI

Bei Ultralytics beobachten wir eine zunehmende Verlagerung hin zur direkten Ausführung von Computer-Vision-Modellen auf Edge-Geräten, da KI immer stärker in die physische Welt eingebettet wird. Von Robotik und Industriemaschinen bis hin zu intelligenten Kameras und autonomen Fahrzeugen müssen immer mehr intelligente Systeme ihre Umgebung in Echtzeit wahrnehmen, verstehen und darauf reagieren, ohne von der Cloud abhängig zu sein.

Diese neue Welle intelligenter Systeme wird als Physical AI bezeichnet und erfordert leistungsstarke, extrem energieeffiziente Rechenleistung, die autonom in der realen Welt arbeiten kann. Systeme in der realen Welt benötigen Vision-KI, die lokal, zuverlässig und effizient auf speziell für Edge-Anwendungen entwickelter Hardware ausgeführt wird.

Ultralytics-YOLO-Modelle wie Ultralytics YOLO26 sind für Computer Vision in Echtzeit konzipiert. Um ihr volles Potenzial am Edge auszuschöpfen, ist jedoch die richtige Kombination aus Software und Hardware erforderlich. Deshalb freuen wir uns, unsere neue Partnerschaft mit DEEPX bekannt zu geben.

Wir haben uns mit DEEPX zusammengeschlossen, um eine neue Exportintegration einzuführen, die eine effiziente und leistungsstarke Bereitstellung von Ultralytics-YOLO-Modellen auf DEEPX-NPU-Hardware ermöglicht. Gemeinsam schaffen wir einen einheitlichen globalen Standard dafür, wie Physical AI entwickelt, bereitgestellt und skaliert wird.

Abb. 1. Das DEEPX-Hardwareökosystem für die KI-Inferenz auf dem Gerät mit dem DX-M1-M.2-Modul und der DX-AIPlayer-N97-AI-Box*.*

Eine gemeinsame Vision für die Zukunft von Physical AI#

Als weltweit am häufigsten eingesetztes Framework für Computer Vision liefert Ultralytics die „Augen“ dieser Systeme. Als einer der effizientesten NPU-Hersteller liefert DEEPX das „Gehirn“, das sie in großem Maßstab ausführt.

Bei Ultralytics und DEEPX sind wir von Zugänglichkeit, Leistung und einer konsequent auf Entwickler ausgerichteten Gestaltung überzeugt und werden davon angetrieben. Indem wir die Ökosysteme von Ultralytics und DEEPX zusammenführen, schaffen wir einen einzigen vertrauenswürdigen Weg, Vision-KI kommerziell bereitzustellen – unabhängig davon, ob es sich um ein Robotikunternehmen in der Frühphase handelt, das sein erstes Produkt auf den Markt bringt, oder um einen Fortune-500-Hersteller, der Vision-KI in Tausenden von Standorten einführt.

Das bedeutet:

• Schnellere Markteinführung: Von der Annotation bis zur Bereitstellung in Tagen statt Monaten.
• Geringere Bereitstellungskosten: GPU-Leistung zu einem Bruchteil des Energie- und Chipaufwands, sodass du bei einem Energieverbrauch von 2–4 W mehr als 250 FPS erreichst.
• Neue Umsatzmöglichkeiten: Entwickle und vertreibe Edge-KI-Produkte, die zuvor wirtschaftlich nicht rentabel waren.
• Zukunftssichere Skalierung: Eine dedizierte CI/CD-Pipeline stellt sicher, dass jede neue Ultralytics-Version sofort mit DEEPX-Hardware funktioniert, unterstützt durch DEEPXs mehrjährige Lieferzusagen.

DEEPXs NPU-Technologie entdecken#

DEEPX ist ein innovatives Unternehmen für KI-Halbleiter und liefert effiziente Edge-KI-Hardware, die speziell für Vision-Modelle wie Ultralytics YOLO entwickelt wurde und eine branchenführende Bildrate pro Watt (FPS/W) bietet. Statt theoretische Messwerte zu optimieren, konzentriert sich DEEPX auf die Effizienz in der Praxis und ermöglicht Entwicklern GPU-Leistung bei einem Bruchteil des Energiebedarfs.

Möglich wird dies durch ein ganzheitliches Design über den gesamten Technologiestack. Die DX-M1-NPU wurde speziell dafür entwickelt, die Rechenmuster von Computer-Vision-Modellen zu beschleunigen. Ihre passive Kühlung und ihr geringer Energieverbrauch eignen sich für Bereitstellungen im Produktionsmaßstab, bei denen Leistung pro Watt und langfristige Zuverlässigkeit entscheidend sind.

Da Edge-KI zunehmend zum Mainstream wird, zählt nachhaltige Leistung: fortschrittliche Modelle zuverlässig innerhalb enger Energie- und Wärmegrenzen auszuführen und dabei für die Bereitstellung in der Praxis skalierbar zu bleiben. Deshalb ist FPS pro Watt zu einer der wichtigsten Kennzahlen für die Bewertung von Edge-KI-Plattformen geworden.

Abb. 2. Pareto-Front-Benchmark von YOLO26, YOLO11 und YOLOv8 auf der DX-M1-NPU. Gemessen auf DX-M1 mit einem i5-14600K-Host (32 GB RAM), SDK dx-com v2.3.0, nur NPU-Chip.

Da sich der Markt von PoCs hin zu groß angelegten Bereitstellungen entwickelt, benötigen Kunden zunehmend mehrere gleichzeitig ausgeführte KI-Modelle innerhalb desselben Energie- und Wärmebudgets. Das Diagramm oben zeigt, dass YOLO26 konstant ein besseres Verhältnis von Genauigkeit und Effizienz bietet: YOLO26n erreicht auf DX-M1 ungefähr 405 FPS/W und ermöglicht es Entwicklern, anspruchsvollere KI-Workloads auszuführen, ohne auf größere und energiehungrigere Hardware umzusteigen.

Erste Schritte beim Exportieren von Ultralytics-YOLO-Modellen zu DEEPX#

Das Ultralytics-Python-Paket und die Ultralytics Platform bieten eine vollständige, einheitliche Umgebung zum Trainieren, Evaluieren und Bereitstellen von YOLO-Modellen für alle fünf Computer-Vision-Aufgaben. Unabhängig davon, ob du lieber mit Code oder über einen reibungslosen visuellen Workflow arbeitest, bieten dir beide Wege eine konsistente und skalierbare Möglichkeit, ein Modell von den Daten bis zur Bereitstellung zu bringen.

Im Rahmen dieser Partnerschaft hat Ultralytics eine neue Exportintegration mit DEEPX eingeführt. Damit können YOLO-Modelle mit einem einzigen Befehl für die Bereitstellung auf DEEPX-NPU-Hardware exportiert werden: format=deepx. Die Integration wird im gesamten Ultralytics-Ökosystem vollständig unterstützt. Entwickler können daher aus dem Python-Paket oder direkt aus der Ultralytics Platform zu DEEPX exportieren, nachdem sie ihr Modell annotiert und trainiert haben. Während des Exports wird das Modell kompiliert und mit INT8 quantisiert, sodass eine optimierte .dxnn-Binärdatei entsteht. Eine EMA-basierte Kalibrierung gewährleistet dabei maximale NPU-Leistung, ohne die Modellqualität zu beeinträchtigen.

In der Praxis bedeutet das, dass kommerzielle Teams mit nur drei Befehlen von annotierten Daten zu einem produktionsreifen Modell gelangen können, das auf DEEPX-NPUs ausgeführt wird:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Ausführliche Informationen zur Einrichtung, einschließlich der Laufzeitinstallation und der Visualisierung mit DEEPXs dxtron-Graphenansicht, findest du in der DEEPX-Integrationsdokumentation.

Die wichtigsten Vorteile der Ausführung von Ultralytics-YOLO-Modellen auf DEEPX-NPUs#

Hier sind einige der wichtigsten Vorteile der Bereitstellung von Ultralytics-YOLO-Modellen auf DEEPX-Hardware mit der neuen Integration:

• Nahtlose Integration in den Ultralytics-Workflow: Der Export von YOLO-Modellen für die Bereitstellung auf DEEPX fügt sich nahtlos in das Ultralytics-Python-Paket ein. Der einzelne Befehl format=deepx vereinheitlicht den Bereitstellungsprozess am Edge.
• Unterstützung mehrerer Computer-Vision-Aufgaben: Du kannst Modelle für Objekterkennung, Segmentierung, Posenschätzung, Erkennung orientierter Begrenzungsrahmen (OBB) und Klassifizierung mit YOLOv8, YOLO11 und YOLO26 bereitstellen.
• Hocheffiziente Edge-Inferenz: DEEPX-NPUs liefern GPU-Leistung bei einem Bruchteil des Energiebedarfs. Passive Kühlung und ein extrem geringer Energieverbrauch machen sie ideal für Bereitstellungen im Produktionsmaßstab.
• Zukunftssichere Grundlage: Eine dedizierte CI/CD-Pipeline garantiert die sofortige Kompatibilität mit jeder neuen Ultralytics-Version, während die Roadmap von DX-M1 zu DX-M2 denselben Softwarestack in die Ära der agentenbasierten KI führt.
• Skalierbar für Physical-AI-Anwendungen: Von intelligenter Videoüberwachung und industrieller Inspektion bis hin zu Robotik und autonomen Systemen unterstützt die Integration eine große Bandbreite an Anwendungsfällen in der realen Welt.

Wo Ultralytics YOLO und DEEPX-Hardware Wirkung entfalten können#

Welche gängigen Physical-AI-Anwendungen gibt es also, bei denen Ultralytics-YOLO-Modelle in realen Szenarien auf DEEPX-Hardware bereitgestellt werden können?

Intelligente Videoüberwachung am Edge#

Moderne Überwachungssysteme erfordern Erkennung in Echtzeit, ohne Kompromisse bei Datenschutz oder Konnektivität. Ultralytics-YOLO-Modelle, die auf DEEPX-NPUs ausgeführt werden, ermöglichen es Sicherheitskameras und Überwachungssystemen, Videoströme lokal zu analysieren und dabei Personen, Fahrzeuge und ungewöhnliche Aktivitäten in Echtzeit zu erkennen – bei geringem Energieverbrauch und ohne Abhängigkeit von der Cloud. Da die Durchsetzung der DSGVO in Europa strenger wird und kommunale Beschaffungsrichtlinien zunehmend eine Datenresidenz vorschreiben, wird die Inferenz auf dem Gerät ebenso zu einem regulatorischen wie zu einem technischen Vorteil.

Industrielle Automatisierung und Qualitätskontrolle#

In Fabriken und Produktionsanlagen wird Vision-KI zunehmend zur Automatisierung von Qualitätskontrolle, Fehlererkennung und Prozessüberwachung eingesetzt. Die Kombination von Ultralytics-YOLO-Modellen mit DEEPX-Hardware ermöglicht eine zuverlässige Inspektion auf dem Gerät rund um die Uhr in anspruchsvollen industriellen Umgebungen. Dadurch lassen sich Ausschuss reduzieren, die Produktqualität verbessern und die Sicherheit der Mitarbeitenden schützen.

Robotik und autonome Systeme#

Für die Robotik sind Geschwindigkeit und Reaktionsfähigkeit entscheidend. Ob bei der Navigation in einem Lager, beim Einsatz in dynamischen industriellen Umgebungen oder bei der Zusammenarbeit mit Menschen – Roboter müssen ihre Umgebung sofort interpretieren. Ultralytics-YOLO-Modelle, die auf DEEPX-NPUs ausgeführt werden, ermöglichen es Robotern, Hindernisse zu erkennen, Personen zu verfolgen und Objekte in Echtzeit zu identifizieren. So werden sicherere Bewegungen und mehr Autonomie ohne eine ständige Cloud-Verbindung unterstützt.

Die wichtigsten Erkenntnisse#

Ultralytics-YOLO-Modelle und DEEPX-NPUs machen es einfacher denn je, leistungsstarke Physical AI am Edge einzusetzen. Durch die vereinfachte Bereitstellung mit dem neuen Standard format=deepx und die Optimierung der Modelle für die energieeffiziente Hardware von DEEPX trägt diese Partnerschaft dazu bei, die Lücke zwischen Entwicklung und kommerziellen Anwendungen in der realen Welt zu schließen. Während Physical AI weiter wächst, ist diese Zusammenarbeit ein Schritt dahin, Vision-KI auf Produktionsniveau für Unternehmen jeder Größe zugänglich, erschwinglich und skalierbar zu machen.

Bist du bereit, deine Edge-KI-Produkte schneller auf den Markt zu bringen?

• Fordere eine Lizenz an, um auf kommerziellen Support und Enterprise-YOLO-Modelle zuzugreifen.
• Teste die Ultralytics Platform, um dein erstes DEEPX-fähiges Modell zu annotieren, zu trainieren und bereitzustellen.
• Werde Ultralytics-Partner, um gemeinsame Möglichkeiten für die Bereitstellung zu erkunden.
• Lies die Dokumentation für den vollständigen technischen Leitfaden.

Erfahre, wie Innovationen wie KI in der Robotik und KI in der Fertigung die Zukunft gestalten.