Ultralytics YOLO und DEEPX: Edge-KI-Inferenz für Physical AI

Bei Ultralytics beobachten wir, dass Computer-Vision-Modelle zunehmend direkt auf Edge-Geräten ausgeführt werden, da KI immer stärker in die physische Welt eingebettet wird. Von Robotik und Industriemaschinen bis hin zu intelligenten Kameras und autonomen Fahrzeugen müssen immer mehr intelligente Systeme in Echtzeit sehen, verstehen und handeln – ohne auf die Cloud angewiesen zu sein.

Diese neue Generation intelligenter Systeme wird als Physical AI bezeichnet und erfordert leistungsstarke, äußerst energieeffiziente Rechenleistung, die autonom in der realen Welt arbeiten kann. Systeme für den realen Einsatz benötigen Vision-KI, die lokal, zuverlässig und effizient auf speziell für den Edge-Betrieb entwickelter Hardware läuft.

Ultralytics YOLO-Modelle wie Ultralytics YOLO26 sind für Computer Vision in Echtzeit entwickelt. Um ihr volles Potenzial am Edge auszuschöpfen, braucht es jedoch die richtige Kombination aus Software und Hardware. Deshalb freuen wir uns, unsere neue Partnerschaft mit DEEPX bekannt zu geben.

Wir sind eine Partnerschaft mit DEEPX eingegangen, um eine neue Exportintegration einzuführen, mit der Ultralytics YOLO-Modelle effizient und leistungsstark auf DEEPX-NPU-Hardware bereitgestellt werden können. Gemeinsam setzen wir einen einheitlichen globalen Standard dafür, wie Physical AI entwickelt, bereitgestellt und skaliert wird.

Abb. 1. Das DEEPX-Hardware-Ökosystem für KI-Inferenz auf dem Gerät mit dem DX-M1-M.2-Modul und der DX-AIPlayer N97 AI Box*.*

Eine gemeinsame Vision für die Zukunft von Physical AI#

Als weltweit am häufigsten eingesetztes Computer-Vision-Framework stellt Ultralytics die „Augen“ dieser Systeme bereit. Als einer der effizientesten NPU-Hersteller stellt DEEPX das „Gehirn“ bereit, mit dem diese Systeme in großem Maßstab betrieben werden.

Bei Ultralytics und DEEPX glauben wir an Zugänglichkeit, Leistung und eine konsequente Ausrichtung auf Entwicklerinnen und Entwickler – und lassen uns davon antreiben. Indem wir die Ökosysteme von Ultralytics und DEEPX zusammenführen, bieten wir einen einzigen, vertrauenswürdigen Weg, Vision-KI kommerziell einzusetzen. Das gilt sowohl für ein junges Robotikunternehmen, das sein erstes Produkt auf den Markt bringt, als auch für einen Fortune-500-Hersteller, der Vision-KI an Tausenden Standorten einführt.

Das bedeutet:

• Schnellere Markteinführung: Von der Annotation bis zur Bereitstellung in Tagen statt Monaten.
• Niedrigere Bereitstellungskosten: Leistung auf GPU-Niveau bei einem Bruchteil des Energieverbrauchs und der Kosten für den Chip. So erreichst du mehr als 250 FPS bei einem Stromverbrauch von 2–4 W.
• Neue Umsatzmöglichkeiten: Entwickle und vermarkte Edge-KI-Produkte, deren Umsetzung bisher wirtschaftlich nicht tragfähig war.
• Zukunftssichere Skalierung: Eine eigens eingerichtete CI/CD-Pipeline stellt sicher, dass jede neue Ultralytics-Version ohne zusätzliche Einrichtung mit DEEPX-Hardware funktioniert. Die mehrjährigen Lieferzusagen von DEEPX bieten zusätzliche Sicherheit.

Ein Einblick in die NPU-Technologie von DEEPX#

DEEPX ist ein innovatives Halbleiterunternehmen für KI und bietet effiziente Edge-KI-Hardware, die speziell für Vision-Modelle wie Ultralytics YOLO entwickelt wurde und eine branchenführende Anzahl an Bildern pro Sekunde und Watt (FPS/W) ermöglicht. Statt theoretische Kennzahlen zu optimieren, konzentriert sich DEEPX auf Effizienz in der Praxis. So können Entwicklerinnen und Entwickler Ergebnisse auf GPU-Niveau bei einem Bruchteil des Energieverbrauchs erreichen.

Möglich wird das durch ein durchgängiges Design aus Hardware und Software. Die DX-M1-NPU wurde speziell dafür entwickelt, die Rechenmuster von Computer-Vision-Modellen zu beschleunigen. Ihre passive Kühlung und ihr niedriger Stromverbrauch eignen sich für Einsätze im Produktionsmaßstab, bei denen Leistung pro Watt und langfristige Zuverlässigkeit entscheidend sind.

Wenn Edge-KI zunehmend zum Standard wird, kommt es auf nachhaltige Leistung an: Fortschrittliche Modelle müssen innerhalb enger Grenzen für Stromverbrauch und Temperatur zuverlässig laufen und sich zugleich für den Einsatz in der Praxis skalieren lassen. Deshalb ist FPS pro Watt zu einer der wichtigsten Kennzahlen für die Bewertung von Edge-KI-Plattformen geworden.

Abb. 2. Pareto-Front-Benchmark von YOLO26, YOLO11 und YOLOv8 auf der DX-M1-NPU. Gemessen mit DX-M1 und einem i5-14600K-Host (32 GB RAM), SDK dx-com v2.3.0, ausschließlich NPU-Chip.

Während der Markt von Machbarkeitsnachweisen (PoCs) zum großflächigen Einsatz übergeht, benötigen Kunden zunehmend mehrere KI-Modelle, die gleichzeitig innerhalb desselben Energie- und Temperaturbudgets laufen. Das obige Diagramm zeigt, dass YOLO26 durchgehend ein ausgewogeneres Verhältnis von Genauigkeit und Effizienz bietet: YOLO26n erreicht auf DX-M1 rund 405 FPS/W. So können Entwicklerinnen und Entwickler anspruchsvollere KI-Workloads ausführen, ohne auf größere, energiehungrigere Hardware umzusteigen.

Erste Schritte beim Export von Ultralytics YOLO-Modellen nach DEEPX#

Das Ultralytics-Python-Paket und die Ultralytics Platform bieten eine vollständige, einheitliche Umgebung zum Trainieren, Bewerten und Bereitstellen von YOLO-Modellen für alle fünf Computer-Vision-Aufgaben. Ganz gleich, ob du lieber mit Code oder über einen unkomplizierten visuellen Workflow arbeitest: Beide Wege ermöglichen dir, ein Modell konsistent und skalierbar von den Daten bis zur Bereitstellung zu führen.

Im Rahmen dieser Partnerschaft hat Ultralytics eine neue Exportintegration mit DEEPX eingeführt. Damit lassen sich YOLO-Modelle mit einem einzigen Befehl für die Bereitstellung auf DEEPX-NPU-Hardware exportieren: format=deepx. Die Integration wird im gesamten Ultralytics-Ökosystem unterstützt. Entwicklerinnen und Entwickler können somit aus dem Python-Paket oder direkt aus der Ultralytics Platform nach DEEPX exportieren, nachdem sie ihr Modell annotiert und trainiert haben. Beim Export wird das Modell kompiliert und mit INT8 quantisiert, sodass eine optimierte .dxnn-Binärdatei entsteht. Die EMA-basierte Kalibrierung gewährleistet dabei eine maximale NPU-Leistung, ohne die Modellqualität zu beeinträchtigen.

In der Praxis bedeutet das: Kommerzielle Teams können mit nur drei Befehlen von annotierten Daten zu einem produktionsreifen Modell gelangen, das auf DEEPX-NPUs läuft:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Alle Details zur Einrichtung, einschließlich der Laufzeitinstallation und der Visualisierung mit dem Diagrammbetrachter dxtron von DEEPX, findest du in der Dokumentation zur DEEPX-Integration.

Die wichtigsten Vorteile beim Ausführen von Ultralytics YOLO-Modellen auf DEEPX-NPUs#

Hier sind einige der wichtigsten Vorteile, wenn du Ultralytics YOLO-Modelle mithilfe der neuen Integration auf DEEPX-Hardware bereitstellst:

• Nahtlose Integration in den Ultralytics-Workflow: Der Export von YOLO-Modellen für die Bereitstellung auf DEEPX fügt sich nahtlos in das Ultralytics-Python-Paket ein. Der einzelne Befehl format=deepx vereinheitlicht den Bereitstellungsprozess am Edge.
• Unterstützung verschiedener Computer-Vision-Aufgaben: Du kannst Modelle für Objekterkennung, Segmentierung, Posenschätzung, die Erkennung orientierter Begrenzungsrahmen (OBB) und Klassifizierung mit YOLOv8, YOLO11 und YOLO26 bereitstellen.
• Hocheffiziente Inferenz am Edge: DEEPX-NPUs bieten Leistung auf GPU-Niveau bei einem Bruchteil des Energieverbrauchs. Dank passiver Kühlung und äußerst niedrigem Stromverbrauch eignen sie sich ideal für den Einsatz im Produktionsmaßstab.
• Zukunftssichere Grundlage: Eine eigens eingerichtete CI/CD-Pipeline gewährleistet die sofortige Kompatibilität mit jeder neuen Ultralytics-Version. Gleichzeitig überträgt der Entwicklungsplan von DX-M1 zu DX-M2 denselben Software-Stack in die Ära der agentenbasierten KI.
• Skalierbar für Anwendungen mit Physical AI: Von intelligenter Überwachung und industrieller Inspektion bis hin zu Robotik und autonomen Systemen unterstützt die Integration zahlreiche Anwendungsfälle in der Praxis.

Wo Ultralytics YOLO und DEEPX-Hardware Wirkung erzielen können#

Für welche typischen Anwendungen von Physical AI lassen sich Ultralytics YOLO-Modelle also in realen Szenarien auf DEEPX-Hardware einsetzen?

Intelligente Überwachung am Edge#

Moderne Überwachungssysteme müssen Daten in Echtzeit erkennen, ohne Abstriche beim Datenschutz oder bei der Konnektivität zu machen. Ultralytics YOLO-Modelle auf DEEPX-NPUs ermöglichen Sicherheitskameras und Überwachungssystemen, Videostreams lokal zu analysieren und Personen, Fahrzeuge sowie ungewöhnliche Aktivitäten in Echtzeit zu erkennen – bei niedrigem Stromverbrauch und ohne Abhängigkeit von der Cloud. Da die Durchsetzung der DSGVO in Europa strenger wird und Kommunen bei Beschaffungen zunehmend eine lokale Datenspeicherung vorschreiben, ist Inferenz auf dem Gerät nicht nur technisch, sondern auch regulatorisch von Vorteil.

Industrielle Automatisierung und Qualitätskontrolle#

In Fabriken und Produktionsstätten wird Vision-KI zunehmend für die Automatisierung der Qualitätskontrolle, die Fehlererkennung und die Prozessüberwachung eingesetzt. Durch die Kombination von Ultralytics YOLO-Modellen mit DEEPX-Hardware lassen sich Prüfungen auf dem Gerät zuverlässig rund um die Uhr in anspruchsvollen Industrieumgebungen durchführen. Das hilft, Abfälle zu reduzieren, die Produktqualität zu verbessern und die Sicherheit der Beschäftigten zu gewährleisten.

Robotik und autonome Systeme#

In der Robotik sind Geschwindigkeit und Reaktionsfähigkeit entscheidend. Ob beim Navigieren in einem Lager, beim Einsatz in dynamischen Industrieumgebungen oder bei der Zusammenarbeit mit Menschen – Roboter müssen ihre Umgebung sofort erfassen. Ultralytics YOLO-Modelle auf DEEPX-NPUs ermöglichen Robotern, Hindernisse zu erkennen, Personen zu verfolgen und Objekte zu identifizieren. So bewegen sich Roboter sicherer und autonomer, ohne auf eine dauerhafte Cloud-Verbindung angewiesen zu sein.

Die wichtigsten Erkenntnisse#

Mit Ultralytics YOLO-Modellen und DEEPX-NPUs lässt sich leistungsstarke Physical AI einfacher denn je an den Edge bringen. Die neue Norm format=deepx vereinfacht die Bereitstellung und optimiert Modelle für die energieeffiziente Hardware von DEEPX. So hilft diese Partnerschaft, die Lücke zwischen Entwicklung und kommerziellen Anwendungen in der Praxis zu schließen. Während Physical AI weiter wächst, trägt diese Zusammenarbeit dazu bei, Vision-KI in Produktionsqualität für Unternehmen jeder Größe zugänglich, bezahlbar und skalierbar zu machen.

Möchtest du deine Edge-KI-Produkte schneller auf den Markt bringen?

• Fordere eine Lizenz an, um kommerziellen Support und Enterprise-YOLO-Modelle zu nutzen.
• Probiere die Ultralytics Platform aus, um dein erstes DEEPX-kompatibles Modell zu annotieren, zu trainieren und bereitzustellen.
• Werde Ultralytics-Partner, um gemeinsame Einsatzmöglichkeiten zu erkunden.
• Lies die Dokumentation, um den vollständigen technischen Leitfaden zu erhalten.

Finde heraus, wie Innovationen wie KI in der Robotik und KI in der Fertigung die Zukunft prägen.