Ultralytics YOLO und DEEPX: Edge-KI-Inferenz für Physical AI

Bei Ultralytics beobachten wir, dass Computer-Vision-Modelle zunehmend direkt auf Edge-Geräten ausgeführt werden, da KI immer stärker in die physische Welt eingebettet wird. Von Robotik und Industriemaschinen bis hin zu intelligenten Kameras und autonomen Fahrzeugen müssen immer mehr intelligente Systeme in Echtzeit sehen, verstehen und handeln – ohne auf die Cloud angewiesen zu sein.

Diese neue Generation intelligenter Systeme wird als Physical AI bezeichnet und erfordert leistungsstarke, äußerst energieeffiziente Rechenleistung, die autonom in der realen Welt arbeiten kann. Systeme für den realen Einsatz benötigen Vision-KI, die lokal, zuverlässig und effizient auf speziell für den Edge-Betrieb entwickelter Hardware läuft.

Ultralytics YOLO-Modelle wie Ultralytics YOLO26 sind für Computer Vision in Echtzeit entwickelt. Um ihr volles Potenzial am Edge auszuschöpfen, braucht es jedoch die richtige Kombination aus Software und Hardware. Deshalb freuen wir uns, unsere neue Partnerschaft mit DEEPX bekannt zu geben.

Wir sind eine Partnerschaft mit DEEPX eingegangen, um eine neue Exportintegration einzuführen, mit der Ultralytics YOLO-Modelle effizient und leistungsstark auf DEEPX-NPU-Hardware bereitgestellt werden können. Gemeinsam setzen wir einen einheitlichen globalen Standard dafür, wie Physical AI entwickelt, bereitgestellt und skaliert wird.

Abb. 1. Das DEEPX-Hardwareökosystem für KI-Inferenz direkt auf dem Gerät, bestehend aus dem DX-M1-M.2-Modul und der DX-AIPlayer-N97-AI-Box.

Eine gemeinsame Vision für die Zukunft von Physical AI#

Als weltweit am häufigsten eingesetztes Computer-Vision-Framework stellt Ultralytics die „Augen“ dieser Systeme bereit. Als einer der effizientesten NPU-Hersteller stellt DEEPX das „Gehirn“ bereit, mit dem diese Systeme in großem Maßstab betrieben werden.

Bei Ultralytics und DEEPX setzen wir auf Zugänglichkeit, Leistung und eine konsequente Ausrichtung auf Entwickler. Durch die Verbindung der Ökosysteme von Ultralytics und DEEPX bieten wir einen einzigen, vertrauenswürdigen Weg, Vision AI kommerziell einzusetzen – ganz gleich, ob du in einem jungen Robotikunternehmen dein erstes Produkt auf den Markt bringst oder als Hersteller aus dem Fortune-500-Umfeld Vision AI an Tausenden Standorten einführst.

Das bedeutet:

• Schnellere Markteinführung: Von der Annotation bis zur Bereitstellung in Tagen statt Monaten.
• Niedrigere Bereitstellungskosten: Leistung auf GPU-Niveau bei einem Bruchteil des Energieverbrauchs und der Kosten für den Chip. So erreichst du mehr als 250 FPS bei einem Stromverbrauch von 2–4 W.
• Neue Umsatzmöglichkeiten: Entwickle und vermarkte Edge-KI-Produkte, deren Umsetzung bisher wirtschaftlich nicht tragfähig war.
• Zukunftssichere Skalierung: Eine eigens eingerichtete CI/CD-Pipeline stellt sicher, dass jede neue Ultralytics-Version ohne zusätzliche Einrichtung mit DEEPX-Hardware funktioniert. Die mehrjährigen Lieferzusagen von DEEPX bieten zusätzliche Sicherheit.

Ein Einblick in die NPU-Technologie von DEEPX#

DEEPX ist ein innovatives Halbleiterunternehmen für KI und bietet effiziente Edge-KI-Hardware, die speziell für Vision-Modelle wie Ultralytics YOLO entwickelt wurde und eine branchenführende Anzahl an Bildern pro Sekunde und Watt (FPS/W) ermöglicht. Statt theoretische Kennzahlen zu optimieren, konzentriert sich DEEPX auf Effizienz in der Praxis. So können Entwicklerinnen und Entwickler Ergebnisse auf GPU-Niveau bei einem Bruchteil des Energieverbrauchs erreichen.

Möglich wird das durch ein durchgängiges Design aus Hardware und Software. Die DX-M1-NPU wurde speziell dafür entwickelt, die Rechenmuster von Computer-Vision-Modellen zu beschleunigen. Ihre passive Kühlung und ihr niedriger Stromverbrauch eignen sich für Einsätze im Produktionsmaßstab, bei denen Leistung pro Watt und langfristige Zuverlässigkeit entscheidend sind.

Mit der zunehmenden Verbreitung von Edge AI kommt es auf nachhaltige Leistung an: Fortgeschrittene Modelle müssen unter strengen Energie- und Temperaturgrenzen zuverlässig laufen und sich zugleich für den Einsatz in der Praxis skalieren lassen. Deshalb ist FPS pro Watt zu einer der wichtigsten Kennzahlen für die Bewertung von Edge-AI-Plattformen geworden.

Abb. 2. Pareto-Benchmark von YOLO26, YOLO11 und YOLOv8 auf der DX-M1-NPU. Gemessen mit DX-M1 und einem i5-14600K-Hostsystem (32 GB RAM), SDK dx-com v2.3.0, nur NPU-Chip.

Da der Markt die Konzeptnachweise hinter sich lässt und zu groß angelegten Bereitstellungen übergeht, benötigen Kunden zunehmend mehrere gleichzeitig laufende KI-Modelle, die dasselbe Energie- und Temperaturbudget einhalten. Das Diagramm oben zeigt, dass YOLO26 durchgehend eine bessere Balance zwischen Genauigkeit und Effizienz bietet: YOLO26n erreicht auf DX-M1 etwa 405 FPS/W. So können Entwickler anspruchsvollere KI-Workloads ausführen, ohne auf größere und energiehungrigere Hardware umzusteigen.

Erste Schritte beim Export von Ultralytics YOLO-Modellen nach DEEPX#

Das Ultralytics-Python-Paket und die Ultralytics Platform bieten eine vollständige, einheitliche Umgebung, um YOLO-Modelle für alle unterstützten Computer-Vision-Aufgaben zu trainieren, zu bewerten und bereitzustellen. Ganz gleich, ob du lieber mit Code oder über einen unkomplizierten visuellen Workflow arbeitest – beide Wege bieten dir eine einheitliche und skalierbare Möglichkeit, ein Modell von den Daten bis zur Bereitstellung zu führen.

Im Rahmen dieser Partnerschaft hat Ultralytics eine neue Exportintegration mit DEEPX eingeführt. Damit lassen sich YOLO-Modelle mit einem einzigen Befehl für die Bereitstellung auf DEEPX-NPU-Hardware exportieren: format=deepx. Die Integration wird im gesamten Ultralytics-Ökosystem unterstützt. Entwickler können also nach dem Annotieren und Trainieren ihres Modells über das Python-Paket oder direkt über die Ultralytics Platform nach DEEPX exportieren. Beim Export wird das Modell kompiliert und mit INT8 quantisiert, sodass eine optimierte .dxnn-Binärdatei entsteht. Eine EMA-basierte Kalibrierung gewährleistet maximale NPU-Leistung, ohne die Modellqualität zu beeinträchtigen.

In der Praxis bedeutet das: Kommerzielle Teams können mit nur drei Befehlen von annotierten Daten zu einem produktionsreifen Modell gelangen, das auf DEEPX-NPUs läuft:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Alle Details zur Einrichtung, einschließlich der Laufzeitinstallation und der Visualisierung mit dem Diagrammbetrachter dxtron von DEEPX, findest du in der Dokumentation zur DEEPX-Integration.

Die wichtigsten Vorteile beim Ausführen von Ultralytics YOLO-Modellen auf DEEPX-NPUs#

Hier sind einige der wichtigsten Vorteile, wenn du Ultralytics YOLO-Modelle mithilfe der neuen Integration auf DEEPX-Hardware bereitstellst:

• Nahtlose Integration in den Ultralytics-Workflow: Der Export von YOLO-Modellen für die Bereitstellung auf DEEPX fügt sich nahtlos in das Ultralytics-Python-Paket ein. Ein einziger Befehl, format=deepx, vereinheitlicht den Bereitstellungsprozess am Netzwerkrand.
• Unterstützung mehrerer Computer-Vision-Aufgaben: Du kannst Modelle für Objekterkennung, Instanzsegmentierung, Klassifizierung, Posenschätzung und die Erkennung orientierter Begrenzungsrahmen (OBB) mit YOLOv8, YOLO11 und YOLO26 bereitstellen. YOLO26 unterstützt außerdem semantische Segmentierung und Tiefenschätzung.
• Hocheffiziente Inferenz am Edge: DEEPX-NPUs bieten Leistung auf GPU-Niveau bei einem Bruchteil des Energieverbrauchs. Dank passiver Kühlung und äußerst niedrigem Stromverbrauch eignen sie sich ideal für den Einsatz im Produktionsmaßstab.
• Zukunftssichere Grundlage: Eine eigens eingerichtete CI/CD-Pipeline gewährleistet die sofortige Kompatibilität mit jeder neuen Ultralytics-Version. Gleichzeitig überträgt der Entwicklungsplan von DX-M1 zu DX-M2 denselben Software-Stack in die Ära der agentenbasierten KI.
• Skalierbar für Anwendungen mit Physical AI: Von intelligenter Überwachung und industrieller Inspektion bis hin zu Robotik und autonomen Systemen unterstützt die Integration zahlreiche Anwendungsfälle in der Praxis.

Wo Ultralytics YOLO und DEEPX-Hardware Wirkung erzielen können#

Für welche typischen Anwendungen von Physical AI lassen sich Ultralytics YOLO-Modelle also in realen Szenarien auf DEEPX-Hardware einsetzen?

Intelligente Überwachung am Edge#

Moderne Überwachungssysteme müssen Daten in Echtzeit erkennen, ohne Abstriche beim Datenschutz oder bei der Konnektivität zu machen. Ultralytics YOLO-Modelle auf DEEPX-NPUs ermöglichen Sicherheitskameras und Überwachungssystemen, Videostreams lokal zu analysieren und Personen, Fahrzeuge sowie ungewöhnliche Aktivitäten in Echtzeit zu erkennen – bei niedrigem Stromverbrauch und ohne Abhängigkeit von der Cloud. Da die Durchsetzung der DSGVO in Europa strenger wird und Kommunen bei Beschaffungen zunehmend eine lokale Datenspeicherung vorschreiben, ist Inferenz auf dem Gerät nicht nur technisch, sondern auch regulatorisch von Vorteil.

Industrielle Automatisierung und Qualitätskontrolle#

In Fabriken und Produktionsstätten wird Vision-KI zunehmend für die Automatisierung der Qualitätskontrolle, die Fehlererkennung und die Prozessüberwachung eingesetzt. Durch die Kombination von Ultralytics YOLO-Modellen mit DEEPX-Hardware lassen sich Prüfungen auf dem Gerät zuverlässig rund um die Uhr in anspruchsvollen Industrieumgebungen durchführen. Das hilft, Abfälle zu reduzieren, die Produktqualität zu verbessern und die Sicherheit der Beschäftigten zu gewährleisten.

Robotik und autonome Systeme#

In der Robotik sind Geschwindigkeit und Reaktionsfähigkeit entscheidend. Ob beim Navigieren in einem Lager, beim Einsatz in dynamischen Industrieumgebungen oder bei der Zusammenarbeit mit Menschen – Roboter müssen ihre Umgebung sofort erfassen. Ultralytics YOLO-Modelle auf DEEPX-NPUs ermöglichen Robotern, Hindernisse zu erkennen, Personen zu verfolgen und Objekte zu identifizieren. So bewegen sich Roboter sicherer und autonomer, ohne auf eine dauerhafte Cloud-Verbindung angewiesen zu sein.

Die wichtigsten Erkenntnisse#

Ultralytics-YOLO-Modelle und DEEPX-NPUs machen es einfacher denn je, leistungsstarke physische KI an den Netzwerkrand zu bringen. Durch die Vereinfachung der Bereitstellung mit dem neuen Standard format=deepx und die Optimierung der Modelle für die energieeffiziente Hardware von DEEPX trägt diese Partnerschaft dazu bei, die Lücke zwischen Entwicklung und kommerziellen Anwendungen in der Praxis zu schließen. Während physische KI weiter wächst, ist diese Zusammenarbeit ein Schritt dahin, Vision AI in Produktionsqualität für Unternehmen jeder Größe zugänglich, erschwinglich und skalierbar zu machen.

Möchtest du deine Edge-KI-Produkte schneller auf den Markt bringen?

• Fordere eine Lizenz an, um kommerziellen Support und Enterprise-YOLO-Modelle zu nutzen.
• Probiere die Ultralytics Platform aus, um dein erstes DEEPX-kompatibles Modell zu annotieren, zu trainieren und bereitzustellen.
• Werde Ultralytics-Partner, um gemeinsame Einsatzmöglichkeiten zu erkunden.
• Lies die Dokumentation, um den vollständigen technischen Leitfaden zu erhalten.

Finde heraus, wie Innovationen wie KI in der Robotik und KI in der Fertigung die Zukunft prägen.