Ultralytics YOLO kooperiert mit DEEPX: Edge-KI-Inferenz für physische KI

Bei Ultralytics erleben wir einen wachsenden Trend hin zur Ausführung von computer vision models direkt auf Edge-Geräten, da KI immer tiefer in die physische Welt integriert wird. Von Robotik und Industriemaschinen bis hin zu intelligenten Kameras und autonomen Fahrzeugen wird von immer mehr intelligenten Systemen erwartet, dass sie in Echtzeit sehen, verstehen und handeln – ganz ohne Abhängigkeit von der Cloud.

Diese neue Welle intelligenter Systeme wird als Physical AI bezeichnet und erfordert eine hochleistungsfähige, extrem energieeffiziente Datenverarbeitung, die autonom in der realen Welt arbeiten kann. Systeme in der realen Welt benötigen Vision AI, die lokal, zuverlässig und effizient auf Hardware läuft, die speziell für den Edge-Bereich entwickelt wurde.

Ultralytics YOLO-Modelle wie Ultralytics YOLO26 sind für Computer Vision in Echtzeit konzipiert, aber um ihr volles Potenzial am Edge auszuschöpfen, ist die richtige Kombination aus Software und Hardware erforderlich. Daher freuen wir uns, unsere neue Partnerschaft mit DEEPX anzukündigen.

Wir arbeiten mit DEEPX zusammen, um eine neue Export-Integration einzuführen, die eine effiziente, hochleistungsfähige Bereitstellung von Ultralytics YOLO-Modellen auf DEEPX NPU-Hardware ermöglicht. Gemeinsam setzen wir einen einheitlichen globalen Standard dafür, wie Physical AI entwickelt, bereitgestellt und skaliert wird.

Abb. 1. Das DEEPX-Hardware-Ökosystem für On-Device-KI-Inferenz, einschließlich des DX-M1 M.2-Moduls und der DX-AIPlayer N97 AI Box**.

Eine gemeinsame Vision für die Zukunft der Physical AI#

Als das weltweit am weitesten verbreitete Computer-Vision-Framework stellt Ultralytics die "Augen" dieser Systeme bereit. Als einer der effizientesten NPU-Hersteller liefert DEEPX das "Gehirn", um sie im großen Maßstab zu betreiben.

Bei Ultralytics und DEEPX glauben wir an Barrierefreiheit, Leistung und ein Design, das den Entwickler in den Mittelpunkt stellt, und lassen uns davon antreiben. Durch die Zusammenführung der Ultralytics- und DEEPX-Ökosysteme bieten wir einen einzigen, vertrauenswürdigen Weg für den kommerziellen Einsatz von Vision AI, egal ob es sich um ein Robotik-Startup handelt, das sein erstes Produkt ausliefert, oder um einen Fortune-500-Hersteller, der Vision AI in Tausenden von Einrichtungen implementiert.

Das bedeutet:

• Schnellere Markteinführung: Von der Annotation bis zur Bereitstellung in Tagen statt in Monaten.
• Niedrigere Bereitstellungskosten: GPU-Leistung bei einem Bruchteil des Stromverbrauchs und der Siliziumkosten, was dir mehr als 250 FPS bei 2-4 W Leistungsaufnahme ermöglicht.
• Neue Umsatzmöglichkeiten: Entwickle und versende Edge-AI-Produkte, die zuvor wirtschaftlich nicht realisierbar waren.
• Zukunftssichere Skalierung: Eine dedizierte CI/CD-Pipeline stellt sicher, dass jedes neue Ultralytics-Release sofort mit DEEPX-Hardware funktioniert, unterstützt durch die mehrjährigen Lieferverpflichtungen von DEEPX.

Erkundung der NPU-Technologie von DEEPX#

DEEPX ist ein Innovator im Bereich KI-Halbleiter, der effiziente Edge-KI-Hardware liefert, die speziell für Vision-Modelle wie Ultralytics YOLO mit klassenführenden Bildern pro Sekunde pro Watt (FPS/W) entwickelt wurde. Anstatt auf theoretische Metriken zu optimieren, konzentriert sich DEEPX auf Effizienz in der realen Welt, wodurch Entwickler Ergebnisse auf GPU-Niveau bei einem Bruchteil des Energiebudgets erzielen können.

Möglich wird dies durch ein Full-Stack-Design. Die DX-M1 NPU wurde speziell entwickelt, um die Rechenmuster von Computer-Vision-Modellen zu beschleunigen, mit passiver Kühlung und geringem Stromverbrauch, die für produktionsnahe Implementierungen geeignet sind, bei denen Leistung pro Watt und langfristige Zuverlässigkeit zählen.

Während Edge-KI in die Mainstream-Adoption übergeht, kommt es auf nachhaltige Leistung an: fortgeschrittene Modelle zuverlässig innerhalb enger Energie- und thermischer Grenzen auszuführen und dabei skalierbar für reale Implementierungen zu bleiben. Deshalb ist FPS-pro-Watt zu einer der wichtigsten Metriken für die Bewertung von Edge-KI-Plattformen geworden.

Abb. 2: Pareto-Front-Benchmark von YOLO26, YOLO11 und YOLOv8 auf der DX-M1 NPU. Gemessen auf der DX-M1 mit einem i5-14600K Host (32 GB RAM), SDK dx-com v2.3.0, nur NPU-Chip.

Da der Markt über PoCs hinaus in Richtung großflächiger Bereitstellung geht, benötigen Kunden zunehmend mehrere KI-Modelle, die gleichzeitig innerhalb desselben Energie- und Wärmebudgets laufen. Die obige Grafik zeigt, dass YOLO26 durchgehend ein besseres Gleichgewicht zwischen Genauigkeit und Effizienz liefert: YOLO26n erreicht etwa 405 FPS/W auf der DX-M1, was es Entwicklern ermöglicht, fortschrittlichere KI-Workloads auszuführen, ohne auf größere, stromhungrigere Hardware umsteigen zu müssen.

Erste Schritte beim Exportieren von Ultralytics YOLO-Modellen zu DEEPX#

Das Ultralytics Python package und die Ultralytics Platform bieten eine vollständige, einheitliche Umgebung zum Trainieren, Evaluieren und Bereitstellen von YOLO-Modellen für alle fünf Computer-Vision-Aufgaben. Egal, ob du lieber im Code oder über einen reibungslosen visuellen Workflow arbeitest, beide Wege bieten dir eine konsistente und skalierbare Möglichkeit, ein Modell von den Daten bis zum Deployment zu bringen.

Durch diese Partnerschaft hat Ultralytics eine neue export integration mit DEEPX eingeführt, die den Export von YOLO-Modellen für die Bereitstellung auf DEEPX NPU-Hardware mit einem einzigen Befehl ermöglicht: format=deepx. Die Integration wird im gesamten Ultralytics-Ökosystem vollständig unterstützt, sodass Entwickler nach dem Annotieren und Trainieren ihres Modells entweder über das Python package oder direkt von der Ultralytics Platform aus nach DEEPX exportieren können. Während des Exports wird das Modell kompiliert und in eine optimierte .dxnn-Binärdatei im INT8-Format quantisiert, wobei eine EMA-basierte Kalibrierung eine maximale NPU-Leistung ohne Einbußen bei der Modellqualität gewährleistet.

In der Praxis bedeutet dies, dass kommerzielle Teams mit nur drei Befehlen von markierten Daten zu einem produktionsreifen Modell gelangen, das auf DEEPX NPUs läuft:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Ausführliche Installationsdetails, einschließlich Laufzeitinstallation und Visualisierung mit dem dxtron-Graphen-Viewer von DEEPX, findest du in der DEEPX integration documentation.

Hauptvorteile beim Betrieb von Ultralytics YOLO-Modellen auf DEEPX NPUs#

Hier sind einige der wichtigsten Vorteile der Bereitstellung von Ultralytics YOLO-Modellen auf DEEPX-Hardware unter Verwendung der neuen Integration:

• Nahtlose Integration in den Ultralytics-Workflow: Das Exportieren von YOLO-Modellen für die DEEPX-Bereitstellung fügt sich natürlich in das Ultralytics Python package ein, wobei ein einzelner format=deepx-Befehl den Edge-Bereitstellungsprozess standardisiert.
• Unterstützung für mehrere Computer-Vision-Aufgaben: Du kannst Modelle für Objekterkennung, Segmentierung, Pose-Schätzung, orientierte Bounding-Box (OBB)-Erkennung und Klassifizierung über YOLOv8, YOLO11 und YOLO26 hinweg bereitstellen.
• Ultra-effiziente Edge-Inferenz: DEEPX NPUs liefern GPU-ähnliche Leistung bei einem Bruchteil des Stromverbrauchs, mit passiver Kühlung und extrem niedrigem Energiebedarf, ideal für produktionsreife Bereitstellungen.
• Zukunftssicheres Fundament: Eine dedizierte CI/CD-Pipeline garantiert die sofortige Kompatibilität mit jedem neuen Ultralytics-Release, während die DX-M1 bis DX-M2 Roadmap denselben Software-Stack bis in das Zeitalter der Agentic AI erweitert.
• Skalierbar für Physical AI-Anwendungen: Von intelligenter Überwachung und industrieller Inspektion bis hin zu Robotik und autonomen Systemen unterstützt die Integration eine breite Palette realer Anwendungsfälle.

Wo Ultralytics YOLO und DEEPX-Hardware etwas bewirken können#

Was sind also einige gängige Physical AI-Anwendungen, bei denen Ultralytics YOLO-Modelle in realen Szenarien auf DEEPX-Hardware bereitgestellt werden können?

Intelligente Überwachung am Edge#

Moderne Überwachungssysteme erfordern eine Echtzeiterkennung, ohne Kompromisse bei Datenschutz oder Konnektivität einzugehen. Ultralytics YOLO-Modelle, die auf DEEPX NPUs laufen, ermöglichen es Sicherheitskameras und Überwachungssystemen, Videofeeds lokal zu analysieren, Menschen, Fahrzeuge und ungewöhnliche Aktivitäten in Echtzeit zu identifizieren – bei geringem Stromverbrauch und ohne Cloud-Abhängigkeit. Da die DSGVO-Durchsetzung in Europa verschärft wird und bei kommunalen Ausschreibungen zunehmend Datenresidenz vorgeschrieben ist, wird die On-Device-Inferenz sowohl zu einem regulatorischen als auch zu einem technischen Vorteil.

Industrielle Automatisierung und Qualitätskontrolle#

In Fabriken und Produktionsanlagen wird Vision AI zunehmend zur Automatisierung der Qualitätskontrolle, Fehlererkennung und Prozessüberwachung eingesetzt. Die Kombination von Ultralytics YOLO-Modellen mit DEEPX-Hardware ermöglicht eine On-Device-Inspektion, die rund um die Uhr in anspruchsvollen industriellen Umgebungen zuverlässig läuft und dazu beiträgt, Abfall zu reduzieren, die Produktqualität zu verbessern und die Arbeitssicherheit zu erhöhen.

Robotik und autonome Systeme#

Für die Robotik sind Geschwindigkeit und Reaktionsfähigkeit entscheidend. Egal, ob sie ein Lagerhaus durchqueren, in dynamischen industriellen Umgebungen arbeiten oder mit Menschen zusammenarbeiten, Roboter müssen ihre Umgebung sofort interpretieren. Ultralytics YOLO-Modelle, die auf DEEPX NPUs laufen, ermöglichen es Robotern, Hindernisse zu erkennen, Personen zu verfolgen und Objekte in Echtzeit zu identifizieren, was sicherere Bewegungen und mehr Autonomie unterstützt, ohne auf ständige Cloud-Konnektivität angewiesen zu sein.

Wichtige Erkenntnisse#

Ultralytics YOLO-Modelle und DEEPX NPUs machen es einfacher denn je, leistungsstarke Physical AI an den Edge zu bringen. Durch die Vereinfachung der Bereitstellung mit dem neuen format=deepx-Standard und die Optimierung der Modelle für die energieeffiziente Hardware von DEEPX hilft diese Partnerschaft dabei, die Lücke zwischen Entwicklung und realen kommerziellen Anwendungen zu schließen. Da Physical AI weiter wächst, ist diese Zusammenarbeit ein Schritt in Richtung einer produktionstauglichen Vision AI, die für Unternehmen jeder Größe zugänglich, erschwinglich und skalierbar ist.

Bereit, deine Edge AI-Produkte schneller auf den Markt zu bringen?

• Request a license, um kommerziellen Support und Enterprise YOLO-Modelle zu erhalten.
• Try Ultralytics Platform, um dein erstes DEEPX-fähiges Modell zu annotieren, zu trainieren und bereitzustellen.
• Become an Ultralytics partner, um gemeinsame Bereitstellungsmöglichkeiten zu erkunden.
• Read the docs für den vollständigen technischen Leitfaden.

Finde heraus, wie Innovationen wie AI in robotics und AI in manufacturing die Zukunft prägen.