Ultralytics YOLO kooperiert mit DEEPX: Edge-KI-Inferenz für physische KI

Bei Ultralytics beobachten wir einen wachsenden Trend, Computer-Vision-Modelle direkt auf Edge-Geräten auszuführen, da KI immer tiefer in der physischen Welt verankert wird. Von Robotik und Industriemaschinen bis hin zu intelligenten Kameras und autonomen Fahrzeugen müssen immer mehr intelligente Systeme in der Lage sein, in Echtzeit zu sehen, zu verstehen und zu handeln, ohne dabei auf die Cloud angewiesen zu sein.

Diese neue Welle intelligenter Systeme wird als Physical AI bezeichnet und erfordert eine hochleistungsfähige, extrem energieeffiziente Datenverarbeitung, die autonom in der realen Welt arbeiten kann. Systeme in der realen Welt benötigen Vision AI, die lokal, zuverlässig und effizient auf Hardware läuft, die speziell für den Edge-Bereich entwickelt wurde.

Ultralytics YOLO-Modelle wie Ultralytics YOLO26 sind für Computer Vision in Echtzeit konzipiert. Um jedoch ihr volles Potenzial am Edge auszuschöpfen, ist die richtige Kombination aus Software und Hardware erforderlich. Aus diesem Grund freuen wir uns, unsere neue Partnerschaft mit DEEPX bekannt zu geben.

Wir arbeiten mit DEEPX zusammen, um eine neue Export-Integration einzuführen, die eine effiziente, hochleistungsfähige Bereitstellung von Ultralytics YOLO-Modellen auf DEEPX NPU-Hardware ermöglicht. Gemeinsam setzen wir einen einheitlichen globalen Standard dafür, wie Physical AI entwickelt, bereitgestellt und skaliert wird.

Link to this sectionEine gemeinsame Vision für die Zukunft der Physical AI#

Als das weltweit am weitesten verbreitete Computer-Vision-Framework stellt Ultralytics die "Augen" dieser Systeme bereit. Als einer der effizientesten NPU-Hersteller liefert DEEPX das "Gehirn", um sie im großen Maßstab zu betreiben.

Bei Ultralytics und DEEPX glauben wir an Barrierefreiheit, Leistung und ein Design, das den Entwickler in den Mittelpunkt stellt, und lassen uns davon antreiben. Durch die Zusammenführung der Ultralytics- und DEEPX-Ökosysteme bieten wir einen einzigen, vertrauenswürdigen Weg für den kommerziellen Einsatz von Vision AI, egal ob es sich um ein Robotik-Startup handelt, das sein erstes Produkt ausliefert, oder um einen Fortune-500-Hersteller, der Vision AI in Tausenden von Einrichtungen implementiert.

Das bedeutet:

• Schnellere Markteinführung: Von der Annotation bis zur Bereitstellung in Tagen statt in Monaten.
• Niedrigere Bereitstellungskosten: GPU-Leistung bei einem Bruchteil des Stromverbrauchs und der Siliziumkosten, was dir mehr als 250 FPS bei 2-4 W Leistungsaufnahme ermöglicht.
• Neue Umsatzmöglichkeiten: Entwickle und versende Edge-AI-Produkte, die zuvor wirtschaftlich nicht realisierbar waren.
• Zukunftssichere Skalierung: Eine dedizierte CI/CD-Pipeline stellt sicher, dass jedes neue Ultralytics-Release sofort mit DEEPX-Hardware funktioniert, unterstützt durch die mehrjährigen Lieferverpflichtungen von DEEPX.

Link to this sectionErkundung der NPU-Technologie von DEEPX#

Bevor wir uns mit der neuen Export-Integration befassen, lass uns mehr über DEEPX erfahren und darüber, welche Rolle seine NPUs bei der Ermöglichung effizienter Physical AI spielen.

DEEPX ist ein Innovator im Bereich KI-Halbleiter, der effiziente Edge-AI-Hardware liefert, die speziell für Vision-Modelle wie Ultralytics YOLO bei einer unübertroffenen Anzahl an Bildern pro Sekunde pro Watt (FPS/W) entwickelt wurde.

DEEPX-Chips definieren Leistung neu, indem sie sich auf reale Effizienz statt auf theoretische Metriken konzentrieren und es Entwicklern ermöglichen, GPU-ähnliche Ergebnisse bei einem Bruchteil des Energiebudgets zu erzielen.

Was den Ansatz von DEEPX besonders innovativ macht, ist sein Full-Stack-Design. Die DX-M1 NPU wurde speziell entwickelt, um die Berechnungsmuster von Computer-Vision-Modellen zu beschleunigen – mit passiver Kühlung und geringem Stromverbrauch. Dies macht sie ideal für produktionsreife Implementierungen, bei denen es auf Leistung pro Watt und langfristige Zuverlässigkeit ankommt. Die DX-M1 wird derzeit in der 5nm-Fertigung von Samsung Foundry massenproduziert, während die DX-M2 bereits auf der Roadmap für Samsungs 2nm GAA steht, um diesen Effizienzbereich bis in das Zeitalter der Agentic AI zu erweitern.

Link to this sectionErste Schritte beim Exportieren von Ultralytics YOLO-Modellen zu DEEPX#

Das Ultralytics Python package und die Ultralytics Platform bieten eine vollständige, einheitliche Umgebung für das Training, die Evaluierung und die Bereitstellung von YOLO-Modellen für alle fünf Computer-Vision-Aufgaben. Egal, ob du lieber mit Code oder über einen reibungslosen visuellen Workflow arbeitest – beide Wege bieten dir eine konsistente und skalierbare Methode, um ein Modell von der Datenerfassung bis zur Bereitstellung zu führen.

Durch diese Partnerschaft hat Ultralytics eine neue Export-Integration mit DEEPX eingeführt, die es ermöglicht, YOLO-Modelle für die Bereitstellung auf DEEPX NPU-Hardware mit einem einzigen Befehl zu exportieren: format=deepx. Die Integration wird im gesamten Ultralytics-Ökosystem vollständig unterstützt, was bedeutet, dass Entwickler über das Python-Paket oder direkt über die Ultralytics Platform nach der Annotation und dem Training ihres Modells zu DEEPX exportieren können. Während des Exports wird das Modell kompiliert und mittels INT8-Quantisierung in eine optimierte .dxnn-Binärdatei umgewandelt, wobei eine auf EMA basierende Kalibrierung die maximale NPU-Leistung sicherstellt, ohne die Modellqualität zu beeinträchtigen.

In der Praxis bedeutet dies, dass kommerzielle Teams mit nur drei Befehlen von markierten Daten zu einem produktionsreifen Modell gelangen, das auf DEEPX NPUs läuft:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Für vollständige Einrichtungsdetails, einschließlich der Laufzeitinstallation und Visualisierung mit dem dxtron Graph-Viewer von DEEPX, schau dir die DEEPX-Integrationsdokumentation an.

Link to this sectionHauptvorteile beim Betrieb von Ultralytics YOLO-Modellen auf DEEPX NPUs#

Hier sind einige der wichtigsten Vorteile der Bereitstellung von Ultralytics YOLO-Modellen auf DEEPX-Hardware unter Verwendung der neuen Integration:

• Nahtlose Integration in den Ultralytics-Workflow: Das Exportieren von YOLO-Modellen für die DEEPX-Bereitstellung fügt sich natürlich in das Ultralytics Python package ein, wobei ein einzelner format=deepx-Befehl den Edge-Bereitstellungsprozess standardisiert.
• Unterstützung für mehrere Computer-Vision-Aufgaben: Du kannst Modelle für Objekterkennung, Segmentierung, Pose-Schätzung, orientierte Bounding-Box (OBB)-Erkennung und Klassifizierung über YOLOv8, YOLO11 und YOLO26 hinweg bereitstellen.
• Ultra-effiziente Edge-Inferenz: DEEPX NPUs liefern GPU-ähnliche Leistung bei einem Bruchteil des Stromverbrauchs, mit passiver Kühlung und extrem niedrigem Energiebedarf, ideal für produktionsreife Bereitstellungen.
• Zukunftssicheres Fundament: Eine dedizierte CI/CD-Pipeline garantiert die sofortige Kompatibilität mit jedem neuen Ultralytics-Release, während die DX-M1 bis DX-M2 Roadmap denselben Software-Stack bis in das Zeitalter der Agentic AI erweitert.
• Skalierbar für Physical AI-Anwendungen: Von intelligenter Überwachung und industrieller Inspektion bis hin zu Robotik und autonomen Systemen unterstützt die Integration eine breite Palette realer Anwendungsfälle.

Link to this sectionWo Ultralytics YOLO und DEEPX-Hardware etwas bewirken können#

Was sind also einige gängige Physical AI-Anwendungen, bei denen Ultralytics YOLO-Modelle in realen Szenarien auf DEEPX-Hardware bereitgestellt werden können?

Link to this sectionIntelligente Überwachung am Edge#

Moderne Überwachungssysteme erfordern eine Echtzeiterkennung, ohne Kompromisse bei Datenschutz oder Konnektivität einzugehen. Ultralytics YOLO-Modelle, die auf DEEPX NPUs laufen, ermöglichen es Sicherheitskameras und Überwachungssystemen, Videofeeds lokal zu analysieren, Menschen, Fahrzeuge und ungewöhnliche Aktivitäten in Echtzeit zu identifizieren – bei geringem Stromverbrauch und ohne Cloud-Abhängigkeit. Da die DSGVO-Durchsetzung in Europa verschärft wird und bei kommunalen Ausschreibungen zunehmend Datenresidenz vorgeschrieben ist, wird die On-Device-Inferenz sowohl zu einem regulatorischen als auch zu einem technischen Vorteil.

Link to this sectionIndustrielle Automatisierung und Qualitätskontrolle#

In Fabriken und Produktionsanlagen wird Vision AI zunehmend zur Automatisierung der Qualitätskontrolle, Fehlererkennung und Prozessüberwachung eingesetzt. Die Kombination von Ultralytics YOLO-Modellen mit DEEPX-Hardware ermöglicht eine On-Device-Inspektion, die rund um die Uhr in anspruchsvollen industriellen Umgebungen zuverlässig läuft und dazu beiträgt, Abfall zu reduzieren, die Produktqualität zu verbessern und die Arbeitssicherheit zu erhöhen.

Link to this sectionRobotik und autonome Systeme#

Für die Robotik sind Geschwindigkeit und Reaktionsfähigkeit entscheidend. Egal, ob sie ein Lagerhaus durchqueren, in dynamischen industriellen Umgebungen arbeiten oder mit Menschen zusammenarbeiten, Roboter müssen ihre Umgebung sofort interpretieren. Ultralytics YOLO-Modelle, die auf DEEPX NPUs laufen, ermöglichen es Robotern, Hindernisse zu erkennen, Personen zu verfolgen und Objekte in Echtzeit zu identifizieren, was sicherere Bewegungen und mehr Autonomie unterstützt, ohne auf ständige Cloud-Konnektivität angewiesen zu sein.

Link to this sectionWichtige Erkenntnisse#

Ultralytics YOLO-Modelle und DEEPX NPUs machen es einfacher denn je, leistungsstarke Physical AI an den Edge zu bringen. Durch die Vereinfachung der Bereitstellung mit dem neuen format=deepx-Standard und die Optimierung der Modelle für die energieeffiziente Hardware von DEEPX hilft diese Partnerschaft dabei, die Lücke zwischen Entwicklung und realen kommerziellen Anwendungen zu schließen. Da Physical AI weiter wächst, ist diese Zusammenarbeit ein Schritt in Richtung einer produktionstauglichen Vision AI, die für Unternehmen jeder Größe zugänglich, erschwinglich und skalierbar ist.

Bereit, deine Edge AI-Produkte schneller auf den Markt zu bringen?

• Fordere eine Lizenz an, um kommerziellen Support und Enterprise YOLO-Modelle zu erhalten.
• Probiere die Ultralytics Platform aus, um dein erstes DEEPX-bereites Modell zu annotieren, zu trainieren und bereitzustellen.
• Werde Ultralytics-Partner, um gemeinsame Bereitstellungsmöglichkeiten zu erkunden.
• Lies die Dokumentation für den vollständigen technischen Leitfaden.

Finde heraus, wie Innovationen wie KI in der Robotik und KI in der Fertigung die Zukunft gestalten.