Ultralytics bei Arm Create 2026: Echtzeit-KI für Computer Vision am Edge

Am 11. September 2026 nahmen unsere Marketing Associate Ziyue Wang und unser Senior Machine Learning Engineer Rick Hou an Arm Create teil, einer Entwicklerveranstaltung von Arm rund um die Entwicklung, Optimierung und Bereitstellung von KI in der Cloud, am Edge, auf Mobilgeräten und in physischen Umgebungen. Unser Schwerpunkt war die Bereitstellung von Ultralytics YOLO am Edge: Wie bringt man ein trainiertes Computer-Vision-Modell dazu, in Echtzeit auf Arm-basierten Geräten zu laufen?

Die Veranstaltung in Shenzhen folgte auf einen früheren Halt in Shanghai. Bei beiden stand eine Frage im Mittelpunkt, mit der sich alle KI-Entwickler früher oder später beschäftigen: Wie wird aus einem leistungsfähigen Modell Software, die in der Praxis zuverlässig funktioniert?

Hier ist ein Rückblick auf unsere Sitzung, die Gesprächsrunde zu Modellen und die Zusammenarbeit von Arm und Ultralytics, um Ultralytics YOLO für Entwickler, die mit Arm arbeiten, zugänglicher zu machen.

Ultralytics YOLO für Echtzeit-KI am Edge bereitstellen#

Unser Senior Machine Learning Engineer Rick Hou hielt den Vortrag „Ultralytics YOLO bereitstellen: Vision AI in Echtzeit am Edge“, eine praxisorientierte Session zum Optimieren und Bereitstellen von Ultralytics YOLO-Modellen auf Edge-Geräten. Der Vortrag führte durch den gesamten Bereitstellungsprozess und vermittelte Erkenntnisse aus dem produktiven Einsatz von Ultralytics YOLO in Edge-AI-Anwendungen.

Abb. 1. Rick von Ultralytics präsentiert die Bereitstellung von Ultralytics YOLO am Edge bei Arm Create.

Ultralytics YOLO-Modelle für Edge-Laufzeitumgebungen exportieren#

Der erste Schritt bei der Bereitstellung am Edge besteht darin, ein trainiertes Modell in ein Format zu exportieren, das von der jeweiligen Laufzeitumgebung unterstützt wird. Rick erläuterte, wie das passende Exportformat vom Gerät, der Inferenz-Engine und den Leistungszielen der Anwendung abhängt.

Modellquantisierung für schnellere Inferenz auf dem Gerät#

Quantisierung verringert die numerische Präzision eines Modells, zum Beispiel von FP32 auf FP16 oder INT8. Dadurch werden Modelle kleiner und Inferenz läuft schneller, oft bei minimalem Genauigkeitsverlust. In der Session wurde erklärt, wie sich Geschwindigkeit und Genauigkeit ausbalancieren lassen, wenn Rechenleistung, Arbeitsspeicher und Strom knapp bemessen sind.

Echtzeit-Leistung für Computer Vision auf Edge-Geräten erreichen#

Echtzeit-Computer-Vision am Edge hängt von mehr als nur dem Modell ab. Vorverarbeitung, Wahl der Laufzeitumgebung und Hardwarebeschleunigung wirken sich alle auf Latenz und Durchsatz aus. Rick erklärte, wie sich Engpässe erkennen und die gesamte Inferenz-Pipeline optimieren lassen.

Erkenntnisse aus Edge-AI-Bereitstellungen in der Produktion#

Benchmarks sind ein Ausgangspunkt, doch entscheidend ist, wie ein Modell auf dem Gerät funktioniert, auf dem es eingesetzt werden soll – unter realen Betriebsbedingungen. Die Validierung auf der tatsächlichen Zielhardware war eine wichtige Erkenntnis der Sitzung und ein Thema, das sich durch die gesamte Arm Create zog.

Gesprächsrunde zu Modellen mit Arm, Alibaba Qwen, Tencent und ModelBest#

Rick nahm außerdem an einer Gesprächsrunde zu Modellen mit Arm, Alibaba Qwen, Tencent und ModelBest teil. Statt die Modelle direkt miteinander zu vergleichen, konzentrierte sich die Runde darauf, welches Modell zu welcher Anwendung passt: Was benötigt eine Arbeitslast, wo sollte sie ausgeführt werden und wie verhält sie sich nach der Bereitstellung?

Abb. 2. Gesprächsrunde zu Modellen mit Arm, Alibaba Qwen, Tencent, ModelBest und Ultralytics bei Arm Create.

Das passende Modell für die jeweilige Arbeitslast auswählen#

Eine Schnellantwort-Funktion in einer mobilen App, ein Cloud-Agent, der große Dokumentensammlungen analysiert, und eine Vision-Pipeline am Edge erfordern jeweils ganz unterschiedliche Modelle. Als Stimme für Vision AI brachte Rick die Perspektive des Edge-Bereichs in die Gesprächsrunde ein, wo Latenz, Effizienz und Zuverlässigkeit auf dem Gerät oft wichtiger sind als die Modellgröße.

Arm AI Portal: Ultralytics YOLO auf Arm leichter zugänglich machen#

Arm Create Shenzhen fand nur wenige Tage nach dem Start des Arm AI Portal durch Arm statt. Das Portal hilft Entwicklern und KI-Agenten dabei, KI-Software für die Arm-Computing-Plattform zu finden, zu optimieren und bereitzustellen. Entwickler können aufgabenspezifische, voroptimierte Modelle mit Leistungs- und Genauigkeitsdaten finden, Latenz, Speicherbedarf und Modellgröße vergleichen sowie auf Codebeispiele und Bereitstellungsabläufe zugreifen.

Voroptimierte Ultralytics YOLO-Modelle zum Start#

Ultralytics YOLO gehört neben Alibaba Qwen und Google Gemma zu den voroptimierten Modellen, die zum Start verfügbar sind. Ultralytics unterstützt das Portal als Ökosystempartner.

Leistungssteigerungen für Ultralytics YOLO26n auf Arm#

Die ersten Ergebnisse sind vielversprechend. Ultralytics YOLO26n erzielte bei der Ausführung mit einem Thread in zwei Konfigurationen eine Leistungssteigerung von mehr als 40 %:

• FP16 im Vergleich zu FP32 auf einem vivo X300-Smartphone mit SME2
• Gemischte Quantisierung mit FP16 und INT8 im Vergleich zu FP32 auf einem Raspberry Pi 5 mit NEON

Was das für Entwickler von Edge-KI bedeutet#

Das Arm AI Portal verkürzt die Zeit, die Entwickler mit der Suche, dem Benchmarking und der manuellen Feinabstimmung von Modellen verbringen. So wird der Weg von der Modellauswahl bis zur Bereitstellung auf Arm-basierter Hardware kürzer. Es unterstützt unsere Mission, hochmoderne Vision-KI für alle einfach und zugänglich zu machen. Ultralytics YOLO im Arm AI Portal erkunden.

Die wichtigsten Erkenntnisse#

Vielen Dank an das Arm-Team, das uns empfangen hat, und an alle, die vorbeigekommen sind, um über Edge-Bereitstellung, Quantisierung und Vision-KI in der Praxis zu sprechen. Die Gespräche in Shenzhen haben gezeigt, wie schnell sich das Edge-KI-Ökosystem weiterentwickelt, wenn Modelle, Tools und Hardware so gestaltet sind, dass sie zusammenarbeiten.

Das nächste Arm Create findet in den USA statt, und wir freuen uns darauf, das Gespräch fortzusetzen. In der Zwischenzeit kannst du die Ultralytics-Dokumentation besuchen, um Ultralytics YOLO auf deinen eigenen Edge-Geräten bereitzustellen.