Ultralytics auf der Arm Create 2026: Echtzeit-Vision-KI am Edge

Am 11. September 2026 nahmen unsere Marketing Associate Ziyue Wang und unser Senior Machine Learning Engineer Rick Hou an Arm Create teil, der Entwicklerkonferenz von Arm zum Aufbau, der Optimierung und der Bereitstellung von KI in Cloud, Edge, Mobilgeräten und physischen KI-Systemen. Unser Fokus lag auf der Edge-Bereitstellung von Ultralytics YOLO: wie man ein trainiertes Computer-Vision-Modell nimmt und in Echtzeit auf Arm-basierten Geräten ausführt.

Die Veranstaltung in Shenzhen folgte auf einen früheren Stopp in Shanghai, und beide gingen einer Frage nach, der sich jeder KI-Entwickler früher oder später stellen muss: Wie macht man aus einem leistungsfähigen Modell Software, die in der Praxis zuverlässig funktioniert?

Hier ist eine Zusammenfassung unserer Session, des Modell-Panels und davon, wie Arm und Ultralytics zusammenarbeiten, um Ultralytics YOLO für Entwickler zugänglicher zu machen, die auf Arm aufbauen.

Bereitstellung von Ultralytics YOLO für Echtzeit-Edge-KI#

Unser Senior Machine Learning Engineer Rick Hou hielt den Vortrag „Deploying Ultralytics YOLO: Real-Time Vision AI at the Edge“, eine praxisorientierte Session zur Optimierung und Bereitstellung von Ultralytics YOLO-Modellen auf Edge-Geräten. Der Vortrag beleuchtete den gesamten Bereitstellungspfad und teilte Erkenntnisse aus dem Einsatz von Ultralytics YOLO in produktiven Edge-KI-Anwendungen.

Abb. 1: Rick von Ultralytics präsentiert die Edge-Bereitstellung von Ultralytics YOLO auf Arm Create.

Export von Ultralytics YOLO-Modellen für Edge-Runtimes#

Der erste Schritt bei der Edge-Bereitstellung ist der Export eines trainierten Modells in ein Format, das die Ziel-Runtime unterstützt. Rick erläuterte, wie das richtige Exportformat von dem Gerät, der Inference-Engine und den Leistungszielen der Anwendung abhängt.

Modellquantisierung für schnellere geräteinterne Inference#

Die Quantisierung reduziert die numerische Präzision eines Modells, beispielsweise von FP32 auf FP16 oder INT8, wodurch die Modellgröße schrumpft und die Inference bei minimalem Genauigkeitsverlust beschleunigt wird. Die Session erklärte, wie man Geschwindigkeit und Genauigkeit in Einklang bringt, wenn Rechenleistung, Speicher und Energiebudgets knapp bemessen sind.

Erzielen von Echtzeit-Computer-Vision-Leistung auf Edge-Geräten#

Echtzeit-Computer-Vision am Edge hängt von mehr als nur dem Modell ab. Vorverarbeitung, Wahl der Runtime und Hardwarebeschleunigung beeinflussen Latenz und Durchsatz. Rick zeigte, wie man Engpässe identifiziert und die gesamte Inference-Pipeline optimiert.

Lehren aus produktiven Edge-KI-Bereitstellungen#

Benchmarks sind ein Ausgangspunkt, aber der wahre Test ist, wie ein Modell auf dem Gerät abschneidet, auf dem es ausgeliefert wird, und das unter realen Betriebsbedingungen. Die Validierung auf der tatsächlichen Zielhardware war eine zentrale Erkenntnis der Session und ein Thema, das sich durch ganz Arm Create zog.

Modell-Panel mit Arm, Alibaba Qwen, Tencent und ModelBest#

Rick nahm zudem an einer Modell-Diskussionsrunde mit Arm, Alibaba Qwen, Tencent und ModelBest teil. Statt Modelle direkt miteinander zu vergleichen, konzentrierte sich das Panel auf die Anwendungstauglichkeit: Was eine Workload benötigt, wo sie ausgeführt werden sollte und wie sie sich nach der Bereitstellung verhält.

Abb. 2: Modell-Panel mit Arm, Alibaba Qwen, Tencent, ModelBest und Ultralytics auf Arm Create.

Auswahl des richtigen Modells für die Workload#

Eine Schnellantwortfunktion in einer Mobil-App, ein Cloud-Agent, der große Dokumentensätze analysiert, und eine Edge-Vision-Pipeline erfordern jeweils ganz unterschiedliche Modelle. Als Stimme der Vision-KI im Panel brachte Rick die Edge-Perspektive ein, bei der Latenz, Effizienz und Zuverlässigkeit auf dem Gerät oft wichtiger sind als die Modellgröße.

Arm AI Portal: Ultralytics YOLO auf Arm zugänglicher machen#

Arm Create Shenzhen fand nur wenige Tage nach dem Start des Arm AI Portal statt, einer Plattform, die Entwicklern und KI-Agenten hilft, KI-Software auf der Arm-Rechenplattform zu entdecken, zu optimieren und bereitzustellen. Entwickler finden dort aufgabenspezifische, vorab optimierte Modelle mit Leistungs- und Genauigkeitsdaten, können Latenz, Speicher und Modellgröße vergleichen und erhalten Zugriff auf Codebeispiele sowie Bereitstellungsworkflows.

Vorab optimierte Ultralytics YOLO-Modelle zum Start#

Ultralytics YOLO gehört neben Alibaba Qwen und Google Gemma zu den zum Start verfügbaren, vorab optimierten Modellen, wobei Ultralytics das Portal als Ökosystempartner unterstützt.

Leistungssteigerungen von Ultralytics YOLO26n auf Arm#

Erste Ergebnisse sind vielversprechend. Ultralytics YOLO26n erzielte bei Single-Thread-Ausführung in zwei Konfigurationen eine Leistungsverbesserung von über 40 %:

• FP16 im Vergleich zu FP32 auf einem vivo X300-Smartphone mit SME2
• Mischquantisierung aus FP16 und INT8 im Vergleich zu FP32 auf einem Raspberry Pi 5 mit NEON

Was das für Edge-KI-Entwickler bedeutet#

Das Arm AI Portal verkürzt die Zeit, die Entwickler mit der Suche, dem Benchmarking und der manuellen Abstimmung von Modellen verbringen, und schafft so einen schnelleren Weg von der Modellauswahl zur Bereitstellung auf Arm-basierter Hardware. Es unterstützt unsere Mission, modernste Vision-KI für jeden einfach und zugänglich zu machen. Entdecke Ultralytics YOLO auf dem Arm AI Portal.

Wichtige Erkenntnisse#

Vielen Dank an das Team von Arm für die Gastfreundschaft und an alle, die vorbeigekommen sind, um über Edge-Bereitstellung, Quantisierung und reale Vision-KI zu sprechen. Die Gespräche in Shenzhen haben gezeigt, wie schnell das Edge-KI-Ökosystem reifer wird, wenn Modelle, Tools und Hardware Hand in Hand arbeiten.

Das nächste Arm Create führt in die USA, und wir freuen uns darauf, das Gespräch fortzusetzen. Besuche in der Zwischenzeit die Ultralytics-Dokumentation, um mit der Bereitstellung von Ultralytics YOLO auf deinen eigenen Edge-Geräten zu beginnen.