Ultralytics und STMicroelectronics haben zusammengearbeitet, um YOLO-Modelle effizient auf stromsparenden Mikrocontrollern bereitzustellen und genaue Echtzeit-Inferenz am Netzwerkrand zu ermöglichen.
Mit der zunehmenden Verbreitung von KI in verschiedenen Branchen wächst die Nachfrage nach leistungsstarken, stromsparenden Lösungen, die Inferenz in Echtzeit direkt am Netzwerkrand ausführen können. Um diesem technologischen Bedarf gerecht zu werden, stellte STMicroelectronics den Mikrocontroller STM32N6 mit integrierter neuronaler Verarbeitungseinheit (NPU) für eingebettete KI-Anwendungen vor.
Durch die Ausführung von Ultralytics-YOLO-Modellen auf dem STM32N6 zeigte STMicroelectronics, dass genaue und effiziente eingebettete Vision AI auf Mikrocontrollern möglich ist. Das eröffnet neue Möglichkeiten für skalierbare Intelligenz direkt auf dem Gerät, etwa in Bereichen wie Smart Cities, Gesundheitswesen und Unterhaltungselektronik.
Vision AI für stromsparende Geräte am Netzwerkrand erkunden#
STMicroelectronics ist ein weltweit führendes Unternehmen im Bereich Halbleitertechnologie und beschäftigt mehr als 50.000 Mitarbeiter. Weltweit zählt das Unternehmen über 200.000 Kunden. STMicroelectronics entwickelt und produziert Chips für Anwendungen von Elektrofahrzeugen und Industrieanlagen bis hin zu Smart-Home-Geräten und Unterhaltungselektronik.
Da immer mehr Branchen KI einsetzen, um Geräte intelligenter und reaktionsfähiger zu machen, konzentriert sich STMicroelectronics darauf, diese Funktionen direkt an den Netzwerkrand zu bringen. Der Mikrocontroller STM32N6 ist beispielsweise ein leistungsstarker, energieeffizienter Chip, der KI-Aufgaben wie Computer Vision direkt auf dem Gerät ausführen kann.
Um Entwicklern die Entwicklung eingebetteter Bildverarbeitungsanwendungen für den STM32N6 zu erleichtern, suchte STMicroelectronics nach flexiblen, leistungsstarken Modellen, die effizient auf einem Mikrocontroller laufen. Ultralytics-YOLO-Modelle erwiesen sich als sehr gut geeignet, da sie Geschwindigkeit, Genauigkeit und einfache Integration zuverlässig vereinen.
Herausforderungen bei der Nutzung KI-gestützter eingebetteter Systeme#
Bevor sich Edge AI allgemein durchsetzte, wurden Computer-Vision-Modelle typischerweise für den Betrieb auf großen, zentralisierten Systemen wie Cloud-Servern oder GPUs (Grafikprozessoren) entwickelt. Diese Plattformen boten die Rechenleistung, die zum Trainieren und Bereitstellen großer Modelle erforderlich ist, brachten aber auch Nachteile wie hohen Energieverbrauch, Netzwerkabhängigkeit, Verzögerungen und steigende Betriebskosten mit sich.
Mit dem wachsenden Interesse an intelligenten Echtzeitanwendungen in Branchen wie dem Gesundheitswesen, der Unterhaltungselektronik und Smart Cities wurde deutlich, dass die KI-Verarbeitung näher an den Ort der Datenerfassung – also direkt auf das Gerät – verlagert werden musste. Das war sowohl eine technische Notwendigkeit als auch eine strategische Chance.
Die Ausführung von KI-Modellen auf stromsparenden Mikrocontrollern kann jedoch eine Herausforderung sein. Diese Geräte verfügen in der Regel nur über begrenzten Speicher, Rechenleistung und Energiekapazität. Daher ist es schwierig, komplexe Bildverarbeitungsmodelle bereitzustellen, ohne Leistung oder Genauigkeit einzubüßen.
STMicroelectronics musste eine vielseitige Modellsammlung finden, die zuverlässige Computer-Vision-Funktionen in Echtzeit auf den STM32N6-Mikrocontroller bringt, ohne dass Entwickler ihre Modelle oder Arbeitsabläufe stark vereinfachen müssen. Ziel war es, nützliche KI direkt auf dem Gerät bereitzustellen und dabei die strengen Einschränkungen eingebetteter Systeme einzuhalten.
YOLO-Modelle einfacher auf Mikrocontrollern bereitstellen#
Um fortschrittliche KI auf eingebetteten Geräten mit geringem Stromverbrauch zu ermöglichen, stellte STMicroelectronics den STM32N6 vor, einen leistungsstarken Mikrocontroller mit dem Neural-ART Accelerator™. Dabei handelt es sich um eine eigens entwickelte neuronale Verarbeitungseinheit (NPU) für Edge-AI-Anwendungen. Mit dieser Technologie können Entwicklerinnen und Entwickler KI-Inferenz direkt auf dem Gerät ausführen. Das verringert die Abhängigkeit von Cloud-Computing und verbessert zugleich Geschwindigkeit, Reaktionsfähigkeit und Energieeffizienz.
STMicroelectronics ging eine Partnerschaft mit Ultralytics ein, um die Fähigkeiten des STM32N6 zu bewerten und zu präsentieren, indem Ultralytics YOLO-Modelle auf dem Mikrocontroller ausgeführt wurden. Ultralytics YOLO-Modelle sind für ihre ausgewogene Kombination aus Geschwindigkeit und Genauigkeit bekannt und eignen sich gut für Umgebungen mit begrenzten Ressourcen und eingebettete Systeme.
Abb. 1. Beispiel für die Ausführung eines Ultralytics-YOLO-Modells auf dem STM32N6.
Durch die direkte Ausführung verschiedener YOLO-Modellvarianten auf dem STM32N6 konnte STMicroelectronics eine Reihe von Vision-AI-Anwendungsfällen demonstrieren, darunter Objekterkennung, Klassifizierung und Verfolgung – und das innerhalb der Leistungs- und Speichergrenzen eines Mikrocontrollers. Diese Zusammenarbeit bietet Entwicklern eine zuverlässige Möglichkeit, skalierbare, produktionsreife Bildverarbeitungsmodelle für eingebettete KI-Systeme in Echtzeit einzusetzen.
Warum Ultralytics YOLO-Modelle wählen?#
Ultralytics-YOLO-Modelle boten STMicroelectronics die richtige Kombination aus Genauigkeit, Effizienz und Vielseitigkeit für KI-gestützte eingebettete Systeme. Die Modelle sind leichtgewichtig genug, um auf stromsparenden Mikrocontrollern wie dem STM32N6 zu laufen, und zugleich leistungsstark genug für die Objekterkennung und Instanzsegmentierung in Echtzeit.
Wurde beispielsweise das Ultralytics-Modell YOLOv8n mit einer Auflösung von 256 × 256 auf dem STM32N6 ausgeführt, erreichte das System 34 Bilder pro Sekunde bei einer Inferenzdauer von etwa 29 Millisekunden pro Bild. Die Leistungsmessungen ergaben einen Verbrauch von nur 9,4 Millijoule pro Inferenz. Damit eignet sich das System gut für Echtzeit-Bildverarbeitungsaufgaben auf Geräten mit geringem Stromverbrauch.
Dank der Unterstützung mehrerer YOLO-Modellvarianten können Entwickler die Modelle je nach Einschränkungen ihrer Anwendung auf Geschwindigkeit, Größe oder Genauigkeit abstimmen. Die einfach zu integrierende Architektur sowie die umfangreiche Unterstützung durch die Community und die Dokumentation machten Ultralytics YOLO zu einer naheliegenden Wahl, um das Ziel von STMicroelectronics zu unterstützen: die Einführung von Vision AI in zahlreichen eingebetteten Anwendungsbereichen zu beschleunigen.
Mit einer Ultralytics-Unternehmenslizenz stellt STMicroelectronics seinen Kunden die gesamte Palette der YOLO-Modelle für interne Tests und Entwicklungsarbeiten zur Verfügung. Für jeden kommerziellen Einsatz müssen Kunden jedoch direkt bei Ultralytics über das Lizenzformular eine eigene kommerzielle Lizenz beantragen. So wird die Einhaltung der Lizenzbedingungen sichergestellt und ein skalierbarer Weg zu produktionsreifen Vision-AI-Lösungen unterstützt.
Von Smart Cities bis zum Gesundheitswesen: Edge AI im großen Maßstab im Einsatz#
Die Möglichkeit, Ultralytics-YOLO-Modelle direkt auf dem STM32N6-Mikrocontroller auszuführen, hat STMicroelectronics und seinem Entwickler-Ökosystem zahlreiche Vision-AI-Anwendungen eröffnet. Die Lösung liefert schnelle und genaue Inferenz direkt auf dem Gerät, ohne auf externe Verarbeitung oder eine Cloud-Verbindung angewiesen zu sein. So lassen sich intelligente Funktionen in kompakten, stromsparenden Systemen bereitstellen.
Kundinnen und Kunden untersuchen Anwendungsfälle in verschiedenen Branchen, etwa die Echtzeiterkennung von Fußgängerinnen und Fußgängern sowie Fahrzeugen in der Infrastruktur intelligenter Städte, Sicherheitsprüfungen und Qualitätskontrollen direkt auf dem Gerät in der industriellen Automatisierung und KI-gestützte Diagnosen in tragbaren Gesundheitsgeräten. Auch im Bereich der Unterhaltungselektronik ermöglichen YOLO-Modelle reaktionsschnelle Funktionen wie Anwesenheitserkennung, Gestenerkennung und Objektverfolgung – und das innerhalb der Leistungsgrenzen batteriebetriebener Geräte.
Die Vision-AI-Lösungen von morgen schon heute entwickeln#
Während sich KI weiterentwickelt, arbeitet STMicroelectronics daran, leistungsstarke und effiziente Lösungen leichter auf Edge-Geräten verfügbar zu machen. Durch die enge Zusammenarbeit mit Partnern wie Ultralytics erleichtert das Unternehmen Entwicklern den Einstieg – mit sofort einsatzbereiten Modellen, Werkzeugen und Ressourcen, die mit STM32 kompatibel sind.
Geh den nächsten Schritt bei Innovationen im Bereich Edge AI. Besuche unser GitHub-Repository, um zu entdecken, wie YOLO-Modelle von Ultralytics die Bildverarbeitung in eingebetteten Systemen verändern. Entdecke Anwendungen von KI im Gesundheitswesen und Computer Vision im Einzelhandel und sieh dir noch heute unsere Lizenzoptionen an!
Verfasst von
Content Creator · Ultralytics
