Ultralytics und STMicroelectronics arbeiteten zusammen, um YOLO-Modelle effizient auf stromsparenden Mikrocontrollern bereitzustellen und präzise Inferenz in Echtzeit am Edge zu ermöglichen.
Da der Einsatz von KI in verschiedenen Branchen zunimmt, wächst die Nachfrage nach leistungsstarken, stromsparenden Lösungen, die Inferenz in Echtzeit am Edge ausführen können. Um diesem technologischen Bedarf gerecht zu werden, stellte STMicroelectronics den Mikrocontroller STM32N6 mit einer integrierten neuronalen Verarbeitungseinheit (NPU) vor, die für eingebettete KI-Anwendungen entwickelt wurde.
Durch die Ausführung von Ultralytics-YOLO-Modellen auf dem STM32N6 zeigte STMicroelectronics, dass präzise und effiziente KI für die Bildverarbeitung in eingebetteten Systemen auf Mikrocontrollern möglich ist. Dadurch entstehen neue Möglichkeiten für skalierbare, direkt auf dem Gerät ausgeführte intelligente Anwendungen in Bereichen wie Smart Cities, Gesundheitswesen und Unterhaltungselektronik.
KI für die Bildverarbeitung auf stromsparenden Geräten am Edge erkunden#
STMicroelectronics ist ein weltweit führendes Unternehmen in der Halbleitertechnologie mit mehr als 50.000 Mitarbeitenden und über 200.000 Kunden weltweit. Das Unternehmen entwickelt und fertigt Chips, die Anwendungen von Elektrofahrzeugen und Industrieanlagen bis hin zu Smart-Home-Geräten und Unterhaltungselektronik ermöglichen.
Da immer mehr Branchen auf KI setzen, um Geräte intelligenter und reaktionsfähiger zu machen, konzentriert sich STMicroelectronics darauf, diese Funktionen direkt an den Edge zu bringen. So kann der leistungsstarke und energieeffiziente Mikrocontroller STM32N6 beispielsweise KI-Aufgaben direkt auf dem Gerät ausführen, etwa Computer Vision.
Um Entwickler beim Aufbau eingebetteter Bildverarbeitungsanwendungen auf dem STM32N6 zu unterstützen, suchte STMicroelectronics nach flexiblen und leistungsstarken Modellen, die effizient auf einem Mikrocontroller ausgeführt werden können. Ultralytics-YOLO-Modelle erwiesen sich als besonders geeignet, da sie Geschwindigkeit, Genauigkeit und einfache Integration zuverlässig miteinander verbinden.
Die Herausforderungen bei der Aktivierung KI-gestützter eingebetteter Systeme#
Bevor sich das Konzept der Edge-KI allgemein durchsetzte, wurden Modelle für Computer Vision typischerweise für die Ausführung auf großen, zentralisierten Systemen wie Cloud-Servern oder GPUs (Grafikprozessoren) entwickelt. Diese Plattformen boten die für das Training und die Bereitstellung großer Modelle erforderlichen Rechenkapazitäten, brachten jedoch auch Einschränkungen wie hohen Energieverbrauch, Netzwerkabhängigkeit, Latenz und höhere Betriebskosten mit sich.
Als das Interesse an der Umsetzung intelligenterer Echtzeitanwendungen in Branchen wie Gesundheitswesen, Unterhaltungselektronik und Smart Cities wuchs, wurde deutlich, dass die Verarbeitung von KI näher an den Ort zu verlagern, an dem die Daten entstehen – also direkt auf das Gerät –, sowohl eine technische Notwendigkeit als auch eine strategische Chance darstellte.
Die Ausführung von KI-Modellen auf stromsparenden Mikrocontrollern kann jedoch eine Herausforderung sein. Diese Geräte verfügen in der Regel nur über begrenzten Speicher, begrenzte Rechenleistung und begrenzte Energiereserven, wodurch die Bereitstellung komplexer Modelle für die Bildverarbeitung erschwert wird, ohne Leistung oder Genauigkeit zu beeinträchtigen.
STMicroelectronics musste eine vielseitige Modellfamilie finden, die zuverlässige Computer-Vision-Funktionen in Echtzeit auf dem Mikrocontroller STM32N6 ermöglicht, ohne dass Entwickler ihre Modelle oder Arbeitsabläufe drastisch vereinfachen müssen. Ziel war es, aussagekräftige KI-Funktionen direkt auf dem Gerät bereitzustellen und gleichzeitig die strengen Einschränkungen eingebetteter Systeme einzuhalten.
Vereinfachte Bereitstellung von YOLO-Modellen auf Mikrocontrollern#
Um fortschrittliche KI auf stromsparenden eingebetteten Geräten zu ermöglichen, stellte STMicroelectronics den STM32N6 vor, einen leistungsstarken Mikrocontroller mit dem Neural-ART Accelerator™. Dabei handelt es sich um eine unternehmenseigene neuronale Verarbeitungseinheit (NPU), die speziell für KI-Anwendungen am Edge entwickelt wurde. Diese Technologie ermöglicht es Entwicklern, KI-Inferenzen direkt auf dem Gerät auszuführen, wodurch die Abhängigkeit von Cloud-Computing sinkt und gleichzeitig Geschwindigkeit, Reaktionsfähigkeit und Energieeffizienz verbessert werden.
STMicroelectronics arbeitete mit Ultralytics zusammen, um die Fähigkeiten des STM32N6 zu evaluieren und zu demonstrieren, indem Ultralytics-YOLO-Modelle auf dem Mikrocontroller ausgeführt wurden. Ultralytics-YOLO-Modelle sind für ihr ausgewogenes Verhältnis von Geschwindigkeit und Genauigkeit bekannt und eignen sich daher gut für Umgebungen mit begrenzten Ressourcen und eingebettete Bereitstellungen.
Abb. 1. Beispiel für die Ausführung eines Ultralytics-YOLO-Modells auf dem STM32N6.
Durch die direkte Ausführung verschiedener Varianten von YOLO-Modellen auf dem STM32N6 konnte STMicroelectronics eine Reihe von Anwendungsfällen für KI in der Bildverarbeitung demonstrieren, darunter Objekterkennung, Klassifizierung und Tracking – und das innerhalb der Leistungs- und Speichergrenzen eines Mikrocontrollers. Diese Zusammenarbeit bietet Entwicklern eine zuverlässige Möglichkeit, skalierbare und produktionsreife Modelle für die Bildverarbeitung zur Bereitstellung echtzeitfähiger, KI-gestützter eingebetteter Systeme zu nutzen.
Warum Ultralytics YOLO-Modelle wählen?#
Ultralytics-YOLO-Modelle boten STMicroelectronics die richtige Kombination aus Genauigkeit, Effizienz und Vielseitigkeit, die für KI-fähige eingebettete Systeme erforderlich ist. Die Modelle sind leicht genug, um auf stromsparenden Mikrocontrollern wie dem STM32N6 ausgeführt zu werden, und gleichzeitig leistungsfähig genug, um Objekterkennung und Instanzsegmentierung in Echtzeit zu ermöglichen.
Bei der Ausführung des Modells Ultralytics YOLOv8n mit einer Auflösung von 256 × 256 auf dem STM32N6 erreichte das System beispielsweise 34 Bilder pro Sekunde, wobei jede Inferenz etwa 29 Millisekunden dauerte. Messungen des Energieverbrauchs ergaben lediglich 9,4 Millijoule pro Inferenz, wodurch sich das Modell gut für Bildverarbeitungsaufgaben in Echtzeit auf stromsparenden Geräten eignet.
Dank der Unterstützung mehrerer Varianten von YOLO-Modellen können Entwickler je nach den Einschränkungen ihrer Anwendung flexibel auf Geschwindigkeit, Größe oder Genauigkeit optimieren. Die einfach zu integrierende Architektur sowie die umfangreiche Unterstützung durch Community und Dokumentation machten Ultralytics YOLO zu einer naheliegenden Wahl für das Ziel von STMicroelectronics, die Einführung von KI für die Bildverarbeitung in zahlreichen eingebetteten Anwendungsfällen zu beschleunigen.
Über eine Ultralytics-Lizenz für Unternehmen stellt STMicroelectronics seinen Kunden die vollständige YOLO-Modellfamilie für interne Tests und Entwicklungszwecke zur Verfügung. Für jede kommerzielle Bereitstellung müssen Kunden jedoch direkt bei Ultralytics über das Lizenzformular eine eigene kommerzielle Lizenz beantragen. Dadurch wird die Einhaltung der Lizenzbedingungen sichergestellt und ein skalierbarer Weg zu produktionsreifen Lösungen für KI in der Bildverarbeitung unterstützt.
Von Smart Cities bis zum Gesundheitswesen: Skalierbare Edge-KI in der Praxis#
Die Möglichkeit, Ultralytics-YOLO-Modelle direkt auf dem Mikrocontroller STM32N6 auszuführen, hat für STMicroelectronics und sein Entwicklerökosystem eine Vielzahl von Anwendungen für KI in der Bildverarbeitung eröffnet. Durch schnelle und präzise Inferenz direkt auf dem Gerät, ohne auf externe Verarbeitung oder eine Cloud-Verbindung angewiesen zu sein, ermöglicht diese Lösung die Bereitstellung intelligenter Funktionen in kompakten, stromsparenden Systemen.
Kunden untersuchen Anwendungsfälle in Bereichen wie der Erkennung von Fußgängern und Fahrzeugen in Echtzeit in der Infrastruktur von Smart Cities, Sicherheitsprüfungen und Qualitätskontrolle direkt auf dem Gerät in der industriellen Automatisierung sowie KI-gestützter Diagnostik in tragbaren medizinischen Geräten. Auch in der Unterhaltungselektronik ermöglichen YOLO-Modelle reaktionsfähige Funktionen wie Anwesenheitserkennung, Gestenerkennung und Objektverfolgung – und das innerhalb der Leistungsgrenzen batteriebetriebener Geräte.
Die Lösungen für KI in der Bildverarbeitung von morgen schon heute entwickeln#
Während sich KI weiterentwickelt, konzentriert sich STMicroelectronics darauf, leistungsstarke und effiziente Lösungen leichter auf Edge-Geräte zu bringen. Durch die enge Zusammenarbeit mit Partnern wie Ultralytics unterstützt das Unternehmen Entwickler dabei, mit sofort einsetzbaren Modellen, Werkzeugen und STM32-kompatiblen Ressourcen schneller zu starten.
Mach den nächsten Schritt bei der Innovation am Edge. Besuche unser GitHub-Repository, um zu entdecken, wie Ultralytics-YOLO-Modelle die eingebettete Bildverarbeitung verändern. Erkunde Anwendungen von KI im Gesundheitswesen und Computer Vision im Einzelhandel und sieh dir noch heute unsere Lizenzoptionen an!
