Eingebettete Vision AI mit Ultralytics YOLO und STMicroelectronics MCU

Da die Akzeptanz von KI in allen Branchen zunimmt, wächst auch die Nachfrage nach leistungsstarken, stromsparenden Lösungen, die in der Lage sind, Echtzeit-Inferenz am Edge auszuführen, rasant. Um diesem technologischen Bedarf zu entsprechen, hat STMicroelectronics den STM32N6-Mikrocontroller mit einer integrierten Neural Processing Unit (NPU) für eingebettete KI-Workloads vorgestellt. 

Durch die Ausführung von Ultralytics YOLO auf dem STM32N6 hat STMicroelectronics gezeigt, dass präzise und effiziente eingebettete Vision AI auf Mikrocontrollern möglich ist. Damit eröffnen sich neue Möglichkeiten für skalierbare, geräteinterne Intelligenz in Bereichen wie Smart Cities, Gesundheitswesen und Unterhaltungselektronik.

Erforschung von Vision AI für Low-Power-Geräte am Edge

STMicroelectronics ist ein weltweit führendes Unternehmen im Bereich der Halbleitertechnologie mit über 50.000 Mitarbeitern und mehr als 200.000 Kunden weltweit. Sie entwerfen und bauen Chips, die Anwendungen von Elektrofahrzeugen und Industrieanlagen bis hin zu Smart-Home-Geräten und Unterhaltungselektronik ermöglichen.

Da immer mehr Branchen auf KI setzen, um Geräte intelligenter und reaktionsfähiger zu machen, konzentriert sich STMicroelectronics darauf, diese Fähigkeiten direkt an den Edge zu bringen. Beispielsweise kann ihr STM32N6-Mikrocontroller, ein leistungsstarker, energieeffizienter Chip, On-Device-KI-Aufgaben wie Computer Vision übernehmen.

Um Entwickler bei der Entwicklung von Embedded-Vision-Anwendungen auf dem STM32N6 zu unterstützen, suchte STMicroelectronics nach flexiblen, leistungsstarken Modellen, die effizient auf einem Mikrocontroller laufen können. DieYOLO Ultralytics erwiesen sich als hervorragend geeignet und boten eine zuverlässige Kombination aus Geschwindigkeit, Genauigkeit und einfacher Integration.

Die Einschränkungen bei der Aktivierung von KI-gestützten eingebetteten Systemen

Bevor das Konzept von Edge AI allgemein akzeptiert wurde, wurden Computer-Vision-Modelle typischerweise für die Ausführung auf großen, zentralisierten Systemen wie Cloud-Servern oder GPUs (Graphics Processing Units) entwickelt. Diese Plattformen boten die Rechenleistung, die zum Trainieren und Bereitstellen großer Modelle erforderlich ist, führten aber auch zu Einschränkungen wie hohem Energieverbrauch, Netzwerkabhängigkeit, Latenz und erhöhten Betriebskosten.

Als das Interesse an der Implementierung intelligenterer Echtzeitanwendungen in Branchen wie dem Gesundheitswesen, der Unterhaltungselektronik und Smart Cities wuchs, wurde deutlich, dass die Verlagerung der KI-Verarbeitung näher an den Ort, an dem Daten generiert werden, auf dem Gerät selbst, sowohl eine technische Notwendigkeit als auch eine strategische Chance war.

Allerdings kann die Ausführung von KI-Modellen auf leistungsschwachen Mikrocontrollern eine Herausforderung darstellen. Diese Geräte verfügen in der Regel über begrenzten Speicher, Rechenleistung und Energiekapazität, was es schwierig macht, komplexe Vision-Modelle einzusetzen, ohne die Leistung oder Genauigkeit zu beeinträchtigen. 

STMicroelectronics musste eine Reihe von Modellen identifizieren, die vielseitig genug sind, um zuverlässige Echtzeit-Computer-Vision-Funktionen auf ihren STM32N6-Mikrocontroller zu bringen, ohne dass Entwickler ihre Modelle oder Arbeitsabläufe drastisch vereinfachen müssen. Ihr Ziel war es, sinnvolle On-Device-KI bereitzustellen und gleichzeitig die strengen Beschränkungen eingebetteter Systeme einzuhalten.

Rationalisierte YOLO auf Mikrocontrollern

Um fortschrittliche KI auf stromsparenden eingebetteten Geräten zu ermöglichen, hat STMicroelectronics den STM32N6 eingeführt, einen Hochleistungs-Mikrocontroller, der mit dem Neural-ART Accelerator™ ausgestattet ist. Es handelt sich um eine hauseigene Neural Processing Unit (NPU), die speziell für Edge-KI-Workloads entwickelt wurde. Diese Technologie ermöglicht es Entwicklern, KI-Inferenz direkt auf dem Gerät auszuführen, wodurch die Abhängigkeit von Cloud Computing verringert und gleichzeitig die Geschwindigkeit, Reaktionsfähigkeit und Energieeffizienz verbessert werden.

STMicroelectronics hat sich mit Ultralytics zusammengetan, um die Fähigkeiten des STM32N6 zu bewerten und zu präsentieren, indem Ultralytics YOLO auf dem Mikrocontroller ausgeführt werden. Ultralytics YOLO sind für ihre Ausgewogenheit von Geschwindigkeit und Genauigkeit bekannt und eignen sich gut für ressourcenbeschränkte Umgebungen und eingebettete Anwendungen.

‍

Durch die Ausführung verschiedener YOLO direkt auf dem STM32N6 konnte STMicroelectronics eine Reihe von Vision-KI-Anwendungsfällen wie Objekterkennung, -klassifizierung und -verfolgung demonstrieren, und zwar innerhalb der Leistungs- und Speichergrenzen eines Mikrocontrollers. Diese Zusammenarbeit bietet Entwicklern eine zuverlässige Option für den Einsatz von KI-gestützten Embedded-Systemen in Echtzeit unter Verwendung skalierbarer, produktionsreifer Vision-Modelle.

Warum dieYOLO Ultralytics ?

DieYOLO Ultralytics bieten STMicroelectronics die richtige Kombination aus Genauigkeit, Effizienz und Vielseitigkeit, die für KI-fähige eingebettete Systeme benötigt wird. Die Modelle sind leicht genug, um auf stromsparenden Mikrocontrollern wie dem STM32N6 zu laufen, und dennoch leistungsstark genug, um Objekterkennung und Instanzsegmentierung in Echtzeit zu ermöglichen.

Bei der Ausführung des Ultralytics YOLOv8n mit einer Auflösung von 256 x 256 auf dem STM32N6 erreichte das System beispielsweise 34 Bilder pro Sekunde, wobei jede Inferenz etwa 29 Millisekunden dauerte. Stromverbrauchsmessungen ergaben, dass es nur 9,4 Millijoule pro Schlussfolgerung verbrauchte, wodurch es sich gut für Echtzeit-Vision-Aufgaben auf Geräten mit geringem Stromverbrauch eignet.

Durch die Unterstützung mehrerer YOLO haben Entwickler die Möglichkeit, je nach den Anforderungen ihrer Anwendung eine Feinabstimmung in Bezug auf Geschwindigkeit, Größe oder Genauigkeit vorzunehmen. Die einfach zu integrierende Architektur in Verbindung mit der starken Unterstützung durch die Community und die Dokumentation machen Ultralytics YOLO zu einer natürlichen Ergänzung für das Ziel von STMicroelectronics, die Einführung von Vision AI in einer Vielzahl von Embedded-Anwendungen zu beschleunigen.

Mit einer Ultralytics Enterprise-Lizenz bietet STMicroelectronics seinen Kunden Zugriff auf die gesamte Palette der YOLO für interne Tests und Entwicklung. Für einen kommerziellen Einsatz müssen Kunden jedoch ihre eigene kommerzielle Lizenz direkt bei Ultralytics über das Lizenzformular anfordern. Dies gewährleistet die Einhaltung der Vorschriften und unterstützt einen skalierbaren Weg zu produktionsreifen Vision AI-Lösungen.

Von Smart Cities bis zum Gesundheitswesen: Skalierbare Edge-KI in Aktion

Die Möglichkeit, Ultralytics YOLO direkt auf dem STM32N6-Mikrocontroller auszuführen, hat STMicroelectronics und seinem Entwickler-Ökosystem eine breite Palette von Vision AI-Anwendungen eröffnet. Durch die Bereitstellung schneller, präziser Inferenzen auf dem Gerät, ohne auf externe Verarbeitung oder Cloud-Konnektivität angewiesen zu sein, ermöglicht diese Lösung den Einsatz intelligenter Funktionen in kompakten Systemen mit geringem Stromverbrauch.

Die Kunden untersuchen Anwendungsfälle in verschiedenen Sektoren wie die Echtzeit-Erkennung von Fußgängern und Fahrzeugen in der Smart-City-Infrastruktur, geräteinterne Sicherheitsprüfungen und Qualitätskontrollen in der Industrieautomatisierung sowie KI-gestützte Diagnosen in tragbaren medizinischen Geräten. Auch im Bereich der Unterhaltungselektronik ermöglichen YOLO reaktionsschnelle Funktionen wie Anwesenheitserkennung, Gestenerkennung und Objektverfolgung - und das alles innerhalb der Leistungsbeschränkungen batteriebetriebener Geräte.

‍

Wir bauen schon heute an den Vision-KI-Lösungen von morgen

STMicroelectronics konzentriert sich darauf, leistungsstarke und effiziente Lösungen für Edge-Geräte zu entwickeln. Durch die enge Zusammenarbeit mit Partnern wie Ultralytics hilft STMicroelectronics Entwicklern, mit gebrauchsfertigen Modellen, Tools und STM32-kompatiblen Ressourcen schneller zu starten. 

Machen Sie den nächsten Schritt in der Edge AI-Innovation. Besuchen Sie unser GitHub-Repository und entdecken Sie, wie Ultralytics YOLO das eingebettete Sehen verändern. Erforschen Sie Anwendungen von KI im Gesundheitswesen und Computer Vision im Einzelhandel, und informieren Sie sich noch heute über unsere Lizenzierungsoptionen!