Durch die Integration von Ultralytics-YOLO-Modellen in das Voyager SDK ermöglichte Axelera AI seinen Kunden, sofort einsatzbereite Echtzeitlösungen für Computer Vision auf den Metis-KI-Verarbeitungseinheiten (AIPUs) auszuführen.
Axelera AI ist ein europäisches Halbleiterunternehmen, das leistungsstarke und energieeffiziente KI-Chips für Computer Vision am Edge entwickelt. Die Metis-KI-Verarbeitungseinheiten (AIPUs) kommen beispielsweise in Bereichen wie Einzelhandel, Sicherheit und Fertigung zum Einsatz.
Um Kunden die Entwicklung und Bereitstellung von KI-Anwendungen zu erleichtern, integrierte Axelera Ultralytics-YOLO-Modelle in sein Voyager SDK, eine Softwareplattform zur Vereinfachung von Modelloptimierung, Bereitstellung und Beschleunigung auf Metis AIPUs, wodurch Vision AI in Echtzeit schneller, einfacher und skalierbarer wird.
Die Hardwarebeschleunigung für Vision AI neu gedacht#
Axelera AI wurde 2021 gegründet und hat seinen Sitz in den Niederlanden. Das Unternehmen wollte ein grundlegendes Problem lösen: Herkömmliche KI-Hardware wurde für die Cloud entwickelt, nicht für den Edge. Um diese Lücke zu schließen, entwickelte das Unternehmen die Metis AIPU.
Dabei handelt es sich um einen leistungsstarken Chip mit geringem Energieverbrauch, der speziell für Edge-Workloads entwickelt wurde – also für KI-Aufgaben, die lokal auf Geräten ausgeführt werden, bei denen Geschwindigkeit, Datenschutz und Energieeffizienz entscheidend sind.
Die Grundlage bildet die proprietäre Technologie Digital In-Memory Compute (D-IMC), die es ermöglicht, Daten direkt an ihrem Speicherort zu verarbeiten und dadurch Latenz und Energieverbrauch deutlich zu reduzieren. Mit einem vollständig integrierten Software-Stack und dem Ziel, KI zu demokratisieren, macht Axelera leistungsstarke KI zugänglicher.
Die Herausforderung, Modelle auf Edge-KI-Hardware auszuführen#
Um ein nahtloses KI-Erlebnis am Edge zu ermöglichen, wollte Axelera AI mehr als nur leistungsstarke Hardware anbieten. Kunden benötigten außerdem eine einfache und zuverlässige Möglichkeit, Echtzeitlösungen für Computer Vision auszuführen, ohne komplizierte Werkzeuge oder zeitaufwendige Anpassungen. Viele vorhandene Modelle waren zu groß, zu langsam oder nicht für Umgebungen mit begrenzten Ressourcen geeignet.
Analysen im Einzelhandel, die Automatisierung von Fabriken und Überwachungssysteme sind häufig auf schnelle und präzise visuelle Erkenntnisse angewiesen, um Abläufe zu unterstützen. Herkömmliche Modelle und cloudbasierte Lösungen können jedoch meist nicht die Anforderungen dieser Edge-KI-Anwendungen an geringe Latenz, Energieeffizienz und lokale Verarbeitung erfüllen.
Axelera begann mit der Suche nach einer Modellsuite, die präzise und einfach zu implementieren war und effizient auf seinen Metis-KI-Verarbeitungseinheiten ausgeführt werden konnte. Die richtige Lösung sollte die Hardwarefunktionen ergänzen, gleichzeitig die Entwicklung vereinfachen und die Bereitstellung für eine große Bandbreite von Edge-KI-Anwendungsfällen beschleunigen.
Beschleunigte KI-Inferenzen am Edge mit Ultralytics YOLO#
Axelera AI integrierte Ultralytics-YOLO-Modelle in sein Voyager SDK, um die Entwicklung und Bereitstellung von Edge-KI-Anwendungen schneller, einfacher und skalierbarer zu machen. Das SDK enthält einen Model Zoo mit sofort einsetzbaren YOLO-Modellen und automatisiert die gesamte Pipeline – einschließlich Vorverarbeitung, Inferenz und Nachverarbeitung –, optimiert für Metis-KI-Verarbeitungseinheiten.
Abb. 1: Metis-KI-Verarbeitungseinheit (AIPU).
Durch diese Integration können Kunden vortrainierte Ultralytics-YOLO-Modelle sofort verwenden oder eigene Modelle einbinden und dabei von nahtloser Beschleunigung auf Edge-Hardware profitieren. Die Unterstützung paralleler und kaskadierter Modellausführung ermöglicht auf Metis AIPUs fortgeschrittene Konfigurationen mit mehreren Modellen, etwa eine Posenschätzung gefolgt von Segmentierung. Das ist ideal für komplexe Aufgaben im Einzelhandel, im Sicherheitsbereich und in der industriellen Automatisierung.
Die Kombination aus den von Ultralytics-YOLO-Modellen unterstützten Computer-Vision-Aufgaben in Echtzeit und dem effizienten Hardware- und Software-Stack von Axelera liefert eine herausragende Leistung pro Watt und pro Dollar. Für Kunden bedeutet das präzisere Ergebnisse, eine schnellere Bereitstellung und eine niedrigere Einstiegshürde für die Skalierung von Vision AI am Edge.
Warum Ultralytics YOLO-Modelle wählen?#
Axelera AI ging eine Partnerschaft mit Ultralytics ein, um Ultralytics-YOLO-Modelle aufgrund ihrer hervorragenden Kombination aus Präzision, Geschwindigkeit und Benutzerfreundlichkeit in seine Plattform zu integrieren. Durch die Unterstützung mehrerer Varianten von Ultralytics YOLO können Kunden von Axelera AI eine große Bandbreite an Workloads und Leistungsanforderungen auf der Metis AIPU evaluieren.
Über eine Ultralytics Enterprise License bietet Axelera Zugriff auf die vollständige YOLO-Modellsuite für Evaluierung und Entwicklung. Für die kommerzielle Bereitstellung benötigen Kunden eine eigene Lizenz, die sie direkt über das Lizenzformular von Ultralytics erwerben müssen. So wird die Einhaltung der Lizenzbedingungen sichergestellt und skalierbare Innovation im Bereich Vision AI am Edge unterstützt.
Ultralytics-YOLO-Modelle mit dem Voyager SDK von Axelera AI skalierbar einsetzen#
Mit Ultralytics-YOLO-Modellen und dem Voyager SDK von Axelera AI können Nutzer präzise Computer-Vision-Anwendungen mit geringer Latenz direkt auf Metis-KI-Verarbeitungseinheiten bereitstellen. Der Zugriff auf mehrere YOLO-Varianten ermöglicht es Kunden außerdem, die Leistung an die spezifischen Anforderungen ihrer Anwendung anzupassen.
Axelera AI hat beispielsweise beobachtet, wie Kunden YOLO-basierte Lösungen in verschiedenen Bereichen getestet haben, darunter:
- Einzelhandel: Pipelines mit mehreren Modellen, die Posenschätzung, Segmentierung und Objekterkennung kombinieren, können Aufgaben wie die Verringerung von Inventurverlusten und die Bestandsverfolgung unterstützen. Diese Bereitstellungen laufen effizient auf eingebetteten Plattformen wie dem Raspberry Pi 5 in Kombination mit der Metis AIPU.
- Fertigung: Kunden können die parallele Modellausführung nutzen, um auf einem einzigen Chip gleichzeitig Aufgaben wie Fehlererkennung, Produktklassifizierung und Posenschätzung durchzuführen und dadurch den Durchsatz zu erhöhen und Hardwarekosten zu senken.
- Überwachung: Die Echtzeitfunktionen von YOLO zur Objekterkennung können eingesetzt werden, um 4K- und 8K-Videostreams in voller Auflösung zu analysieren und so eine hochpräzise Sicherheitsüberwachung und Lageerfassung in kritischen Umgebungen zu ermöglichen. Das ist eine deutlich bessere Lösung als die herkömmliche Verkleinerung der Auflösung bei hochauflösenden Kameras.
- Gesundheitswesen: Optimierte YOLO-Pipelines können die Erkennung von Tumoren unterstützen und dabei eine hohe Inferenzgeschwindigkeit sowie zuverlässige Präzision für medizinische Bildgebung auf dem Gerät bieten.
Diese Anwendungsfälle zeigen, wie die Edge-KI-Hardware von Axelera AI und die Ultralytics-YOLO-Modelle leistungsstarke und energieeffiziente Innovationen im Bereich Vision AI in unterschiedlichsten Branchen ermöglichen.
Mit Ultralytics YOLO die nächste Welle der Edge-KI vorantreiben#
Axelera AI konzentriert sich weiterhin darauf, den Zugang zu leistungsstarker Edge-KI zu erweitern, und verbindet leistungsfähige Hardware mit zuverlässigen Bildverarbeitungsmodellen, damit Kunden intelligentere und schnellere Anwendungen entwickeln können.
Mit Ultralytics-YOLO-Modellen über das Voyager SDK und Metis-AIPU-Hardware können Nutzer branchenübergreifend auf einfache Weise Echtzeitlösungen für Computer Vision entwickeln und skalieren. Diese Zusammenarbeit unterstützt eine wachsende Gemeinschaft von Entwicklern und Unternehmen dabei, KI näher an den Ort zu bringen, an dem Daten entstehen, und so Effizienz, Reaktionsfähigkeit und Innovation am Edge zu verbessern.
Bereit, deine Edge-KI-Reise zu beschleunigen? In unserem GitHub-Repository erfährst du, wie YOLO-Modelle Innovationen wie KI im Einzelhandel und Computer Vision in der Logistik vorantreiben. Probiere unsere Vision-AI-Werkzeuge praktisch aus, informiere dich über Lizenzoptionen und entdecke, wie du leistungsstarke und energieeffiziente Computer Vision am Edge nutzen kannst.
