Durch die Integration von Ultralytics-YOLO-Modellen in sein Voyager SDK machte Axelera AI es Kunden leicht, sofort einsatzbereite Lösungen für Computer Vision in Echtzeit auf seinen Metis AI Processing Units (AIPUs) auszuführen.
Axelera AI ist ein europäisches Halbleiterunternehmen, das leistungsstarke, energieeffiziente KI-Chips für Computer Vision direkt am Netzwerkrand entwickelt. Die Metis AI Processing Units (AIPUs) des Unternehmens kommen beispielsweise in Branchen wie dem Einzelhandel, der Sicherheitsbranche und der Fertigung zum Einsatz.
Damit Kunden KI-Anwendungen einfacher entwickeln und bereitstellen können, integrierte Axelera Ultralytics-YOLO-Modelle in sein Voyager SDK. Diese Softwareplattform vereinfacht die Modelloptimierung, Bereitstellung und Beschleunigung auf Metis AIPUs und macht Vision AI in Echtzeit schneller, einfacher und besser skalierbar.
Hardwarebeschleunigung für Vision AI neu gedacht#
Axelera AI wurde 2021 gegründet und hat seinen Sitz in den Niederlanden. Das Unternehmen wollte ein grundlegendes Problem lösen: Herkömmliche KI-Hardware wurde für die Cloud entwickelt, nicht für den Netzwerkrand. Um diese Lücke zu schließen, entwickelte das Unternehmen die Metis AIPU.
Es handelt sich um einen leistungsstarken Chip mit geringem Stromverbrauch, der speziell für Anwendungen am Netzwerkrand entwickelt wurde: KI-Aufgaben, die lokal auf Geräten ausgeführt werden, bei denen Geschwindigkeit, Datenschutz und Energieeffizienz entscheidend sind.
Die Grundlage dafür ist die proprietäre Digital-In-Memory-Compute-Technologie (D-IMC), durch die Daten direkt an ihrem Speicherort verarbeitet werden können und die Latenz sowie den Energieverbrauch erheblich reduziert. Mit einem vollständig integrierten Software-Stack und dem Ziel, KI allen zugänglich zu machen, trägt Axelera dazu bei, leistungsstarke KI leichter verfügbar zu machen.
Die Herausforderung, Modelle auf Edge-KI-Hardware auszuführen#
Um ein nahtloses KI-Erlebnis am Netzwerkrand zu ermöglichen, wollte Axelera AI mehr als nur leistungsstarke Hardware anbieten. Kunden benötigten außerdem eine einfache und zuverlässige Möglichkeit, Computer-Vision-Lösungen in Echtzeit auszuführen, ohne komplizierte Werkzeuge oder zeitaufwendige Anpassungen. Viele vorhandene Modelle waren zu groß, zu langsam oder für Umgebungen mit begrenzten Ressourcen ungeeignet.
Analysen im Einzelhandel, die Automatisierung von Fabriken und Überwachungssysteme sind häufig auf schnelle und präzise visuelle Erkenntnisse angewiesen, um Abläufe zu unterstützen. Herkömmliche Modelle und cloudbasierte Lösungen erfüllen jedoch meist nicht die Anforderungen dieser Edge-KI-Anwendungen an geringe Latenz, Energieeffizienz und Verarbeitung direkt auf dem Gerät.
Axelera suchte nach einer Modellsammlung, die genau, einfach einzusetzen und auf den eigenen Metis AI Processing Units effizient ausführbar war. Die passende Lösung sollte die Hardware optimal ergänzen, zugleich die Entwicklung vereinfachen und die Bereitstellung für zahlreiche Edge-KI-Anwendungen beschleunigen.
Beschleunigte KI-Inferenz am Netzwerkrand mit Ultralytics YOLO#
Axelera AI integrierte Ultralytics-YOLO-Modelle in sein Voyager SDK, um die Entwicklung und Bereitstellung von Edge-KI-Anwendungen schneller, einfacher und besser skalierbar zu machen. Das SDK enthält einen Model Zoo mit sofort einsatzbereiten YOLO-Modellen und automatisiert die gesamte Pipeline – von der Vorverarbeitung über die Inferenz bis zur Nachverarbeitung –, optimiert für Metis AI Processing Units.
Abb. 1. Metis AI Processing Unit (AIPU).
Diese Integration ermöglicht es Kunden, vortrainierte Ultralytics YOLO-Modelle direkt einzusetzen oder eigene Modelle mitzubringen und sie nahtlos auf Edge-Hardware zu beschleunigen. Dank der Unterstützung paralleler und kaskadierter Modellausführung ermöglichen Metis-AIPUs fortschrittliche Konfigurationen mit mehreren Modellen, etwa eine Posenschätzung mit anschließender Segmentierung. Das eignet sich ideal für komplexe Aufgaben im Einzelhandel, in der Sicherheit und in der industriellen Automatisierung.
Die Kombination aus von Ultralytics-YOLO-Modellen unterstützten Computer-Vision-Aufgaben und dem effizienten Hardware- und Software-Stack von Axelera bietet eine hervorragende Leistung pro Watt und pro Euro. Für Kunden bedeutet das genauere Ergebnisse, eine schnellere Bereitstellung und niedrigere Hürden für den Ausbau von Vision AI am Netzwerkrand.
Warum Ultralytics YOLO-Modelle wählen?#
Axelera AI ging eine Partnerschaft mit Ultralytics ein, um Ultralytics YOLO-Modelle aufgrund ihrer hervorragenden Kombination aus Genauigkeit, Geschwindigkeit und Benutzerfreundlichkeit in die eigene Plattform zu integrieren. Dank der Unterstützung verschiedener Ultralytics-YOLO-Varianten können Kunden von Axelera AI ein breites Spektrum an Arbeitslasten und Leistungsanforderungen auf der Metis AIPU bewerten.
Mit einer Ultralytics-Unternehmenslizenz stellt Axelera die gesamte Palette der YOLO-Modelle für Evaluierung und Entwicklung bereit. Für den kommerziellen Einsatz müssen Kunden direkt bei Ultralytics über das Lizenzformular eine eigene Lizenz beantragen. So wird die Einhaltung der Lizenzbedingungen sichergestellt und skalierbare Innovationen für Vision AI am Netzwerkrand werden unterstützt.
Ultralytics-YOLO-Modelle mit dem Voyager SDK von Axelera AI in großem Maßstab einsetzen#
Mit Ultralytics-YOLO-Modellen und dem Voyager SDK von Axelera AI können Nutzer genaue Computer-Vision-Anwendungen mit geringer Latenz direkt auf Metis AI Processing Units bereitstellen. Der Zugriff auf mehrere YOLO-Varianten ermöglicht es Kunden außerdem, die Leistung an die jeweiligen Anforderungen ihrer Anwendung anzupassen.
Axelera AI berichtet beispielsweise, dass Kunden YOLO-basierte Lösungen in verschiedenen Bereichen testen, etwa:
- Einzelhandel: Pipelines mit mehreren Modellen, die Posenschätzung, Segmentierung und Objekterkennung kombinieren, können Aufgaben wie die Verringerung von Warenschwund und die Bestandsverfolgung unterstützen. Diese Anwendungen laufen effizient auf eingebetteten Plattformen wie dem Raspberry Pi 5 in Kombination mit der Metis AIPU.
- Fertigung: Kunden können Modelle parallel ausführen, um auf einem einzelnen Chip gleichzeitig Aufgaben wie Fehlererkennung, Produktklassifizierung und Posenschätzung zu erledigen. Das steigert den Durchsatz und senkt die Hardwarekosten.
- Überwachung: Die Echtzeitfunktionen von YOLO zur Objekterkennung können 4K- und 8K-Videostreams in voller Auflösung analysieren und so eine hochpräzise Sicherheitsüberwachung und Lageerfassung in kritischen Umgebungen ermöglichen. Das ist eine deutlich bessere Lösung als die herkömmliche Verkleinerung der Auflösung von hochauflösenden Kameras.
- Gesundheitswesen: Optimierte YOLO-Pipelines können Tumore erkennen und bieten hohe Inferenzgeschwindigkeit sowie zuverlässige Genauigkeit bei der medizinischen Bildgebung direkt auf dem Gerät.
Diese Anwendungsfälle zeigen, wie die Edge-KI-Hardware von Axelera AI und die Ultralytics-YOLO-Modelle branchenübergreifend leistungsstarke und energieeffiziente Innovationen im Bereich Vision AI ermöglichen.
Mit Ultralytics YOLO die nächste Welle der Edge-KI vorantreiben#
Axelera AI arbeitet weiterhin daran, leistungsstarke Edge-KI besser zugänglich zu machen. Dafür vereint das Unternehmen leistungsstarke Hardware und zuverlässige Bildverarbeitungsmodelle, damit Kunden intelligentere und schnellere Anwendungen entwickeln können.
Mit Ultralytics-YOLO-Modellen im Voyager SDK und Metis-AIPU-Hardware können Nutzer branchenübergreifend ganz einfach Computer-Vision-Lösungen in Echtzeit entwickeln und skalieren. Diese Zusammenarbeit unterstützt eine wachsende Gemeinschaft von Entwicklern und Unternehmen, die KI näher an den Ort bringen, an dem Daten entstehen, und so Effizienz, Reaktionsfähigkeit und Innovation am Netzwerkrand verbessern.
Möchtest du deine Edge-KI-Projekte beschleunigen? Sieh dir unser GitHub-Repository an und erfahre, wie YOLO-Modelle Innovationen wie KI im Einzelhandel und Computer Vision in der Logistik ermöglichen. Probiere unsere Werkzeuge für Vision AI aus, informiere dich über Lizenzoptionen und entdecke, wie du leistungsstarke und energieeffiziente Computer Vision am Netzwerkrand nutzen kannst.
Verfasst von
Content Creator · Ultralytics
