Axelera AI ermöglicht Vision AI am Edge mit Ultralytics YOLO

Axelera AI ist ein europäisches Halbleiterunternehmen, das leistungsstarke, energieeffiziente KI-Chips für die Ausführung von Computer Vision am Edge entwickelt. Beispielsweise werden ihre Metis AI Processing Units (AIPUs) in Branchen wie Einzelhandel, Sicherheit und Fertigung eingesetzt.

Um es Kunden zu erleichtern, KI-Anwendungen zu erstellen und bereitzustellen, hat Axelera Ultralytics YOLO-Modelle in ihr Voyager SDK integriert, eine Softwareplattform, die die Modelloptimierung, -bereitstellung und -beschleunigung auf Metis AIPUs rationalisiert und so Echtzeit-Vision-KI schneller, einfacher und skalierbarer macht.

Neudefinition der Vision AI Hardwarebeschleunigung

Axelera AI wurde 2021 in den Niederlanden gegründet und hat sich zum Ziel gesetzt, ein grundlegendes Problem zu lösen: Traditionelle KI-Hardware wurde für die Cloud entwickelt, nicht für den Edge. Um diese Lücke zu schließen, entwickelte das Unternehmen den Metis AIPU. 

Es handelt sich um einen leistungsstarken, energieeffizienten Chip, der speziell für Edge-Workloads entwickelt wurde – KI-Aufgaben, die lokal auf Geräten ausgeführt werden, wo Geschwindigkeit, Datenschutz und Energieeffizienz entscheidend sind.

Er wird durch die firmeneigene Digital In-Memory Compute (D-IMC)-Technologie unterstützt, die es ermöglicht, Daten direkt dort zu verarbeiten, wo sie gespeichert sind, und die Latenz und den Energieverbrauch drastisch reduziert. Mit einem vollständig integrierten Software-Stack und dem Ziel, KI zu demokratisieren, macht Axelera leistungsstarke KI zugänglicher.

Die Herausforderung, Modelle auf Edge-KI-Hardware auszuführen

Um ein nahtloses KI-Erlebnis am Edge zu bieten, wollte Axelera AI mehr als nur leistungsstarke Hardware bereitstellen. Die Kunden benötigten auch eine einfache und zuverlässige Möglichkeit, Computer-Vision-Lösungen in Echtzeit auszuführen, ohne komplizierte Tools oder zeitaufwändige Anpassungen. Viele bestehende Modelle waren zu groß, zu langsam oder nicht gut für ressourcenbeschränkte Umgebungen geeignet.

Einzelhandelsanalysen, Fabrikautomation und Überwachungssysteme sind oft auf schnelle und genaue visuelle Erkenntnisse angewiesen, um Abläufe zu unterstützen. Traditionelle Modelle und Cloud-basierte Lösungen können jedoch in der Regel die geringe Latenz, Energieeffizienz und On-Device-Verarbeitungsanforderungen dieser Edge-KI-Anwendungen nicht erfüllen.

Axelera suchte nach einer Modellsuite, die präzise, einfach zu implementieren und effizient auf ihren Metis AI Processing Units lauffähig ist. Die richtige Lösung sollte ihre Hardware-Fähigkeiten ergänzen und gleichzeitig die Entwicklung vereinfachen und die Bereitstellung in einer Vielzahl von Edge-KI-Anwendungsfällen beschleunigen.

 Beschleunigte KI-Inferenz am Edge mit Ultralytics YOLO

Axelera AI integrierte Ultralytics YOLO-Modelle in sein Voyager SDK, um die Entwicklung und Bereitstellung von Edge-KI-Anwendungen schneller, einfacher und skalierbarer zu gestalten. Das SDK enthält eine Model Zoo mit sofort einsatzbereiten YOLO-Modellen und automatisiert die gesamte Pipeline, einschliesslich Vorverarbeitung, Inferenz und Nachbearbeitung, optimiert für Metis AI Processing Units.

‍

Diese Integration ermöglicht es Kunden, vorkonfigurierte Ultralytics YOLO-Modelle sofort zu verwenden oder ihre eigenen Modelle mit nahtloser Beschleunigung auf Edge-Hardware einzubringen. Mit der Unterstützung für parallele und kaskadierende Modellausführung ermöglichen Metis AIPUs fortschrittliche Multi-Modell-Setups wie Pose-Estimation gefolgt von Segmentierung. Dies ist ideal für komplexe Aufgaben in den Bereichen Einzelhandel, Sicherheit und Industrieautomation.

Die Kombination aus Echtzeit-Computer-Vision-Aufgaben, die von Ultralytics YOLO-Modellen unterstützt werden, und dem effizienten Hardware- und Software-Stack von Axelera bietet eine außergewöhnliche Leistung pro Watt und pro Dollar. Für Kunden bedeutet dies genauere Ergebnisse, schnellere Bereitstellung und eine niedrigere Hürde für die Skalierung von Vision AI am Edge.

Warum Ultralytics YOLO-Modelle wählen?

Axelera AI ist eine Partnerschaft mit Ultralytics eingegangen, um Ultralytics YOLO-Modelle aufgrund ihres aussergewöhnlichen Gleichgewichts zwischen Genauigkeit, Geschwindigkeit und Benutzerfreundlichkeit in seine Plattform zu integrieren. Dank der Unterstützung für mehrere Ultralytics YOLO-Varianten können Axelera AI-Kunden ein breites Spektrum an Workloads und Leistungsanforderungen auf der Metis AIPU evaluieren.

Über eine Ultralytics Enterprise Lizenz bietet Axelera Zugriff auf die vollständige Suite von YOLO-Modellen für Evaluierung und Entwicklung. Für den kommerziellen Einsatz müssen Kunden ihre eigene Lizenz direkt von Ultralytics über das Lizenzformular beziehen, um die Einhaltung der Vorschriften zu gewährleisten und skalierbare Innovationen im Bereich Vision AI am Edge zu unterstützen.

Skalierung von Ultralytics YOLO-Modellen mit Axelera AI’s Voyager SDK

Mit Ultralytics YOLO-Modellen und dem Voyager SDK von Axelera AI können Benutzer genaue Computer-Vision-Anwendungen mit niedriger Latenz direkt auf Metis AI Processing Units bereitstellen. Der Zugriff auf mehrere YOLO-Varianten ermöglicht es Kunden außerdem, die Leistung basierend auf den spezifischen Anforderungen ihrer Anwendung anzupassen.

Zum Beispiel hat Axelera AI erlebt, wie Kunden YOLO-basierte Lösungen in einer Vielzahl von Bereichen testen, wie:

• Einzelhandel: Multi-Modell-Pipelines, die Pose-Schätzung, Segmentierung und Objekterkennung kombinieren, können verwendet werden, um Aufgaben wie die Reduzierung von Inventurdifferenzen und die Bestandsverfolgung zu unterstützen. Diese Deployments laufen effizient auf eingebetteten Plattformen wie dem Raspberry Pi 5 in Verbindung mit dem Metis AIPU.
  
  
• Fertigung: Kunden können die parallele Modellausführung nutzen, um simultane Aufgaben wie Fehlererkennung, Produktklassifizierung und Pose-Schätzung auf einem einzigen Chip durchzuführen, um den Durchsatz zu verbessern und die Hardwarekosten zu senken.
  
  
• Überwachung: Die Echtzeit-Objekterkennungs-Funktionen von YOLO können verwendet werden, um 4K- und 8K-Videostreams in voller Auflösung zu analysieren und so eine hochgenaue Sicherheitsüberwachung und ein hohes Situationsbewusstsein in kritischen Umgebungen zu ermöglichen. Dies ist eine viel bessere Lösung als die traditionelle Herunterskalierung bei hochauflösenden Kameras.
  
  
• Gesundheitswesen: Optimierte YOLO-Pipelines können die Tumorerkennung unterstützen und bieten eine hohe Inferenzgeschwindigkeit und zuverlässige Genauigkeit für die medizinische Bildgebung auf Geräten.

Diese Anwendungsfälle zeigen, wie die Edge-KI-Hardware von Axelera AI und die Ultralytics YOLO-Modelle leistungsstarke, energieeffiziente Vision-KI-Innovationen in allen Branchen ermöglichen.

Die nächste Welle von Edge-KI mit Ultralytics YOLO vorantreiben

Da sich Axelera AI weiterhin darauf konzentriert, den Zugang zu leistungsstarker Edge-KI zu erweitern, bringt es leistungsstarke Hardware und zuverlässige Vision-Modelle zusammen, um Kunden beim Aufbau intelligenterer und schnellerer Anwendungen zu unterstützen. 

Mit den Ultralytics YOLO-Modellen, die über das Voyager SDK und die Metis AIPU-Hardware verfügbar sind, können Benutzer auf einfache Weise Echtzeit-Computer Vision-Lösungen für verschiedene Branchen entwickeln und skalieren. Diese Zusammenarbeit unterstützt eine wachsende Community von Entwicklern und Unternehmen, die daran arbeiten, KI näher an den Ort zu bringen, an dem Daten entstehen, wodurch Effizienz, Reaktionsfähigkeit und Innovation am Edge verbessert werden.

Sind Sie bereit, Ihre Edge-KI-Reise zu beschleunigen? Erkunden Sie unser GitHub-Repository, um zu sehen, wie YOLO-Modelle Innovationen wie KI im Einzelhandel und Computer Vision in der Logistik vorantreiben. Machen Sie sich mit unseren Vision-KI-Tools vertraut, informieren Sie sich über Lizenzierungsoptionen und entdecken Sie, wie Sie hochleistungsfähige, energieeffiziente Computer Vision am Edge realisieren können.