Axelera AI ermöglicht Vision AI am Rande mit Ultralytics YOLO

Axelera AI ist ein europäisches Halbleiterunternehmen, das leistungsstarke, energieeffiziente KI-Chips für die Ausführung von Computer Vision am Edge entwickelt. Beispielsweise werden ihre Metis AI Processing Units (AIPUs) in Branchen wie Einzelhandel, Sicherheit und Fertigung eingesetzt.

Um Kunden die Entwicklung und Bereitstellung von KI-Anwendungen zu erleichtern, hat Axelera die YOLO Ultralytics in ihr Voyager SDK integriert, eine Softwareplattform, die die Modelloptimierung, -bereitstellung und -beschleunigung auf Metis AIPUs rationalisiert und die Echtzeit-Vision-KI schneller, einfacher und skalierbarer macht.

Neudefinition der Vision AI Hardwarebeschleunigung

Axelera AI wurde 2021 in den Niederlanden gegründet und hat sich zum Ziel gesetzt, ein grundlegendes Problem zu lösen: Traditionelle KI-Hardware wurde für die Cloud entwickelt, nicht für den Edge. Um diese Lücke zu schließen, entwickelte das Unternehmen den Metis AIPU. 

Es handelt sich um einen leistungsstarken, energieeffizienten Chip, der speziell für Edge-Workloads entwickelt wurde – KI-Aufgaben, die lokal auf Geräten ausgeführt werden, wo Geschwindigkeit, Datenschutz und Energieeffizienz entscheidend sind.

Er wird durch die firmeneigene Digital In-Memory Compute (D-IMC)-Technologie unterstützt, die es ermöglicht, Daten direkt dort zu verarbeiten, wo sie gespeichert sind, und die Latenz und den Energieverbrauch drastisch reduziert. Mit einem vollständig integrierten Software-Stack und dem Ziel, KI zu demokratisieren, macht Axelera leistungsstarke KI zugänglicher.

Die Herausforderung, Modelle auf Edge-KI-Hardware auszuführen

Um ein nahtloses KI-Erlebnis am Edge zu bieten, wollte Axelera AI mehr als nur leistungsstarke Hardware bereitstellen. Die Kunden benötigten auch eine einfache und zuverlässige Möglichkeit, Computer-Vision-Lösungen in Echtzeit auszuführen, ohne komplizierte Tools oder zeitaufwändige Anpassungen. Viele bestehende Modelle waren zu groß, zu langsam oder nicht gut für ressourcenbeschränkte Umgebungen geeignet.

Einzelhandelsanalysen, Fabrikautomation und Überwachungssysteme sind oft auf schnelle und genaue visuelle Erkenntnisse angewiesen, um Abläufe zu unterstützen. Traditionelle Modelle und Cloud-basierte Lösungen können jedoch in der Regel die geringe Latenz, Energieeffizienz und On-Device-Verarbeitungsanforderungen dieser Edge-KI-Anwendungen nicht erfüllen.

Axelera suchte nach einer Modellsuite, die präzise, einfach zu implementieren und effizient auf ihren Metis AI Processing Units lauffähig ist. Die richtige Lösung sollte ihre Hardware-Fähigkeiten ergänzen und gleichzeitig die Entwicklung vereinfachen und die Bereitstellung in einer Vielzahl von Edge-KI-Anwendungsfällen beschleunigen.

 Beschleunigte KI-Schlussfolgerungen am Rande mit Ultralytics YOLO

Axelera AI hat dieYOLO Ultralytics in sein Voyager SDK integriert, um die Entwicklung und Bereitstellung von Edge-KI-Anwendungen schneller, einfacher und skalierbarer zu machen. Das SDK enthält einen Modell-Zoo mit gebrauchsfertigen YOLO und automatisiert die gesamte Pipeline, die Vorverarbeitung, Inferenz und Nachverarbeitung umfasst und für Metis AI Processing Units optimiert ist.

‍

Dank dieser Integration können Kunden vortrainierte Ultralytics YOLO verwenden oder ihre eigenen Modelle mit nahtloser Beschleunigung auf Edge-Hardware einbringen. Mit Unterstützung für parallele und kaskadierte Modellausführung ermöglichen Metis AIPUs fortschrittliche Multi-Modell-Setups wie Posenschätzung gefolgt von Segmentierung. Dies ist ideal für komplexe Aufgaben in den Bereichen Einzelhandel, Sicherheit und industrielle Automatisierung.

Die Kombination von Echtzeit-Computer-Vision-Aufgaben, die von Ultralytics YOLO unterstützt werden, und dem effizienten Hardware- und Software-Stack von Axelera liefert außergewöhnliche Leistung pro Watt und pro Dollar. Für die Kunden bedeutet dies genauere Ergebnisse, eine schnellere Bereitstellung und eine niedrigere Hürde für die Skalierung von Vision AI im Edge-Bereich.

Warum dieYOLO Ultralytics ?

Axelera AI hat sich mit Ultralytics zusammengetan, um dieYOLO Ultralytics in seine Plattform zu integrieren, da sie eine außergewöhnliche Ausgewogenheit von Genauigkeit, Geschwindigkeit und Benutzerfreundlichkeit bieten. Durch die Unterstützung mehrerer Ultralytics YOLO können Axelera AI-Kunden eine breite Palette von Arbeitslasten und Leistungsanforderungen auf der Metis AIPU bewerten.

Mit einer Ultralytics Enterprise-Lizenz bietet Axelera Zugriff auf die vollständige Suite von YOLO zur Evaluierung und Entwicklung. Für den kommerziellen Einsatz müssen die Kunden ihre eigene Lizenz direkt von Ultralytics über das Lizenzformular erwerben, um die Einhaltung der Vorschriften zu gewährleisten und skalierbare Innovationen im Bereich Vision AI at the Edge zu unterstützen.

Nutzung von Ultralytics YOLO in großem Maßstab mit dem Voyager SDK von Axelera AI

Mit denYOLO Ultralytics und dem Voyager SDK von Axelera AI können Anwender präzise Computer-Vision-Anwendungen mit geringer Latenz direkt auf den Metis AI Processing Units einsetzen. Durch den Zugriff auf mehrere YOLO können Kunden außerdem die Leistung an die spezifischen Anforderungen ihrer Anwendung anpassen.

Axelera AI hat zum Beispiel gesehen, wie Kunden YOLO Lösungen in einer Vielzahl von Bereichen getestet haben:

• Einzelhandel: Multi-Modell-Pipelines, die Pose-Schätzung, Segmentierung und Objekterkennung kombinieren, können verwendet werden, um Aufgaben wie die Reduzierung von Inventurdifferenzen und die Bestandsverfolgung zu unterstützen. Diese Deployments laufen effizient auf eingebetteten Plattformen wie dem Raspberry Pi 5 in Verbindung mit dem Metis AIPU.
  
  
• Fertigung: Kunden können die parallele Modellausführung nutzen, um simultane Aufgaben wie Fehlererkennung, Produktklassifizierung und Pose-Schätzung auf einem einzigen Chip durchzuführen, um den Durchsatz zu verbessern und die Hardwarekosten zu senken.
  
  
• Überwachen: Die Echtzeit-Objekterkennungsfunktionen von YOLOkönnen zur Analyse von 4K- und 8K-Videoströmen in voller Auflösung verwendet werden und ermöglichen so eine hochpräzise Sicherheitsüberwachung und Situationserkennung in kritischen Umgebungen. Dies ist eine viel bessere Lösung als die herkömmliche Herunterskalierung bei hochauflösenden Kameras.
  
  
• Gesundheitswesen: Optimierte YOLO können die Tumoridentifizierung unterstützen und bieten eine hohe Inferenzgeschwindigkeit und zuverlässige Genauigkeit für die medizinische Bildgebung auf Geräten.

Diese Anwendungsfälle zeigen, wie die Edge AI-Hardware von Axelera AI und dieYOLO Ultralytics hochleistungsfähige, energieeffiziente Vision AI-Innovationen in verschiedenen Branchen ermöglichen.

Die nächste Welle von Edge AI mit Ultralytics YOLO

Da sich Axelera AI weiterhin darauf konzentriert, den Zugang zu leistungsstarker Edge-KI zu erweitern, bringt es leistungsstarke Hardware und zuverlässige Vision-Modelle zusammen, um Kunden beim Aufbau intelligenterer und schnellerer Anwendungen zu unterstützen. 

Mit denYOLO Ultralytics , die über das Voyager SDK und die Metis AIPU-Hardware zur Verfügung stehen, können Anwender einfach Echtzeit-Computer-Vision-Lösungen für verschiedene Branchen entwickeln und skalieren. Diese Zusammenarbeit unterstützt eine wachsende Gemeinschaft von Entwicklern und Unternehmen, die daran arbeiten, KI näher an den Ort der Datenerstellung zu bringen und so die Effizienz, Reaktionsfähigkeit und Innovation an der Schnittstelle zu verbessern.

Sind Sie bereit, Ihre KI-Reise zu beschleunigen? Erkunden Sie unser GitHub-Repository und sehen Sie, wie YOLO Innovationen wie KI im Einzelhandel und Computer Vision in der Logistik vorantreiben. Lernen Sie unsere Vision AI-Tools in der Praxis kennen, informieren Sie sich über Lizenzierungsoptionen und entdecken Sie, wie Sie hochleistungsfähige, energieeffiziente Computer Vision im Edge-Bereich nutzen können.