Axelera AI ermöglicht Vision AI am Rande mit Ultralytics YOLO

Axelera AI ist ein europäisches Halbleiterunternehmen, das leistungsstarke, energieeffiziente KI-Chips für die Ausführung von Computer Vision in den Randbereichen herstellt. Die Metis AI Processing Units (AIPUs) von Axelera AI werden beispielsweise in Branchen wie dem Einzelhandel, der Sicherheitsbranche und der Fertigung eingesetzt.

Um Kunden die Entwicklung und Bereitstellung von KI-Anwendungen zu erleichtern, hat Axelera die YOLO-Modelle von Ultralytics in ihr Voyager SDK integriert, eine Softwareplattform, die die Modelloptimierung, -bereitstellung und -beschleunigung auf Metis AIPUs rationalisiert und die Echtzeit-Vision-KI schneller, einfacher und skalierbarer macht.

Neudefinition der Hardware-Beschleunigung von Vision AI

Das 2021 gegründete und in den Niederlanden ansässige Unternehmen Axelera AI wollte ein grundlegendes Problem lösen: Herkömmliche KI-Hardware wurde für die Cloud und nicht für den Edge-Bereich entwickelt. Um diese Lücke zu schließen, entwickelte das Unternehmen die Metis AIPU. 

Es handelt sich um einen hochleistungsfähigen, stromsparenden Chip, der speziell für Edge-Workloads entwickelt wurde - KI-Aufgaben, die lokal auf Geräten ausgeführt werden, bei denen Geschwindigkeit, Datenschutz und Energieeffizienz entscheidend sind.

Sie wird durch die proprietäre Digital In-Memory Compute (D-IMC)-Technologie unterstützt, die es ermöglicht, Daten direkt dort zu verarbeiten, wo sie gespeichert sind, und die Latenzzeiten und den Energieverbrauch drastisch reduziert. Mit einem vollständig integrierten Software-Stack und der Mission, KI zu demokratisieren, macht Axelera Hochleistungs-KI leichter zugänglich.

Die Herausforderung der Ausführung von Modellen auf Edge-AI-Hardware

Um eine nahtlose KI-Erfahrung am Arbeitsplatz zu ermöglichen, wollte Axelera AI mehr als nur leistungsstarke Hardware anbieten. Die Kunden benötigten auch eine einfache und zuverlässige Methode zur Ausführung von Echtzeit-Computer-Vision-Lösungen, die keine komplizierten Tools oder zeitaufwändigen Anpassungen erforderte. Viele bestehende Modelle waren zu groß, zu langsam oder nicht für ressourcenbeschränkte Umgebungen geeignet.

Einzelhandelsanalysen, Fabrikautomatisierung und Überwachungssysteme sind oft auf schnelle und genaue visuelle Erkenntnisse angewiesen, um den Betrieb zu unterstützen. Herkömmliche Modelle und Cloud-basierte Lösungen können jedoch in der Regel die Anforderungen an geringe Latenzzeiten, Energieeffizienz und geräteinterne Verarbeitung dieser Edge-KI-Anwendungen nicht erfüllen.

Axelera suchte nach einer Modellsuite, die genau und einfach zu implementieren ist und effizient auf seinen Metis AI Processing Units läuft. Die richtige Lösung sollte die Hardwarekapazitäten des Unternehmens ergänzen und gleichzeitig die Entwicklung vereinfachen und die Bereitstellung für eine breite Palette von KI-Anwendungsfällen beschleunigen.

 Beschleunigte KI-Schlussfolgerungen am Rande mit Ultralytics YOLO

Axelera AI hat die YOLO-Modelle von Ultralytics in sein Voyager SDK integriert, um die Entwicklung und Bereitstellung von Edge-KI-Anwendungen schneller, einfacher und skalierbarer zu machen. Das SDK enthält einen Modell-Zoo mit gebrauchsfertigen YOLO-Modellen und automatisiert die gesamte Pipeline, die Vorverarbeitung, Inferenz und Nachverarbeitung umfasst und für Metis AI Processing Units optimiert ist.

‍

Dank dieser Integration können Kunden vortrainierte Ultralytics YOLO-Modelle verwenden oder ihre eigenen Modelle mit nahtloser Beschleunigung auf Edge-Hardware einbringen. Mit Unterstützung für parallele und kaskadierte Modellausführung ermöglichen Metis AIPUs fortschrittliche Multi-Modell-Setups wie Posenschätzung gefolgt von Segmentierung. Dies ist ideal für komplexe Aufgaben in den Bereichen Einzelhandel, Sicherheit und industrielle Automatisierung.

Die Kombination von Echtzeit-Computer-Vision-Aufgaben, die von Ultralytics YOLO-Modellen unterstützt werden, und dem effizienten Hardware- und Software-Stack von Axelera liefert außergewöhnliche Leistung pro Watt und pro Dollar. Für die Kunden bedeutet dies genauere Ergebnisse, eine schnellere Bereitstellung und eine niedrigere Hürde für die Skalierung von Vision AI im Edge-Bereich.

Warum die YOLO-Modelle von Ultralytics?

Axelera AI hat sich mit Ultralytics zusammengetan, um die YOLO-Modelle von Ultralytics in seine Plattform zu integrieren, da sie eine außergewöhnliche Ausgewogenheit von Genauigkeit, Geschwindigkeit und Benutzerfreundlichkeit bieten. Durch die Unterstützung mehrerer Ultralytics YOLO-Varianten können Axelera AI-Kunden eine breite Palette von Arbeitslasten und Leistungsanforderungen auf der Metis AIPU bewerten.

Mit einer Ultralytics Enterprise-Lizenz bietet Axelera Zugriff auf die vollständige Suite von YOLO-Modellen zur Evaluierung und Entwicklung. Für den kommerziellen Einsatz müssen die Kunden ihre eigene Lizenz direkt von Ultralytics über das Lizenzformular erwerben, um die Einhaltung der Vorschriften zu gewährleisten und skalierbare Innovationen im Bereich Vision AI at the Edge zu unterstützen.

Nutzung von Ultralytics YOLO-Modellen in großem Maßstab mit dem Voyager SDK von Axelera AI

Mit den YOLO-Modellen von Ultralytics und dem Voyager SDK von Axelera AI können Anwender präzise Computer-Vision-Anwendungen mit geringer Latenz direkt auf den Metis AI Processing Units einsetzen. Durch den Zugriff auf mehrere YOLO-Varianten können Kunden außerdem die Leistung an die spezifischen Anforderungen ihrer Anwendung anpassen.

Axelera AI hat zum Beispiel gesehen, wie Kunden YOLO-gestützte Lösungen in einer Vielzahl von Bereichen getestet haben:

• Einzelhandel: Multimodell-Pipelines, die Posenschätzung, Segmentierung und Objekterkennung kombinieren, können zur Unterstützung von Aufgaben wie Warenschwundreduzierung und Bestandsverfolgung eingesetzt werden. Diese Implementierungen laufen effizient auf eingebetteten Plattformen wie dem Raspberry Pi 5 in Kombination mit der Metis AIPU.
  
  
• Fertigung: Kunden können die parallele Ausführung von Modellen nutzen, um gleichzeitige Aufgaben wie Fehlererkennung, Produktklassifizierung und Posenschätzung auf einem einzigen Chip durchzuführen, um den Durchsatz zu erhöhen und die Hardwarekosten zu senken.
  
  
• Überwachen: Die Echtzeit-Objekterkennungsfunktionen von YOLO können verwendet werden, um 4K- und 8K-Videoströme in voller Auflösung zu analysieren, was eine hochpräzise Sicherheitsüberwachung und Situationserkennung in kritischen Umgebungen ermöglicht. Dies ist eine viel bessere Lösung als die herkömmliche Herunterskalierung bei hochauflösenden Kameras.
  
  
• Gesundheitswesen: Optimierte YOLO-Pipelines können die Tumoridentifizierung unterstützen und bieten eine hohe Inferenzgeschwindigkeit und zuverlässige Genauigkeit für die medizinische Bildgebung auf Geräten.

Diese Anwendungsfälle zeigen, wie die Edge AI-Hardware von Axelera AI und die YOLO-Modelle von Ultralytics hochleistungsfähige, energieeffiziente Vision AI-Innovationen in verschiedenen Branchen ermöglichen.

Die nächste Welle von Edge AI mit Ultralytics YOLO

Axelera AI konzentriert sich weiterhin darauf, den Zugang zu hochleistungsfähiger Edge-KI zu erweitern und bringt leistungsstarke Hardware mit zuverlässigen Bildverarbeitungsmodellen zusammen, damit Kunden intelligentere und schnellere Anwendungen entwickeln können. 

Mit den YOLO-Modellen von Ultralytics, die über das Voyager SDK und die Metis AIPU-Hardware zur Verfügung stehen, können Anwender einfach Echtzeit-Computer-Vision-Lösungen für verschiedene Branchen entwickeln und skalieren. Diese Zusammenarbeit unterstützt eine wachsende Gemeinschaft von Entwicklern und Unternehmen, die daran arbeiten, KI näher an den Ort der Datenerstellung zu bringen und so die Effizienz, Reaktionsfähigkeit und Innovation an der Schnittstelle zu verbessern.

Sind Sie bereit, Ihre KI-Reise zu beschleunigen? Erkunden Sie unser GitHub-Repository und sehen Sie, wie YOLO-Modelle Innovationen wie KI im Einzelhandel und Computer Vision in der Logistik vorantreiben. Lernen Sie unsere Vision AI-Tools in der Praxis kennen, informieren Sie sich über Lizenzierungsoptionen und entdecken Sie, wie Sie hochleistungsfähige, energieeffiziente Computer Vision im Edge-Bereich nutzen können.