Axelera AI ofrece 34 FPS de inferencia de IA en el borde usando Ultralytics YOLO

Axelera AI es una empresa europea de semiconductores que fabrica chips de IA potentes y energéticamente eficientes para ejecutar visión artificial en el edge. Por ejemplo, sus Metis AI Processing Units (AIPUs) se utilizan en sectores como el comercio minorista, la seguridad y la fabricación.

Para facilitar a los clientes la creación y el despliegue de aplicaciones de IA, Axelera integró los modelos de Ultralytics YOLO en su Voyager SDK, una plataforma de software que agiliza la optimización, el despliegue y la aceleración de modelos en los Metis AIPUs, haciendo que la Vision AI en tiempo real sea más rápida, sencilla y escalable.

Link to this sectionRedefiniendo la aceleración de hardware para Vision AI#

Fundada en 2021 y con sede en los Países Bajos, Axelera AI se propuso resolver un problema fundamental: el hardware de IA tradicional estaba diseñado para la nube, no para el edge. Para cerrar esta brecha, la empresa desarrolló la Metis AIPU.

Se trata de un chip de alto rendimiento y bajo consumo diseñado específicamente para cargas de trabajo en el edge: tareas de IA que se ejecutan localmente en dispositivos donde la velocidad, la privacidad y la eficiencia energética son fundamentales.

Está respaldado por su tecnología patentada Digital In-Memory Compute (D-IMC), que hace posible que los datos se procesen directamente donde se almacenan, reduciendo drásticamente la latencia y el consumo de energía. Con una pila de software totalmente integrada y la misión de democratizar la IA, Axelera está haciendo que la IA de alto rendimiento sea más accesible.

Link to this sectionEl reto de ejecutar modelos en hardware de IA en el edge#

Para ofrecer una experiencia de IA fluida en el edge, Axelera AI pretendía ofrecer algo más que hardware de alto rendimiento. Los clientes también necesitaban una forma sencilla y fiable de ejecutar soluciones de visión artificial en tiempo real que no implicara herramientas complicadas ni personalizaciones lentas. Muchos modelos existentes eran demasiado grandes, lentos o no estaban bien adaptados a entornos con recursos limitados.

El análisis minorista, la automatización de fábricas y los sistemas de vigilancia suelen depender de información visual rápida y precisa para apoyar las operaciones. Sin embargo, los modelos tradicionales y las soluciones basadas en la nube suelen ser incapaces de cumplir los requisitos de baja latencia, eficiencia energética y procesamiento en el dispositivo de estas aplicaciones de IA en el edge.

Axelera empezó a buscar un conjunto de modelos que fuera preciso, fácil de implementar y capaz de ejecutarse eficientemente en sus Metis AI Processing Units. La solución adecuada complementaría sus capacidades de hardware a la vez que simplificaría el desarrollo y aceleraría el despliegue en una amplia gama de casos de uso de IA en el edge.

Link to this sectionInferencias de IA aceleradas en el edge con Ultralytics YOLO#

Axelera AI integró los modelos de Ultralytics YOLO en su Voyager SDK para hacer que la creación y el despliegue de aplicaciones de IA en el edge sean más rápidos, sencillos y escalables. El SDK incluye un Model Zoo con modelos YOLO listos para usar y automatiza toda la canalización, cubriendo el preprocesamiento, la inferencia y el postprocesamiento, optimizados para las Metis AI Processing Units.

Fig 1. Metis AI Processing Unit (AIPU).

Esta integración permite a los clientes utilizar modelos pre-entrenados de Ultralytics YOLO directamente o traer los suyos propios, con una aceleración fluida en el hardware del edge. Gracias a la compatibilidad con la ejecución de modelos en paralelo y en cascada, las Metis AIPUs permiten configuraciones avanzadas multimodelo, como la estimación de poses seguida de la segmentación. Esto es ideal para tareas complejas en el comercio minorista, la seguridad y la automatización industrial.

La combinación de tareas de visión artificial en tiempo real, compatibles con los modelos de Ultralytics YOLO, y la eficiente pila de hardware y software de Axelera ofrece un rendimiento excepcional por vatio y por dólar. Para los clientes, esto significa resultados más precisos, un despliegue más rápido y una menor barrera para escalar la Vision AI en el edge.

Link to this section¿Por qué elegir los modelos Ultralytics YOLO?#

Axelera AI se asoció con Ultralytics para integrar los modelos de Ultralytics YOLO en su plataforma por su excepcional equilibrio entre precisión, velocidad y facilidad de uso. Con compatibilidad para múltiples variantes de Ultralytics YOLO, los clientes de Axelera AI pueden evaluar una amplia gama de cargas de trabajo y necesidades de rendimiento en la Metis AIPU.

A través de una licencia empresarial de Ultralytics, Axelera ofrece acceso al conjunto completo de modelos YOLO para su evaluación y desarrollo. Para el despliegue comercial, los clientes deben obtener su propia licencia directamente de Ultralytics a través del formulario de licencia, lo que garantiza el cumplimiento y apoya la innovación escalable en Vision AI en el edge.

Link to this sectionAprovechando los modelos de Ultralytics YOLO a escala con el Voyager SDK de Axelera AI#

Con los modelos de Ultralytics YOLO y el Voyager SDK de Axelera AI, los usuarios pueden desplegar aplicaciones de visión artificial precisas y de baja latencia directamente en las Metis AI Processing Units. Además, tener acceso a múltiples variantes de YOLO permite a los clientes ajustar el rendimiento en función de las necesidades específicas de su aplicación.

Por ejemplo, Axelera AI ha visto a clientes probar soluciones basadas en YOLO en diversos ámbitos como:

• Comercio minorista: Se pueden utilizar canalizaciones multimodelo que combinan la estimación de poses, la segmentación y la detección de objetos para tareas como la reducción de mermas y el control de inventario. Estos despliegues se ejecutan de forma eficiente en plataformas integradas como la Raspberry Pi 5 junto con la Metis AIPU.
• Fabricación: Los clientes pueden utilizar la ejecución de modelos en paralelo para realizar tareas simultáneas, como la detección de defectos, la clasificación de productos y la estimación de poses, en un solo chip para mejorar el rendimiento y reducir los costes de hardware.
• Vigilancia: Las capacidades de detección de objetos en tiempo real de YOLO pueden utilizarse para analizar flujos de vídeo 4K y 8K a resolución completa, facilitando una monitorización de la seguridad y una conciencia situacional de alta precisión en entornos críticos. Esta es una solución mucho mejor que la reducción de escala tradicional en cámaras de alta resolución.
• Sanidad: Las canalizaciones optimizadas de YOLO pueden ayudar a identificar tumores, ofreciendo una alta velocidad de inferencia y una precisión fiable para la obtención de imágenes médicas en el dispositivo.

Estos casos de uso demuestran cómo el hardware de IA en el edge de Axelera AI y los modelos de Ultralytics YOLO potencian innovaciones de Vision AI de alto rendimiento y bajo consumo energético en todos los sectores.

Link to this sectionImpulsando la próxima ola de IA en el edge con Ultralytics YOLO#

A medida que Axelera AI sigue centrándose en ampliar el acceso a la IA en el edge de alto rendimiento, reúne hardware potente y modelos de visión fiables para ayudar a los clientes a construir aplicaciones más inteligentes y rápidas.

Con los modelos de Ultralytics YOLO disponibles a través del Voyager SDK y el hardware Metis AIPU, los usuarios pueden desarrollar y escalar fácilmente soluciones de visión artificial en tiempo real en todos los sectores. Esta colaboración apoya a una comunidad creciente de desarrolladores y empresas que trabajan para llevar la IA más cerca de donde se crean los datos, mejorando la eficiencia, la capacidad de respuesta y la innovación en el edge.

¿Listo para acelerar tu viaje hacia la IA en el edge? Explora nuestro repositorio de GitHub para ver cómo los modelos YOLO están impulsando innovaciones como la IA en el comercio minorista y la visión artificial en la logística. Familiarízate con nuestras herramientas de Vision AI, infórmate sobre las opciones de licencia y descubre cómo puedes desbloquear una visión artificial de alto rendimiento y bajo consumo energético en el edge.