Compatibilidad de los modelos Ultralytics YOLO con el hardware de Axelera AI para la IA en el edge

En Ultralytics, estamos observando una tendencia creciente a ejecutar modelos de visión artificial directamente en dispositivos edge a medida que la IA se adopta cada vez más. En nuestras conversaciones con la comunidad de visión artificial, tanto en línea como en persona durante las últimas conferencias tecnológicas, nuestro equipo ha constatado un interés cada vez mayor por implementar la IA visual más cerca del lugar donde se generan los datos.

Desde los entornos de venta minorista inteligente y la automatización industrial hasta la robótica, la información en tiempo real es cada vez más esencial, y depender únicamente de la nube ya no es suficiente.

En pocas palabras, la IA en el edge consiste en ejecutar modelos de IA localmente en dispositivos, en lugar de enviar los datos a servidores centralizados para procesarlos. Esto permite reducir la latencia, mejorar la fiabilidad y responder a eventos del mundo real en tiempo real.

Sin embargo, implementar modelos de alto rendimiento en estos entornos plantea sus propios retos, ya que los recursos informáticos limitados y las restricciones de consumo energético obligan a que los modelos sean eficientes y estén optimizados para el hardware en el que se ejecutan.

Los modelos Ultralytics YOLO, como Ultralytics YOLO26, están diseñados para la visión artificial en tiempo real, pero para aprovechar todo su potencial en el edge se necesita la combinación adecuada de software y hardware. Por eso nos alegra anunciar nuestra colaboración con Axelera AI.

Nos hemos asociado con Axelera AI para presentar una integración de exportación actualizada que permite implementar modelos Ultralytics YOLO de forma eficiente y con alto rendimiento en las unidades de procesamiento de IA Metis® (AIPUs).

Fig. 1. Vista de una unidad de procesamiento de IA Metis (Fuente)

En este artículo exploraremos cómo compilar modelos Ultralytics YOLO para implementarlos en Metis.

La IA en el edge es el futuro de la visión artificial#

A medida que evolucionan las aplicaciones de visión artificial, la necesidad de un procesamiento más rápido y eficiente es cada vez más crucial. Los enfoques tradicionales basados en la nube pueden introducir latencia, depender de una conectividad estable y no satisfacer las exigencias en tiempo real de muchos casos de uso de visión inteligente.

La IA en el edge aborda estos retos al permitir que los modelos se ejecuten directamente en dispositivos locales, de modo que los datos se procesen más cerca de su origen. Por ejemplo, piensa en los drones con visión artificial utilizados en operaciones de búsqueda y rescate.

Estos sistemas deben analizar las señales de vídeo en tiempo real para detectar personas, obstáculos o peligros, a menudo en zonas remotas con una conectividad a Internet limitada o inexistente. Al ejecutar modelos de visión artificial directamente en el dron, la IA en el edge permite tomar decisiones más rápido y ofrece un rendimiento más fiable sin depender de la infraestructura en la nube.

Este cambio abre nuevas posibilidades en diversos sectores. Aplicaciones como la detección de objetos en tiempo real en comercios, la inspección automatizada de calidad en la fabricación y la percepción en robótica se benefician de tiempos de respuesta más rápidos y una mayor fiabilidad.

La IA en el edge se está convirtiendo rápidamente en un elemento clave para implementar sistemas de visión artificial escalables y con capacidad de respuesta en entornos reales.

Descubre las unidades de procesamiento de IA Metis de Axelera AI#

Antes de profundizar en la nueva integración de exportación, demos un paso atrás para conocer mejor las unidades de procesamiento de IA Metis de Axelera AI y el papel que desempeñan para hacer posible una IA en el edge eficiente.

Axelera AI desarrolla hardware diseñado específicamente para acelerar la inferencia de IA en el edge. Una pieza clave es la AIPU Metis, o unidad de procesamiento de IA, un procesador especializado creado para ejecutar redes neuronales de forma eficiente en dispositivos edge.

A diferencia de las unidades centrales de procesamiento (CPUs) de uso general o incluso de las unidades de procesamiento gráfico (GPUs), las AIPUs están diseñadas para gestionar los patrones de cálculo específicos de las cargas de trabajo de IA. Esto les permite ofrecer un alto rendimiento con un consumo energético bajo, algo fundamental en entornos edge, donde los recursos suelen ser limitados.

Lo que distingue el enfoque de Axelera AI es su diseño integral. Metis se basa en computación digital en memoria (D-IMC) y RISC-V para ofrecer un alto rendimiento con la eficiencia energética que requiere la computación en el edge. Los cuatro núcleos de Metis se pueden programar de forma independiente, lo que permite ejecutar cuatro modelos en paralelo por chip. Además del hardware, Voyager SDK incluye un compilador y un entorno de ejecución que trabajan conjuntamente para optimizar los modelos para su implementación.

Esto permite a los desarrolladores pasar de modelos entrenados a inferencias listas para producción de forma más eficiente. En concreto, las AIPUs Metis hacen posible ejecutar modelos avanzados de visión artificial, como los modelos Ultralytics YOLO, directamente en dispositivos edge, tanto en entornos empresariales, comerciales, sanitarios y de fabricación como en equipos agrícolas e industriales y satélites.

Exportación de modelos Ultralytics YOLO para implementarlos en Metis#

El paquete de Python Ultralytics proporciona una interfaz unificada para entrenar, evaluar e implementar modelos YOLO en una amplia variedad de tareas de visión artificial. Los modelos YOLO suelen desarrollarse y entrenarse con PyTorch, una herramienta muy adecuada para la experimentación y el desarrollo de modelos.

Sin embargo, para implementar estos modelos en hardware edge especializado, hay que convertirlos a un formato optimizado para el dispositivo de destino. Aquí es donde entran en juego las integraciones de exportación compatibles con el paquete de Python Ultralytics.

Ultralytics ofrece diversas opciones de exportación que permiten convertir los modelos YOLO a distintos formatos según el destino de la implementación, como ONNX, TensorRT y otros backends específicos del hardware. Estas integraciones simplifican la preparación de modelos para aplicaciones reales al gestionar los pasos necesarios de optimización y conversión.

Sobre esta base, Ultralytics ha incorporado una integración con Axelera AI actualizada que permite exportar modelos YOLO para implementarlos en AIPUs Metis.

Durante la exportación, el modelo se compila y cuantiza en una representación optimizada y diseñada específicamente para el hardware de Axelera. El proceso genera un modelo compilado en formato «.axm», junto con los metadatos necesarios para la implementación y la inferencia.

Fig. 2. Los modelos Ultralytics YOLO se pueden ejecutar en AIPUs Metis. (Fuente)

La integración admite una amplia variedad de tareas de visión artificial en los modelos Ultralytics YOLOv8, Ultralytics YOLO11 y Ultralytics YOLO26, como la detección de objetos, la segmentación de instancias, la clasificación de imágenes, la estimación de poses y la detección de cuadros delimitadores orientados (OBB). Las versiones actuales exportan directamente todas las tareas de Ultralytics, incluida la segmentación semántica y la estimación de profundidad de YOLO26; consulta las tareas admitidas para obtener más información. El zoo de modelos de Voyager SDK también incluye modelos YOLO listos para ejecutar.

Esta ampliación de la compatibilidad ofrece a los desarrolladores la flexibilidad de implementar distintos tipos de modelos de visión según la aplicación, desde la detección de objetos en tiempo real hasta la comprensión de escenas, el seguimiento del movimiento y el análisis de datos visuales complejos.

Una vez exportados, los modelos se pueden implementar y ejecutar sin depender de PyTorch durante la inferencia. En su lugar, se ejecutan con el entorno de ejecución de Voyager SDK, que permite crear procesos integrales para tareas como el procesamiento de vídeo, la detección en tiempo real y el seguimiento, directamente en dispositivos edge.

Primeros pasos para exportar modelos Ultralytics YOLO#

Ahora que conocemos mejor la nueva integración de exportación, veamos cómo exportar modelos Ultralytics YOLO a este formato personalizado y ejecutarlos en hardware Metis en el edge.

Paso 1: Instala el paquete de Python Ultralytics#

Para empezar, primero tendrás que instalar el paquete de Python Ultralytics. Proporciona una interfaz sencilla y coherente para entrenar, evaluar y exportar modelos YOLO.

Puedes instalarlo con pip ejecutando el siguiente comando en el terminal o en el símbolo del sistema:

pip install ultralytics

Si tienes algún problema durante la instalación o la exportación, la documentación oficial de Ultralytics y la guía de problemas frecuentes son recursos excelentes para solucionarlo.

Paso 2: Instala los controladores de Axelera y Voyager SDK#

Para exportar y ejecutar modelos en hardware Axelera, también tendrás que instalar los controladores de Axelera y Voyager SDK. Este paso permite la comunicación con la AIPU Metis y proporciona las herramientas necesarias del compilador y del entorno de ejecución.

Los siguientes pasos deben realizarse en un entorno Linux con acceso al hardware Metis de Axelera AI. Abre un terminal en tu sistema o utiliza una celda de notebook si ejecutas Jupyter Notebook en una configuración local compatible, y ejecuta los siguientes comandos.

Empieza por añadir la clave del repositorio de Axelera de la siguiente forma:

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

A continuación, como se muestra aquí, añade el repositorio de Axelera a tu sistema:

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

Después, instala Voyager SDK y carga el controlador de Metis de la siguiente forma:

sudo apt update
sudo apt install -y metis-dkms
sudo modprobe metis

Cuando completes estos pasos, tu sistema estará listo para exportar y ejecutar modelos Ultralytics YOLO en dispositivos Metis de Axelera AI.

Paso 3: Exporta modelos Ultralytics YOLO#

Una vez instalado el paquete Ultralytics, puedes cargar tu modelo YOLO y exportarlo como paquete compilado para Metis. Este proceso convierte el modelo a un formato optimizado para implementarlo en hardware Metis de Axelera AI.

En el siguiente ejemplo, utilizamos un modelo YOLO26 nano preentrenado y lo exportamos para Metis. El modelo exportado se guardará en un directorio llamado «yolo26n_axelera_model».

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

Paso 4: Ejecuta la inferencia con el modelo exportado#

Después de exportar el modelo, puedes cargarlo y ejecutar inferencias con imágenes desconocidas o flujos de vídeo. Así podrás realizar tareas de visión artificial en tiempo real directamente en dispositivos Metis de Axelera AI.

Por ejemplo, el fragmento de código siguiente muestra cómo cargar el modelo exportado y ejecutar una inferencia en una URL disponible públicamente.

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

En este caso, el modelo analiza la imagen de entrada y detecta objetos, y guarda los resultados en el directorio «runs/detect/predict».

Dónde pueden marcar la diferencia Ultralytics YOLO y el hardware de Axelera AI#

A continuación, veamos algunas aplicaciones habituales de IA en el edge en las que se pueden implementar modelos Ultralytics YOLO en hardware Axelera AI para casos reales.

Las AIPU Metis de Axelera AI están diseñadas para distintos entornos de implementación, desde sistemas integrados y PC industriales hasta robótica y servidores edge. Gracias a una inferencia de alto rendimiento y eficiencia energética, permiten ejecutar aplicaciones de visión artificial directamente en el dispositivo en distintos sectores. Voyager SDK también incluye un creador de pipelines que ayuda a los ingenieros de aprendizaje automático y de aplicaciones a convertir modelos en productos para el edge.

Sistemas de visión inteligente en comercios que funcionan en el edge#

En los entornos comerciales, comprender el comportamiento de los clientes en tiempo real puede marcar una gran diferencia.

Con modelos Ultralytics YOLO ejecutándose en hardware Axelera AI, las tiendas pueden supervisar el tránsito de personas, contar clientes y analizar sus patrones de movimiento dentro del establecimiento a medida que se producen. Como todo se ejecuta en el dispositivo, se pueden generar datos útiles al instante sin depender de la conexión a la nube, lo que ayuda a los equipos a responder más rápido y mantener la privacidad de los datos.

Fig. 3. Detección y recuento de personas en un centro comercial con Ultralytics YOLO26

Uso de la IA en el edge para inspeccionar servicios públicos e infraestructuras#

El mantenimiento de infraestructuras a gran escala, como las líneas eléctricas, es complejo y requiere muchos recursos. Estas redes suelen extenderse a lo largo de grandes distancias, por lo que las inspecciones llevan tiempo, son costosas y pueden entrañar peligros. Si no se detectan fallos o los primeros indicios de desgaste, pueden acabar provocando cortes del servicio, daños en los equipos o riesgos para la seguridad.

Cada vez se utilizan más drones para mejorar la eficiencia de las inspecciones. Pueden cubrir grandes distancias, acceder a zonas de difícil alcance y captar imágenes de alta resolución de activos críticos.

La combinación de drones con IA en el borde mejora aún más estos flujos de trabajo. Los modelos Ultralytics YOLO que se ejecutan en hardware de Axelera AI permiten realizar análisis en tiempo real durante las inspecciones, identificar fallos, clasificar componentes y detectar anomalías in situ. Esto reduce la necesidad de revisión manual y facilita una supervisión de infraestructuras más rápida y fiable.

Fig. 4. Detección de distintas partes de una línea eléctrica con Ultralytics YOLO26

Impulsa la robótica con información práctica de visión con IA en tiempo real#

En robótica, la velocidad y la capacidad de respuesta son fundamentales. Tanto si se desplazan por un almacén como si operan en entornos industriales dinámicos, los robots deben interpretar su entorno al instante.

Los modelos Ultralytics YOLO que se ejecutan en hardware de Axelera AI permiten a los robots interpretar su entorno en tiempo real, desde detectar obstáculos hasta seguir a personas e identificar objetos. Esto permite que los sistemas se muevan con mayor seguridad, se adapten a condiciones dinámicas y funcionen con más autonomía, sin depender de una conexión constante a la nube.

Ventajas clave de ejecutar modelos Ultralytics YOLO en AIPU Metis#

Estas son algunas de las principales ventajas de implementar modelos Ultralytics YOLO en el hardware Metis de Axelera AI con la nueva integración:

• Integración con el flujo de trabajo de Ultralytics: La exportación de modelos YOLO para su implementación en Metis se integra de forma natural en el paquete de Python de Ultralytics y simplifica la transición del entrenamiento a la inferencia.
• Compatibilidad con varias tareas de visión artificial: Puedes implementar modelos para la detección de objetos, la segmentación, la clasificación, la estimación de poses y otras tareas con YOLOv8, YOLO11 y YOLO26.
• Ejecuta modelos en paralelo: Las AIPU Metis están diseñadas con cuatro núcleos programables de forma independiente, capaces de ejecutar cuatro modelos distintos en paralelo para adaptarse a tus necesidades.
• Escalabilidad para aplicaciones de IA en el borde: Desde el análisis de datos en el comercio minorista y la inspección industrial hasta la robótica y las infraestructuras inteligentes, la integración admite una amplia variedad de casos de uso reales.

Conclusiones clave#

Los modelos Ultralytics YOLO y las AIPU Metis de Axelera AI facilitan la incorporación de visión artificial de alto rendimiento al borde. Al simplificar la implementación y optimizar los modelos para hardware especializado, esta integración ayuda a cerrar la brecha entre el desarrollo y las aplicaciones del mundo real.

A medida que la IA en el borde sigue creciendo, disponer de opciones de implementación eficientes y escalables será clave para crear sistemas ágiles y fiables. Esta colaboración es un paso hacia una mayor accesibilidad de la IA de visión avanzada en todos los sectores.

¿Quieres aprender más sobre IA? Explora nuestro repositorio de GitHub, conecta con nuestra comunidad y consulta nuestras opciones de licencia para poner en marcha tu proyecto de visión artificial. Descubre cómo innovaciones como la IA en el comercio minorista y la visión artificial en la sanidad están dando forma al futuro.