Lleva los modelos Ultralytics YOLO al hardware de Axelera AI para la IA en el edge

En Ultralytics, estamos observando una tendencia cada vez mayor a ejecutar modelos de visión artificial directamente en dispositivos edge a medida que se adopta la IA de forma más generalizada. En nuestras conversaciones con la comunidad de visión artificial, tanto en línea como en persona en las últimas conferencias tecnológicas, nuestro equipo ha observado un interés creciente por desplegar la IA visual más cerca del lugar donde se generan los datos.

Desde los comercios inteligentes y la automatización industrial hasta la robótica, obtener información en tiempo real es cada vez más esencial, y depender únicamente de la nube ya no es suficiente.

En pocas palabras, la IA en el edge consiste en ejecutar modelos de IA localmente en los dispositivos, en lugar de enviar los datos a servidores centralizados para procesarlos. Esto permite reducir la latencia, mejorar la fiabilidad y responder en tiempo real a los eventos del mundo real.

Sin embargo, desplegar modelos de alto rendimiento en estos entornos plantea sus propios desafíos, ya que los recursos de computación limitados y las restricciones de consumo energético exigen que los modelos sean eficientes y estén optimizados para el hardware en el que se ejecutan.

Los modelos Ultralytics YOLO, como Ultralytics YOLO26, están diseñados para la visión artificial en tiempo real, pero para aprovechar todo su potencial en el edge se necesita la combinación adecuada de software y hardware. Por eso, nos complace anunciar nuestra colaboración con Axelera AI.

Nos hemos asociado con Axelera AI para presentar una integración de exportación actualizada que permite desplegar los modelos Ultralytics YOLO de forma eficiente y con alto rendimiento en las unidades de procesamiento de IA Metis® (AIPUs).

Fig. 1. Una unidad de procesamiento de IA Metis (Fuente)

En este artículo, veremos cómo compilar fácilmente modelos Ultralytics YOLO para desplegarlos en Metis. ¡Empecemos!

La IA en el edge es el futuro de la visión artificial#

A medida que evolucionan las aplicaciones de visión artificial, la necesidad de procesar los datos con mayor rapidez y eficiencia cobra cada vez más importancia. Los enfoques tradicionales basados en la nube pueden introducir latencia, depender de una conexión estable y no satisfacer las exigencias de tiempo real de muchos casos de uso de visión inteligente.

La IA en el edge aborda estos desafíos al permitir que los modelos se ejecuten directamente en dispositivos locales y que los datos se procesen más cerca de su origen. Por ejemplo, piensa en los drones con visión artificial que se utilizan en operaciones de búsqueda y rescate.

Estos sistemas deben analizar transmisiones de vídeo en tiempo real para detectar personas, obstáculos o peligros, a menudo en zonas remotas con una conexión a internet limitada o inexistente. Al ejecutar modelos de visión artificial directamente en el dron, la IA en el edge permite tomar decisiones más rápidamente y obtener un rendimiento más fiable sin depender de la infraestructura en la nube.

Este cambio está abriendo nuevas posibilidades en distintos sectores. Aplicaciones como la detección de objetos en tiempo real en comercios, la inspección automatizada de calidad en la fabricación y la percepción en robótica se benefician de tiempos de respuesta más rápidos y una mayor fiabilidad.

La IA en el edge se está convirtiendo rápidamente en un elemento clave para desplegar sistemas de visión artificial escalables y con capacidad de respuesta en entornos reales.

Descubre las unidades de procesamiento de IA Metis de Axelera AI#

Antes de profundizar en la nueva integración de exportación, demos un paso atrás y conozcamos mejor las unidades de procesamiento de IA Metis de Axelera AI y el papel que desempeñan para hacer posible una IA en el edge eficiente.

Axelera AI desarrolla hardware especializado diseñado específicamente para acelerar la inferencia de IA en el edge. Una pieza clave es la AIPU Metis, o unidad de procesamiento de IA, un procesador especializado creado para ejecutar redes neuronales de forma eficiente en dispositivos edge.

A diferencia de las unidades centrales de procesamiento (CPUs) de propósito general, e incluso de las unidades de procesamiento gráfico (GPUs), las AIPU están diseñadas para gestionar los patrones computacionales específicos de las cargas de trabajo de IA. Esto les permite ofrecer un alto rendimiento con un consumo energético reducido, algo fundamental en entornos edge, donde los recursos suelen ser limitados.

Lo que hace especialmente innovador el enfoque de Axelera AI es su diseño integral. Metis se basa en la computación digital en memoria (D-IMC) y RISC-V para ofrecer un alto rendimiento con la eficiencia energética que exige la computación en el edge. Los cuatro núcleos de Metis se pueden programar de forma independiente, por lo que puedes ejecutar cuatro modelos en paralelo por chip. Además del hardware, Voyager SDK incluye un compilador y un entorno de ejecución que trabajan conjuntamente para optimizar los modelos para su despliegue.

Esto permite a los desarrolladores pasar de los modelos entrenados a una inferencia lista para producción de forma más eficiente. En concreto, las AIPU Metis permiten ejecutar modelos avanzados de visión artificial, como los modelos Ultralytics YOLO, directamente en dispositivos edge, desde entornos empresariales, comercios, centros sanitarios y plantas de fabricación hasta explotaciones agrícolas, equipos industriales y satélites.

Exportación de modelos Ultralytics YOLO para desplegarlos en Metis#

El paquete Ultralytics para Python ofrece una interfaz unificada para entrenar, evaluar y desplegar modelos YOLO en una amplia variedad de tareas de visión artificial. Los modelos YOLO suelen desarrollarse y entrenarse con PyTorch, que resulta muy adecuado para la experimentación y el desarrollo de modelos.

Sin embargo, al desplegar estos modelos en hardware edge especializado, hay que convertirlos a un formato optimizado para el dispositivo de destino. Aquí es donde entran en juego las integraciones de exportación compatibles con el paquete Ultralytics para Python.

Ultralytics ofrece varias opciones de exportación que permiten convertir modelos YOLO a distintos formatos según el destino del despliegue, como ONNX, TensorRT y otros backends específicos de hardware. Estas integraciones simplifican la preparación de modelos para aplicaciones reales al encargarse de los pasos necesarios de optimización y conversión.

Como parte de este trabajo, Ultralytics ha presentado una integración con Axelera AI actualizada que permite exportar modelos YOLO para desplegarlos en AIPU Metis.

Durante la exportación, el modelo se compila y cuantiza en una representación optimizada y diseñada específicamente para el hardware de Axelera. El proceso genera un modelo compilado en formato ".axm", junto con los metadatos necesarios para el despliegue y la inferencia.

Fig. 2. Los modelos Ultralytics YOLO se pueden ejecutar en AIPU Metis. (Fuente)

La integración es compatible con una amplia variedad de tareas de visión artificial en Ultralytics YOLOv8, Ultralytics YOLO11 y los modelos Ultralytics YOLO26, como la detección de objetos, la estimación de pose, la segmentación de instancias, la detección con cajas delimitadoras orientadas (OBB) y la clasificación de imágenes. Aunque la mayoría de las tareas son compatibles directamente mediante el flujo de exportación, puedes utilizar la segmentación de YOLO26 a través del catálogo de modelos con Voyager SDK.

Esta compatibilidad ampliada ofrece a los desarrolladores flexibilidad para desplegar distintos tipos de modelos de visión según la aplicación, desde detectar objetos en tiempo real hasta comprender escenas, seguir movimientos y analizar datos visuales complejos.

Una vez exportados, los modelos se pueden desplegar y ejecutar sin depender de PyTorch durante la inferencia. En su lugar, se ejecutan mediante el entorno de ejecución de Voyager SDK, compatible con la creación de flujos de procesamiento integrales para tareas como el procesamiento de vídeo, la detección en tiempo real y el seguimiento directamente en dispositivos edge.

Primeros pasos para exportar modelos Ultralytics YOLO#

Ahora que conocemos mejor la nueva integración de exportación, veamos cómo exportar modelos Ultralytics YOLO a este formato personalizado y ejecutarlos en hardware Metis en el edge.

Paso 1: instala el paquete Python de Ultralytics#

Para empezar, primero tendrás que instalar el paquete Ultralytics para Python. Ofrece una interfaz sencilla y coherente para entrenar, evaluar y exportar modelos YOLO.

Puedes instalarlo con pip ejecutando el siguiente comando en el terminal o en el símbolo del sistema:

pip install ultralytics

Si tienes algún problema durante la instalación o la exportación, la documentación oficial de Ultralytics y la guía de problemas frecuentes son recursos muy útiles para solucionarlo.

Paso 2: Instala los controladores de Axelera y Voyager SDK#

Para exportar y ejecutar modelos en el hardware de Axelera, también tendrás que instalar los controladores de Axelera y Voyager SDK. Este paso permite la comunicación con la AIPU Metis y proporciona las herramientas necesarias de compilación y entorno de ejecución.

Los siguientes pasos deben realizarse en un entorno Linux con acceso al hardware Metis de Axelera AI. Abre un terminal en tu sistema o utiliza una celda del cuaderno si ejecutas Jupyter Notebook en una configuración local compatible, y ejecuta los comandos siguientes.

Empieza por añadir la clave del repositorio de Axelera de la siguiente forma:

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

A continuación, añade el repositorio de Axelera a tu sistema, como se muestra aquí:

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

Después, instala Voyager SDK y carga el controlador Metis de la siguiente forma:

sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis

Cuando completes estos pasos, tu sistema estará listo para exportar y ejecutar modelos Ultralytics YOLO en dispositivos Metis de Axelera AI.

Paso 3: Exporta modelos Ultralytics YOLO#

Una vez instalado el paquete Ultralytics, puedes cargar tu modelo YOLO y exportarlo como un paquete compilado para Metis. Este proceso convierte el modelo a un formato optimizado para desplegarlo en el hardware Metis de Axelera AI.

En el ejemplo siguiente, usamos un modelo YOLO26 nano preentrenado y lo exportamos para Metis. El modelo exportado se guardará en un directorio llamado "/yolo26n_axelera_model".

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

Paso 4: Ejecuta la inferencia con el modelo exportado#

Después de exportar el modelo, puedes cargarlo y ejecutar inferencias con imágenes desconocidas o flujos de vídeo. Esto permite realizar tareas de visión artificial en tiempo real directamente en dispositivos Metis de Axelera AI.

Por ejemplo, el fragmento de código siguiente muestra cómo cargar el modelo exportado y ejecutar una inferencia con una URL disponible públicamente.

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

En este caso, el modelo analiza la imagen de entrada y detecta objetos, y guarda los resultados en el directorio "runs/detect/predict".

Cómo pueden influir Ultralytics YOLO y el hardware de Axelera AI#

A continuación, veremos algunas aplicaciones habituales de IA en el edge en las que se pueden desplegar modelos Ultralytics YOLO en hardware de Axelera AI para casos reales.

Las AIPU Metis de Axelera AI están diseñadas para diversos entornos de despliegue, desde sistemas integrados y PC industriales hasta robótica y servidores edge. Gracias a la inferencia de alto rendimiento y eficiencia energética, permiten ejecutar aplicaciones de visión artificial directamente en el dispositivo en distintos sectores. Voyager SDK también incluye un creador de flujos de procesamiento para que los ingenieros de ML y APP puedan convertir modelos en productos para el edge.

Sistemas de visión inteligente en comercios que funcionan en el edge#

En los comercios, comprender el comportamiento de los clientes en tiempo real puede marcar una gran diferencia.

Al ejecutar modelos Ultralytics YOLO en hardware de Axelera AI, las tiendas pueden controlar el tránsito de clientes, contar personas y analizar en tiempo real sus patrones de movimiento dentro del establecimiento. Como todo se ejecuta en el dispositivo, la información se obtiene al instante sin depender de la conexión a la nube, lo que ayuda a los equipos a responder más rápido y mantener la privacidad de los datos.

Fig. 3. Detección y recuento de personas en un centro comercial con Ultralytics YOLO26

Uso de la IA en el edge para inspeccionar servicios públicos e infraestructuras#

El mantenimiento de infraestructuras a gran escala, como las líneas eléctricas, es complejo y requiere muchos recursos. Estas redes suelen cubrir enormes distancias, por lo que las inspecciones llevan mucho tiempo, son costosas y pueden entrañar riesgos. Si no se detectan fallos o señales tempranas de desgaste, pueden acabar provocando cortes del servicio, daños en los equipos o riesgos para la seguridad.

Cada vez se utilizan más drones para mejorar la eficiencia de las inspecciones. Pueden cubrir largas distancias, acceder a zonas de difícil alcance y capturar imágenes de alta resolución de activos críticos.

Combinar drones con IA en el edge mejora aún más estos procesos. Los modelos Ultralytics YOLO que se ejecutan en hardware de Axelera AI permiten analizar los datos en tiempo real durante las inspecciones, identificar fallos, clasificar componentes y detectar anomalías in situ. Esto reduce la necesidad de revisiones manuales y permite supervisar las infraestructuras de forma más rápida y fiable.

Fig. 4. Detección de distintos componentes de una línea eléctrica con Ultralytics YOLO26

Robótica mejorada con información de visión artificial en tiempo real#

En robótica, la velocidad y la capacidad de respuesta son fundamentales. Tanto si se desplazan por un almacén como si trabajan en entornos industriales dinámicos, los robots necesitan interpretar lo que les rodea al instante.

Los modelos Ultralytics YOLO que se ejecutan en hardware de Axelera AI permiten a los robots interpretar su entorno en tiempo real, desde detectar obstáculos hasta seguir a personas e identificar objetos. Esto permite que los sistemas se desplacen con mayor seguridad, se adapten a condiciones cambiantes y funcionen con más autonomía, sin depender de una conexión constante a la nube.

Ventajas principales de ejecutar modelos Ultralytics YOLO en AIPU Metis#

Estas son algunas de las principales ventajas de desplegar modelos Ultralytics YOLO en el hardware Metis de Axelera AI mediante la nueva integración:

• Integración fluida con el flujo de trabajo de Ultralytics: La exportación de modelos YOLO para desplegarlos en Metis se integra de forma natural en el paquete Ultralytics para Python, lo que simplifica el paso del entrenamiento a la inferencia.
• Compatibilidad con múltiples tareas de visión artificial: Puedes desplegar modelos para la detección de objetos, la estimación de pose, la segmentación, la clasificación y otras tareas con YOLOv8, YOLO11 y YOLO26.
• Ejecución de modelos en paralelo: Las AIPU Metis cuentan con cuatro núcleos programables de forma independiente, capaces de ejecutar cuatro modelos distintos en paralelo para adaptarse a tus necesidades.
• Escalabilidad en aplicaciones de IA en el edge: Desde la analítica en comercios y la inspección industrial hasta la robótica y las infraestructuras inteligentes, la integración es compatible con una amplia variedad de casos de uso reales.

Conclusiones clave#

Los modelos Ultralytics YOLO y las AIPU Metis de Axelera AI facilitan llevar la visión artificial de alto rendimiento al edge. Al simplificar el despliegue y optimizar los modelos para hardware especializado, esta integración ayuda a cerrar la brecha entre el desarrollo y las aplicaciones reales.

A medida que crece la IA en el edge, disponer de opciones de despliegue eficientes y escalables será clave para crear sistemas fiables y con capacidad de respuesta. Esta colaboración es un paso para que la IA visual avanzada sea más accesible en distintos sectores.

¿Quieres saber más sobre IA? Explora nuestro repositorio de GitHub, conecta con nuestra comunidad y consulta nuestras opciones de licencia para poner en marcha tu proyecto de visión artificial. Descubre cómo innovaciones como la IA en el comercio minorista y la visión artificial en el sector sanitario están dando forma al futuro.