Lleva los modelos Ultralytics YOLO al hardware de Axelera AI para la IA en el edge

En Ultralytics, estamos observando un cambio cada vez mayor hacia la ejecución directa de modelos de visión por ordenador en dispositivos edge a medida que la IA se adopta más ampliamente. En nuestras conversaciones con la comunidad de visión por ordenador, tanto online como en persona durante recientes conferencias tecnológicas, nuestro equipo ha observado un interés creciente por desplegar la IA de visión más cerca del lugar donde se generan los datos.

Desde entornos de venta minorista inteligente y automatización industrial hasta robótica, la información en tiempo real se está volviendo esencial, y depender únicamente de la nube ya no es suficiente.

En pocas palabras, la IA en el edge consiste en ejecutar modelos de IA localmente en dispositivos en lugar de enviar los datos a servidores centralizados para procesarlos. Esto permite reducir la latencia, mejorar la fiabilidad y responder a eventos del mundo real en tiempo real.

Sin embargo, desplegar modelos de alto rendimiento en estos entornos plantea sus propios desafíos, ya que los recursos de cómputo limitados y las restricciones de consumo energético exigen que los modelos sean eficientes y estén optimizados para el hardware en el que se ejecutan.

Los modelos YOLO de Ultralytics, como Ultralytics YOLO26, están diseñados para la visión por ordenador en tiempo real, pero para aprovechar todo su potencial en el edge se necesita la combinación adecuada de software y hardware. Por eso nos complace anunciar nuestra colaboración con Axelera AI.

Nos hemos asociado con Axelera AI para presentar una integración de exportación actualizada que permite desplegar de forma eficiente y con alto rendimiento los modelos YOLO de Ultralytics en las unidades de procesamiento de IA Metis® (AIPUs).

Fig. 1. Una vista de una unidad de procesamiento de IA Metis (Fuente)

En este artículo, exploraremos cómo compilar fácilmente los modelos YOLO de Ultralytics para su despliegue en Metis. ¡Empecemos!

La IA en el edge es el futuro de la visión por ordenador#

A medida que las aplicaciones de visión por ordenador siguen evolucionando, la necesidad de un procesamiento más rápido y eficiente es cada vez más crucial. Los enfoques tradicionales basados en la nube pueden introducir latencia, depender de una conectividad estable y no satisfacer las exigencias de tiempo real de muchos casos de uso de visión inteligente.

La IA en el edge aborda estos desafíos al permitir que los modelos se ejecuten directamente en dispositivos locales, de modo que los datos se procesen más cerca de su origen. Por ejemplo, piensa en los drones dotados de visión utilizados en operaciones de búsqueda y rescate.

Estos sistemas deben analizar secuencias de vídeo en tiempo real para detectar personas, obstáculos o peligros, a menudo en zonas remotas con conectividad a Internet limitada o inexistente. Al ejecutar modelos de visión por ordenador directamente en el dron, la IA en el edge permite tomar decisiones más rápidamente y ofrece un rendimiento más fiable sin depender de la infraestructura en la nube.

Este cambio está abriendo nuevas posibilidades en distintos sectores. Aplicaciones como la detección de objetos en tiempo real en el comercio minorista, la inspección automatizada de calidad en la fabricación y la percepción en robótica se benefician de tiempos de respuesta más rápidos y una mayor fiabilidad.

La IA en el edge se está convirtiendo rápidamente en un habilitador clave para desplegar sistemas de visión por ordenador escalables y con capacidad de respuesta en entornos del mundo real.

Exploración de las unidades de procesamiento de IA Metis de Axelera AI#

Antes de profundizar en la nueva integración de exportación, hagamos una pausa para conocer mejor las unidades de procesamiento de IA Metis de Axelera AI y el papel que desempeñan para hacer posible una IA en el edge eficiente.

Axelera AI desarrolla hardware diseñado específicamente para acelerar la inferencia de IA en el edge. Una parte fundamental es la AIPU Metis, o unidad de procesamiento de IA, un procesador especializado creado para ejecutar redes neuronales de forma eficiente en dispositivos edge.

A diferencia de las unidades centrales de procesamiento (CPUs) de propósito general o incluso de las unidades de procesamiento gráfico (GPUs), las AIPUs están diseñadas para gestionar los patrones computacionales específicos de las cargas de trabajo de IA. Esto les permite ofrecer un alto rendimiento manteniendo un bajo consumo energético, algo fundamental en entornos edge, donde los recursos suelen ser limitados.

Lo que hace especialmente innovador el enfoque de Axelera AI es su diseño de pila completa. Metis se ha creado con computación digital en memoria (D-IMC) y RISC-V para ofrecer un alto rendimiento con la eficiencia energética que exige la computación edge. Los cuatro núcleos de Metis se pueden programar de forma independiente, lo que significa que puedes ejecutar cuatro modelos por chip en paralelo. Además del hardware, el Voyager SDK incluye un compilador y un entorno de ejecución que trabajan conjuntamente para optimizar los modelos para su despliegue.

Esto permite a los desarrolladores pasar de modelos entrenados a inferencias listas para producción de forma más eficiente. En concreto, las AIPUs Metis hacen posible ejecutar modelos avanzados de visión por ordenador, como los modelos YOLO de Ultralytics, directamente en dispositivos edge, desde entornos empresariales, minoristas, sanitarios y de fabricación hasta explotaciones agrícolas, equipos industriales y satélites.

Exportación de modelos YOLO de Ultralytics para su despliegue en Metis#

El paquete de Python de Ultralytics proporciona una interfaz unificada para entrenar, evaluar y desplegar modelos YOLO en una amplia variedad de tareas de visión por ordenador. Los modelos YOLO suelen desarrollarse y entrenarse con PyTorch, que resulta muy adecuado para la experimentación y el desarrollo de modelos.

Sin embargo, al desplegar estos modelos en hardware edge especializado, es necesario convertirlos a un formato optimizado para el dispositivo de destino. Aquí es donde entran en juego las integraciones de exportación compatibles con el paquete de Python de Ultralytics.

Ultralytics ofrece varias opciones de exportación que permiten convertir los modelos YOLO a distintos formatos según el destino del despliegue, como ONNX, TensorRT y otros backends específicos del hardware. Estas integraciones simplifican el proceso de preparar los modelos para aplicaciones del mundo real al gestionar los pasos necesarios de optimización y conversión.

Como parte de esta evolución, Ultralytics ha introducido una integración actualizada con Axelera AI que permite exportar modelos YOLO para desplegarlos en AIPUs Metis.

Durante la exportación, el modelo se compila y cuantiza en una representación optimizada diseñada específicamente para el hardware de Axelera. Este proceso genera un modelo compilado en formato ".axm", junto con los metadatos necesarios para el despliegue y la inferencia.

Fig. 2. Los modelos YOLO de Ultralytics pueden ejecutarse en AIPUs Metis. (Fuente)

La integración admite una amplia variedad de tareas de visión por ordenador en Ultralytics YOLOv8, Ultralytics YOLO11 y los modelos Ultralytics YOLO26, incluidas la detección de objetos, la estimación de poses, la segmentación de instancias, la detección de cajas delimitadoras orientadas (OBB) y la clasificación de imágenes. Aunque la mayoría de las tareas son compatibles directamente mediante el flujo de trabajo de exportación, la segmentación de YOLO26 se puede utilizar a través del zoológico de modelos con el Voyager SDK.

Esta compatibilidad ampliada ofrece a los desarrolladores la flexibilidad necesaria para desplegar distintos tipos de modelos de visión según su aplicación, desde detectar objetos en tiempo real hasta comprender escenas, seguir movimientos y analizar datos visuales complejos.

Una vez exportados, los modelos se pueden desplegar y ejecutar sin depender de PyTorch durante la inferencia. En su lugar, se ejecutan mediante el entorno de ejecución del Voyager SDK, que permite crear canalizaciones integrales para tareas como el procesamiento de vídeo, la detección en tiempo real y el seguimiento directamente en dispositivos edge.

Primeros pasos para exportar modelos YOLO de Ultralytics#

Ahora que conocemos mejor la nueva integración de exportación, vamos a ver cómo exportar modelos YOLO de Ultralytics a este formato personalizado y ejecutarlos en hardware Metis en el edge.

Paso 1: instala el paquete Ultralytics para Python#

Para empezar, primero tendrás que instalar el paquete de Python de Ultralytics. Proporciona una interfaz sencilla y coherente para entrenar, evaluar y exportar modelos YOLO.

Puedes instalarlo con pip ejecutando el siguiente comando en tu terminal o símbolo del sistema:

pip install ultralytics

Si encuentras algún problema durante la instalación o la exportación, la documentación oficial de Ultralytics y la guía de problemas frecuentes son excelentes recursos para solucionar problemas.

Paso 2: Instalar los controladores de Axelera y el Voyager SDK#

Para exportar y ejecutar modelos en hardware de Axelera, también tendrás que instalar los controladores de Axelera y el Voyager SDK. Este paso permite la comunicación con la AIPU Metis y proporciona las herramientas necesarias del entorno de ejecución y el compilador.

Los pasos que se indican a continuación deben realizarse en un entorno Linux con acceso a hardware Metis de Axelera AI. Abre un terminal en tu sistema o utiliza una celda de notebook si ejecutas Jupyter Notebook en una configuración local compatible, y ejecuta los comandos siguientes.

Empieza añadiendo la clave del repositorio de Axelera de la siguiente forma:

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

A continuación, como se muestra abajo, añade el repositorio de Axelera a tu sistema:

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

Después, instala el Voyager SDK y carga el controlador de Metis de la siguiente forma:

sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis

Una vez completados estos pasos, tu sistema estará listo para exportar y ejecutar modelos YOLO de Ultralytics en dispositivos Metis de Axelera AI.

Paso 3: Exportar modelos YOLO de Ultralytics#

Una vez instalado el paquete de Ultralytics, puedes cargar tu modelo YOLO y exportarlo como un paquete compilado para Metis. Este proceso convierte el modelo a un formato optimizado para su despliegue en hardware Metis de Axelera AI.

En el ejemplo siguiente, utilizamos un modelo nano YOLO26 preentrenado y lo exportamos para Metis. El modelo exportado se guardará en un directorio llamado "/yolo26n_axelera_model".

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

Paso 4: Ejecutar la inferencia con el modelo exportado#

Después de exportar el modelo, puedes cargarlo y ejecutar inferencias sobre imágenes no vistas o flujos de vídeo. Esto permite realizar tareas de visión por ordenador en tiempo real directamente en dispositivos Metis de Axelera AI.

Por ejemplo, el fragmento de código siguiente muestra cómo cargar el modelo exportado y ejecutar una inferencia en una URL disponible públicamente.

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

En este caso, el modelo analiza la imagen de entrada y detecta objetos, guardando los resultados en el directorio "runs/detect/predict".

Dónde pueden marcar la diferencia los modelos YOLO de Ultralytics y el hardware de Axelera AI#

A continuación, analizaremos algunas aplicaciones habituales de la IA en el edge en las que los modelos YOLO de Ultralytics se pueden desplegar en hardware de Axelera AI en escenarios del mundo real.

Las AIPUs Metis de Axelera AI están diseñadas para una gran variedad de entornos de despliegue, desde sistemas integrados y PCs industriales hasta robótica y servidores edge. Gracias a una inferencia de alto rendimiento y eficiencia energética, permiten que las aplicaciones de visión por ordenador se ejecuten directamente en el dispositivo en distintos sectores. El Voyager SDK también incluye un creador de canalizaciones para que los ingenieros de ML y APP conviertan los modelos en productos para el edge.

Sistemas de visión inteligente en el comercio minorista que funcionan en el edge#

En los entornos de venta minorista, comprender el comportamiento de los clientes en tiempo real puede marcar una gran diferencia.

Con modelos YOLO de Ultralytics ejecutándose en hardware de Axelera AI, las tiendas pueden supervisar el tráfico de personas, contar a los clientes y analizar los patrones de movimiento dentro de la tienda a medida que se producen. Como todo se ejecuta en el dispositivo, la información se puede generar al instante sin depender de la conectividad a la nube, lo que ayuda a los equipos a responder más rápido y mantener la privacidad de los datos.

Fig. 3. Detección y recuento de personas en un centro comercial con Ultralytics YOLO26

Uso de la IA en el edge para inspeccionar servicios públicos e infraestructuras#

Mantener infraestructuras a gran escala, como las líneas eléctricas, es complejo y requiere muchos recursos. Estas redes suelen abarcar grandes distancias, lo que hace que las inspecciones sean lentas, costosas y potencialmente peligrosas. Cuando las averías o los primeros signos de desgaste pasan desapercibidos, pueden derivar en cortes de suministro, daños en los equipos o riesgos para la seguridad.

Cada vez se utilizan más drones para mejorar la eficiencia de las inspecciones. Pueden cubrir largas distancias, acceder a zonas de difícil alcance y capturar imágenes de alta resolución de activos críticos.

La combinación de drones e IA en el edge mejora aún más estos flujos de trabajo. Los modelos YOLO de Ultralytics ejecutándose en hardware de Axelera AI permiten analizar datos en tiempo real durante las inspecciones, identificar fallos, clasificar componentes y detectar anomalías in situ. Esto reduce la necesidad de revisión manual y favorece una supervisión de infraestructuras más rápida y fiable.

Fig. 4. Detección de varias partes de una línea eléctrica con Ultralytics YOLO26

Impulso de la robótica con información de IA de visión en tiempo real#

En robótica, la velocidad y la capacidad de respuesta son fundamentales. Tanto si recorren un almacén como si operan en entornos industriales dinámicos, los robots necesitan interpretar su entorno al instante.

Los modelos YOLO de Ultralytics ejecutándose en hardware de Axelera AI permiten a los robots interpretar su entorno en tiempo real, desde detectar obstáculos hasta seguir a personas e identificar objetos. Esto permite a los sistemas desplazarse con mayor seguridad, adaptarse a condiciones dinámicas y funcionar con mayor autonomía sin depender de una conexión constante a la nube.

Principales ventajas de ejecutar modelos YOLO de Ultralytics en AIPUs Metis#

Estas son algunas de las principales ventajas de desplegar modelos YOLO de Ultralytics en el hardware Metis de Axelera AI mediante la nueva integración:

• Integración fluida con el flujo de trabajo de Ultralytics: Exportar modelos YOLO para desplegarlos en Metis encaja de forma natural en el paquete de Python de Ultralytics, lo que simplifica la transición del entrenamiento a la inferencia.
• Compatibilidad con varias tareas de visión por ordenador: Puedes desplegar modelos para detección de objetos, estimación de poses, segmentación, clasificación y mucho más en YOLOv8, YOLO11 y YOLO26.
• Ejecuta modelos en paralelo: Las AIPUs Metis están diseñadas con cuatro núcleos programables de forma independiente, capaces de ejecutar cuatro modelos distintos en paralelo según tus necesidades.
• Escalabilidad en aplicaciones de IA en el edge: Desde el análisis minorista y la inspección industrial hasta la robótica y las infraestructuras inteligentes, la integración admite una amplia variedad de casos de uso del mundo real.

Conclusiones clave#

Los modelos YOLO de Ultralytics y las AIPUs Metis de Axelera AI facilitan llevar la visión por ordenador de alto rendimiento al edge. Al simplificar el despliegue y optimizar los modelos para hardware especializado, esta integración ayuda a tender un puente entre el desarrollo y las aplicaciones del mundo real.

A medida que la IA en el edge siga creciendo, disponer de opciones de despliegue eficientes y escalables será clave para crear sistemas con capacidad de respuesta y fiables. Esta colaboración es un paso hacia una IA de visión avanzada más accesible en distintos sectores.

¿Quieres saber más sobre IA? Explora nuestro repositorio de GitHub, conecta con nuestra comunidad y consulta nuestras opciones de licencia para poner en marcha tu proyecto de visión por ordenador. Descubre cómo innovaciones como la IA en el comercio minorista y la visión por ordenador en el sector sanitario están dando forma al futuro.