Implementación de aplicaciones de visión artificial en dispositivos de Edge AI

Gracias a los recientes avances en computer vision y la inteligencia artificial (IA), lo que antes era solo un campo de investigación ahora impulsa aplicaciones de gran impacto en diversas industrias. Desde coches autónomos hasta imágenes médicas y seguridad, los sistemas de computer vision están resolviendo problemas reales a escala.

Muchas de estas aplicaciones implican analizar imágenes y vídeo en tiempo real, y depender de la computación en la nube no siempre es práctico debido a la latencia, los costos y los problemas de privacidad. Edge AI es una gran solución en estas situaciones. Al ejecutar modelos de visión artificial directamente en dispositivos edge, las empresas pueden procesar datos de forma más rápida, económica y segura, haciendo que la IA en tiempo real sea más accesible.

Durante YOLO Vision 2024 (YV24), el evento híbrido anual organizado por Ultralytics, uno de los temas centrales fue la democratización de la vision AI al hacer que el despliegue sea más fácil de usar y eficiente. Guy Dahan, arquitecto sénior de soluciones en NVIDIA, habló sobre cómo las soluciones de hardware y software de NVIDIA, incluidos los dispositivos de computación edge, servidores de inferencia, frameworks de optimización y SDKs de despliegue de IA, ayudan a los desarrolladores a optimizar la IA en el edge.

En este artículo, exploraremos las conclusiones clave de la presentación principal de Guy Dahan en YV24 y cómo las últimas innovaciones de NVIDIA están haciendo que el despliegue de la visión por IA sea más rápido y escalable.

¿Qué es Edge AI?#

Guy Dahan comenzó su charla expresando su entusiasmo por unirse a YV24 de forma virtual y su interés en el paquete de Python de Ultralytics y los YOLO models de Ultralytics, diciendo: "He estado usando Ultralytics desde el día en que salió. Me gusta mucho Ultralytics; ya usaba YOLOv5 incluso antes de eso, y soy un verdadero entusiasta de este paquete".

Luego, introdujo el concepto de Edge AI, explicando que implica ejecutar cálculos de IA directamente en dispositivos como cámaras, drones o máquinas industriales, en lugar de enviar datos a servidores en la nube distantes para su procesamiento.

En lugar de esperar a que las imágenes o vídeos se suban, analicen y luego se envíen de vuelta con resultados, Edge AI hace posible analizar los datos instantáneamente en el propio dispositivo. Esto hace que los sistemas de visión por IA sean más rápidos, más eficientes y menos dependientes de la conectividad a Internet. Edge AI es particularmente útil para aplicaciones de toma de decisiones en tiempo real, como coches autónomos, cámaras de seguridad y fábricas inteligentes.

Beneficios clave de Edge AI#

Después de presentar Edge AI, Guy Dahan destacó sus principales ventajas, centrándose en la eficiencia, el ahorro de costes y la seguridad de los datos. Explicó que uno de los mayores beneficios es la baja latencia: dado que los modelos de IA procesan los datos directamente en el dispositivo, no hay necesidad de enviar información a la nube y esperar una respuesta.

Edge AI también ayuda a reducir costes y proteger datos confidenciales. Enviar grandes cantidades de datos a la nube, especialmente flujos de vídeo, puede resultar costoso. Sin embargo, procesarlos localmente reduce los costes de ancho de banda y almacenamiento.

Otra ventaja clave es la data privacy porque la información permanece en el dispositivo en lugar de transferirse a un servidor externo. Esto es particularmente importante para aplicaciones de salud, finanzas y seguridad, donde mantener los datos locales y seguros es una máxima prioridad.

Fig 1. Guy Dahan presentando de forma remota en YV24 sobre los beneficios de Edge AI.

Basándose en estos beneficios, Guy Dahan comentó sobre la creciente adopción de Edge AI. Señaló que desde que NVIDIA introdujo Jetson en 2014, el uso se ha multiplicado por diez. Hoy en día, más de 1,2 millones de desarrolladores trabajan con dispositivos Jetson.

Una visión general de NVIDIA Jetson: un dispositivo de Edge AI#

Guy Dahan se centró luego en los NVIDIA Jetson devices, una familia de dispositivos de computación edge para IA diseñados para ofrecer un alto rendimiento con un bajo consumo de energía. Los dispositivos Jetson son ideales para aplicaciones de computer vision en sectores como la robótica, la agricultura, la salud y la automatización industrial. "Los Jetson son dispositivos Edge AI hechos específicamente a medida para la IA. Incluso podría añadir que originalmente fueron diseñados principalmente para computer vision", añadió Guy Dahan.

Los dispositivos Jetson vienen en tres niveles, cada uno adecuado para diferentes necesidades:

• Nivel de entrada: Estos dispositivos proporcionan entre 20 y 40 billones de operaciones por segundo (TOPS) de rendimiento de IA con un consumo de energía de 10 - 15W, lo que los convierte en una opción asequible para aplicaciones de borde.
• Corriente principal: Equilibra el rendimiento y la eficiencia, ofreciendo entre 70 y 200 TOPS con un consumo de energía de 20 - 40W, adecuado para cargas de trabajo de IA de gama media.
• Alto rendimiento: Ofrece hasta 275 TOPS con un consumo de energía de 60 - 75W, diseñado para aplicaciones de IA exigentes como la robótica y la automatización.

Además, Guy Dahan habló sobre el próximo Jetson AGX Thor, que se lanzará este año, y dijo que ofrecerá ocho veces el rendimiento de la GPU (unidad de procesamiento gráfico), el doble de capacidad de memoria y un mejor rendimiento de la CPU (unidad central de procesamiento). Está diseñado específicamente para robótica humanoide y aplicaciones avanzadas de Edge AI.

Desafíos relacionados con el despliegue de modelos de visión artificial#

Guy Dahan pasó entonces a discutir el aspecto del software de Edge AI y explicó que, incluso con hardware potente, desplegar modelos de manera eficiente puede ser un desafío.

Uno de los mayores obstáculos es la compatibilidad, ya que los desarrolladores de IA suelen trabajar con diferentes AI frameworks como PyTorch y TensorFlow. Cambiar entre estos frameworks puede ser difícil y requiere que los desarrolladores recreen entornos para garantizar que todo funcione correctamente.

La escalabilidad es otro desafío clave. Los modelos de IA requieren una potencia de cálculo significativa y, como dijo Dahan, "Nunca ha habido una empresa de IA que quiera menos capacidad de cálculo". Expandir las aplicaciones de IA a través de múltiples dispositivos puede volverse rápidamente costoso, por lo que la optimización es esencial.

Asimismo, las pipelines de IA son complejas y a menudo involucran diferentes tipos de datos, procesamiento en tiempo real e integración de sistemas. Los desarrolladores dedican un gran esfuerzo a garantizar que sus modelos interactúen sin problemas con los ecosistemas de software existentes. Superar estos desafíos es una parte crucial para hacer que los AI deployments sean más eficientes y escalables.

Fig 2. Desafíos en el despliegue de modelos.

Simplificando el despliegue con Triton Inference Server de NVIDIA#

A continuación, Guy Dahan centró su atención en el Triton Inference Server de NVIDIA. Señaló que muchas empresas y startups comienzan el desarrollo de IA sin optimizar completamente sus modelos. Rediseñar una pipeline de IA completa desde cero puede ser perturbador y consumir mucho tiempo, lo que dificulta escalar de manera eficiente.

En lugar de requerir una revisión completa del sistema, Triton permite a los desarrolladores refinar y optimizar gradualmente sus flujos de trabajo de IA, integrando componentes más eficientes sin romper su configuración existente. Con soporte para múltiples marcos de IA, incluidos TensorFlow, PyTorch, ONNX y TensorRT, Triton permite un despliegue sin problemas a través de entornos de nube, centros de datos y dispositivos periféricos con ajustes mínimos.

Fig 3. Una visión general de Triton Inference Server de NVIDIA.

Estas son algunas de las ventajas clave de Triton Inference Server de NVIDIA:

• Procesamiento por lotes automático (Batching): Triton agrupa múltiples solicitudes de IA antes de procesarlas, lo que reduce los retrasos (latencia) y mejora la velocidad de inferencia (el tiempo que tarda un modelo de IA en generar resultados).
• Integración con Kubernetes: Triton es nativo de la nube, lo que significa que funciona sin problemas con Kubernetes (un sistema que ayuda a gestionar y escalar aplicaciones de IA a través de múltiples ordenadores o servidores en la nube).
• Código abierto y personalizable: Los desarrolladores pueden modificar Triton para adaptarse a sus necesidades específicas, asegurando flexibilidad para una amplia gama de aplicaciones de IA.

Maximizando el rendimiento de la IA mediante NVIDIA TensorRT#

Supongamos que buscas aún más aceleración; NVIDIA TensorRT es una opción interesante para optimizar tus modelos de IA. Guy Dahan explicó que TensorRT es un optimizador de aprendizaje profundo de alto rendimiento creado para GPUs de NVIDIA. Los modelos de TensorFlow, PyTorch, ONNX y MXNet se pueden convertir en archivos ejecutables en GPU altamente eficientes utilizando TensorRT.

Lo que hace que TensorRT sea tan fiable son sus optimizaciones específicas para el hardware. Un modelo optimizado para dispositivos Jetson no funcionará de manera tan eficiente en otras GPUs porque TensorRT ajusta el rendimiento basándose en el hardware de destino. Un modelo de visión artificial bien ajustado puede resultar en un aumento de la velocidad de inferencia de hasta 36 veces en comparación con modelos no optimizados.

Guy Dahan también llamó la atención sobre la compatibilidad de Ultralytics con TensorRT, comentando cómo hace que el despliegue de modelos de IA sea más rápido y eficiente. Los Ultralytics YOLO models se pueden export directamente al formato TensorRT, lo que permite a los desarrolladores optimizarlos para GPUs de NVIDIA sin necesidad de realizar ningún cambio.

DeepStream 7.0: un kit de herramientas de análisis de transmisión#

Para cerrar la charla con broche de oro, Guy Dahan presentó DeepStream 7.0, un framework de IA diseñado para el procesamiento en tiempo real de vídeo, audio y datos de sensores utilizando GPUs de NVIDIA. Creado para admitir aplicaciones de computer vision de alta velocidad, permite la detección de objetos, el seguimiento y la analítica en sistemas autónomos, seguridad, automatización industrial y ciudades inteligentes. Al ejecutar la IA directamente en dispositivos edge, DeepStream elimina la dependencia de la nube, reduciendo la latencia y mejorando la eficiencia.

Fig 4. Explorando DeepStream 7.0 en YV24 con Guy Dahan.

Específicamente, DeepStream puede manejar el procesamiento de vídeo impulsado por IA de principio a fin. Soporta flujos de trabajo de extremo a extremo, desde la decodificación de vídeo y el pre-procesamiento hasta la inferencia de IA y el post-procesamiento.

Recientemente, DeepStream ha introducido varias actualizaciones para mejorar el despliegue de la IA, haciéndolo más accesible y escalable. Nuevas herramientas simplifican el desarrollo, mejoran el seguimiento de múltiples cámaras y optimizan los conductos de IA para un mejor rendimiento.

Los desarrolladores ahora tienen un soporte ampliado para entornos Windows, capacidades mejoradas de fusión de sensores para integrar datos de múltiples fuentes y acceso a aplicaciones de referencia pre-construidas para acelerar el despliegue. Estas mejoras hacen de DeepStream una solución más flexible y eficiente para aplicaciones de IA en tiempo real, ayudando a los desarrolladores a escalar el análisis de vídeo inteligente con facilidad.

Conclusiones clave#

Como se ilustró en la conferencia magistral de Guy Dahan en YV24, Edge AI está redefiniendo las aplicaciones de visión artificial. Con los avances en hardware y software, el procesamiento en tiempo real se está volviendo más rápido, eficiente y rentable.

A medida que más industrias adopten Edge AI, abordar desafíos como la fragmentación y la complejidad del despliegue será clave para desbloquear todo su potencial. Adoptar estas innovaciones impulsará aplicaciones de IA más inteligentes y receptivas, dando forma al futuro de la visión artificial.

¡Forma parte de our growing community! Explora our GitHub repository para obtener más información sobre la IA y consulta our licensing options para poner en marcha tus proyectos de visión artificial. ¿Tienes curiosidad por innovaciones como AI in healthcare y computer vision in manufacturing? ¡Visita nuestras páginas de soluciones para saber más!