Implementación de aplicaciones de visión artificial en dispositivos de Edge AI

Gracias a los recientes avances en visión artificial e inteligencia artificial (IA), lo que antes era solo un campo de investigación ahora impulsa aplicaciones de gran impacto en una amplia gama de industrias. Desde coches autónomos hasta imágenes médicas y seguridad, los sistemas de visión artificial están resolviendo problemas reales a gran escala.

Muchas de estas aplicaciones implican analizar imágenes y vídeo en tiempo real, y depender de la computación en la nube no siempre es práctico debido a la latencia, los costes y las preocupaciones sobre la privacidad. Edge AI es una solución excelente en estas situaciones. Al ejecutar modelos de visión por IA directamente en dispositivos periféricos, las empresas pueden procesar datos de forma más rápida, económica y con mayor seguridad, haciendo que la IA en tiempo real sea más accesible.

Durante YOLO Vision 2024 (YV24), el evento híbrido anual organizado por Ultralytics, uno de los temas centrales fue democratizar la visión por IA haciendo que el despliegue sea más eficiente y fácil de usar. Guy Dahan, arquitecto senior de soluciones en NVIDIA, habló sobre cómo las soluciones de hardware y software de NVIDIA, incluidos dispositivos de computación perimetral, servidores de inferencia, marcos de optimización y SDK de despliegue de IA, están ayudando a los desarrolladores a optimizar la IA en el extremo.

En este artículo, exploraremos las conclusiones clave de la presentación principal de Guy Dahan en YV24 y cómo las últimas innovaciones de NVIDIA están haciendo que el despliegue de la visión por IA sea más rápido y escalable.

Link to this section¿Qué es Edge AI?#

Guy Dahan comenzó su charla expresando su entusiasmo por participar virtualmente en YV24 y su interés en el paquete Python de Ultralytics y los modelos YOLO de Ultralytics, diciendo: "He estado usando Ultralytics desde el día en que salió. Me gusta mucho Ultralytics; he estado usando YOLOv5 incluso antes de eso, y soy un auténtico entusiasta de este paquete".

Luego, introdujo el concepto de Edge AI, explicando que implica ejecutar cálculos de IA directamente en dispositivos como cámaras, drones o máquinas industriales, en lugar de enviar datos a servidores en la nube distantes para su procesamiento.

En lugar de esperar a que las imágenes o vídeos se suban, analicen y luego se envíen de vuelta con resultados, Edge AI hace posible analizar los datos instantáneamente en el propio dispositivo. Esto hace que los sistemas de visión por IA sean más rápidos, más eficientes y menos dependientes de la conectividad a Internet. Edge AI es particularmente útil para aplicaciones de toma de decisiones en tiempo real, como coches autónomos, cámaras de seguridad y fábricas inteligentes.

Link to this sectionBeneficios clave de Edge AI#

Después de presentar Edge AI, Guy Dahan destacó sus principales ventajas, centrándose en la eficiencia, el ahorro de costes y la seguridad de los datos. Explicó que uno de los mayores beneficios es la baja latencia: dado que los modelos de IA procesan los datos directamente en el dispositivo, no hay necesidad de enviar información a la nube y esperar una respuesta.

Edge AI también ayuda a reducir costes y proteger datos confidenciales. Enviar grandes cantidades de datos a la nube, especialmente flujos de vídeo, puede resultar costoso. Sin embargo, procesarlos localmente reduce los costes de ancho de banda y almacenamiento.

Otra ventaja clave es la privacidad de datos porque la información permanece en el dispositivo en lugar de transferirse a un servidor externo. Esto es particularmente importante para aplicaciones de sanidad, finanzas y seguridad, donde mantener los datos locales y seguros es una prioridad absoluta.

Fig 1. Guy Dahan presentando de forma remota en YV24 sobre los beneficios de Edge AI.

Basándose en estos beneficios, Guy Dahan comentó sobre la creciente adopción de Edge AI. Señaló que desde que NVIDIA introdujo Jetson en 2014, el uso se ha multiplicado por diez. Hoy en día, más de 1,2 millones de desarrolladores trabajan con dispositivos Jetson.

Link to this sectionUna visión general de NVIDIA Jetson: un dispositivo de Edge AI#

Guy Dahan se centró entonces en los dispositivos NVIDIA Jetson, una familia de dispositivos de computación de borde para IA diseñados para ofrecer un alto rendimiento con un bajo consumo de energía. Los dispositivos Jetson son ideales para aplicaciones de visión artificial en sectores como la robótica, la agricultura, la sanidad y la automatización industrial. "Los Jetson son dispositivos de Edge AI hechos a medida específicamente para la IA. Incluso añadiría que originalmente fueron diseñados principalmente para la visión artificial", añadió Guy Dahan.

Los dispositivos Jetson vienen en tres niveles, cada uno adecuado para diferentes necesidades:

• Nivel de entrada: Estos dispositivos proporcionan entre 20 y 40 billones de operaciones por segundo (TOPS) de rendimiento de IA con un consumo de energía de 10 - 15W, lo que los convierte en una opción asequible para aplicaciones de borde.
• Corriente principal: Equilibra el rendimiento y la eficiencia, ofreciendo entre 70 y 200 TOPS con un consumo de energía de 20 - 40W, adecuado para cargas de trabajo de IA de gama media.
• Alto rendimiento: Ofrece hasta 275 TOPS con un consumo de energía de 60 - 75W, diseñado para aplicaciones de IA exigentes como la robótica y la automatización.

Además, Guy Dahan habló sobre el próximo Jetson AGX Thor, que se lanzará este año, y dijo que ofrecerá ocho veces el rendimiento de la GPU (unidad de procesamiento gráfico), el doble de capacidad de memoria y un mejor rendimiento de la CPU (unidad central de procesamiento). Está diseñado específicamente para robótica humanoide y aplicaciones avanzadas de Edge AI.

Link to this sectionDesafíos relacionados con el despliegue de modelos de visión artificial#

Guy Dahan pasó entonces a discutir el aspecto del software de Edge AI y explicó que, incluso con hardware potente, desplegar modelos de manera eficiente puede ser un desafío.

Uno de los mayores obstáculos es la compatibilidad, ya que los desarrolladores de IA suelen trabajar con diferentes marcos de trabajo de IA como PyTorch y TensorFlow. Moverse entre estos marcos puede ser difícil, requiriendo que los desarrolladores vuelvan a crear entornos para asegurar que todo funcione correctamente.

La escalabilidad es otro desafío clave. Los modelos de IA requieren una potencia de cálculo significativa y, como dijo Dahan, "Nunca ha habido una empresa de IA que quiera menos capacidad de cálculo". Expandir las aplicaciones de IA a través de múltiples dispositivos puede volverse rápidamente costoso, por lo que la optimización es esencial.

Además, los conductos (pipelines) de IA son complejos y a menudo involucran diferentes tipos de datos, procesamiento en tiempo real e integración de sistemas. Los desarrolladores dedican mucho esfuerzo a asegurar que sus modelos interactúen sin problemas con los ecosistemas de software existentes. Superar estos desafíos es una parte crucial para hacer que los despliegues de IA sean más eficientes y escalables.

Fig 2. Desafíos en el despliegue de modelos.

Link to this sectionSimplificando el despliegue con Triton Inference Server de NVIDIA#

A continuación, Guy Dahan dirigió su atención al Triton Inference Server de NVIDIA. Señaló que muchas empresas y startups comienzan el desarrollo de IA sin optimizar completamente sus modelos. Rediseñar todo un conducto de IA desde cero puede ser disruptivo y llevar mucho tiempo, lo que dificulta escalar de manera eficiente.

En lugar de requerir una revisión completa del sistema, Triton permite a los desarrolladores refinar y optimizar gradualmente sus flujos de trabajo de IA, integrando componentes más eficientes sin romper su configuración existente. Con soporte para múltiples marcos de IA, incluidos TensorFlow, PyTorch, ONNX y TensorRT, Triton permite un despliegue sin problemas a través de entornos de nube, centros de datos y dispositivos periféricos con ajustes mínimos.

Fig 3. Una visión general de Triton Inference Server de NVIDIA.

Estas son algunas de las ventajas clave de Triton Inference Server de NVIDIA:

• Procesamiento por lotes automático (Batching): Triton agrupa múltiples solicitudes de IA antes de procesarlas, lo que reduce los retrasos (latencia) y mejora la velocidad de inferencia (el tiempo que tarda un modelo de IA en generar resultados).
• Integración con Kubernetes: Triton es nativo de la nube, lo que significa que funciona sin problemas con Kubernetes (un sistema que ayuda a gestionar y escalar aplicaciones de IA a través de múltiples ordenadores o servidores en la nube).
• Código abierto y personalizable: Los desarrolladores pueden modificar Triton para adaptarse a sus necesidades específicas, asegurando flexibilidad para una amplia gama de aplicaciones de IA.

Link to this sectionMaximizando el rendimiento de la IA mediante NVIDIA TensorRT#

Supongamos que buscas aún más aceleración; NVIDIA TensorRT es una opción interesante para optimizar tus modelos de IA. Guy Dahan explicó que TensorRT es un optimizador de aprendizaje profundo de alto rendimiento diseñado para GPUs de NVIDIA. Los modelos de TensorFlow, PyTorch, ONNX y MXNet se pueden convertir en archivos ejecutables de GPU altamente eficientes usando TensorRT.

Lo que hace que TensorRT sea tan fiable son sus optimizaciones específicas para el hardware. Un modelo optimizado para dispositivos Jetson no funcionará de manera tan eficiente en otras GPUs porque TensorRT ajusta el rendimiento basándose en el hardware de destino. Un modelo de visión artificial bien ajustado puede resultar en un aumento de la velocidad de inferencia de hasta 36 veces en comparación con modelos no optimizados.

Guy Dahan también llamó la atención sobre el soporte de Ultralytics para TensorRT, hablando de cómo hace que el despliegue de modelos de IA sea más rápido y eficiente. Los modelos YOLO de Ultralytics pueden ser exportados directamente al formato TensorRT, permitiendo a los desarrolladores optimizarlos para GPUs NVIDIA sin necesidad de realizar ningún cambio.

Link to this sectionDeepStream 7.0: un kit de herramientas de análisis de transmisión#

Cerrando la charla con una nota alta, Guy Dahan mostró DeepStream 7.0, un marco de trabajo de IA diseñado para el procesamiento en tiempo real de vídeo, audio y datos de sensores utilizando GPUs NVIDIA. Creado para soportar aplicaciones de visión artificial de alta velocidad, permite la detección, el seguimiento y el análisis de objetos en sistemas autónomos, seguridad, automatización industrial y ciudades inteligentes. Al ejecutar la IA directamente en dispositivos periféricos, DeepStream elimina la dependencia de la nube, reduciendo la latencia y mejorando la eficiencia.

Fig 4. Explorando DeepStream 7.0 en YV24 con Guy Dahan.

Específicamente, DeepStream puede manejar el procesamiento de vídeo impulsado por IA de principio a fin. Soporta flujos de trabajo de extremo a extremo, desde la decodificación de vídeo y el pre-procesamiento hasta la inferencia de IA y el post-procesamiento.

Recientemente, DeepStream ha introducido varias actualizaciones para mejorar el despliegue de la IA, haciéndolo más accesible y escalable. Nuevas herramientas simplifican el desarrollo, mejoran el seguimiento de múltiples cámaras y optimizan los conductos de IA para un mejor rendimiento.

Los desarrolladores ahora tienen un soporte ampliado para entornos Windows, capacidades mejoradas de fusión de sensores para integrar datos de múltiples fuentes y acceso a aplicaciones de referencia pre-construidas para acelerar el despliegue. Estas mejoras hacen de DeepStream una solución más flexible y eficiente para aplicaciones de IA en tiempo real, ayudando a los desarrolladores a escalar el análisis de vídeo inteligente con facilidad.

Link to this sectionConclusiones clave#

Como se ilustró en la conferencia magistral de Guy Dahan en YV24, Edge AI está redefiniendo las aplicaciones de visión artificial. Con los avances en hardware y software, el procesamiento en tiempo real se está volviendo más rápido, eficiente y rentable.

A medida que más industrias adopten Edge AI, abordar desafíos como la fragmentación y la complejidad del despliegue será clave para desbloquear todo su potencial. Adoptar estas innovaciones impulsará aplicaciones de IA más inteligentes y receptivas, dando forma al futuro de la visión artificial.

¡Forma parte de nuestra creciente comunidad! Explora nuestro repositorio de GitHub para aprender más sobre IA, y consulta nuestras opciones de licencia para poner en marcha tus proyectos de visión por IA. ¿Tienes curiosidad por innovaciones como la IA en la sanidad y la visión artificial en la fabricación? ¡Visita nuestras páginas de soluciones para aprender más!