Despliegue de aplicaciones de visión artificial en dispositivos Edge AI

Gracias a los avances recientes en visión por ordenador e inteligencia artificial (IA), lo que antes era solo un campo de investigación ahora impulsa aplicaciones de gran impacto en numerosos sectores. Desde los coches autónomos hasta el diagnóstico por imagen médica y la seguridad, los sistemas de visión por ordenador resuelven problemas reales a gran escala.

Muchas de estas aplicaciones implican analizar imágenes y vídeo en tiempo real, y depender de la computación en la nube no siempre resulta práctico debido a la latencia, los costes y los problemas de privacidad. La IA en el edge es una excelente solución en estos casos. Al ejecutar modelos de IA aplicada a la visión directamente en dispositivos edge, las empresas pueden procesar datos con mayor rapidez, a menor coste y con más seguridad, lo que hace más accesible la IA en tiempo real.

Durante YOLO Vision 2024 (YV24), el evento híbrido anual organizado por Ultralytics, uno de los temas centrales fue democratizar la IA de visión haciendo que el proceso de despliegue fuera más sencillo para los usuarios y más eficiente. Guy Dahan, arquitecto sénior de soluciones de NVIDIA, explicó cómo las soluciones de hardware y software de NVIDIA, incluidos los dispositivos de computación en el borde, los servidores de inferencia, los marcos de optimización y los SDK de despliegue de IA, ayudan a los desarrolladores a optimizar la IA en el borde.

En este artículo repasaremos las principales conclusiones de la ponencia de Guy Dahan en YV24 y veremos cómo las últimas innovaciones de NVIDIA hacen que el despliegue de IA aplicada a la visión sea más rápido y escalable.

¿Qué es la IA en el edge?#

Guy Dahan comenzó su charla expresando su entusiasmo por participar virtualmente en YV24 y su interés por el paquete Python de Ultralytics y los modelos YOLO de Ultralytics. Dijo: «Uso Ultralytics desde el día en que se lanzó. Me gusta mucho Ultralytics; ya usaba YOLOv5 antes, y soy un auténtico entusiasta de este paquete».

A continuación, presentó el concepto de IA en el edge y explicó que consiste en ejecutar cálculos de IA directamente en dispositivos como cámaras, drones o máquinas industriales, en lugar de enviar los datos a servidores remotos en la nube para procesarlos.

En vez de esperar a que las imágenes o los vídeos se suban, se analicen y se devuelvan con los resultados, la IA en el edge permite analizar los datos al instante en el propio dispositivo. Esto hace que los sistemas de IA aplicada a la visión sean más rápidos y eficientes, y dependan menos de la conexión a Internet. La IA en el edge es especialmente útil para aplicaciones de toma de decisiones en tiempo real, como los coches autónomos, las cámaras de seguridad y las fábricas inteligentes.

Principales ventajas de la IA en el edge#

Tras presentar la IA en el edge, Guy Dahan destacó sus principales ventajas, centrándose en la eficiencia, el ahorro de costes y la seguridad de los datos. Explicó que una de las mayores ventajas es la baja latencia: como los modelos de IA procesan los datos directamente en el dispositivo, no es necesario enviar información a la nube y esperar una respuesta.

La IA en el edge también ayuda a reducir costes y proteger los datos confidenciales. Enviar grandes cantidades de datos a la nube, especialmente vídeos, puede resultar caro. Sin embargo, procesarlos localmente reduce los costes de ancho de banda y almacenamiento.

Otra ventaja importante es la privacidad de los datos, ya que la información permanece en el dispositivo en lugar de transferirse a un servidor externo. Esto es especialmente importante en aplicaciones sanitarias, financieras y de seguridad, donde mantener los datos en el ámbito local y protegidos es prioritario.

Fig. 1. Guy Dahan habla a distancia en YV24 sobre las ventajas de la IA en el edge.

A partir de estas ventajas, Guy Dahan comentó la creciente adopción de la IA en el edge. Señaló que, desde que NVIDIA presentó Jetson en 2014, su uso se ha multiplicado por diez. Hoy en día, más de 1,2 millones de desarrolladores trabajan con dispositivos Jetson.

Introducción a NVIDIA Jetson: un dispositivo de IA en el edge#

A continuación, Guy Dahan se centró en los dispositivos NVIDIA Jetson, una familia de dispositivos de computación edge con IA diseñada para ofrecer un alto rendimiento y un bajo consumo energético. Los dispositivos Jetson son ideales para aplicaciones de visión por ordenador en sectores como la robótica, la agricultura, la sanidad y la automatización industrial. «Los Jetson son dispositivos de IA en el edge diseñados específicamente para la IA. Incluso añadiría que, originalmente, se diseñaron sobre todo para la visión por ordenador», añadió Guy Dahan.

Los dispositivos Jetson se dividen en tres categorías, cada una adecuada para distintas necesidades:

• Nivel básico: Estos dispositivos ofrecen un rendimiento de IA de entre 20 y 40 billones de operaciones por segundo (TOPS) con un consumo de 10 a 15 W, por lo que son una opción asequible para aplicaciones en el borde.
• Gama media: Equilibra rendimiento y eficiencia, con 70 - 200 TOPS y un consumo de 20 - 40 W, por lo que resulta adecuada para cargas de trabajo de IA de nivel medio.
• Alto rendimiento: Ofrece hasta 275 TOPS con un consumo de 60 - 75 W y está diseñado para aplicaciones de IA exigentes, como la robótica y la automatización.

Además, Guy Dahan habló del próximo Jetson AGX Thor, que se lanzará este año, y afirmó que ofrecerá ocho veces más rendimiento de la GPU (unidad de procesamiento gráfico), el doble de capacidad de memoria y un mayor rendimiento de la CPU (unidad central de procesamiento). Está diseñado específicamente para la robótica humanoide y las aplicaciones avanzadas de IA en el edge.

Retos relacionados con la implementación de modelos de visión artificial#

A continuación, Guy Dahan pasó a hablar del software de Edge AI y explicó que, incluso con un hardware potente, implementar modelos de forma eficiente puede resultar complicado.

Uno de los mayores obstáculos es la compatibilidad, ya que los desarrolladores de IA suelen trabajar con distintos frameworks de IA, como PyTorch y TensorFlow. Cambiar de un framework a otro puede ser complicado y obligar a los desarrolladores a recrear entornos para asegurarse de que todo funcione correctamente.

La escalabilidad es otro reto importante. Los modelos de IA requieren una gran capacidad de cálculo y, como dijo Dahan: «Nunca ha habido una empresa de IA que quiera menos capacidad de cálculo». Ampliar las aplicaciones de IA a varios dispositivos puede encarecerse rápidamente, por lo que la optimización es esencial.

Además, las canalizaciones de IA son complejas y suelen incluir distintos tipos de datos, procesamiento en tiempo real e integración de sistemas. Los desarrolladores dedican mucho esfuerzo a garantizar que sus modelos funcionen sin problemas con los ecosistemas de software existentes. Superar estos retos es fundamental para que las implementaciones de IA sean más eficientes y escalables.

Fig. 2. Retos de la implementación de modelos.

Simplificar la implementación con NVIDIA Triton Inference Server#

A continuación, Guy Dahan centró su atención en Triton Inference Server, de NVIDIA. Señaló que muchas empresas y startups empiezan a desarrollar IA sin optimizar por completo sus modelos. Rediseñar desde cero toda una canalización de IA puede ser disruptivo y llevar mucho tiempo, lo que dificulta escalar de forma eficiente.

En lugar de exigir una renovación completa del sistema, Triton permite a los desarrolladores perfeccionar y optimizar gradualmente sus flujos de trabajo de IA e integrar componentes más eficientes sin alterar la configuración existente. Triton es compatible con varios frameworks de IA, como TensorFlow, PyTorch, ONNX y TensorRT, y permite implementar modelos en entornos de nube, centros de datos y dispositivos de borde con ajustes mínimos.

Fig. 3. Descripción general de Triton Inference Server de NVIDIA.

Estas son algunas de las principales ventajas de Triton Inference Server de NVIDIA:

• Agrupación automática por lotes: Triton agrupa varias solicitudes de IA antes de procesarlas, lo que mejora el rendimiento y el aprovechamiento de la GPU.
• Integración con Kubernetes: Triton es nativo de la nube, lo que significa que se integra con Kubernetes (un sistema que ayuda a gestionar y escalar aplicaciones de IA en varios ordenadores o servidores en la nube).
• Código abierto y personalizable: Los desarrolladores pueden modificar Triton para adaptarlo a sus necesidades específicas y garantizar la flexibilidad en una amplia variedad de aplicaciones de IA.

Maximizar el rendimiento de la IA con NVIDIA TensorRT#

Si buscas aún más aceleración, NVIDIA TensorRT es una opción interesante para optimizar tus modelos de IA. Guy Dahan explicó que TensorRT es un optimizador de aprendizaje profundo de alto rendimiento diseñado para las GPU de NVIDIA. Con TensorRT, los modelos de TensorFlow, PyTorch, ONNX y MXNet se pueden convertir en archivos muy eficientes y ejecutables en GPU.

TensorRT es tan fiable gracias a sus optimizaciones específicas para cada tipo de hardware. Un modelo optimizado para dispositivos Jetson no funcionará con la misma eficiencia en otras GPU, porque TensorRT ajusta el rendimiento al hardware de destino. Según NVIDIA, TensorRT puede acelerar la inferencia hasta 36 veces en comparación con plataformas que solo utilizan CPU.

Guy Dahan también destacó la compatibilidad de Ultralytics con TensorRT y explicó cómo permite implementar modelos de IA de forma más rápida y eficiente. Los modelos Ultralytics YOLO se pueden exportar directamente al formato TensorRT, lo que permite a los desarrolladores optimizarlos para GPU NVIDIA sin tener que hacer ningún cambio.

DeepStream 7.0: un conjunto de herramientas de análisis de flujos#

Para cerrar la charla por todo lo alto, Guy Dahan presentó DeepStream 7.0, un framework de IA diseñado para procesar vídeo, audio y datos de sensores en tiempo real mediante las GPU de NVIDIA. Está diseñado para aplicaciones de visión artificial de alta velocidad y permite la detección y el seguimiento de objetos, así como el análisis, en sistemas autónomos, seguridad, automatización industrial y ciudades inteligentes. Al ejecutar la IA directamente en dispositivos edge, DeepStream elimina la dependencia de la nube, reduce la latencia y mejora la eficiencia.

Fig. 4. Descubriendo DeepStream 7.0 en YV24 con Guy Dahan.

En concreto, DeepStream puede gestionar de principio a fin el procesamiento de vídeo basado en IA. Admite flujos de trabajo integrales, desde la descodificación y el preprocesamiento de vídeo hasta la inferencia de IA y el posprocesamiento.

Recientemente, DeepStream ha incorporado varias actualizaciones para mejorar la implementación de IA y hacerla más accesible y escalable. Las nuevas herramientas simplifican el desarrollo, mejoran el seguimiento multicámara y optimizan las canalizaciones de IA para ofrecer un mejor rendimiento.

Los desarrolladores cuentan ahora con mayor compatibilidad con entornos Windows, capacidades mejoradas de fusión de sensores para integrar datos de varias fuentes y acceso a aplicaciones de referencia prediseñadas que agilizan la implementación. Estas mejoras hacen de DeepStream una solución más flexible y eficiente para aplicaciones de IA en tiempo real y ayudan a los desarrolladores a escalar fácilmente el análisis inteligente de vídeo.

Conclusiones clave#

Como se mostró en la ponencia de Guy Dahan en YV24, Edge AI está redefiniendo las aplicaciones de visión artificial. Gracias a los avances en hardware y software, el procesamiento en tiempo real es cada vez más rápido, eficiente y rentable.

A medida que más sectores adoptan Edge AI, abordar retos como la fragmentación y la complejidad de la implementación será clave para aprovechar todo su potencial. Adoptar estas innovaciones impulsará aplicaciones de IA más inteligentes y reactivas, y dará forma al futuro de la visión artificial.

¡Forma parte de nuestra comunidad en crecimiento! Explora nuestro repositorio de GitHub para aprender más sobre IA y consulta nuestras opciones de licencia para poner en marcha tus proyectos de IA de visión. ¿Te interesan innovaciones como la IA en la atención sanitaria y la visión artificial en la industria manufacturera? Visita nuestras páginas de soluciones para descubrir más.