Implementación de aplicaciones de visión artificial en dispositivos de IA en el edge

Gracias a los avances recientes en visión por ordenador e inteligencia artificial (AI), lo que antes era solo un campo de investigación ahora impulsa aplicaciones de gran impacto en diversos sectores. Desde los coches autónomos hasta la obtención de imágenes médicas y la seguridad, los sistemas de visión por ordenador resuelven problemas reales a gran escala.

Muchas de estas aplicaciones implican analizar imágenes y vídeo en tiempo real, y depender de la computación en la nube no siempre resulta práctico debido a la latencia, los costes y las preocupaciones sobre la privacidad. Edge AI es una excelente solución en estas situaciones. Al ejecutar modelos de IA de visión directamente en dispositivos periféricos, las empresas pueden procesar los datos más rápido, de forma más económica y con mayor seguridad, haciendo que la IA en tiempo real sea más accesible.

Durante YOLO Vision 2024 (YV24), el evento híbrido anual organizado por Ultralytics, uno de los temas centrales fue democratizar la IA de visión haciendo que la implementación fuera más sencilla y eficiente para los usuarios. Guy Dahan, arquitecto sénior de soluciones en NVIDIA, explicó cómo las soluciones de hardware y software de NVIDIA, incluidos los dispositivos de computación periférica, los servidores de inferencia, los marcos de optimización y los SDK de implementación de IA, ayudan a los desarrolladores a optimizar la IA en el extremo.

En este artículo, analizaremos las conclusiones clave de la ponencia principal de Guy Dahan en YV24 y cómo las últimas innovaciones de NVIDIA hacen que la implementación de la IA de visión sea más rápida y escalable.

¿Qué es la Edge AI?#

Guy Dahan comenzó su charla expresando su entusiasmo por participar virtualmente en YV24 y su interés por el paquete de Python de Ultralytics y los modelos YOLO de Ultralytics, y afirmó: «Llevo usando Ultralytics desde el día en que salió. Me gusta mucho Ultralytics; ya usaba YOLOv5 antes de eso y soy un auténtico entusiasta de este paquete».

A continuación, presentó el concepto de Edge AI y explicó que consiste en ejecutar los cálculos de IA directamente en dispositivos como cámaras, drones o máquinas industriales, en lugar de enviar los datos a servidores en la nube distantes para procesarlos.

En lugar de esperar a que las imágenes o los vídeos se carguen, se analicen y se envíen de vuelta con los resultados, Edge AI permite analizar los datos al instante en el propio dispositivo. Esto hace que los sistemas de IA de visión sean más rápidos y eficientes, y que dependan menos de la conectividad a Internet. Edge AI resulta especialmente útil para aplicaciones de toma de decisiones en tiempo real, como coches autónomos, cámaras de seguridad y fábricas inteligentes.

Principales ventajas de la Edge AI#

Tras presentar Edge AI, Guy Dahan destacó sus principales ventajas, centrándose en la eficiencia, el ahorro de costes y la seguridad de los datos. Explicó que una de las mayores ventajas es la baja latencia: como los modelos de IA procesan los datos directamente en el dispositivo, no es necesario enviar la información a la nube y esperar una respuesta.

Edge AI también ayuda a reducir costes y proteger los datos confidenciales. Enviar grandes cantidades de datos a la nube, especialmente secuencias de vídeo, puede resultar caro. Sin embargo, procesarlos localmente reduce los costes de ancho de banda y almacenamiento.

Otra ventaja clave es la privacidad de los datos, ya que la información permanece en el dispositivo en lugar de transferirse a un servidor externo. Esto es especialmente importante para las aplicaciones sanitarias, financieras y de seguridad, en las que mantener los datos localmente y protegidos es una prioridad absoluta.

Fig. 1. Guy Dahan presenta a distancia en YV24 las ventajas de la Edge AI.

Partiendo de estas ventajas, Guy Dahan comentó la creciente adopción de Edge AI. Señaló que, desde que NVIDIA presentó Jetson en 2014, su uso se ha multiplicado por diez. Hoy en día, más de 1,2 millones de desarrolladores trabajan con dispositivos Jetson.

Descripción general de NVIDIA Jetson: un dispositivo de Edge AI#

A continuación, Guy Dahan se centró en los dispositivos NVIDIA Jetson, una familia de dispositivos de computación periférica con IA diseñada para ofrecer un alto rendimiento con un bajo consumo energético. Los dispositivos Jetson son ideales para aplicaciones de visión por ordenador en sectores como la robótica, la agricultura, la sanidad y la automatización industrial. «Jetson son dispositivos de Edge AI creados específicamente para la IA. Incluso añadiría que originalmente se diseñaron principalmente para la visión por ordenador», añadió Guy Dahan.

Los dispositivos Jetson se presentan en tres niveles, cada uno adaptado a distintas necesidades:

• Nivel básico: estos dispositivos ofrecen entre 20 y 40 billones de operaciones por segundo (TOPS) de rendimiento de IA con un consumo de entre 10 y 15 W, lo que los convierte en una opción asequible para aplicaciones periféricas.
• Gama convencional: equilibra el rendimiento y la eficiencia, con entre 70 y 200 TOPS y un consumo de entre 20 y 40 W, por lo que resulta adecuada para cargas de trabajo de IA de gama media.
• Alto rendimiento: ofrece hasta 275 TOPS con un consumo de entre 60 y 75 W, y está diseñada para aplicaciones de IA exigentes, como la robótica y la automatización.

Además, Guy Dahan habló del próximo Jetson AGX Thor, cuyo lanzamiento está previsto para este año, y afirmó que ofrecerá ocho veces más rendimiento de la unidad de procesamiento gráfico (GPU), el doble de capacidad de memoria y un rendimiento mejorado de la unidad central de procesamiento (CPU). Está diseñado específicamente para la robótica humanoide y las aplicaciones avanzadas de Edge AI.

Desafíos relacionados con la implementación de modelos de visión por ordenador#

A continuación, Guy Dahan pasó a hablar del aspecto de software de Edge AI y explicó que, incluso con un hardware potente, implementar modelos de forma eficiente puede ser complicado.

Uno de los mayores obstáculos es la compatibilidad, ya que los desarrolladores de IA suelen trabajar con distintos marcos de IA, como PyTorch y TensorFlow. Cambiar de un marco a otro puede ser difícil y obliga a los desarrolladores a recrear entornos para garantizar que todo funcione correctamente.

La escalabilidad es otro desafío clave. Los modelos de IA requieren una capacidad de computación considerable y, como dijo Dahan: «Nunca ha existido una empresa de IA que quiera menos capacidad de computación». Ampliar las aplicaciones de IA a varios dispositivos puede encarecerse rápidamente, por lo que la optimización es esencial.

Además, las canalizaciones de IA son complejas y a menudo implican distintos tipos de datos, procesamiento en tiempo real e integración de sistemas. Los desarrolladores dedican mucho esfuerzo a garantizar que sus modelos interactúen sin problemas con los ecosistemas de software existentes. Superar estos desafíos es fundamental para hacer que las implementaciones de IA sean más eficientes y escalables.

Fig. 2. Desafíos de la implementación de modelos.

Simplificación de la implementación con NVIDIA Triton Inference Server#

A continuación, Guy Dahan centró su atención en Triton Inference Server de NVIDIA. Señaló que muchas empresas y startups comienzan el desarrollo de IA sin optimizar completamente sus modelos. Rediseñar una canalización de IA entera desde cero puede resultar disruptivo y llevar mucho tiempo, lo que dificulta una ampliación eficiente.

En lugar de exigir una renovación completa del sistema, Triton permite a los desarrolladores perfeccionar y optimizar gradualmente sus flujos de trabajo de IA, integrando componentes más eficientes sin alterar la configuración existente. Gracias a la compatibilidad con varios marcos de IA, incluidos TensorFlow, PyTorch, ONNX y TensorRT, Triton permite implementar modelos sin problemas en entornos de nube, centros de datos y dispositivos periféricos con ajustes mínimos.

Fig. 3. Descripción general de NVIDIA Triton Inference Server.

Estas son algunas de las principales ventajas de NVIDIA Triton Inference Server:

• Procesamiento por lotes automático: Triton agrupa varias solicitudes de IA antes de procesarlas, reduciendo los retrasos (latencia) y mejorando la velocidad de inferencia (el tiempo que tarda un modelo de IA en generar resultados).
• Integración con Kubernetes: Triton es nativo de la nube, lo que significa que funciona perfectamente con Kubernetes (un sistema que ayuda a gestionar y escalar aplicaciones de IA en varios ordenadores o servidores en la nube).
• Código abierto y personalizable: los desarrolladores pueden modificar Triton para adaptarlo a sus necesidades específicas, garantizando flexibilidad para una amplia variedad de aplicaciones de IA.

Maximización del rendimiento de la IA con NVIDIA TensorRT#

Si buscas una aceleración aún mayor, NVIDIA TensorRT es una opción interesante para optimizar tus modelos de IA. Guy Dahan explicó que TensorRT es un optimizador de aprendizaje profundo de alto rendimiento creado para las GPU de NVIDIA. Con TensorRT, los modelos de TensorFlow, PyTorch, ONNX y MXNet pueden convertirse en archivos ejecutables en GPU altamente eficientes.

Lo que hace que TensorRT sea tan fiable son sus optimizaciones específicas para el hardware. Un modelo optimizado para dispositivos Jetson no funcionará con la misma eficiencia en otras GPU, ya que TensorRT ajusta el rendimiento en función del hardware de destino. Un modelo de visión por ordenador optimizado puede aumentar hasta 36 veces la velocidad de inferencia en comparación con modelos sin optimizar.

Guy Dahan también destacó la compatibilidad de Ultralytics con TensorRT y explicó cómo hace que la implementación de modelos de IA sea más rápida y eficiente. Los modelos YOLO de Ultralytics se pueden exportar directamente al formato TensorRT, lo que permite a los desarrolladores optimizarlos para las GPU de NVIDIA sin necesidad de realizar ningún cambio.

DeepStream 7.0: un kit de herramientas de análisis de streaming#

Para cerrar la charla con una nota positiva, Guy Dahan presentó DeepStream 7.0, un marco de IA diseñado para procesar vídeo, audio y datos de sensores en tiempo real utilizando GPU de NVIDIA. Creado para admitir aplicaciones de visión por ordenador de alta velocidad, permite detectar y seguir objetos, así como realizar análisis en sistemas autónomos, seguridad, automatización industrial y ciudades inteligentes. Al ejecutar la IA directamente en dispositivos periféricos, DeepStream elimina la dependencia de la nube, reduce la latencia y mejora la eficiencia.

Fig. 4. Explorando DeepStream 7.0 en YV24 con Guy Dahan.

En concreto, DeepStream puede gestionar el procesamiento de vídeo basado en IA de principio a fin. Admite flujos de trabajo integrales, desde la descodificación y el preprocesamiento del vídeo hasta la inferencia de IA y el posprocesamiento.

Recientemente, DeepStream ha incorporado varias actualizaciones para mejorar la implementación de IA y hacerla más accesible y escalable. Las nuevas herramientas simplifican el desarrollo, mejoran el seguimiento con varias cámaras y optimizan las canalizaciones de IA para ofrecer un mejor rendimiento.

Ahora los desarrolladores disponen de una compatibilidad ampliada con entornos Windows, capacidades mejoradas de fusión de sensores para integrar datos de varias fuentes y acceso a aplicaciones de referencia prediseñadas para acelerar la implementación. Estas mejoras hacen de DeepStream una solución más flexible y eficiente para aplicaciones de IA en tiempo real y ayudan a los desarrolladores a escalar fácilmente el análisis de vídeo inteligente.

Conclusiones clave#

Como se mostró en la ponencia principal de Guy Dahan en YV24, Edge AI está redefiniendo las aplicaciones de visión por ordenador. Gracias a los avances en hardware y software, el procesamiento en tiempo real es cada vez más rápido, eficiente y rentable.

A medida que más sectores adoptan Edge AI, abordar desafíos como la fragmentación y la complejidad de la implementación será clave para aprovechar todo su potencial. Adoptar estas innovaciones impulsará aplicaciones de IA más inteligentes y con mayor capacidad de respuesta, y contribuirá a definir el futuro de la visión por ordenador.

¡Forma parte de nuestra comunidad en crecimiento! Explora nuestro repositorio de GitHub para obtener más información sobre la IA y consulta nuestras opciones de licencia para poner en marcha tus proyectos de IA de visión. ¿Te interesan innovaciones como la IA en la sanidad y la visión por ordenador en la fabricación? Visita nuestras páginas de soluciones para obtener más información.