Optimización de modelos Ultralytics YOLO con la integración de TensorRT

Imagina un coche autónomo moviéndose por una calle con mucho tráfico y que solo tiene milisegundos para detectar a un peatón que baja a la calzada. Al mismo tiempo, podría necesitar reconocer una señal de stop parcialmente oculta por un árbol o reaccionar rápidamente ante un vehículo cercano que se desvía hacia su carril. En situaciones así, la velocidad y las respuestas en tiempo real son fundamentales.

Aquí es donde la inteligencia artificial (IA), concretamente computer vision, una rama de la IA que ayuda a las máquinas a interpretar datos visuales, desempeña un papel clave. Para que las soluciones de computer vision funcionen de forma fiable en entornos del mundo real, a menudo necesitan procesar información rápidamente, gestionar múltiples tareas a la vez y utilizar la memoria de manera eficiente.

Una forma de lograrlo es mediante la aceleración por hardware, utilizando dispositivos especializados como graphics processing units (GPUs) para ejecutar modelos más rápido. Las GPUs de NVIDIA son especialmente conocidas para este tipo de tareas gracias a su capacidad de ofrecer baja latencia y un alto rendimiento.

Sin embargo, ejecutar un modelo en una GPU tal cual no siempre garantiza un rendimiento óptimo. Los modelos de visión por IA suelen requerir optimización para aprovechar al máximo las capacidades de los dispositivos de hardware. Para lograr el máximo rendimiento con un hardware específico, necesitamos compilar el modelo para utilizar el conjunto concreto de instrucciones de dicho hardware.

Por ejemplo, TensorRT es un formato de exportación y una biblioteca de optimización desarrollada por NVIDIA para mejorar el rendimiento en máquinas de alta gama. Utiliza técnicas avanzadas para reducir significativamente el tiempo de inferencia manteniendo la precisión.

Fig 1. NVIDIA TensorRT permite que los modelos se ejecuten de forma óptima en varios dispositivos NVIDIA.

En este artículo exploraremos la TensorRT integration compatible con Ultralytics y veremos cómo puedes exportar tu modelo YOLO11 para un despliegue más rápido y eficiente en hardware de NVIDIA. ¡Empecemos!

Una visión general de TensorRT#

TensorRT es un conjunto de herramientas desarrollado por NVIDIA para ayudar a que los modelos de IA se ejecuten de forma más rápida y eficiente en las GPU de NVIDIA. Está diseñado para aplicaciones del mundo real donde la velocidad y el rendimiento son realmente importantes, como los coches autónomos y el control de calidad en la fabricación y la industria farmacéutica.

TensorRT incluye herramientas como compiladores y optimizadores de modelos que pueden trabajar en segundo plano para asegurar que tus modelos funcionen con baja latencia y puedan manejar un mayor rendimiento.

La TensorRT integration compatible con Ultralytics funciona optimizando tu modelo YOLO para que se ejecute de manera más eficiente en GPUs mediante métodos como la reducción de la precision. Esto se refiere al uso de formatos de menor número de bits, como coma flotante de 16 bits (FP16) o enteros de 8 bits (INT8), para representar los datos del modelo, lo que reduce el uso de memoria y acelera el cálculo con un impacto mínimo en la precisión.

Además, las capas de red neuronal compatibles se fusionan en modelos optimizados de TensorRT para reducir el uso de memoria, lo que resulta en una inferencia más rápida y eficiente.

Fig 2. Un vistazo a la técnica de fusión de capas de TensorRT.

Características clave del formato de exportación TensorRT#

Antes de hablar sobre cómo puedes exportar Ultralytics YOLO11 utilizando la integración de TensorRT, echemos un vistazo a algunas características clave del formato de modelo TensorRT:

• Fácil integración con frameworks: TensorRT admite la integración directa con marcos de IA populares como PyTorch, Hugging Face y ONNX, ofreciendo un rendimiento hasta 6 veces más rápido. También es compatible con MATLAB, lo que permite el desarrollo de motores de IA de alta velocidad en plataformas como Jetson, NVIDIA DRIVE y centros de datos.

• Despliegue escalable con Triton: Los modelos optimizados en el formato TensorRT se pueden desplegar a escala utilizando NVIDIA Triton Inference Server, lo que mejora la eficiencia a través de características como el procesamiento por lotes de entradas, la ejecución concurrente de modelos, la compatibilidad con conjuntos de modelos y la transmisión de audio/vídeo en tiempo real.

• Flexible en todos los dispositivos: Desde pequeños dispositivos edge hasta servidores potentes, TensorRT funciona en todo el ecosistema de NVIDIA, admitiendo herramientas como DeepStream para vídeo, Riva para IA de voz y otras para ciberseguridad, recomendaciones y mucho más.

¿Cómo funciona la integración de TensorRT?#

Exportar Ultralytics YOLO models como Ultralytics YOLO11 al formato de modelo TensorRT es sencillo. Veamos los pasos necesarios.

Para empezar, puedes instalar el Ultralytics Python package utilizando un gestor de paquetes como ‘pip’. Esto se puede hacer ejecutando el comando “pip install ultralytics” en tu terminal o símbolo del sistema.

Una vez instalado con éxito el Ultralytics Python package, puedes entrenar, probar, ajustar, exportar y desplegar modelos para varias tareas de computer vision, como la detección de objetos, la clasificación y la segmentación de instancias. Si encuentras alguna dificultad durante la instalación del paquete, puedes consultar la Common Issues guide para ver soluciones y consejos.

Para el siguiente paso, necesitarás un dispositivo NVIDIA. Utiliza el fragmento de código que aparece a continuación para cargar y exportar YOLO11 al formato de modelo TensorRT. Carga una variante nano preentrenada del modelo YOLO11 (yolo11n.pt) y la exporta como un archivo de motor TensorRT (yolo11n.engine), dejándolo listo para su despliegue en dispositivos NVIDIA.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="engine")

Después de convertir tu modelo al formato TensorRT, puedes desplegarlo para diversas aplicaciones.

El ejemplo siguiente muestra cómo cargar el modelo YOLO11 exportado (yolo11n.engine) y ejecutar una inferencia utilizando dicho modelo. La inferencia consiste en usar el modelo entrenado para realizar predicciones sobre datos nuevos. En este caso, utilizaremos una imagen de entrada de un perro para probar el modelo.

tensorrt_model = YOLO("yolo11n.engine")
results = tensorrt_model("https://images.pexels.com/photos/1254140/pexels-photo-1254140.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Cuando ejecutes este código, la siguiente imagen de salida se guardará en la carpeta runs/detect/predict.

Fig 3. El resultado de ejecutar una inferencia utilizando el modelo exportado Ultralytics YOLO11 en formato TensorRT.

¿Cuándo aprovechar la integración de TensorRT?#

El Ultralytics Python package admite varias integraciones que permiten exporting modelos YOLO a diferentes formatos como TorchScript, CoreML, ONNX y TensorRT. Entonces, ¿cuándo debes elegir utilizar la TensorRT integration?

Aquí tienes algunos factores que distinguen al formato de modelo TensorRT de otras opciones de integration de exportación:

• Tamaño de modelo más pequeño: Exportar un modelo YOLO al formato TensorRT con precisión INT8 puede reducir significativamente el tamaño del modelo. La cuantización de FP32 a INT8 puede conducir a una reducción de 4 veces en el tamaño del modelo, lo que permite tiempos de descarga más rápidos, menores requisitos de almacenamiento y una huella de memoria reducida durante el despliegue.

• Menor consumo de energía: La cuantización INT8 no solo reduce el tamaño del modelo, sino que también disminuye el consumo de energía. Las operaciones de precisión reducida para modelos YOLO exportados en INT8 pueden consumir menos energía en comparación con los modelos FP32, lo cual es especialmente beneficioso para dispositivos alimentados por batería como drones, teléfonos inteligentes o dispositivos edge.

• Rendimiento más rápido: Combinar la arquitectura eficiente de YOLO con la optimización INT8 de TensorRT puede mejorar las velocidades de inferencia.

Aplicaciones de Ultralytics YOLO11 y el formato de modelo TensorRT#

Los modelos Ultralytics YOLO exportados al formato TensorRT pueden desplegarse en una amplia gama de escenarios del mundo real. Estos modelos optimizados son especialmente útiles allí donde un rendimiento de IA rápido y eficiente es clave. Exploremos algunos ejemplos interesantes de cómo se pueden utilizar.

Cajas de pago inteligentes en tiendas minoristas#

Una amplia gama de tareas en tiendas minoristas, como escanear códigos de barras, pesar productos o empaquetar artículos, sigue siendo realizada manualmente por el personal. Sin embargo, depender exclusivamente de los empleados puede ralentizar las operaciones y provocar frustración en los clientes, especialmente en la caja. Las largas colas son incómodas tanto para los compradores como para los propietarios de las tiendas. Las cajas de pago automáticas inteligentes son una gran solución para este problema.

Estos contadores utilizan visión por ordenador y GPUs para acelerar el proceso, lo que ayuda a reducir los tiempos de espera. La visión por ordenador permite a estos sistemas ver y comprender su entorno mediante tareas como la detección de objetos. Modelos avanzados como Ultralytics YOLO11, cuando se optimizan con herramientas como TensorRT, pueden ejecutarse mucho más rápido en dispositivos GPU.

Estos modelos exportados son idóneos para configuraciones de comercio inteligente que utilizan dispositivos de hardware compactos pero potentes como el NVIDIA Jetson Nano, diseñados específicamente para aplicaciones de IA en el borde (edge AI).

Fig 4. Un ejemplo de un mostrador de pago inteligente.

Detección automatizada de defectos en la fabricación#

Un modelo de visión por ordenador como Ultralytics YOLO11 se puede entrenar de forma personalizada para detectar productos defectuosos en la industria manufacturera. Una vez entrenado, el modelo se puede exportar al formato TensorRT para su despliegue en instalaciones equipadas con sistemas de IA de alto rendimiento.

A medida que los productos avanzan por las cintas transportadoras, las cámaras capturan imágenes y el modelo Ultralytics YOLO11, ejecutándose en formato TensorRT, las analiza en tiempo real para detectar defectos. Esta configuración permite a las empresas detectar problemas de forma rápida y precisa, reduciendo errores y mejorando la eficiencia.

Del mismo modo, industrias como la farmacéutica están utilizando este tipo de sistemas para identificar defectos en envases médicos. De hecho, el mercado global de defect detection systems inteligentes alcanzará los 5.000 millones de dólares para 2026.

Fig 5. Uso de YOLO para detectar defectos en la industria farmacéutica.

Consideraciones a tener en cuenta al utilizar TensorRT#

Aunque la integración de TensorRT aporta muchas ventajas, como velocidades de inferencia más rápidas y una menor latencia, aquí tienes algunas limitaciones a tener en cuenta:

• Ligera caída en la precisión: Cuando exportas tu modelo en formato TensorRT, es posible que el modelo exportado no sea tan preciso como el original. Las Performance metrics como la precisión (precision), la recuperación (recall) y la capacidad del modelo para detectar objetos (puntuaciones mAP) podrían disminuir ligeramente. Esto se puede mitigar utilizando un conjunto de datos representativo durante la cuantización.

• Mayor complejidad de depuración: Las optimizaciones realizadas por TensorRT pueden hacer que sea más difícil rastrear errores o entender comportamientos inesperados, especialmente al comparar los resultados con el modelo original.

• Sensibilidad al tamaño del lote (batch size): Las ganancias de rendimiento de TensorRT son más pronunciadas con tamaños de lote más grandes. Para aplicaciones que procesan imágenes individuales o lotes pequeños, las mejoras de rendimiento podrían ser menos significativas.

Conclusiones clave#

Exportar modelos Ultralytics YOLO al formato TensorRT hace que se ejecuten significativamente más rápido y de forma más eficiente, lo que los hace ideales para tareas en tiempo real como la detección de defectos en fábricas, potenciar sistemas de cajas inteligentes o monitorizar zonas urbanas concurridas.

Esta optimización ayuda a que los modelos funcionen mejor en las GPU de NVIDIA al acelerar las predicciones y reducir el uso de memoria y energía. Aunque existen algunas limitaciones, el aumento de rendimiento hace que la integración de TensorRT sea una excelente opción para cualquiera que construya sistemas de visión por ordenador de alta velocidad en hardware de NVIDIA.

¿Quieres saber más sobre la IA? Explora nuestro GitHub repository, conecta con our community y consulta our licensing options para poner en marcha tu proyecto de computer vision. Descubre más sobre innovaciones como AI in manufacturing y computer vision in the logistics industry en nuestras páginas de soluciones.