Las inferencias en tiempo real en soluciones de IA de visión están causando impacto

Todos hemos lidiado en algún momento con la frustración que puede causar una conexión a Internet lenta. Sin embargo, imagina ese retraso en una situación de alta responsabilidad, como un coche autónomo reaccionando ante un obstáculo o un médico analizando una exploración crítica. Unos pocos segundos adicionales pueden tener consecuencias graves.

Aquí es donde la inferencia de IA en tiempo real puede marcar la diferencia. Un procesamiento rápido y las predicciones en tiempo real permiten que las soluciones de computer vision procesen y reaccionen a los datos visuales al instante. Estas decisiones en fracciones de segundo pueden mejorar la seguridad, la eficiencia y la comodidad diaria.

Por ejemplo, considera a un cirujano realizando una intervención delicada con la ayuda de un asistente robótico. Cada movimiento se controla mediante una conexión de alta velocidad y el sistema de visión del robot procesa el campo quirúrgico en tiempo real, proporcionando al cirujano una respuesta visual instantánea. Incluso el retraso más mínimo en este bucle de retroalimentación podría provocar errores graves, poniendo en peligro al paciente. Este es un ejemplo perfecto de por qué las inferencias en tiempo real son cruciales; no hay lugar para el lag.

Las inferencias de IA en aplicaciones del mundo real dependen de tres conceptos clave: motores de inferencia (el software o hardware que ejecuta modelos de IA de manera eficiente), latencia de inferencia (el retraso entre la entrada y la salida) y la inferencia en tiempo real (la capacidad del sistema de IA para procesar y reaccionar con un retraso mínimo).

En este artículo, exploraremos estos conceptos fundamentales y cómo los modelos de computer vision como Ultralytics YOLO11 hacen posibles aplicaciones que dependen de predicciones instantáneas.

¿Qué es una inferencia de IA?#

Ejecutar una inferencia es el proceso de analizar nuevos datos mediante un modelo de IA entrenado para realizar una predicción o resolver una tarea. A diferencia del entrenamiento, que implica enseñar a un modelo procesando grandes cantidades de datos etiquetados, la inferencia se centra en producir resultados de forma rápida y precisa utilizando un modelo ya entrenado.

Fig 1. Comprender qué son las inferencias.

Por ejemplo, en la conservación de la vida silvestre, las trampas con AI camera utilizan modelos de computer vision para identificar y clasificar animales en tiempo real. Cuando una cámara detecta movimiento, el modelo de IA reconoce al instante si se trata de un ciervo, un depredador o incluso un furtivo, lo que ayuda a los investigadores a rastrear poblaciones animales y proteger especies en peligro de extinción sin intervención humana. Esta rápida identificación hace posibles la supervisión en tiempo real y respuestas más rápidas ante posibles amenazas.

Comprender los motores de inferencia#

Un modelo de machine learning entrenado no siempre está listo para su despliegue en su forma original. Un inference engine es una herramienta de software o hardware especializada diseñada para ejecutar de manera eficiente modelos de machine learning y optimizarlos para su despliegue en el mundo real. Utiliza optimization techniques como la compresión de modelos, la cuantización y las transformaciones de grafos para mejorar el rendimiento y reducir el consumo de recursos, lo que permite desplegar el modelo en diversos entornos.

En esencia, un motor de inferencia se centra en reducir la carga computacional, minimizar la latencia y mejorar la eficiencia para permitir predicciones rápidas y precisas. Una vez optimizado, el motor ejecuta el modelo sobre nuevos datos, permitiéndole generar inferencias en tiempo real de manera eficiente. Esta optimización asegura que los modelos de IA puedan ejecutarse sin problemas tanto en servidores en la nube de alto rendimiento como en dispositivos de borde con recursos limitados, como smartphones, dispositivos IoT y sistemas integrados.

Problemas causados por la latencia de inferencia#

La Inference latency es el retraso de tiempo entre el momento en que un sistema de IA recibe datos de entrada (como una imagen de una cámara) y el momento en que produce una salida (como la detección de objetos en la imagen). Incluso un retraso pequeño puede afectar significativamente el rendimiento y la usabilidad de las aplicaciones de IA en tiempo real.

La latencia de inferencia ocurre en tres etapas clave:

• Tiempo de preprocesamiento: El tiempo necesario para preparar los datos de entrada antes de introducirlos en el modelo. Esto incluye cambiar el tamaño de las imágenes para que coincidan con las dimensiones de entrada del modelo, normalizar los valores de los píxeles para mejorar la precisión y convertir formatos (por ejemplo, de RGB a escala de grises o de video a secuencias de fotogramas).
• Tiempo de computación: El tiempo real que tarda el modelo en realizar la inferencia. Esto implica operaciones como cálculos capa por capa en redes profundas, multiplicaciones de matrices, convoluciones y transferencia de datos entre la memoria y las unidades de procesamiento.
• Tiempo de post-procesamiento: El tiempo requerido para convertir las salidas brutas del modelo en resultados significativos. Esto puede incluir dibujar bounding boxes en la detección de objetos, filtrar falsos positivos en el reconocimiento de imágenes o aplicar umbrales en la detección de anomalías.

La latencia de inferencia es crítica en aplicaciones en tiempo real. Por ejemplo, en la detección automatizada de defectos en una línea de ensamblaje, se puede utilizar la visión artificial para inspeccionar productos a medida que avanzan por la cinta transportadora.

El sistema debe identificar y señalar rápidamente los defectos antes de que los productos pasen a la siguiente etapa. Si el modelo tarda demasiado en procesar las imágenes, los artículos defectuosos podrían no detectarse a tiempo, lo que provocaría un desperdicio de materiales, costosas rectificaciones o la llegada de productos defectuosos a los clientes. Al reducir la latencia, los fabricantes pueden mejorar el control de calidad, aumentar la eficiencia y reducir las pérdidas.

Cómo reducir la latencia de inferencia#

Mantener la latencia de inferencia al mínimo es esencial en muchas aplicaciones de visión artificial. Se pueden utilizar diversas técnicas para lograr esto. Analicemos algunas de las técnicas más comunes utilizadas para reducir la latencia de inferencia.

Poda de modelos (Model pruning)#

El Model pruning simplifica una red neuronal al eliminar conexiones (pesos) innecesarias, haciéndola más pequeña y rápida. Este proceso reduce la carga computacional del modelo, lo que mejora la velocidad sin afectar demasiado la precisión.

Al mantener solo las conexiones más importantes, la poda asegura una inferencia eficiente y un mejor rendimiento, especialmente en dispositivos con potencia de procesamiento limitada. Se utiliza ampliamente en aplicaciones en tiempo real como IA móvil, robótica y edge computing para mejorar la eficiencia manteniendo la fiabilidad.

Fig 2. Eliminación de conexiones menos efectivas mediante el uso de model pruning.

Cuantización de modelos (Model quantization)#

La Model quantization es una técnica que hace que los modelos de IA se ejecuten más rápido y utilicen menos memoria al simplificar los números que emplean para los cálculos. Normalmente, estos modelos funcionan con números de coma flotante de 32 bits, que son muy precisos pero requieren mucha potencia de procesamiento. La cuantización reduce estos números a enteros de 8 bits, que son más fáciles de procesar y ocupan menos espacio.

Fig 3. Uso de model quantization para convertir valores de coma flotante en representaciones de números enteros.

Uso de modelos eficientes#

El diseño de un modelo de IA tiene un gran impacto en la rapidez con la que puede hacer predicciones. Los modelos como Ultralytics YOLO11, diseñados para una inferencia eficiente, son ideales para aplicaciones donde la velocidad de procesamiento es fundamental.

Cuando estás creando una solución de IA, es importante elegir el modelo adecuado según los recursos disponibles y las necesidades de rendimiento. Si comienzas con un modelo demasiado pesado, es más probable que te encuentres con problemas como tiempos de procesamiento lentos, mayor consumo de energía y dificultad para implementar en dispositivos con recursos limitados. Un modelo ligero asegura un rendimiento fluido, especialmente para aplicaciones en tiempo real y en el borde (edge).

Velocidad vs. precisión: optimización de inferencias en tiempo real#

Aunque existen varias técnicas para reducir la latencia, una parte fundamental de las real-time inferences es equilibrar la velocidad y la precisión. Hacer que los modelos sean más rápidos no es suficiente; la velocidad de inferencia debe optimizarse sin comprometer la precisión. Un sistema que produce predicciones rápidas pero incorrectas no es eficaz. Por eso, las pruebas exhaustivas son vitales para garantizar que los modelos funcionen bien en situaciones del mundo real. Un sistema que parece rápido durante las pruebas pero falla en condiciones reales no está verdaderamente optimizado.

Aplicaciones de visión artificial que aprovechan las inferencias en tiempo real#

A continuación, veamos algunas aplicaciones del mundo real donde la inferencia en tiempo real está transformando industrias al permitir respuestas instantáneas a entradas visuales.

Sistemas de autopago en tiendas minoristas#

Los modelos de visión por computador como Ultralytics YOLO11 pueden ayudar a mejorar los sistemas de autopago haciendo que el reconocimiento de artículos sea más rápido y preciso. La compatibilidad de YOLO11 con varias tareas de visión por computador, como la detección de objetos y la segmentación de instancias, permite identificar productos incluso si faltan códigos de barras o están dañados. La IA de visión puede reducir la necesidad de intervención manual y acelerar el proceso de pago.

Más allá de la identificación de productos, la visión artificial también puede integrarse en los sistemas de autopago para verificar precios, prevenir fraudes y mejorar la comodidad del cliente. Las cámaras con IA pueden distinguir automáticamente entre productos similares y detectar comportamientos sospechosos al pagar. Esto incluye identificar "no escaneos", donde un cliente o cajero omite accidentalmente un artículo, y intentos de fraude más deliberados, como el "cambio de producto", donde se coloca un código de barras más barato sobre un artículo más caro.

Fig 4. La IA puede mejorar los mostradores de autopago.

Un gran ejemplo de esto es Kroger, un importante minorista de EE. UU., que ha integrado computer vision e IA en sus sistemas de autopago. Mediante el análisis de vídeo en tiempo real, Kroger ha podido corregir automáticamente más del 75 % de los errores de pago, mejorando tanto la experiencia del cliente como las operaciones de la tienda.

Inspección de calidad mediante visión artificial#

Inspecting products manualmente para el control de calidad puede ser lento y no siempre preciso. Es por eso que cada vez más fabricantes cambian a flujos de trabajo de inspección visual que utilizan computer vision para detectar defectos en las primeras etapas del proceso de producción.

Las cámaras de alta resolución y la Vision AI pueden detectar pequeños defectos que las personas podrían pasar por alto, y modelos como Ultralytics YOLO11 pueden ayudar con controles de calidad en tiempo real, clasificación y recuento para garantizar que solo los productos perfectos lleguen a los clientes. Automatizar este proceso ahorra tiempo, reduce costes y disminuye los residuos, lo que hace que la producción sea más fluida y eficiente.

Fig 5. Un ejemplo del uso de Ultralytics YOLO11 para contar productos en una línea de montaje.

Conclusiones clave#

La inferencia en tiempo real ayuda a los modelos de IA a tomar decisiones instantáneas, lo cual es crucial en muchas industrias. Ya sea un coche autónomo evitando un accidente, un médico analizando rápidamente exploraciones médicas o una fábrica detectando defectos en los productos, las respuestas rápidas y precisas de la IA marcan una gran diferencia.

Al mejorar la velocidad y la eficiencia de los modelos de IA, podemos crear sistemas más inteligentes y fiables que funcionen a la perfección en situaciones del mundo real. A medida que la tecnología avanza, las soluciones de IA en tiempo real seguirán moldeando el futuro, haciendo que los procesos diarios sean más rápidos, seguros y eficientes.

Para obtener más información, visita nuestro GitHub repository e interactúa con our community. Explora innovaciones en sectores como AI in self-driving cars y computer vision in agriculture en nuestras páginas de soluciones. Echa un vistazo a our licensing options y da vida a tus proyectos de IA de visión.