Las inferencias en tiempo real en soluciones de IA visual están marcando la diferencia

Todos hemos sufrido en algún momento las frustraciones que puede causar una conexión a Internet lenta. Sin embargo, imagina ese retraso en una situación crítica, como un coche autónomo reaccionando ante un obstáculo o un médico analizando una exploración médica crítica. Unos segundos adicionales pueden tener consecuencias graves.

Aquí es donde la inferencia de IA en tiempo real puede marcar la diferencia. El procesamiento rápido y las predicciones en tiempo real permiten que las soluciones de visión por ordenador procesen y reaccionen a los datos visuales al instante. Estas decisiones tomadas en fracciones de segundo pueden mejorar la seguridad, la eficiencia y la comodidad diaria.

Por ejemplo, piensa en un cirujano que realiza una intervención delicada con la ayuda de un asistente robótico. Cada movimiento se controla mediante una conexión de alta velocidad, y el sistema de visión del robot procesa el campo quirúrgico en tiempo real, proporcionando al cirujano información visual instantánea. Incluso el más mínimo retraso en este bucle de retroalimentación podría provocar errores graves y poner en riesgo al paciente. Este es un ejemplo perfecto de por qué las inferencias en tiempo real son cruciales: no hay margen para la latencia.

Las inferencias de IA en aplicaciones del mundo real dependen de tres conceptos clave: motores de inferencia (el software o hardware que ejecuta modelos de IA de forma eficiente), latencia de inferencia (el retraso entre la entrada y la salida) e inferencia en tiempo real (la capacidad del sistema de IA para procesar y reaccionar con un retraso mínimo).

En este artículo, exploraremos estos conceptos fundamentales y cómo los modelos de visión por ordenador, como Ultralytics YOLO11, permiten crear aplicaciones que dependen de predicciones instantáneas.

¿Qué es una inferencia de IA?#

Ejecutar una inferencia es el proceso de analizar datos nuevos mediante un modelo de IA entrenado para realizar una predicción o resolver una tarea. A diferencia del entrenamiento, que consiste en enseñar a un modelo procesando grandes cantidades de datos etiquetados, la inferencia se centra en producir resultados de forma rápida y precisa utilizando un modelo ya entrenado.

Fig. 1. Qué son las inferencias.

Por ejemplo, en la conservación de la fauna, las cámaras trampa de IA utilizan modelos de visión por ordenador para identificar y clasificar animales en tiempo real. Cuando una cámara detecta movimiento, el modelo de IA reconoce al instante si se trata de un ciervo, un depredador o incluso un furtivo, lo que ayuda a los investigadores a realizar un seguimiento de las poblaciones animales y proteger especies en peligro de extinción sin intervención humana. Esta rápida identificación hace posible la supervisión en tiempo real y permite responder antes a posibles amenazas.

Cómo funcionan los motores de inferencia#

Un modelo de machine learning entrenado no siempre está listo para desplegarse en su forma original. Un motor de inferencia es una herramienta de software o hardware especializada, diseñada para ejecutar modelos de machine learning de forma eficiente y optimizarlos para su despliegue en el mundo real. Utiliza técnicas de optimización, como la compresión de modelos, la cuantización y las transformaciones de grafos, para mejorar el rendimiento y reducir el consumo de recursos, de modo que el modelo pueda desplegarse en distintos entornos.

En esencia, un motor de inferencia se centra en reducir la sobrecarga computacional, minimizar la latencia y mejorar la eficiencia para permitir predicciones rápidas y precisas. Una vez optimizado, el motor ejecuta el modelo con datos nuevos, lo que le permite generar inferencias en tiempo real de forma eficiente. Esta optimización garantiza que los modelos de IA funcionen correctamente tanto en servidores en la nube de alto rendimiento como en dispositivos periféricos con recursos limitados, como smartphones, dispositivos IoT y sistemas embebidos.

Problemas causados por la latencia de inferencia#

La latencia de inferencia es el retraso entre el momento en que un sistema de IA recibe los datos de entrada (como una imagen de una cámara) y el momento en que produce una salida (por ejemplo, la detección de objetos en la imagen). Incluso un retraso pequeño puede afectar significativamente al rendimiento y la usabilidad de las aplicaciones de IA en tiempo real.

La latencia de inferencia se produce en tres etapas clave:

• Tiempo de preprocesamiento: el tiempo necesario para preparar los datos de entrada antes de introducirlos en el modelo. Esto incluye cambiar el tamaño de las imágenes para adaptarlas a las dimensiones de entrada del modelo, normalizar los valores de los píxeles para mejorar la precisión y convertir formatos (por ejemplo, de RGB a escala de grises o de vídeo a secuencias de fotogramas).
• Tiempo de cálculo: el tiempo que tarda realmente el modelo en realizar la inferencia. Esto incluye operaciones como los cálculos capa por capa en redes profundas, las multiplicaciones de matrices, las convoluciones y la transferencia de datos entre la memoria y las unidades de procesamiento.
• Tiempo de posprocesamiento: el tiempo necesario para convertir las salidas sin procesar del modelo en resultados significativos. Esto puede incluir dibujar cuadros delimitadores en la detección de objetos, filtrar falsos positivos en el reconocimiento de imágenes o aplicar umbrales en la detección de anomalías.

La latencia de inferencia es fundamental en las aplicaciones en tiempo real. Por ejemplo, en la detección automatizada de defectos en una línea de montaje, la visión por ordenador puede utilizarse para inspeccionar los productos mientras avanzan por la cinta transportadora.

El sistema debe identificar y señalar rápidamente los defectos antes de que los productos pasen a la siguiente etapa. Si el modelo tarda demasiado en procesar las imágenes, es posible que los artículos defectuosos no se detecten a tiempo, lo que puede provocar un desperdicio de materiales, costosas repeticiones del trabajo o que productos defectuosos lleguen a los clientes. Al reducir la latencia, los fabricantes pueden mejorar el control de calidad, aumentar la eficiencia y reducir las pérdidas.

Cómo reducir la latencia de inferencia#

Mantener una latencia de inferencia mínima es esencial en muchas aplicaciones de visión por ordenador. Para conseguirlo, se pueden utilizar diversas técnicas. Veamos algunas de las técnicas más habituales para reducir la latencia de inferencia.

Poda de modelos#

La poda de modelos simplifica una red neuronal eliminando conexiones innecesarias (pesos), lo que la hace más pequeña y rápida. Este proceso reduce la carga computacional del modelo y mejora la velocidad sin afectar demasiado a la precisión.

Al conservar solo las conexiones más importantes, la poda garantiza una inferencia eficiente y un mejor rendimiento, especialmente en dispositivos con una capacidad de procesamiento limitada. Se utiliza ampliamente en aplicaciones en tiempo real, como la IA móvil, la robótica y la computación periférica, para mejorar la eficiencia sin perder fiabilidad.

Fig. 2. Eliminación de conexiones menos eficaces mediante la poda de modelos.

Cuantización de modelos#

La cuantización de modelos es una técnica que hace que los modelos de IA funcionen más rápido y utilicen menos memoria al simplificar los números que emplean para los cálculos. Normalmente, estos modelos trabajan con números en coma flotante de 32 bits, que son muy precisos, pero requieren mucha capacidad de procesamiento. La cuantización reduce estos números a enteros de 8 bits, que son más fáciles de procesar y ocupan menos espacio.

Fig. 3. Uso de la cuantización de modelos para convertir valores en coma flotante en representaciones enteras.

Uso de modelos eficientes#

El diseño de un modelo de IA tiene un gran impacto en la rapidez con la que puede realizar predicciones. Los modelos como Ultralytics YOLO11, diseñados para una inferencia eficiente, son ideales para aplicaciones en las que la velocidad de procesamiento es fundamental.

Cuando desarrolles una solución de IA, es importante que elijas el modelo adecuado en función de los recursos disponibles y las necesidades de rendimiento. Si empiezas con un modelo demasiado pesado, es más probable que encuentres problemas como tiempos de procesamiento lentos, un mayor consumo de energía y dificultades para desplegarlo en dispositivos con recursos limitados. Un modelo ligero garantiza un rendimiento fluido, especialmente en aplicaciones en tiempo real y periféricas.

Velocidad frente a precisión: optimización de las inferencias en tiempo real#

Aunque existen diversas técnicas para reducir la latencia, una parte clave de las inferencias en tiempo real consiste en equilibrar la velocidad y la precisión. No basta con acelerar los modelos: hay que optimizar la velocidad de inferencia sin comprometer la precisión. Un sistema que produce predicciones rápidas pero incorrectas no resulta eficaz. Por eso es fundamental realizar pruebas exhaustivas para asegurarse de que los modelos funcionan bien en situaciones reales. Un sistema que parece rápido durante las pruebas, pero falla en condiciones reales, no está verdaderamente optimizado.

Aplicaciones de IA de visión que aprovechan las inferencias en tiempo real#

A continuación, repasaremos algunas aplicaciones del mundo real en las que la inferencia en tiempo real está transformando distintos sectores al permitir respuestas instantáneas a las entradas visuales.

Sistemas de autopago en tiendas minoristas#

Los modelos de visión por ordenador, como Ultralytics YOLO11, pueden ayudar a mejorar los sistemas de autopago al hacer que el reconocimiento de artículos sea más rápido y preciso. La compatibilidad de YOLO11 con varias tareas de visión por ordenador, como la detección de objetos y la segmentación de instancias, permite identificar productos incluso cuando faltan los códigos de barras o están dañados. La IA de visión puede reducir la necesidad de introducir datos manualmente y agilizar el proceso de pago.

Además de identificar productos, la visión por ordenador también puede integrarse en los sistemas de autopago para verificar precios, prevenir fraudes y mejorar la comodidad de los clientes. Las cámaras basadas en IA pueden distinguir automáticamente entre productos similares y detectar comportamientos sospechosos durante el pago. Esto incluye identificar los «no escaneos», cuando un cliente o cajero omite un artículo sin querer, y los intentos de fraude más deliberados, como el «cambio de producto», en el que se coloca un código de barras más barato sobre un artículo más caro.

Fig. 4. La IA puede mejorar los puestos de autopago.

Un gran ejemplo de ello es Kroger, un importante minorista estadounidense que ha integrado la visión por ordenador y la IA en sus sistemas de autopago. Mediante el análisis de vídeo en tiempo real, Kroger ha conseguido corregir automáticamente más del 75 % de los errores de pago, mejorando tanto la experiencia del cliente como las operaciones de las tiendas.

Inspección de calidad mediante visión por ordenador#

Inspeccionar productos manualmente para realizar el control de calidad puede ser lento y no siempre preciso. Por eso, cada vez más fabricantes están adoptando flujos de trabajo de inspección visual que utilizan la visión por ordenador para detectar los defectos antes en el proceso de producción.

Las cámaras de alta resolución y la IA de visión pueden detectar pequeños defectos que los humanos podrían pasar por alto, y modelos como Ultralytics YOLO11 pueden ayudar con las comprobaciones de calidad, la clasificación y el recuento en tiempo real para garantizar que solo los productos perfectos lleguen a los clientes. Automatizar este proceso ahorra tiempo, reduce costes y disminuye los residuos, haciendo que la producción sea más fluida y eficiente.

Fig. 5. Un ejemplo del uso de Ultralytics YOLO11 para contar productos en una línea de montaje.

Conclusiones clave#

La inferencia en tiempo real ayuda a los modelos de IA a tomar decisiones instantáneas, algo crucial en muchos sectores. Ya sea un coche autónomo evitando un accidente, un médico analizando rápidamente exploraciones médicas o una fábrica detectando defectos en productos, las respuestas rápidas y precisas de la IA marcan una gran diferencia.

Al mejorar la velocidad y la eficiencia de los modelos de IA, podemos crear sistemas más inteligentes y fiables que funcionen sin problemas en situaciones reales. A medida que avance la tecnología, las soluciones de IA en tiempo real seguirán dando forma al futuro, haciendo que los procesos cotidianos sean más rápidos, seguros y eficientes.

Para obtener más información, visita nuestro repositorio de GitHub y participa en nuestra comunidad. Descubre innovaciones en sectores como la IA en coches autónomos y la visión por ordenador en la agricultura en nuestras páginas de soluciones. Consulta nuestras opciones de licencia y da vida a tus proyectos de IA de visión.