Poda y cuantización en visión artificial: guía rápida

Con los avances tecnológicos, los dispositivos periféricos son cada vez más comunes. Desde relojes inteligentes que registran la frecuencia cardíaca hasta drones aéreos que vigilan las calles, los sistemas periféricos pueden procesar datos localmente y en tiempo real en el propio dispositivo.

Este método suele ser más rápido y seguro que enviar datos a la nube, sobre todo en aplicaciones que manejan datos personales, como la detección de matrículas o el seguimiento de gestos. Estos son ejemplos de visión artificial, una rama de la inteligencia artificial (IA) que permite a las máquinas interpretar y comprender información visual.

Fig. 1. Ejemplo de detección de matrículas. (Fuente)

Sin embargo, hay que tener en cuenta que estas aplicaciones requieren modelos de IA visual capaces de realizar cálculos intensivos, utilizar pocos recursos y funcionar de forma autónoma. La mayoría de los modelos de visión artificial se desarrollan para sistemas de alto rendimiento, por lo que no son tan adecuados para implementarlos directamente en dispositivos edge.

Para salvar esta brecha, los desarrolladores suelen aplicar optimizaciones específicas que adaptan el modelo para que funcione de forma eficiente en hardware más pequeño. Estos ajustes son fundamentales para los despliegues edge en condiciones reales, donde la memoria y la capacidad de procesamiento son limitadas.

Curiosamente, los modelos de visión artificial como Ultralytics YOLO11 ya están diseñados para ser eficientes en dispositivos edge, por lo que son ideales para tareas en tiempo real. Sin embargo, su rendimiento puede mejorarse aún más con técnicas de optimización de modelos como la poda y la cuantización, que permiten una inferencia más rápida y un menor consumo de recursos en dispositivos con limitaciones.

En este artículo veremos más de cerca qué son la poda y la cuantización, cómo funcionan y cómo pueden ayudar a los modelos YOLO a rendir en despliegues edge en condiciones reales. ¡Empecemos!

Poda y cuantización: técnicas fundamentales para optimizar modelos#

Al preparar modelos de IA visual para su despliegue en dispositivos edge, uno de los objetivos principales es conseguir que el modelo sea ligero y fiable sin sacrificar el rendimiento. Esto suele implicar reducir el tamaño y las necesidades computacionales del modelo para que funcione de forma eficiente en hardware con memoria, potencia o capacidad de procesamiento limitadas. Dos métodos habituales para lograrlo son la poda y la cuantización.

La poda es una técnica de optimización de modelos de IA que ayuda a reducir el tamaño de las redes neuronales y a mejorar su eficiencia. En muchos casos, algunas partes de un modelo, como determinadas conexiones o nodos, apenas influyen en sus predicciones finales. La poda identifica y elimina estas partes menos importantes, lo que reduce el tamaño del modelo y acelera su rendimiento.

Por otro lado, la cuantización es una técnica de optimización que reduce la precisión de los números que utiliza un modelo. En lugar de recurrir a números de coma flotante de 32 bits de alta precisión, el modelo pasa a usar formatos más pequeños y eficientes, como los enteros de 8 bits. Este cambio ayuda a reducir el uso de memoria y acelera la inferencia, el proceso mediante el que el modelo realiza predicciones.

Fig. 2. Una mirada a la poda y la cuantización. (Fuente)

Cómo funcionan la poda y la cuantización#

Ahora que entendemos mejor qué son la poda y la cuantización, veamos cómo funciona cada una.

La poda se realiza mediante un proceso conocido como análisis de sensibilidad. Este identifica qué partes de los modelos de redes neuronales, como ciertos pesos, neuronas o canales, contribuyen menos a la predicción de salida final. Es posible eliminar estas partes con un efecto mínimo en la precisión. Tras la poda, normalmente se vuelve a entrenar el modelo para ajustar su rendimiento. Este ciclo puede repetirse hasta encontrar el equilibrio adecuado entre tamaño y precisión.

Por su parte, la cuantización de modelos se centra en cómo gestiona los datos el modelo. Empieza con la calibración, en la que el modelo procesa datos de ejemplo para aprender el rango de valores que debe manejar. A continuación, esos valores se convierten de coma flotante de 32 bits a formatos de menor precisión, como los enteros de 8 bits.

Fig. 3. La cuantización ayuda a reducir el tamaño y la complejidad del modelo. (Fuente)

Hay varias herramientas que facilitan el uso de la poda y la cuantización en proyectos de IA reales. La mayoría de los frameworks de IA, como PyTorch y TensorFlow, incluyen compatibilidad integrada con estas técnicas de optimización, lo que permite a los desarrolladores integrarlas directamente en el proceso de despliegue del modelo.

Una vez optimizado un modelo, herramientas como ONNX Runtime pueden ayudar a ejecutarlo de forma eficiente en distintas plataformas de hardware, como servidores, ordenadores de sobremesa y dispositivos periféricos. Además, Ultralytics ofrece integraciones que permiten exportar modelos YOLO a formatos compatibles con la cuantización (por ejemplo, quantize=8 para INT8 cuando el formato lo admite), lo que facilita reducir el tamaño del modelo y mejorar el rendimiento.

Descripción general de la optimización de modelos Ultralytics YOLO#

Los modelos Ultralytics YOLO, como YOLO11, son ampliamente conocidos por su detección de objetos rápida y en una sola etapa, lo que los hace ideales para tareas de IA visual en tiempo real. Ya están diseñados para ser lo bastante ligeros y eficientes como para desplegarlos en dispositivos edge. Sin embargo, las capas encargadas de procesar las características visuales, llamadas capas convolucionales, pueden seguir exigiendo una potencia de cálculo considerable durante la inferencia.

Puede que te preguntes: si Ultralytics YOLO11 ya está optimizado para dispositivos edge, ¿por qué necesita más optimización? En pocas palabras, no todos los dispositivos edge son iguales. Algunos funcionan con hardware muy limitado, como diminutos procesadores integrados que consumen menos energía que una bombilla LED estándar.

En estos casos, incluso un modelo optimizado como Ultralytics YOLO11 necesita optimización adicional para garantizar un rendimiento fluido y fiable. Técnicas como la poda y la cuantización ayudan a reducir el tamaño del modelo y acelerar la inferencia sin afectar significativamente a la precisión, por lo que son ideales para entornos con estas limitaciones.

Para facilitar la aplicación de estas técnicas de optimización, Ultralytics admite varias integraciones que permiten exportar modelos YOLO a distintos formatos, como ONNX, TensorRT, OpenVINO, CoreML y PaddlePaddle. Cada formato está diseñado para funcionar bien con tipos específicos de hardware y entornos de despliegue.

Por ejemplo, ONNX se utiliza a menudo en flujos de trabajo de cuantización gracias a su compatibilidad con una amplia variedad de herramientas y plataformas. TensorRT, por su parte, está muy optimizado para dispositivos NVIDIA y admite inferencias de baja precisión mediante INT8, lo que lo hace ideal para el despliegue de alta velocidad en GPU periféricas.

Casos de uso destacados de la optimización de modelos Ultralytics YOLO#

A medida que la visión artificial se extiende a distintas aplicaciones reales, los modelos YOLO optimizados permiten ejecutar tareas como la detección de objetos, la segmentación de instancias y el seguimiento de objetos en hardware más pequeño y rápido. A continuación, veremos un par de casos de uso en los que la poda y la cuantización hacen que estas tareas de visión artificial sean más eficientes y prácticas.

Vigilancia inteligente con Ultralytics YOLO11#

Muchos espacios industriales y zonas públicas dependen de la supervisión en tiempo real para mantener la seguridad. Lugares como estaciones de transporte, instalaciones de fabricación y grandes recintos al aire libre necesitan sistemas de IA visual capaces de detectar personas o vehículos de forma rápida y precisa. A menudo, estos lugares tienen una conectividad limitada y restricciones de hardware, lo que dificulta el despliegue de modelos grandes.

En estos casos, un modelo de IA visual optimizado como Ultralytics YOLO11 es una gran solución. Su tamaño compacto y su rapidez lo hacen perfecto para funcionar en dispositivos edge de bajo consumo, como las cámaras integradas o los sensores inteligentes. Estos modelos pueden procesar datos visuales directamente en el dispositivo y detectar en tiempo real infracciones de seguridad, accesos no autorizados o actividades anómalas, sin depender de una conexión constante a la nube.

Fig. 4. Ultralytics YOLO11 puede utilizarse para supervisar lugares públicos como las estaciones de metro.

Mejora de la seguridad en obras con Ultralytics YOLO11#

Las obras son entornos frenéticos e impredecibles, llenos de maquinaria pesada, trabajadores en movimiento y actividad constante. Las condiciones pueden cambiar rápidamente debido a modificaciones en los horarios, el movimiento de equipos o incluso cambios repentinos del tiempo. En un entorno tan dinámico, garantizar la seguridad de los trabajadores puede ser un reto constante.

La supervisión en tiempo real desempeña un papel crucial, pero los sistemas tradicionales suelen depender de la conexión a la nube o de hardware caro que quizá no resulte práctico en la obra. Aquí es donde modelos como Ultralytics YOLO11 pueden ser de gran utilidad. YOLO11 se puede optimizar para funcionar en dispositivos edge pequeños y eficientes, directamente en la obra y sin necesidad de conexión a Internet.

Por ejemplo, imagina una gran obra, como la ampliación de una autopista que abarca varias hectáreas. En un entorno así, hacer un seguimiento manual de cada vehículo o equipo puede resultar difícil y llevar mucho tiempo. Un dron equipado con una cámara y un modelo Ultralytics YOLO11 optimizado puede ayudar a detectar y seguir vehículos automáticamente, supervisar el flujo del tráfico e identificar problemas de seguridad, como accesos no autorizados o conducción peligrosa.

Fig. 5. Análisis de imágenes de dron de una obra. (Fuente)

Ventajas e inconvenientes de la poda y la cuantización en visión artificial#

Estas son algunas de las principales ventajas que ofrecen métodos de optimización de modelos de visión artificial como la poda y la cuantización:

• Despliegue rentable: Los modelos más pequeños y eficientes pueden reducir la necesidad de hardware caro y de gama alta, lo que hace que la IA sea más accesible y escalable en distintos casos de uso.
• Menor latencia: Al simplificar la arquitectura del modelo y reducir la carga computacional, estas técnicas pueden ayudar a conseguir tiempos de respuesta más rápidos en aplicaciones en tiempo real.
• Eficiencia energética: Reducir la carga computacional también disminuye el consumo de energía, algo especialmente útil para sistemas móviles o alimentados por batería.

Aunque la poda y la cuantización ofrecen muchas ventajas, también implican ciertas contrapartidas que los desarrolladores deben tener en cuenta al optimizar modelos. Estas son algunas limitaciones que conviene considerar:

• Contrapartidas en la precisión: Si la poda es demasiado agresiva o se utiliza una cuantización con muy pocos bits, la precisión del modelo, medida con métricas como mAP, puede disminuir.
• Limitaciones del hardware: No todos los dispositivos admiten igual de bien formatos de menor precisión, como INT8. Esto puede limitar dónde y cómo se despliega un modelo optimizado.
• Complejidad de la implementación: Para obtener buenos resultados, suele ser necesario realizar ajustes cuidadosos y específicos para cada modelo. Puede que los desarrolladores tengan que volver a entrenar el modelo y realizar pruebas exhaustivas para mantener el rendimiento y mejorar la eficiencia.

Conclusiones clave#

La poda y la cuantización son técnicas útiles que ayudan a los modelos YOLO a funcionar mejor en dispositivos periféricos. Reducen el tamaño del modelo, disminuyen sus necesidades de cómputo y aceleran las predicciones, normalmente con una pérdida de precisión pequeña.

Estos métodos de optimización también dan a los desarrolladores flexibilidad para adaptar los modelos a distintos tipos de hardware sin tener que reconstruirlos por completo. Con algunos ajustes y pruebas, resulta más fácil aplicar la IA visual a situaciones reales.

¡Únete a nuestra creciente comunidad! Explora nuestro repositorio de GitHub para aprender más sobre IA. ¿Listo para empezar tus proyectos de visión artificial? Consulta nuestras opciones de licencia. Descubre la IA en la agricultura y la IA visual en el sector sanitario en nuestras páginas de soluciones.