Despliega sin problemas Ultralytics YOLO11 usando OpenVINO™

La adopción de la IA depende de que las soluciones sean accesibles, y gran parte de esto consiste en facilitar su despliegue en el hardware que la gente ya posee. Ejecutar modelos de IA en GPUs (unidades de procesamiento gráfico) es una opción excelente en términos de rendimiento y potencia de procesamiento paralelo.

Sin embargo, la realidad es que no todo el mundo tiene acceso a GPUs de alta gama, especialmente en entornos de borde (edge) o en portátiles convencionales. Por eso es tan importante optimizar los modelos para que se ejecuten de manera eficiente en hardware más común, como unidades centrales de procesamiento (CPUs), GPUs integradas y unidades de procesamiento neuronal (NPUs).

Visión artificial, por ejemplo, es una rama de la IA que permite a las máquinas analizar y entender imágenes y flujos de vídeo en tiempo real. Los modelos de IA de visión como Ultralytics YOLO11 soportan tareas clave como la detección de objetos y la segmentación de instancias, que impulsan aplicaciones desde el análisis minorista hasta diagnóstico médico.

Fig 1. Uso de Ultralytics YOLO11 para detectar y segmentar objetos en una tienda minorista.

Para hacer la visión artificial más accesible, Ultralytics ha lanzado una integración actualizada con el toolkit OpenVINO, que es un proyecto de código abierto para optimizar y ejecutar inferencia de IA en CPUs, GPUs y NPUs.

Con esta integración, es más fácil exportar y desplegar modelos YOLO11 con una inferencia hasta 3 veces más rápida en CPUs y un rendimiento acelerado en GPUs y NPUs de Intel. En este artículo, veremos cómo usar el paquete de Python de Ultralytics para exportar modelos YOLO11 al formato OpenVINO y usarlo para inferencia. ¡Empecemos!

Link to this sectionUna visión general de Ultralytics YOLO11#

Antes de entrar en los detalles de la integración con OpenVINO soportada por Ultralytics, veamos más de cerca qué hace de YOLO11 un modelo de visión artificial fiable e impactante. YOLO11 es el modelo más reciente en la serie YOLO de Ultralytics, ofreciendo mejoras significativas tanto en velocidad como en precisión.

Uno de sus aspectos clave es la eficiencia. Por ejemplo, Ultralytics YOLO11m tiene un 22% menos de parámetros que Ultralytics YOLOv8m, pero logra una precisión media (mAP) más alta en el conjunto de datos COCO. Esto significa que se ejecuta más rápido y detecta objetos con mayor precisión, haciéndolo ideal para aplicaciones en tiempo real donde el rendimiento y la capacidad de respuesta son críticos.

Fig 2. Benchmarks de rendimiento de Ultralytics YOLO11.

Más allá de la detección de objetos, YOLO11 soporta varias tareas de visión artificial avanzadas como segmentación de instancias, estimación de poses, clasificación de imágenes, seguimiento de objetos y detección de cajas delimitadoras orientadas. YOLO11 también es amigable para el desarrollador, ya que el paquete de Python de Ultralytics proporciona una interfaz sencilla y coherente para entrenar, evaluar y desplegar modelos.

Además de esto, el paquete de Python de Ultralytics soporta diversas integraciones y múltiples formatos de exportación, incluyendo OpenVINO, ONNX, TorchScript, lo que te permite integrar fácilmente YOLO11 en varios flujos de trabajo de despliegue. Tanto si te diriges a infraestructuras en la nube, dispositivos de borde o sistemas embebidos, el proceso de exportación es sencillo y adaptable a tus necesidades de hardware.

Link to this section¿Qué es OpenVINO™?#

OpenVINO™ (Open Visual Inference and Neural Network Optimization) es un toolkit de código abierto para optimizar y desplegar inferencia de IA en una amplia gama de hardware. Permite a los desarrolladores ejecutar aplicaciones de inferencia de alto rendimiento de manera eficiente en diversas plataformas de Intel, incluyendo CPUs, GPUs integradas y discretas, NPUs y matrices de puertas programables en campo (FPGAs).

OpenVINO proporciona una interfaz de ejecución unificada que abstrae las diferencias de hardware a través de plugins específicos del dispositivo. Esto significa que los desarrolladores pueden escribir código una vez y desplegarlo en múltiples objetivos de hardware Intel usando una API consistente.

Aquí tienes algunas de las características clave que hacen de OpenVINO una gran elección para el despliegue:

• Convertidor de modelos: Esta herramienta convierte y prepara modelos de frameworks populares como PyTorch, ONNX, TensorFlow, PaddlePaddle y otros, para que puedan ser optimizados para una inferencia eficiente en hardware de Intel.
• Ejecución heterogénea: No necesitas reescribir tu código para diferentes hardware de Intel. OpenVINO facilita ejecutar el mismo modelo en cualquier hardware soportado, desde CPUs hasta GPUs.
• Soporte de cuantización: El toolkit soporta formatos de precisión reducida como FP16 (predeterminado) e INT8, los cuales ayudan a reducir el tamaño del modelo y acelerar la inferencia sin afectar significativamente a la precisión.

Fig 3. OpenVINO permite diversas opciones de despliegue.

Link to this sectionExplorando la integración Ultralytics x OpenVINO#

Ahora que hemos explorado qué es OpenVINO y su importancia, hablemos sobre cómo exportar modelos YOLO11 al formato OpenVINO y ejecutar una inferencia eficiente en hardware de Intel.

Link to this sectionPaso 1: Instala el paquete de Python de Ultralytics#

Para exportar un modelo al formato OpenVINO, primero necesitarás instalar el paquete de Python de Ultralytics. Este paquete proporciona todo lo necesario para entrenar, evaluar y exportar modelos YOLO, incluyendo YOLO11.

Puedes instalarlo ejecutando el comando "pip install ultralytics" en tu terminal o símbolo del sistema. Si estás trabajando en un entorno interactivo como Jupyter Notebook o Google Colab, añade un signo de exclamación antes del comando.

Además, si te encuentras con algún problema durante la instalación o mientras exportas, la documentación de Ultralytics y las guías de solución de problemas son recursos excelentes para ayudarte a retomar el camino.

Link to this sectionPaso 2: Exporta tu modelo YOLO11 al formato OpenVINO#

Una vez que el paquete de Ultralytics esté configurado, el siguiente paso es cargar tu modelo YOLO11 y convertirlo a un formato compatible con OpenVINO.

En el ejemplo siguiente, estamos usando un modelo YOLO11 preentrenado ("yolo11n.pt"). La funcionalidad de exportación se usa para convertirlo al formato OpenVINO. Después de ejecutar este código, el modelo convertido se guardará en un nuevo directorio llamado "yolo11n_openvino_model".

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="openvino")

Link to this sectionPaso 3: Ejecuta la inferencia con el modelo exportado#

Una vez que tu modelo YOLO11 esté exportado al formato OpenVINO, puedes ejecutar inferencias de dos maneras: usando el paquete de Python de Ultralytics o el Runtime nativo de OpenVINO.

Link to this sectionUsando el paquete de Python de Ultralytics#

El modelo YOLO11 exportado puede ser fácilmente desplegado usando el paquete de Python de Ultralytics, como se muestra en el fragmento de código siguiente. Este método es ideal para experimentos rápidos y un despliegue optimizado en hardware de Intel.

También puedes especificar qué dispositivo usar para la inferencia, como "intel:cpu", "intel:gpu" o "intel:npu", dependiendo del hardware de Intel disponible en tu sistema.

ov_model = YOLO("yolo11n_openvino_model/")
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

Después de ejecutar el código anterior, la imagen resultante se guardará en el directorio "runs/detect/predict".

Fig 4. Usando el modelo YOLO11 exportado para detectar objetos en una imagen.

Link to this sectionUsando el Runtime nativo de OpenVINO#

Si buscas una manera personalizable de ejecutar la inferencia, especialmente en entornos de producción, el Runtime de OpenVINO te da más control sobre cómo se ejecuta tu modelo. Soporta características avanzadas como la ejecución asíncrona (ejecutar múltiples peticiones de inferencia en paralelo) y el balanceo de carga (distribuyendo las cargas de trabajo de inferencia de manera eficiente a través del hardware de Intel).

Para usar el runtime nativo, necesitarás los archivos del modelo exportado: un archivo .xml (que define la arquitectura de la red) y un archivo .bin (que almacena los pesos entrenados del modelo). También puedes configurar parámetros adicionales como las dimensiones de entrada o los pasos de preprocesamiento dependiendo de tu aplicación.

Un flujo de despliegue típico incluye inicializar el núcleo de OpenVINO, cargar y compilar el modelo para un dispositivo objetivo, preparar la entrada y ejecutar la inferencia. Para ejemplos detallados y guía paso a paso, consulta la documentación oficial de OpenVINO de Ultralytics.

Link to this section¿Por qué elegir la integración de Ultralytics con OpenVINO?#

Mientras exploras las integraciones de Ultralytics, notarás que el paquete de Python de Ultralytics soporta la exportación de modelos YOLO11 a una variedad de formatos como TorchScript, CoreML, TensorRT y ONNX. Entonces, ¿por qué elegir la integración con OpenVINO?

Aquí tienes algunas razones por las cuales el formato de exportación OpenVINO es ideal para desplegar modelos en hardware de Intel:

• Ganancias de rendimiento: Puedes experimentar hasta una inferencia 3 veces más rápida en CPUs de Intel, con aceleración adicional disponible en GPUs integradas y NPUs.
• No se requiere reentrenamiento: Puedes exportar tus modelos YOLO11 existentes directamente al formato OpenVINO sin modificarlos ni reentrenarlos.
• Diseñado para escalar: El mismo modelo exportado puede ser desplegado a través de dispositivos de borde de bajo consumo e infraestructura en la nube a gran escala, simplificando el despliegue de IA escalable.

También puedes evaluar los benchmarks de rendimiento para el modelo YOLO11 a través de una gama de plataformas Intel® en el OpenVINO™ Model Hub. El OpenVINO Model Hub es un recurso para que los desarrolladores evalúen modelos de IA en hardware de Intel y descubran la ventaja de rendimiento de OpenVINO en CPUs, GPUs integradas, NPUs y gráficos discretos de Intel.

Fig 5. OpenVINO™ Model Hub: Benchmarks de rendimiento para el modelo YOLO11 a través de una gama de plataformas Intel®.

Link to this sectionAplicaciones de YOLO11 y el formato de exportación OpenVINO#

Con la ayuda de la integración de OpenVINO, desplegar modelos YOLO11 a través de hardware Intel en situaciones del mundo real se vuelve mucho más sencillo.

Un gran ejemplo es el comercio minorista inteligente, donde YOLO11 puede ayudar a detectar estanterías vacías en tiempo real, rastrear qué productos se están agotando y analizar cómo se mueven los clientes por la tienda. Esto permite a los minoristas mejorar la gestión de inventario y optimizar la distribución de la tienda para un mejor compromiso del comprador.

Del mismo modo, en ciudades inteligentes, YOLO11 puede ser utilizado para monitorizar el tráfico contando vehículos, rastreando peatones y detectando infracciones de semáforo en tiempo real. Estos conocimientos pueden apoyar la optimización del flujo de tráfico, mejorar la seguridad vial y ayudar en los sistemas de vigilancia automatizados.

Fig 6. Contando vehículos usando YOLO11.

Otro caso de uso interesante es la inspección industrial, donde YOLO11 puede ser desplegado en líneas de producción para detectar automáticamente defectos visuales como componentes faltantes, desalineación o daños en la superficie. Esto aumenta la eficiencia, reduce costes y apoya una mejor calidad del producto.

Link to this sectionFactores clave a considerar al usar el toolkit OpenVINO#

Al desplegar modelos YOLO11 con OpenVINO, aquí tienes algunos puntos importantes a tener en cuenta para obtener los mejores resultados:

• Comprueba la compatibilidad del hardware: Asegúrate de que tu hardware Intel, ya sea una CPU, GPU integrada o NPU, sea soportado por OpenVINO para que el modelo pueda ejecutarse eficientemente.
• Instala los drivers correctos: Si usas GPUs o NPUs de Intel, verifica dos veces que todos los drivers necesarios estén correctamente instalados y actualizados.
• Entiende las compensaciones de precisión: OpenVINO soporta precisiones de modelo FP32, FP16 e INT8. Cada una conlleva una compensación entre velocidad y precisión, por lo que es importante elegir la opción correcta en función de tus objetivos de rendimiento y el hardware disponible.

Link to this sectionConclusiones clave#

Exportar Ultralytics YOLO11 al formato OpenVINO facilita la ejecución de modelos de IA de visión rápidos y eficientes en hardware de Intel. Puedes desplegar en CPUs, GPUs y NPUs sin necesidad de reentrenar ni cambiar tu código. Es una excelente manera de aumentar el rendimiento manteniendo las cosas simples y escalables.

Con el soporte integrado en el paquete de Python de Ultralytics, exportar y ejecutar inferencia con OpenVINO es sencillo. En solo unos pasos, puedes optimizar tu modelo y ejecutarlo en una variedad de plataformas Intel. Tanto si trabajas en retail inteligente, monitorización de tráfico o inspección industrial, este flujo de trabajo te ayuda a moverte del desarrollo al despliegue con rapidez y confianza.

Únete a la comunidad YOLO y echa un vistazo al repositorio de GitHub de Ultralytics para aprender más sobre las integraciones impactantes soportadas por Ultralytics. Además, ¡echa un ojo a las opciones de licencia de Ultralytics para empezar hoy mismo con la visión artificial!

Regístrate en nuestro próximo seminario web para ver la integración de Ultralytics × OpenVINO en acción, y visita el sitio web de OpenVINO para explorar herramientas para optimizar y desplegar IA a escala.