Despliega sin problemas Ultralytics YOLO11 usando OpenVINO™

La adopción de la IA depende de que las soluciones sean accesibles, y gran parte de esto consiste en facilitar su despliegue en el hardware que la gente ya posee. Ejecutar modelos de IA en GPUs (unidades de procesamiento gráfico) es una opción excelente en términos de rendimiento y potencia de procesamiento paralelo.

Sin embargo, la realidad es que no todo el mundo tiene acceso a GPUs de alta gama, especialmente en entornos de borde (edge) o en portátiles convencionales. Por eso es tan importante optimizar los modelos para que se ejecuten de manera eficiente en hardware más común, como unidades centrales de procesamiento (CPUs), GPUs integradas y unidades de procesamiento neuronal (NPUs).

La visión artificial, por ejemplo, es una rama de la IA que permite a las máquinas analizar y comprender imágenes y flujos de vídeo en tiempo real. Los modelos de IA de visión como Ultralytics YOLO11 admiten tareas clave como la detección de objetos y la segmentación de instancias que impulsan aplicaciones desde la analítica minorista hasta el diagnóstico médico.

Fig 1. Uso de Ultralytics YOLO11 para detectar y segmentar objetos en una tienda minorista.

Para hacer que la visión artificial sea más accesible en general, Ultralytics ha publicado una integración actualizada con el kit de herramientas OpenVINO, que es un proyecto de código abierto para optimizar y ejecutar la inferencia de IA en CPU, GPU y NPU.

Con esta integración, es más fácil exportar e implementar modelos YOLO11 con una inferencia hasta 3 veces más rápida en CPU y un rendimiento acelerado en GPU y NPU de Intel. En este artículo, veremos cómo usar el paquete Python de Ultralytics para exportar modelos YOLO11 al formato OpenVINO y usarlos para la inferencia. ¡Empecemos!

Una visión general de Ultralytics YOLO11#

Antes de entrar en los detalles de la integración con OpenVINO soportada por Ultralytics, veamos más de cerca qué hace de YOLO11 un modelo de visión artificial fiable e impactante. YOLO11 es el modelo más reciente en la serie YOLO de Ultralytics, ofreciendo mejoras significativas tanto en velocidad como en precisión.

Uno de sus aspectos clave es la eficiencia. Por ejemplo, Ultralytics YOLO11m tiene un 22% menos de parámetros que Ultralytics YOLOv8m, pero logra una precisión media (mAP) más alta en el conjunto de datos COCO. Esto significa que se ejecuta más rápido y detecta objetos con mayor precisión, haciéndolo ideal para aplicaciones en tiempo real donde el rendimiento y la capacidad de respuesta son críticos.

Fig 2. Pruebas de rendimiento de Ultralytics YOLO11.

Más allá de la detección de objetos, YOLO11 admite varias tareas de visión artificial avanzadas como la segmentación de instancias, la estimación de poses, la clasificación de imágenes, el seguimiento de objetos y la detección de cuadros delimitadores orientados. YOLO11 también es fácil de usar para los desarrolladores, ya que el paquete Python de Ultralytics ofrece una interfaz sencilla y coherente para entrenar, evaluar e implementar modelos.

Además de esto, el paquete Python de Ultralytics admite varias integraciones y múltiples formatos de exportación, incluidos OpenVINO, ONNX, TorchScript, lo que te permite integrar fácilmente YOLO11 en varios flujos de trabajo de implementación. Ya sea que te enfoques en infraestructura en la nube, dispositivos de borde o sistemas embebidos, el proceso de exportación es sencillo y adaptable a tus necesidades de hardware.

¿Qué es OpenVINO™?#

OpenVINO™ (Open Visual Inference and Neural Network Optimization) es un toolkit de código abierto para optimizar y desplegar inferencia de IA en una amplia gama de hardware. Permite a los desarrolladores ejecutar aplicaciones de inferencia de alto rendimiento de manera eficiente en diversas plataformas de Intel, incluyendo CPUs, GPUs integradas y discretas, NPUs y matrices de puertas programables en campo (FPGAs).

OpenVINO proporciona una interfaz de ejecución unificada que abstrae las diferencias de hardware a través de plugins específicos del dispositivo. Esto significa que los desarrolladores pueden escribir código una vez y desplegarlo en múltiples objetivos de hardware Intel usando una API consistente.

Aquí tienes algunas de las características clave que hacen de OpenVINO una gran elección para el despliegue:

• Conversor de modelos: Esta herramienta convierte y prepara modelos de frameworks populares como PyTorch, ONNX, TensorFlow, PaddlePaddle y otros, para que puedan optimizarse y lograr una inferencia eficiente en hardware de Intel.
• Ejecución heterogénea: No necesitas reescribir tu código para diferentes hardware de Intel. OpenVINO facilita ejecutar el mismo modelo en cualquier hardware soportado, desde CPUs hasta GPUs.
• Soporte de cuantización: El toolkit soporta formatos de precisión reducida como FP16 (predeterminado) e INT8, los cuales ayudan a reducir el tamaño del modelo y acelerar la inferencia sin afectar significativamente a la precisión.

Fig 3. OpenVINO permite diversas opciones de implementación.

Explorando la integración Ultralytics x OpenVINO#

Ahora que hemos explorado qué es OpenVINO y su importancia, vamos a comentar cómo exportar modelos de Ultralytics YOLO11 al formato OpenVINO y ejecutar inferencias eficientes en hardware de Intel.

Paso 1: Instala el paquete de Python de Ultralytics#

Para exportar un modelo al formato OpenVINO, primero tendrás que instalar el paquete Python de Ultralytics. Este paquete proporciona todo lo necesario para entrenar, evaluar y exportar modelos YOLO, incluido YOLO11.

Puedes instalarlo ejecutando el comando "pip install ultralytics" en tu terminal o símbolo del sistema. Si estás trabajando en un entorno interactivo como Jupyter Notebook o Google Colab, añade un signo de exclamación antes del comando.

Asimismo, si encuentras algún problema durante la instalación o al exportar, la documentación de Ultralytics y las guías de solución de problemas son excelentes recursos para ayudarte a solucionarlo.

Paso 2: Exporta tu modelo de Ultralytics YOLO11 al formato OpenVINO#

Una vez que el paquete de Ultralytics esté configurado, el siguiente paso es cargar tu modelo YOLO11 y convertirlo a un formato compatible con OpenVINO.

En el ejemplo siguiente, estamos usando un modelo YOLO11 preentrenado ("yolo11n.pt"). La funcionalidad de exportación se usa para convertirlo al formato OpenVINO. Después de ejecutar este código, el modelo convertido se guardará en un nuevo directorio llamado "yolo11n_openvino_model".

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="openvino")

Paso 3: Ejecuta la inferencia con el modelo exportado#

Una vez que tu modelo YOLO11 esté exportado al formato OpenVINO, puedes ejecutar inferencias de dos maneras: usando el paquete de Python de Ultralytics o el Runtime nativo de OpenVINO.

Usando el paquete de Python de Ultralytics#

El modelo YOLO11 exportado puede ser fácilmente desplegado usando el paquete de Python de Ultralytics, como se muestra en el fragmento de código siguiente. Este método es ideal para experimentos rápidos y un despliegue optimizado en hardware de Intel.

También puedes especificar qué dispositivo usar para la inferencia, como "intel:cpu", "intel:gpu" o "intel:npu", dependiendo del hardware de Intel disponible en tu sistema.

ov_model = YOLO("yolo11n_openvino_model/")
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

Después de ejecutar el código anterior, la imagen resultante se guardará en el directorio "runs/detect/predict".

Fig 4. Uso del modelo de Ultralytics YOLO11 exportado para detectar objetos en una imagen.

Usando el Runtime nativo de OpenVINO#

Si buscas una manera personalizable de ejecutar la inferencia, especialmente en entornos de producción, el Runtime de OpenVINO te da más control sobre cómo se ejecuta tu modelo. Soporta características avanzadas como la ejecución asíncrona (ejecutar múltiples peticiones de inferencia en paralelo) y el balanceo de carga (distribuyendo las cargas de trabajo de inferencia de manera eficiente a través del hardware de Intel).

Para usar el runtime nativo, necesitarás los archivos del modelo exportado: un archivo .xml (que define la arquitectura de la red) y un archivo .bin (que almacena los pesos entrenados del modelo). También puedes configurar parámetros adicionales como las dimensiones de entrada o los pasos de preprocesamiento dependiendo de tu aplicación.

Un flujo de implementación típico incluye la inicialización del núcleo OpenVINO, la carga y compilación del modelo para un dispositivo de destino, la preparación de la entrada y la ejecución de la inferencia. Para ver ejemplos detallados y una guía paso a paso, consulta la documentación oficial de Ultralytics OpenVINO.

¿Por qué elegir la integración de Ultralytics con OpenVINO?#

Mientras exploras las integraciones de Ultralytics, notarás que el paquete de Python de Ultralytics soporta la exportación de modelos YOLO11 a una variedad de formatos como TorchScript, CoreML, TensorRT y ONNX. Entonces, ¿por qué elegir la integración con OpenVINO?

Aquí tienes algunas razones por las cuales el formato de exportación OpenVINO es ideal para desplegar modelos en hardware de Intel:

• Ganancias de rendimiento: Puedes experimentar una inferencia hasta 3 veces más rápida en CPU de Intel, con aceleración adicional disponible en GPU integradas y NPU.
• Sin necesidad de reentrenamiento: Puedes exportar tus modelos de Ultralytics YOLO11 existentes directamente al formato OpenVINO sin modificarlos ni reentrenarlos.
• Diseñado para escalar: El mismo modelo exportado se puede implementar en dispositivos de borde de bajo consumo e infraestructura en nube a gran escala, lo que simplifica la implementación de IA escalable.

También puedes evaluar los puntos de referencia de rendimiento del modelo Ultralytics YOLO11 en una variedad de plataformas Intel® en el OpenVINO™ Model Hub. El OpenVINO Model Hub es un recurso para que los desarrolladores evalúen modelos de IA en hardware de Intel y descubran la ventaja de rendimiento de OpenVINO en CPU, GPU integradas, NPU y tarjetas gráficas dedicadas de Intel.

Fig 5. OpenVINO™ Model Hub: Pruebas de rendimiento para el modelo de Ultralytics YOLO11 en una variedad de plataformas Intel®.

Aplicaciones de Ultralytics YOLO11 y el formato de exportación OpenVINO#

Con la ayuda de la integración de OpenVINO, desplegar modelos de Ultralytics YOLO11 en hardware de Intel en situaciones del mundo real resulta mucho más sencillo.

Un gran ejemplo es el comercio minorista inteligente, donde Ultralytics YOLO11 puede ayudar a detectar estanterías vacías en tiempo real, rastrear qué productos se están agotando y analizar cómo se mueven los clientes por la tienda. Esto permite a los comerciantes mejorar la gestión del inventario y optimizar la disposición de la tienda para lograr una mejor interacción con los compradores.

De igual forma, en las ciudades inteligentes, YOLO11 se puede utilizar para supervisar el tráfico contando vehículos, rastreando peatones y detectando infracciones por luz roja en tiempo real. Estos datos pueden ayudar a optimizar el flujo de tráfico, mejorar la seguridad vial y colaborar en sistemas de control automatizados.

Fig 6. Recuento de vehículos usando YOLO11.

Otro caso de uso interesante es la inspección industrial, donde Ultralytics YOLO11 se puede implementar en líneas de producción para detectar automáticamente defectos visuales como componentes faltantes, desalineaciones o daños superficiales. Esto aumenta la eficiencia, reduce los costes y favorece una mejor calidad del producto.

Factores clave a considerar al usar el toolkit OpenVINO#

Al desplegar modelos de Ultralytics YOLO11 con OpenVINO, aquí tienes algunos aspectos importantes que debes tener en cuenta para obtener los mejores resultados:

• Comprueba la compatibilidad del hardware: asegúrate de que tu hardware de Intel, ya sea una CPU, una GPU integrada o una NPU, sea compatible con OpenVINO para que el modelo pueda ejecutarse de manera eficiente.
• Instala los drivers correctos: Si usas GPUs o NPUs de Intel, verifica dos veces que todos los drivers necesarios estén correctamente instalados y actualizados.
• Comprende los compromisos de precisión: OpenVINO es compatible con las precisiones de modelo FP32, FP16 e INT8. Cada una implica un compromiso entre velocidad y precisión, por lo que es importante elegir la opción correcta según tus objetivos de rendimiento y el hardware disponible.

Conclusiones clave#

Exportar Ultralytics YOLO11 al formato OpenVINO facilita la ejecución de modelos de IA de visión rápidos y eficientes en hardware de Intel. Puedes desplegar en CPUs, GPUs y NPUs sin necesidad de reentrenar ni cambiar tu código. Es una excelente manera de aumentar el rendimiento manteniendo las cosas simples y escalables.

Con el soporte integrado en el paquete de Python de Ultralytics, exportar y ejecutar inferencia con OpenVINO es sencillo. En solo unos pasos, puedes optimizar tu modelo y ejecutarlo en una variedad de plataformas Intel. Tanto si trabajas en retail inteligente, monitorización de tráfico o inspección industrial, este flujo de trabajo te ayuda a moverte del desarrollo al despliegue con rapidez y confianza.

Únete a la comunidad YOLO y echa un vistazo al repositorio de GitHub de Ultralytics para obtener más información sobre las integraciones de impacto compatibles con Ultralytics. Asimismo, ¡consulta las opciones de licencia de Ultralytics para empezar hoy mismo con la visión artificial!

Regístrate en nuestro próximo seminario web para ver la integración de Ultralytics × OpenVINO en acción, y visita el sitio web de OpenVINO para explorar herramientas destinadas a optimizar e implementar IA a escala.