Acelerando Ultralytics YOLO26 con OpenVINO en Intel Core Ultra Series 3 (Panther Lake)

En los últimos años, la inteligencia artificial y la visión por ordenador han pasado de ser experimentales a convertirse en una parte fundamental de las operaciones empresariales cotidianas. De hecho, las encuestas muestran que alrededor del 88% of organizations ya utiliza la inteligencia artificial en al menos un área de su negocio.

Sin embargo, transformar esa adopción en un valor real, ya sea en sistemas de producción o en proyectos personales, suele depender de lo bien que funcionen los modelos una vez desplegados. En muchos escenarios del mundo real, los computer vision models como Ultralytics YOLO26 se despliegan en dispositivos de borde y en una variedad de hardware, normalmente CPU, GPU integradas o NPU, en lugar de GPU de gama alta.

Ahí es donde el rendimiento puede empezar a variar y donde la optimización se vuelve crítica. Un modelo que funciona bien en un entorno puede tener problemas en otro si no está correctamente optimizado para el hardware subyacente.

Para agilizar este proceso, el Ultralytics Python package permite exportar modelos YOLO26 a formatos optimizados como OpenVINO, para que puedan ejecutarse sin problemas en hardware de Intel sin necesidad de modificar tu flujo de trabajo.

Por ejemplo, cuando se exporta un modelo de Ultralytics YOLO26 al formato OpenVINO, puede ejecutarse de forma más eficiente en procesadores Intel Core Ultra Series 3, con velocidades de inferencia en GPU que mejoran hasta tres veces.

En este artículo, exploraremos cómo la integración actualizada de Ultralytics y OpenVINO integration facilita el despliegue de modelos YOLO26 en hardware con Intel Core Ultra Series 3. ¡Comencemos!

Una visión general de la integración de Ultralytics y OpenVINO#

El paquete de Python de Ultralytics ofrece una única interfaz para entrenar, ejecutar inferencias y desplegar modelos de Ultralytics YOLO como YOLO26. Es compatible con diversas integrations que ayudan en las diferentes etapas del flujo de trabajo de visión artificial, desde el entrenamiento y la experimentación hasta el despliegue y la optimización.

Una de las integraciones centradas en el despliegue es con el kit de herramientas OpenVINO, que te permite exportar modelos de Ultralytics YOLO26 a un formato optimizado para Intel hardware. Este proceso convierte los modelos YOLO en un formato que se ejecuta de manera más eficiente en CPUs, GPUs y NPUs de Intel, incluidos los sistemas impulsados por procesadores Intel® Core™ Ultra™ de la serie 3.

Esto hace que sea más ágil ejecutar modelos en diferentes dispositivos Intel sin necesidad de ajustarlos manualmente para cada configuración. Tanto si trabajas en una máquina local como en un dispositivo de borde o en un despliegue más grande, el mismo modelo exportado puede reutilizarse.

Lo que hace que esta integración sea especialmente práctica es lo perfectamente que encaja en el flujo de trabajo existente de Ultralytics. Puedes exportar un modelo utilizando la misma interfaz que usas para el entrenamiento y la inferencia, sin necesidad de herramientas adicionales ni de una configuración compleja.

Una vez exportado, el modelo puede utilizarse para la inferencia ya sea a través del paquete de Python de Ultralytics o del entorno de ejecución de OpenVINO, dependiendo de cuánto control y flexibilidad necesites.

Un vistazo más cercano a OpenVINO y al hardware Intel Panther Lake para la inferencia de IA#

Antes de ver cuán eficientemente puede ejecutarse un modelo de Ultralytics YOLO26 exportado en el hardware de Intel, demos un paso atrás y comprendamos cómo OpenVINO y el hardware de Intel trabajan juntos para permitir una inferencia eficiente.

OpenVINO es un kit de herramientas de código abierto diseñado para optimizar y ejecutar inferencias de IA en hardware Intel, incluyendo CPUs, GPUs integradas y NPUs. Proporciona un entorno de ejecución unificado, por lo que el mismo modelo puede ejecutarse a través de estas diferentes unidades de computación sin necesidad de ser reescrito.

Fig 1. OpenVINO facilita el despliegue de modelos en múltiples destinos de hardware. (Source)

En los nuevos procesadores Intel® Core™ Ultra™ Series 3 (con nombre en clave Panther Lake), las cargas de trabajo de IA se ejecutan a través de múltiples unidades de computación dentro del mismo procesador. Cada chip combina núcleos de CPU para tareas de propósito general, una GPU integrada para procesamiento paralelo y una NPU dedicada diseñada específicamente para la inferencia de IA.

OpenVINO proporciona una API unificada que te permite dirigirte a cualquiera de estas unidades de computación, ya sea CPU, GPU o NPU, sin cambiar tu código. Puedes especificar simplemente en qué dispositivo ejecutar la inferencia durante el tiempo de ejecución, lo que facilita el cambio entre los tres según tus necesidades de rendimiento y eficiencia.

Evaluación comparativa de Ultralytics YOLO26 en la serie Intel® Core™ Ultra™#

A medida que exploras la integración de Ultralytics y OpenVINO, es posible que te preguntes: ¿qué tipo de ganancias en el rendimiento del modelo puedes esperar al exportar YOLO26 al formato OpenVINO?

La diferencia en la velocidad de inferencia se vuelve clara al evaluar los modelos YOLO26 en diferentes formatos y niveles de precisión. Por ejemplo, al ejecutar la variante nano de YOLO26 (YOLO26n) en un Intel Core Ultra X7 358H, un procesador Panther Lake, el tiempo de inferencia se reduce de 25,18 ms por imagen en PyTorch a FP32 a 2,64 ms con OpenVINO a la misma precisión con la NPU integrada.

Eso es más rápido que la línea base original de PyTorch FP32, lo que puede marcar una diferencia notable en aplicaciones de borde y en tiempo real donde la latencia es crítica. Estas ganancias se vuelven aún más evidentes al ejecutar el mismo modelo en la GPU integrada Intel Arc.

Fig 2. Evaluación comparativa de la inferencia de Ultralytics YOLO26 en la GPU de Intel Panther Lake utilizando OpenVINO (Source)

Fig 3. Evaluación comparativa de la inferencia de Ultralytics YOLO26 en la NPU de Intel Panther Lake utilizando OpenVINO (Source)

Explorando dos formas de exportar Ultralytics YOLO26 al formato OpenVINO#

Existen dos formas principales de exportar modelos YOLO26 al formato OpenVINO. Puedes utilizar el paquete de Python de Ultralytics o realizar la exportación directamente a través de Ultralytics Platform, un espacio de trabajo integral para crear y gestionar flujos de trabajo de visión artificial en un solo lugar. A continuación, veremos ambos enfoques.

Uso del paquete de Python de Ultralytics para exportar YOLO26#

El paquete de Python de Ultralytics proporciona una forma sencilla de exportar modelos YOLO26 al formato OpenVINO dentro de un flujo de trabajo basado en código. Como se utiliza la misma interfaz para el entrenamiento y la inferencia, la exportación de un modelo encaja naturalmente en los procesos existentes sin necesidad de herramientas adicionales.

Para empezar, puedes instalar el paquete de Ultralytics. Esto se puede hacer ejecutando el comando “pip install ultralytics” en una terminal o símbolo del sistema. Si trabajas en un entorno interactivo como Jupyter Notebook o Google Colab, puedes ejecutar el mismo comando anteponiendo un signo de exclamación.

Una vez instalado, puedes cargar un modelo YOLO26 entrenado y exportarlo directamente al formato OpenVINO. Como se muestra a continuación, un modelo YOLO26n preentrenado (yolo26n.pt) se carga y luego se convierte al formato OpenVINO utilizando el método de exportación.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="openvino")

Después de ejecutar el código, el modelo convertido se guarda en un nuevo directorio, donde puede utilizarse para el despliegue.

Exportación de YOLO26 en Ultralytics Platform#

Si buscas un enfoque más sencillo y sin código, puedes export YOLO26 models directamente a través de Ultralytics Platform. La plataforma reúne todo el flujo de trabajo de visión artificial en un único espacio de trabajo, lo que facilita la transición del entrenamiento al despliegue sin configuraciones adicionales.

Una vez que tu modelo esté listo, puedes abrirlo dentro de la plataforma y navegar a la pestaña Exportar. Desde allí, puedes seleccionar OpenVINO como formato de exportación y ajustar opcionalmente configuraciones como el tamaño de la imagen o la precisión.

Fig 4. Un vistazo a la exportación de YOLO26 dentro de Ultralytics Platform

La plataforma gestiona la conversión automáticamente, por lo que no hay necesidad de gestionar scripts, dependencias o configuración del entorno. Una vez completada la exportación, el modelo optimizado puede descargarse y utilizarse para su despliegue en CPUs, GPUs y NPUs de Intel.

Opciones de despliegue habilitadas por la integración de Ultralytics y OpenVINO#

Una vez que un modelo YOLO26 ha sido exportado al formato OpenVINO, existen un par de formas de ejecutar la inferencia dependiendo de tu flujo de trabajo y del nivel de control necesario. Puedes usar el paquete de Python de Ultralytics para un enfoque más sencillo e integrado o usar el entorno de ejecución nativo de OpenVINO para una mayor flexibilidad y control.

Ejecución de la inferencia con el paquete de Python de Ultralytics#

Una vez que tu modelo se haya exportado al formato OpenVINO, puedes ejecutar la inferencia utilizando el paquete de Python de Ultralytics. Este enfoque es ideal para pruebas rápidas y un despliegue ágil, ya que utiliza la misma interfaz que el entrenamiento y la exportación.

Con este enfoque, puedes cargar el modelo OpenVINO exportado desde su directorio y ejecutar la inferencia en una entrada como una imagen o vídeo. También puedes elegir en qué dispositivo ejecutarlo especificando opciones como “intel:cpu”, “intel:gpu” o “intel:npu”, dependiendo del hardware disponible en tu sistema.

El fragmento de código a continuación muestra cómo cargar el modelo exportado y ejecutar la inferencia en una imagen mientras se apunta a la GPU. Una vez completada la inferencia, la imagen resultante se guarda en el directorio “runs/detect/predict”.

ov_model = YOLO("yolo26n_openvino_model/")

results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

Aprovechamiento del paquete nativo de OpenVINO para la inferencia#

Si necesitas más control sobre cómo se ejecuta tu modelo en producción, puedes utilizar el entorno de ejecución nativo de OpenVINO para la inferencia. Este método es útil cuando se integran modelos en aplicaciones más grandes o cuando deseas ajustar cómo se ejecuta la inferencia en un hardware específico.

OpenVINO proporciona una forma unificada de ejecutar modelos en CPUs, GPUs y NPUs de Intel, junto con características como la ejecución asíncrona y el uso eficiente de los recursos informáticos disponibles. Para configurar esto, puedes trabajar directamente con los archivos del modelo exportado, incluido el archivo .xml que define la estructura del modelo y el archivo .bin que contiene los pesos entrenados.

Dependiendo de tu caso de uso, también puedes ajustar configuraciones como el tamaño de entrada o los pasos de preprocesamiento. La configuración de la inferencia implica inicializar el entorno de ejecución de OpenVINO, cargar y compilar el modelo para un dispositivo de destino, preparar los datos de entrada y, a continuación, ejecutar la inferencia.

Fig 5. Un ejemplo de canalización de inferencia típica con OpenVINO (Source)

Esto te permite controlar cómo se ejecuta el modelo y cómo se integra en tu despliegue general. Para obtener más información sobre la configuración y la ejecución de inferencias con el entorno de ejecución de OpenVINO, puedes explorar la documentation oficial de Ultralytics.

Aplicaciones en el mundo real de Ultralytics YOLO26 en hardware de Intel#

El valor real de la integración de Ultralytics y OpenVINO aparece en la producción, donde una inferencia fiable y de baja latencia puede marcar una diferencia tangible. Aquí tienes un vistazo a algunas industrias clave donde esta integración genera resultados significativos:

• Fabricación: Al exportar Ultralytics YOLO26 a OpenVINO, los sistemas de las líneas de producción pueden detectar automáticamente defectos visuales como componentes faltantes, desalineación o daños superficiales en el hardware de Intel, lo que ayuda a mejorar la calidad del producto y a reducir errores costosos.

• Healthcare: Los sistemas de imagen médica y de monitorización de pacientes pueden ejecutar modelos de Ultralytics YOLO26 exportados localmente en el hardware de Intel, cumpliendo con estrictos requisitos de privacidad de datos mientras mantienen un rendimiento de inferencia fiable.

• Smart cities: La monitorización de tráfico y el análisis de multitudes se pueden implementar utilizando modelos de Ultralytics YOLO26 exportados en cámaras edge impulsadas por Intel, lo que permite obtener información en tiempo real como recuento de vehículos, seguimiento de peatones y detección de incidentes.

• Automoción: La baja latencia y la eficiencia energética son críticas en la monitorización de conductores y en la detección dentro de la cabina, lo que hace que el hardware de Intel combinado con modelos de Ultralytics YOLO26 exportados sea una opción sólida para sistemas automotrices integrados.

Si quieres saber más sobre esta integración, únete a nosotros en la serie de talleres de Intel OpenVINO DevCon workshop series, “From Annotation to Deployment: Building an Object Detection Pipeline with Geti, Ultralytics YOLO26, and OpenVINO™”, donde nuestro gerente de asociaciones y ecosistema, Francesco Mattioli, se unirá al evangelista de software de IA de Intel, Adrian Boguszewski, para una demostración en directo y un recorrido sobre cómo construir pipelines de visión artificial listos para producción en escenarios industriales del mundo real. El taller incluirá un flujo de trabajo de detección de objetos completo y de extremo a extremo, desde la creación de conjuntos de datos y el entrenamiento de modelos hasta la optimización y el despliegue en el edge.

Beneficios de usar el formato de exportación OpenVINO#

Aquí tienes algunas de las ventajas clave de usar el formato de exportación OpenVINO:

• Accesible y fácil de integrar: Con una API unificada y más de 80 cuadernos de tutoriales, OpenVINO facilita el paso de la experimentación al despliegue sin introducir una complejidad significativa.

• Ejecutar el mismo modelo en diferentes hardware: OpenVINO te permite utilizar un único modelo exportado en el hardware Intel compatible, desplegándolo en CPUs, GPUs o NPUs sin necesidad de reescribirlo o adaptarlo para cada dispositivo.

• Optimización integrada durante la exportación: Exportar a OpenVINO convierte modelos de marcos populares como PyTorch y TensorFlow a un formato optimizado listo para la inferencia, eliminando la necesidad de pasos de conversión separados.

• Mejor utilización de los recursos de hardware: OpenVINO admite inferencia asíncrona y equilibrio de carga en el hardware de Intel, ayudando a mejorar la eficiencia en aplicaciones del mundo real.

Ejecución de Ultralytics YOLO26 con ExecuTorch y el backend de OpenVINO#

Si estás desplegando Ultralytics YOLO26 en entornos de producción más exigentes, hay otra opción disponible que combina la eficiencia en el dispositivo con la compresión avanzada de modelos.

ExecuTorch, el marco de inferencia en el dispositivo de PyTorch, es compatible con un backend de OpenVINO que te permite desplegar Ultralytics YOLO26 en el hardware de Intel a través de una ruta de exportación y ejecución diferente.

La forma en que funciona es que ExecuTorch maneja la exportación del modelo y la ejecución en tiempo de ejecución, mientras que OpenVINO actúa como la capa de aceleración de hardware subyacente, manejando el cálculo real a través de la CPU, GPU o NPU de Intel. Ambos trabajan juntos para que obtengas la portabilidad y la eficiencia en el dispositivo de ExecuTorch combinadas con las optimizaciones específicas de hardware que proporciona OpenVINO.

Para obtener más información sobre cómo funciona esto y cómo empezar con Ultralytics YOLO26 en ExecuTorch y el backend de OpenVINO, consulta el blog de Intel que cubre las últimas actualizaciones de ExecuTorch and OpenVINO.

Conclusiones clave#

Exportar modelos YOLO26 a través de la integración de Ultralytics y OpenVINO mejora el rendimiento en el hardware de Intel sin añadir complejidad a tu flujo de trabajo. Puedes pasar del entrenamiento al despliegue sin modificar tu flujo de trabajo. En general, esto proporciona una forma sencilla de ejecutar modelos de manera eficiente en CPUs, GPUs y NPUs de Intel en aplicaciones del mundo real.

Únete a our community y explora nuestro GitHub repository para obtener más información sobre la IA de visión. Consulta our licensing options para poner en marcha tus proyectos de visión artificial. ¿Te interesan innovaciones como AI in manufacturing o computer vision in the automotive industria? Visita nuestras páginas de soluciones para descubrir más.