Acelerando Ultralytics YOLO26 con OpenVINO en Intel Core Ultra Series 3 (Panther Lake)

Durante los últimos años, la IA y la visión artificial han pasado de ser experimentales a convertirse en una parte fundamental de las operaciones empresariales cotidianas. De hecho, las encuestas muestran que cerca del 88% de las organizaciones ya utilizan IA en al menos una parte de su negocio.

Sin embargo, convertir esa adopción en valor real, ya sea en sistemas de producción o en proyectos personales, a menudo depende de lo bien que funcionen los modelos una vez implementados. En muchos escenarios del mundo real, los modelos de visión artificial como Ultralytics YOLO26 se despliegan en dispositivos de borde y una gama de hardware, a menudo CPUs, GPUs integradas o NPUs, en lugar de GPUs de gama alta.

Ahí es donde el rendimiento puede empezar a variar y donde la optimización se vuelve crítica. Un modelo que funciona bien en un entorno puede tener problemas en otro si no está correctamente optimizado para el hardware subyacente.

Para agilizar este proceso, el paquete de Python de Ultralytics permite exportar modelos YOLO26 a formatos optimizados como OpenVINO, para que puedan ejecutarse sin problemas en el hardware de Intel sin necesidad de realizar cambios en tu flujo de trabajo.

Por ejemplo, cuando un modelo YOLO26 se exporta al formato OpenVINO, puede ejecutarse de manera más eficiente en los procesadores Intel Core Ultra Series 3, mejorando las velocidades de inferencia en la GPU hasta tres veces.

En este artículo, exploraremos cómo la integración actualizada de Ultralytics y OpenVINO facilita el despliegue de modelos YOLO26 en hardware Intel Core Ultra Series 3. ¡Empecemos!

Link to this sectionUna visión general de la integración de Ultralytics y OpenVINO#

El paquete de Python de Ultralytics proporciona una interfaz única para entrenar, ejecutar inferencias y desplegar modelos Ultralytics YOLO como YOLO26. Admite una gama de integraciones que ayudan en diferentes partes del flujo de trabajo de la IA de visión, desde el entrenamiento y la experimentación hasta el despliegue y la optimización.

Una de las integraciones centradas en el despliegue es con el kit de herramientas OpenVINO, que te permite exportar modelos YOLO26 a un formato optimizado para hardware Intel. Este proceso convierte los modelos YOLO en un formato que se ejecuta de manera más eficiente en CPUs, GPUs y NPUs de Intel, incluidos los sistemas equipados con procesadores Intel® Core™ Ultra™ series.

Esto hace que sea más ágil ejecutar modelos en diferentes dispositivos Intel sin necesidad de ajustarlos manualmente para cada configuración. Tanto si trabajas en una máquina local como en un dispositivo de borde o en un despliegue más grande, el mismo modelo exportado puede reutilizarse.

Lo que hace que esta integración sea especialmente práctica es lo perfectamente que encaja en el flujo de trabajo existente de Ultralytics. Puedes exportar un modelo utilizando la misma interfaz que usas para el entrenamiento y la inferencia, sin necesidad de herramientas adicionales ni de una configuración compleja.

Una vez exportado, el modelo puede utilizarse para la inferencia ya sea a través del paquete de Python de Ultralytics o del entorno de ejecución de OpenVINO, dependiendo de cuánto control y flexibilidad necesites.

Link to this sectionUn vistazo más cercano a OpenVINO y al hardware Intel Panther Lake para la inferencia de IA#

Antes de ver con qué eficacia puede ejecutarse un modelo YOLO26 exportado en el hardware de Intel, demos un paso atrás y entendamos cómo trabajan juntos OpenVINO y el hardware de Intel para permitir una inferencia eficiente.

OpenVINO es un kit de herramientas de código abierto diseñado para optimizar y ejecutar inferencias de IA en hardware Intel, incluyendo CPUs, GPUs integradas y NPUs. Proporciona un entorno de ejecución unificado, por lo que el mismo modelo puede ejecutarse a través de estas diferentes unidades de computación sin necesidad de ser reescrito.

Fig 1. OpenVINO facilita el despliegue de modelos en múltiples objetivos de hardware. (Fuente)

En los nuevos procesadores Intel® Core™ Ultra™ Series 3 (con nombre en clave Panther Lake), las cargas de trabajo de IA se ejecutan a través de múltiples unidades de computación dentro del mismo procesador. Cada chip combina núcleos de CPU para tareas de propósito general, una GPU integrada para procesamiento paralelo y una NPU dedicada diseñada específicamente para la inferencia de IA.

OpenVINO proporciona una API unificada que te permite dirigirte a cualquiera de estas unidades de computación, ya sea CPU, GPU o NPU, sin cambiar tu código. Puedes especificar simplemente en qué dispositivo ejecutar la inferencia durante el tiempo de ejecución, lo que facilita el cambio entre los tres según tus necesidades de rendimiento y eficiencia.

Link to this sectionEvaluación comparativa de YOLO26 en la serie Intel® Core™ Ultra™#

A medida que exploras la integración de Ultralytics y OpenVINO, es posible que te preguntes: ¿qué tipo de ganancias en el rendimiento del modelo puedes esperar al exportar YOLO26 al formato OpenVINO?

La diferencia en la velocidad de inferencia se vuelve clara al evaluar los modelos YOLO26 en diferentes formatos y niveles de precisión. Por ejemplo, al ejecutar la variante nano de YOLO26 (YOLO26n) en un Intel Core Ultra X7 358H, un procesador Panther Lake, el tiempo de inferencia se reduce de 25,18 ms por imagen en PyTorch a FP32 a 2,64 ms con OpenVINO a la misma precisión con la NPU integrada.

Eso es más rápido que la línea base original de PyTorch FP32, lo que puede marcar una diferencia notable en aplicaciones de borde y en tiempo real donde la latencia es crítica. Estas ganancias se vuelven aún más evidentes al ejecutar el mismo modelo en la GPU integrada Intel Arc.

Fig 2. Evaluación comparativa de la inferencia de YOLO26 en la GPU Intel Panther Lake usando OpenVINO (Fuente)

Fig 3. Evaluación comparativa de la inferencia de YOLO26 en la NPU Intel Panther Lake usando OpenVINO (Fuente)

Link to this sectionExplorando dos formas de exportar Ultralytics YOLO26 al formato OpenVINO#

Hay dos formas principales de exportar modelos YOLO26 al formato OpenVINO. Puedes utilizar el paquete de Python de Ultralytics o exportar directamente a través de Ultralytics Platform, un espacio de trabajo integral para construir y gestionar flujos de trabajo de visión artificial en un solo lugar. A continuación, veremos ambos enfoques.

Link to this sectionUso del paquete de Python de Ultralytics para exportar YOLO26#

El paquete de Python de Ultralytics proporciona una forma sencilla de exportar modelos YOLO26 al formato OpenVINO dentro de un flujo de trabajo basado en código. Como se utiliza la misma interfaz para el entrenamiento y la inferencia, la exportación de un modelo encaja naturalmente en los procesos existentes sin necesidad de herramientas adicionales.

Para empezar, puedes instalar el paquete de Ultralytics. Esto se puede hacer ejecutando el comando “pip install ultralytics” en una terminal o símbolo del sistema. Si trabajas en un entorno interactivo como Jupyter Notebook o Google Colab, puedes ejecutar el mismo comando anteponiendo un signo de exclamación.

Una vez instalado, puedes cargar un modelo YOLO26 entrenado y exportarlo directamente al formato OpenVINO. Como se muestra a continuación, un modelo YOLO26n preentrenado (yolo26n.pt) se carga y luego se convierte al formato OpenVINO utilizando el método de exportación.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="openvino")

Después de ejecutar el código, el modelo convertido se guarda en un nuevo directorio, donde puede utilizarse para el despliegue.

Link to this sectionExportación de YOLO26 en Ultralytics Platform#

Si buscas un enfoque más sencillo y sin código, puedes exportar modelos YOLO26 directamente a través de Ultralytics Platform. La plataforma reúne todo el flujo de trabajo de visión artificial en un único espacio, lo que facilita el paso del entrenamiento al despliegue sin configuraciones adicionales.

Una vez que tu modelo esté listo, puedes abrirlo dentro de la plataforma y navegar a la pestaña Exportar. Desde allí, puedes seleccionar OpenVINO como formato de exportación y ajustar opcionalmente configuraciones como el tamaño de la imagen o la precisión.

Fig 4. Un vistazo a la exportación de YOLO26 dentro de Ultralytics Platform

La plataforma gestiona la conversión automáticamente, por lo que no hay necesidad de gestionar scripts, dependencias o configuración del entorno. Una vez completada la exportación, el modelo optimizado puede descargarse y utilizarse para su despliegue en CPUs, GPUs y NPUs de Intel.

Link to this sectionOpciones de despliegue habilitadas por la integración de Ultralytics y OpenVINO#

Una vez que un modelo YOLO26 ha sido exportado al formato OpenVINO, existen un par de formas de ejecutar la inferencia dependiendo de tu flujo de trabajo y del nivel de control necesario. Puedes usar el paquete de Python de Ultralytics para un enfoque más sencillo e integrado o usar el entorno de ejecución nativo de OpenVINO para una mayor flexibilidad y control.

Link to this sectionEjecución de la inferencia con el paquete de Python de Ultralytics#

Una vez que tu modelo se haya exportado al formato OpenVINO, puedes ejecutar la inferencia utilizando el paquete de Python de Ultralytics. Este enfoque es ideal para pruebas rápidas y un despliegue ágil, ya que utiliza la misma interfaz que el entrenamiento y la exportación.

Con este enfoque, puedes cargar el modelo OpenVINO exportado desde su directorio y ejecutar la inferencia en una entrada como una imagen o vídeo. También puedes elegir en qué dispositivo ejecutarlo especificando opciones como “intel:cpu”, “intel:gpu” o “intel:npu”, dependiendo del hardware disponible en tu sistema.

El fragmento de código a continuación muestra cómo cargar el modelo exportado y ejecutar la inferencia en una imagen mientras se apunta a la GPU. Una vez completada la inferencia, la imagen resultante se guarda en el directorio “runs/detect/predict”.

ov_model = YOLO("yolo26n_openvino_model/")

results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

Link to this sectionAprovechamiento del paquete nativo de OpenVINO para la inferencia#

Si necesitas más control sobre cómo se ejecuta tu modelo en producción, puedes utilizar el entorno de ejecución nativo de OpenVINO para la inferencia. Este método es útil cuando se integran modelos en aplicaciones más grandes o cuando deseas ajustar cómo se ejecuta la inferencia en un hardware específico.

OpenVINO proporciona una forma unificada de ejecutar modelos en CPUs, GPUs y NPUs de Intel, junto con características como la ejecución asíncrona y el uso eficiente de los recursos informáticos disponibles. Para configurar esto, puedes trabajar directamente con los archivos del modelo exportado, incluido el archivo .xml que define la estructura del modelo y el archivo .bin que contiene los pesos entrenados.

Dependiendo de tu caso de uso, también puedes ajustar configuraciones como el tamaño de entrada o los pasos de preprocesamiento. La configuración de la inferencia implica inicializar el entorno de ejecución de OpenVINO, cargar y compilar el modelo para un dispositivo de destino, preparar los datos de entrada y, a continuación, ejecutar la inferencia.

Fig 5. Un ejemplo de un proceso de inferencia típico con OpenVINO (Fuente)

Esto te permite controlar cómo se ejecuta el modelo y cómo encaja en tu despliegue general. Para obtener más información sobre cómo configurar y ejecutar la inferencia con el entorno de ejecución de OpenVINO, puedes explorar la documentación oficial de Ultralytics.

Link to this sectionAplicaciones del mundo real de YOLO26 en hardware Intel#

El valor real de la integración de Ultralytics y OpenVINO aparece en la producción, donde una inferencia fiable y de baja latencia puede marcar una diferencia tangible. Aquí tienes un vistazo a algunas industrias clave donde esta integración genera resultados significativos:

• Fabricación: Al exportar YOLO26 a OpenVINO, los sistemas de línea de producción pueden detectar automáticamente defectos visuales como componentes faltantes, desalineaciones o daños superficiales en el hardware de Intel, ayudando a mejorar la calidad del producto y reducir errores costosos.

• Atención sanitaria: Los sistemas de imágenes médicas y de monitoreo de pacientes pueden ejecutar modelos YOLO26 exportados localmente en hardware Intel, apoyando requisitos estrictos de privacidad de datos mientras mantienen un rendimiento de inferencia fiable.

• Ciudades inteligentes: El monitoreo del tráfico y el análisis de multitudes pueden desplegarse utilizando modelos YOLO26 exportados en cámaras de borde con tecnología Intel, permitiendo obtener información en tiempo real como conteo de vehículos, seguimiento de peatones y detección de incidentes.

• Automoción: La baja latencia y la eficiencia energética son críticas en el monitoreo del conductor y la detección en cabina, lo que hace que el hardware de Intel junto con los modelos YOLO26 exportados sean una opción sólida para sistemas automotrices integrados.

Si deseas obtener más información sobre esta integración, únete a nosotros para la serie de talleres OpenVINO DevCon de Intel, “De la anotación al despliegue: construyendo un flujo de trabajo de detección de objetos con Geti, YOLO26 y OpenVINO™”, donde nuestro Gerente de Alianzas y Ecosistema, Francesco Mattioli, se unirá al evangelista de software de IA de Intel, Adrian Boguszewski, para una demostración en vivo y un recorrido sobre cómo construir flujos de trabajo de visión artificial listos para la producción para escenarios industriales del mundo real. El taller contará con un flujo de trabajo completo de detección de objetos de extremo a extremo, desde la creación del conjunto de datos y el entrenamiento del modelo hasta la optimización y el despliegue en el borde.

Link to this sectionBeneficios de usar el formato de exportación OpenVINO#

Aquí tienes algunas de las ventajas clave de usar el formato de exportación OpenVINO:

• Accesible y fácil de integrar: Con una API unificada y más de 80 cuadernos de tutoriales, OpenVINO facilita el paso de la experimentación al despliegue sin introducir una complejidad significativa.

• Ejecutar el mismo modelo en diferentes hardware: OpenVINO te permite utilizar un único modelo exportado en el hardware Intel compatible, desplegándolo en CPUs, GPUs o NPUs sin necesidad de reescribirlo o adaptarlo para cada dispositivo.

• Optimización integrada durante la exportación: Exportar a OpenVINO convierte modelos de marcos populares como PyTorch y TensorFlow a un formato optimizado listo para la inferencia, eliminando la necesidad de pasos de conversión separados.

• Mejor utilización de los recursos de hardware: OpenVINO admite inferencia asíncrona y equilibrio de carga en el hardware de Intel, ayudando a mejorar la eficiencia en aplicaciones del mundo real.

Link to this sectionEjecución de YOLO26 con ExecuTorch y el backend de OpenVINO#

Si estás desplegando YOLO26 en entornos de producción más exigentes, existe otra opción disponible que combina la eficiencia en el dispositivo con una compresión de modelo avanzada.

ExecuTorch, el marco de inferencia en el dispositivo de PyTorch, admite un backend de OpenVINO que te permite desplegar YOLO26 en hardware Intel a través de una ruta de exportación y ejecución diferente.

La forma en que funciona es que ExecuTorch maneja la exportación del modelo y la ejecución en tiempo de ejecución, mientras que OpenVINO actúa como la capa de aceleración de hardware subyacente, manejando el cálculo real a través de la CPU, GPU o NPU de Intel. Ambos trabajan juntos para que obtengas la portabilidad y la eficiencia en el dispositivo de ExecuTorch combinadas con las optimizaciones específicas de hardware que proporciona OpenVINO.

Para obtener más información sobre cómo funciona esto y cómo empezar con YOLO26 en ExecuTorch y el backend de OpenVINO, consulta el blog de Intel que cubre las últimas actualizaciones de ExecuTorch y OpenVINO.

Link to this sectionConclusiones clave#

Exportar modelos YOLO26 a través de la integración de Ultralytics y OpenVINO mejora el rendimiento en el hardware de Intel sin añadir complejidad a tu flujo de trabajo. Puedes pasar del entrenamiento al despliegue sin modificar tu flujo de trabajo. En general, esto proporciona una forma sencilla de ejecutar modelos de manera eficiente en CPUs, GPUs y NPUs de Intel en aplicaciones del mundo real.

Únete a nuestra comunidad y explora nuestro repositorio de GitHub para aprender más sobre Vision AI. Echa un vistazo a nuestras opciones de licencia para poner en marcha tus proyectos de visión artificial. ¿Te interesan innovaciones como la IA en la fabricación o la visión artificial en la industria automotriz? Visita nuestras páginas de soluciones para descubrir más.