Ejecución de modelos Ultralytics YOLO en el PC con IA de Intel usando OpenVINO

YOLO Vision 2024 (YV24), el evento híbrido anual de Ultralytics, reunió a aficionados a la IA, desarrolladores y expertos de todo el mundo para explorar las últimas innovaciones en visión artificial. YV24 contó con la participación de figuras destacadas del sector de la IA, que presentaron sus innovaciones más recientes. Entre ellas estaba Intel, que ofreció una ponencia sobre su nuevo AI PC y la integración de Intel OpenVINO con modelos Ultralytics YOLO como Ultralytics YOLO11.

La charla estuvo a cargo de Adrian Boguszewski, divulgador de software que fue coautor del conjunto de datos LandCover.ai y enseña a los desarrolladores a utilizar el kit de herramientas OpenVINO de Intel, y Dmitriy Pastushenkov, divulgador de AI PC con más de 20 años de experiencia en automatización industrial e IA. Durante el evento, Adrian dijo: «Este evento de hoy es fantástico, no solo porque Ultralytics ha presentado una nueva versión de YOLO, sino también porque podemos mostrar este nuevo modelo funcionando en nuestro nuevo hardware, junto con una nueva versión de OpenVINO».

En este artículo repasaremos los aspectos más destacados de la charla de Intel en YV24, que abarcó el AI PC de Intel, la serie Intel Core Ultra 200V y su integración con los modelos Ultralytics YOLO mediante el kit de herramientas OpenVINO.

Tecnologías de IA en 2024#

Dmitriy comenzó la ponencia explicando las principales diferencias entre la IA tradicional y la IA generativa. Se centró en la evolución de estas tecnologías y sus casos de uso en 2024. Las técnicas de IA tradicionales, como la visión artificial y el procesamiento del lenguaje natural, han sido esenciales para tareas como la estimación de poses, la detección de objetos y el reconocimiento de voz. La IA generativa, en cambio, representa una nueva generación de tecnología de IA que abarca aplicaciones como los chatbots, la generación de imágenes a partir de texto, la escritura de código e incluso la conversión de texto en vídeo.

Fig. 1. Adrian y Dmitriy, de Intel, en el escenario de YV24, hablando sobre casos de uso de la IA.

Dmitriy señaló la diferencia de escala entre ambas. Explicó que, mientras que los modelos de IA tradicionales constan de millones de parámetros, los modelos de IA generativa funcionan a una escala mucho mayor. A menudo cuentan con miles de millones o incluso billones de parámetros, por lo que exigen muchos más recursos computacionales.

El PC con IA de Intel: una nueva frontera para el hardware de IA#

Dmitriy presentó el PC con IA de Intel como una nueva solución de hardware diseñada para afrontar los crecientes retos que supone ejecutar eficientemente modelos de IA tradicionales y generativos. El PC con IA de Intel es una máquina potente y eficiente desde el punto de vista energético. Puede ejecutar localmente una amplia gama de modelos de IA, sin necesidad de procesamiento en la nube.

El procesamiento local ayuda a mantener la privacidad de los datos sensibles. Cuando los modelos de IA pueden funcionar sin conexión a Internet, contribuyen a abordar las preocupaciones éticas del sector sobre la privacidad y la seguridad.

El procesador de la serie Intel Core Ultra 200V es el elemento clave del AI PC de Intel. Este procesador incorpora tres componentes fundamentales: la unidad central de procesamiento (CPU), la unidad de procesamiento gráfico (GPU) y la unidad de procesamiento neuronal (NPU). Cada uno desempeña una función específica en el procesamiento de distintas cargas de trabajo de IA. La CPU es ideal para tareas pequeñas y de baja latencia que requieren respuestas rápidas, mientras que la GPU está optimizada para operaciones de alto rendimiento, como la ejecución de modelos de IA. La NPU, diseñada para ofrecer eficiencia energética, es idónea para tareas de larga duración, como la detección de objetos en tiempo real con modelos como YOLO11.

Se destacó que la CPU puede alcanzar hasta 5 TOPS (billones de operaciones por segundo), la GPU hasta 67 TOPS y la NPU ofrece una forma eficiente desde el punto de vista energético de ejecutar tareas de IA de manera continua sin agotar los recursos del sistema.

Avances de Intel en IA: Intel Core Ultra 200V Series#

El procesador de la serie Intel Core Ultra 200V integra los tres motores de IA —NPU, CPU y GPU— en un único chip pequeño. Su diseño es ideal para dispositivos compactos, como los portátiles.

El procesador también incluye memoria RAM integrada, lo que reduce la necesidad de tarjetas gráficas independientes. Esto ayuda a reducir el consumo energético y mantiene el dispositivo compacto. Dmitriy también destacó la flexibilidad del procesador. Los usuarios pueden decidir si ejecutan los modelos de IA en la CPU, la GPU o la NPU, en función de la tarea. Por ejemplo, la detección de objetos con modelos YOLO11 puede ejecutarse en cualquiera de estos motores, mientras que las tareas más complejas, como la generación de imágenes a partir de texto, pueden utilizar la GPU y la NPU al mismo tiempo para ofrecer un mejor rendimiento.

Durante la presentación, Dmitriy sacó el chip del bolsillo para que todos pudieran hacerse una idea clara de lo pequeño que es, a pesar de su capacidad para realizar tareas de IA tan avanzadas. Fue una forma divertida y memorable de mostrar cómo Intel está llevando potentes capacidades de IA a dispositivos más portátiles y prácticos.

Fig. 2. El procesador Intel Core Ultra 200V cabe en un bolsillo.

Optimización de modelos de IA con Intel OpenVINO#

Tras presentar el hardware más reciente de Intel, Dmitriy pasó a explicar la pila de software de IA de Intel. Presentó OpenVINO, un marco de trabajo de código abierto de Intel diseñado para optimizar e implementar modelos de IA de forma eficiente en distintos dispositivos. OpenVINO va más allá de las tareas visuales y también es compatible con modelos de IA utilizados para el procesamiento del lenguaje natural, el procesamiento de audio, los transformers y mucho más.

OpenVINO es compatible con marcos de trabajo populares como PyTorch, TensorFlow y ONNX, y los desarrolladores pueden incorporarlo fácilmente a sus flujos de trabajo. Una de las funciones clave que destacó fue la cuantización. La cuantización comprime los pesos del modelo para reducir su tamaño y permitir que los modelos grandes funcionen sin problemas en dispositivos locales, sin necesidad de recurrir a la nube. OpenVINO funciona con varios marcos de trabajo y se ejecuta en CPU, GPU, NPU, FPGA o incluso dispositivos ARM; además, es compatible con Windows, Linux y macOS. Dmitriy también explicó al público lo fácil que es empezar a utilizar OpenVINO.

Fig. 3. Dmitriy explica cómo empezar a utilizar OpenVINO.

Integración de Ultralytics con Intel OpenVINO#

En la segunda parte de la charla, Adrian tomó la palabra y explicó cómo integrar los modelos Ultralytics YOLO con el kit de herramientas OpenVINO de Intel, lo que simplifica la implementación de modelos YOLO. Explicó paso a paso lo rápido y sencillo que es exportar un modelo YOLO al formato OpenVINO con el paquete Python de Ultralytics. Esta integración facilita que los desarrolladores optimicen sus modelos para el hardware de Intel y aprovechen al máximo ambas plataformas.

Fig. 4. Adrian explica cómo Ultralytics facilita la exportación de tu modelo al formato OpenVINO.

Adrian mostró que, una vez entrenado un modelo Ultralytics YOLO, los usuarios pueden exportarlo con unos pocos parámetros sencillos de la línea de comandos. Por ejemplo, pueden especificar si quieren exportar el modelo en coma flotante para obtener la máxima precisión o en una versión cuantizada para conseguir más velocidad y eficiencia. También destacó que los desarrolladores pueden gestionar este proceso directamente desde el código con opciones como la cuantización INT8, que mejora el rendimiento sin sacrificar demasiada precisión.

Demostraciones de IA en tiempo real en el PC con IA de Intel#

Para llevar toda esta teoría a la práctica, el equipo de Intel presentó una demostración de detección de objetos en tiempo real ejecutando YOLO11 en el AI PC de Intel. Adrian mostró cómo el sistema procesaba el modelo en distintos procesadores: alcanzaba 36 fotogramas por segundo (FPS) en la CPU con un modelo en coma flotante, más de 100 FPS en la GPU integrada y 70 FPS con la versión cuantizada INT8. La demostración mostró la eficiencia con la que el AI PC de Intel puede gestionar tareas complejas de IA.

También señaló que el sistema puede ejecutar modelos en paralelo, utilizando la CPU, la GPU y la NPU conjuntamente para tareas en las que todos los datos o fotogramas de vídeo están disponibles de antemano. Esto resulta útil al procesar cargas de trabajo pesadas, como vídeos. El sistema puede distribuir la carga de trabajo entre distintos procesadores, lo que aumenta la velocidad y la eficiencia.

Para terminar, Adrian mencionó que los usuarios podían probar demostraciones en casa, incluidas soluciones como el recuento de personas y la gestión inteligente de colas. Después mostró una demostración adicional en la que los usuarios podían introducir instrucciones para generar imágenes de ensueño en tiempo real con la GPU. La demostración puso de manifiesto la versatilidad del AI PC de Intel para tareas de IA tradicionales y proyectos creativos de IA generativa.

Detección de objetos en tiempo real con Intel OpenVINO#

En el evento, Intel tenía un puesto en el que mostró una demostración de detección de objetos en tiempo real con Ultralytics YOLO11, ejecutada en su PC con IA de Intel. Los asistentes pudieron ver el modelo en acción, optimizado con OpenVINO e implementado en el procesador Intel Core Ultra 200V.

Fig. 5. Los asistentes pudieron ver una demostración en tiempo real en el puesto de Intel OpenVINO.

En el puesto de Intel, Dmitriy comentó: «Es la primera vez que participo en YOLO Vision y me alegro de estar en Madrid. Estamos presentando el modelo YOLO11 de Ultralytics, ejecutado en el procesador Intel Core Ultra 200V. Ofrece un rendimiento excelente y utilizamos OpenVINO para optimizar e implementar el modelo. Ha sido muy fácil colaborar con Ultralytics y ejecutar el modelo en el hardware más reciente de Intel, utilizando la CPU, la GPU y la NPU». En el puesto también había algunos regalos divertidos, como camisetas y libretas para que los asistentes se llevaran a casa.

Conclusiones clave#

La charla técnica de Intel en YV24, centrada en los procesadores Intel Core Ultra 200V Series, mostró cómo el conjunto de herramientas OpenVINO optimiza modelos de IA como Ultralytics YOLO11. Esta integración permite a los usuarios ejecutar modelos YOLO directamente en sus dispositivos y ofrece un gran rendimiento en tareas de visión artificial, como la detección de objetos. La principal ventaja es que los usuarios no necesitan depender de servicios en la nube.

Los desarrolladores y aficionados a la IA pueden ejecutar y ajustar modelos YOLO, aprovechando al máximo hardware como CPU, GPU y NPU para aplicaciones en tiempo real. El kit de herramientas Intel OpenVINO, combinado con los modelos Ultralytics YOLO, abre nuevas posibilidades para llevar capacidades avanzadas de IA directamente a los dispositivos personales, lo que lo convierte en una excelente opción para los desarrolladores que crean aplicaciones de IA en distintos sectores.

Visita nuestro repositorio de GitHub para conocer nuestras contribuciones y participar en nuestra comunidad. Descubre cómo utilizamos la IA para generar un impacto en sectores como la fabricación y la sanidad.