Ejecución de modelos YOLO de Ultralytics en el PC con IA de Intel mediante OpenVINO

YOLO Vision 2024 (YV24), el evento híbrido anual de Ultralytics, reunió a entusiastas de la IA, desarrolladores y expertos de todo el mundo para explorar las últimas innovaciones en visión artificial. YV24 fue una gran oportunidad y plataforma para hablar de nuevos avances. En el evento participaron figuras destacadas del sector de la IA, que presentaron sus últimas innovaciones. Entre ellas estaba Intel, que participó en el evento con una ponencia sobre su nuevo e innovador AI PC y la integración de Intel OpenVINO con modelos Ultralytics YOLO, como Ultralytics YOLO11.

La ponencia estuvo a cargo de Adrian Boguszewski, evangelista de software, coautor del conjunto de datos LandCover.ai y divulgador del kit de herramientas OpenVINO de Intel, y de Dmitriy Pastushenkov, evangelista de AI PC con más de 20 años de experiencia en automatización industrial e IA. Durante el evento, Adrian compartió su entusiasmo y dijo: «Es un gran evento, no solo porque Ultralytics ha presentado una nueva versión de YOLO, sino también porque podemos mostrar este nuevo modelo funcionando en nuestro nuevo hardware, junto con una nueva versión de OpenVINO».

En este artículo, veremos los aspectos más destacados de la ponencia de Intel en YV24, profundizando en el funcionamiento de su AI PC, la serie Intel Core Ultra 200V y su integración con los modelos Ultralytics YOLO mediante el kit de herramientas OpenVINO. ¡Empecemos!

Tecnologías de IA de vanguardia en 2024#

Dmitriy comenzó la ponencia explicando las diferencias clave entre la IA tradicional y la IA generativa. El debate se centró en cómo evolucionan estas tecnologías y sus casos de uso en 2024. Las técnicas de IA tradicional, como la visión artificial y el procesamiento del lenguaje natural, han sido esenciales para tareas como la estimación de la pose, la detección de objetos y el reconocimiento de voz. Sin embargo, la IA generativa representa una nueva ola de tecnología de IA que incluye aplicaciones como los chatbots, la generación de texto a imagen, la escritura de código e incluso la generación de texto a vídeo.

Fig. 1. Adrian y Dmitriy, de Intel, sobre el escenario de YV24 hablando de casos de uso de la IA.

Dmitriy señaló la diferencia de escala entre ambas. Explicó que, mientras que los modelos de IA tradicional constan de millones de parámetros, los modelos de IA generativa funcionan a una escala mucho mayor. Los modelos de IA generativa suelen incluir miles de millones o incluso billones de parámetros, lo que los hace mucho más exigentes desde el punto de vista computacional.

El AI PC de Intel: una nueva frontera del hardware de IA#

Dmitriy presentó el AI PC de Intel como una nueva solución de hardware diseñada para afrontar las crecientes dificultades de ejecutar eficazmente modelos de IA tradicional y generativa. El AI PC de Intel es una máquina potente y energéticamente eficiente. Puede ejecutar localmente una amplia variedad de modelos de IA sin necesidad de procesamiento en la nube.

El procesamiento local ayuda a mantener la privacidad de los datos. Cuando los modelos de IA pueden funcionar sin depender de conexiones a Internet, se abordan las preocupaciones éticas de las industrias en materia de privacidad y seguridad.

El procesador Intel Core Ultra 200V Series es el motor del AI PC de Intel. Este procesador incorpora tres componentes clave: la unidad central de procesamiento (CPU), la unidad de procesamiento gráfico (GPU) y la unidad de procesamiento neuronal (NPU). Cada uno desempeña una función específica al gestionar distintos tipos de cargas de trabajo de IA. La CPU es ideal para tareas pequeñas y de baja latencia que requieren respuestas rápidas, mientras que la GPU está optimizada para operaciones de alto rendimiento, como la ejecución de modelos de IA. La NPU, diseñada para ofrecer eficiencia energética, es adecuada para tareas prolongadas, como la detección de objetos en tiempo real con modelos como YOLO11.

Se destacó que la CPU puede alcanzar hasta 5 TOPS (billones de operaciones por segundo), la GPU hasta 67 TOPS y la NPU ofrece una forma energéticamente eficiente de ejecutar tareas de IA de manera continua sin agotar los recursos del sistema.

Avances de IA de Intel: Intel Core Ultra 200V Series#

El procesador Intel Core Ultra 200V Series integra los tres motores de IA —NPU, CPU y GPU— en un único chip pequeño. Su diseño es perfecto para dispositivos compactos, como los portátiles, sin sacrificar rendimiento.

El procesador también incluye RAM integrada, lo que reduce la necesidad de tarjetas gráficas independientes. Esto ayuda a disminuir el consumo energético y mantiene compacto el dispositivo. Dmitriy también hizo hincapié en la flexibilidad del procesador. Puedes decidir si ejecutar los modelos de IA en la CPU, la GPU o la NPU, según la tarea. Por ejemplo, la detección de objetos con modelos YOLO11 puede ejecutarse en cualquiera de estos motores, mientras que las tareas más complejas, como la generación de texto a imagen, pueden utilizar la GPU y la NPU al mismo tiempo para mejorar el rendimiento.

Durante la presentación, Dmitriy sacó el chip del bolsillo, para que todos pudieran hacerse una idea clara de lo pequeño que es en realidad, a pesar de su capacidad para gestionar tareas de IA tan avanzadas. Fue una forma divertida y memorable de mostrar cómo Intel está llevando potentes capacidades de IA a dispositivos más portátiles y prácticos.

Fig. 2. El procesador Intel Core Ultra 200V cabe en un bolsillo.

Optimización de modelos de IA con Intel OpenVINO#

Después de mostrar los últimos avances de hardware de Intel, Dmitriy pasó al stack de software de Intel compatible con la IA. Presentó OpenVINO, un framework de código abierto diseñado para optimizar y desplegar modelos de IA de forma eficiente en distintos dispositivos. OpenVINO va más allá de las tareas visuales y amplía su compatibilidad a modelos de IA utilizados para el procesamiento del lenguaje natural, el procesamiento de audio, los transformers, etc.

OpenVINO es compatible con plataformas populares como PyTorch, TensorFlow, y ONNX, y los desarrolladores pueden incorporarlo fácilmente a sus flujos de trabajo. Una de las funciones clave a las que prestó atención fue la cuantización. La cuantización comprime los pesos del modelo para reducir su tamaño, de modo que los modelos grandes puedan ejecutarse sin problemas en dispositivos locales sin necesidad de recurrir a la nube. OpenVINO funciona con múltiples frameworks, ejecutándose en CPU, GPU, NPU, FPGA o incluso dispositivos ARM, y es compatible con Windows, Linux y macOS. Dmitriy también explicó al público lo fácil que es empezar a utilizar OpenVINO.

Fig. 3. Dmitriy explicando cómo empezar a utilizar OpenVINO.

Integración de Ultralytics con Intel OpenVINO#

En la segunda parte de la ponencia, Adrian tomó el micrófono y explicó la integración fluida entre los modelos Ultralytics YOLO y el kit de herramientas OpenVINO de Intel, que simplifica el proceso de despliegue de modelos YOLO. Explicó paso a paso que exportar un modelo YOLO al formato OpenVINO mediante el paquete Ultralytics para Python es rápido y sencillo. Esta integración facilita mucho que los desarrolladores optimicen sus modelos para el hardware de Intel y aprovechen al máximo ambas plataformas.

Fig. 4. Adrian explicando cómo Ultralytics facilita la exportación de tu modelo al formato OpenVINO.

Adrian demostró que, una vez entrenado un modelo Ultralytics YOLO, puedes exportarlo utilizando unos sencillos indicadores de la línea de comandos. Por ejemplo, puedes especificar si quieres exportar el modelo como una versión de coma flotante para obtener la máxima precisión o como una versión cuantizada para mejorar la velocidad y la eficiencia. También destacó que los desarrolladores pueden gestionar este proceso directamente desde el código, utilizando opciones como la cuantización INT8 para mejorar el rendimiento sin sacrificar demasiada precisión.

Demostraciones de IA en tiempo real en el AI PC de Intel#

Para llevar toda esta teoría a la práctica, el equipo de Intel presentó una demostración en tiempo real de detección de objetos ejecutando YOLO11 en el AI PC de Intel. Adrian mostró cómo el sistema gestionaba el modelo en distintos procesadores: alcanzaba 36 fotogramas por segundo (FPS) en la CPU con un modelo de coma flotante, más de 100 FPS en la GPU integrada y 70 FPS con la versión cuantizada INT8. Pudieron mostrar con qué eficiencia el AI PC de Intel puede gestionar tareas de IA complejas.

También señaló que el sistema puede ejecutar modelos en paralelo, utilizando conjuntamente la CPU, la GPU y la NPU para tareas en las que todos los datos o fotogramas de vídeo están disponibles de antemano. Esto resulta útil al procesar cargas pesadas, como vídeos. El sistema puede repartir la carga de trabajo entre distintos procesadores, lo que lo hace más rápido y eficiente.

Para terminar, Adrian mencionó que puedes probar demostraciones en casa, incluidas soluciones como el conteo de personas y la gestión inteligente de colas. Después mostró una demostración adicional en la que los usuarios podían introducir prompts para generar imágenes oníricas en tiempo real en la GPU. La demostración puso de manifiesto la versatilidad del AI PC de Intel tanto para tareas de IA tradicional como para proyectos creativos de IA generativa.

Detección de objetos en tiempo real con Intel OpenVINO#

En el evento, Intel tenía un stand en el que mostraba una demostración de detección de objetos en tiempo real con Ultralytics YOLO11, ejecutándose en su AI PC de Intel. Los asistentes pudieron ver el modelo en acción, optimizado con OpenVINO y desplegado en el procesador Intel Core Ultra 200V.

Fig. 5. Los asistentes pudieron ver una demostración en tiempo real en el stand de Intel OpenVINO.

En el stand de Intel, Dmitriy compartió: «Es mi primera vez en YOLO Vision y estoy encantado de estar en Madrid. Estamos presentando el modelo YOLO11 de Ultralytics, ejecutándose en el procesador Intel Core Ultra 200V. Ofrece un rendimiento excelente y utilizamos OpenVINO para optimizar y desplegar el modelo. Colaborar con Ultralytics y ejecutar el modelo en el hardware más reciente de Intel, utilizando la CPU, la GPU y la NPU, ha sido muy fácil». En el stand también había algunos regalos divertidos, como camisetas y cuadernos que los asistentes podían llevarse a casa.

Conclusiones clave#

La ponencia técnica de Intel en YV24, en la que se presentaron los procesadores Intel Core Ultra 200V Series, mostró cómo el kit de herramientas OpenVINO optimiza modelos de IA como Ultralytics YOLO11. Esta integración permite a los usuarios ejecutar modelos YOLO directamente en sus dispositivos, ofreciendo un gran rendimiento para tareas de visión artificial como la detección de objetos. La principal ventaja es que los usuarios no tienen que depender de servicios en la nube.

Los desarrolladores y entusiastas de la IA pueden ejecutar y ajustar modelos YOLO con facilidad, aprovechando al máximo hardware como CPU, GPU y NPU para aplicaciones en tiempo real. El kit de herramientas Intel OpenVINO, combinado con los modelos Ultralytics YOLO, abre nuevas posibilidades para llevar capacidades avanzadas de IA directamente a dispositivos personales, lo que lo convierte en una opción ideal para desarrolladores deseosos de impulsar innovaciones de IA en diversos sectores.

¡Colaboremos e innovemos! Visita nuestro repositorio de GitHub para explorar nuestras contribuciones y participar en nuestra comunidad. Descubre cómo utilizamos la IA para generar un impacto en sectores como la manufactura y la sanidad.