Ejecución de modelos Ultralytics YOLO en el AI PC de Intel con OpenVINO

YOLO Vision 2024 (YV24), el evento híbrido anual de Ultralytics, reunió a entusiastas de la inteligencia artificial, desarrolladores y expertos de todo el mundo para explorar las últimas innovaciones en visión por computador. YV24 fue una gran oportunidad y plataforma para debatir sobre nuevos avances. El evento contó con actores clave de la industria de la inteligencia artificial que presentaron sus últimas innovaciones. Entre ellos estuvo Intel, que participó en el evento con una ponencia magistral sobre su nuevo e innovador AI PC y la integración de Intel OpenVINO con los modelos Ultralytics YOLO como Ultralytics YOLO11.

La charla estuvo dirigida por Adrian Boguszewski, evangelista de software que coescribió el conjunto de datos LandCover.ai y educa a los desarrolladores sobre el kit de herramientas OpenVINO de Intel, y Dmitriy Pastushenkov, evangelista de AI PC con más de 20 años de experiencia en automatización industrial e inteligencia artificial. Durante el evento, Adrian compartió su entusiasmo y afirmó: "Este es un gran evento hoy, no solo porque Ultralytics ha lanzado una nueva versión de YOLO, sino también porque podemos presentar este nuevo modelo funcionando en nuestro nuevo hardware, así como una nueva versión de OpenVINO".

En este artículo, vamos a analizar los aspectos más destacados de la charla de Intel en YV24, profundizando en los detalles de su AI PC, la serie Intel Core Ultra 200V, y cómo se integran con los modelos Ultralytics YOLO utilizando el kit de herramientas OpenVINO. ¡Comencemos!

Tecnologías de IA de vanguardia en 2024#

Dmitriy comenzó la ponencia magistral profundizando en las diferencias clave entre la inteligencia artificial tradicional y la generativa. El enfoque giró en torno a cómo estas tecnologías y sus casos de uso están evolucionando en 2024. Las técnicas de inteligencia artificial tradicional, como la visión por computador y el procesamiento del lenguaje natural, han sido fundamentales para tareas como la estimación de poses, la detección de objetos y el reconocimiento de voz. La inteligencia artificial generativa, sin embargo, representa una nueva ola de tecnología de inteligencia artificial que incluye aplicaciones como chatbots, generación de texto a imagen, escritura de código e incluso texto a vídeo.

Fig 1. Adrian y Dmitriy de Intel, en el escenario de YV24, discutiendo casos de uso de IA.

Dmitriy señaló la diferencia de escala entre ambas. Explicó que, mientras que los modelos de inteligencia artificial tradicional constan de millones de parámetros, los modelos de inteligencia artificial generativa operan a una escala mucho mayor. Los modelos de inteligencia artificial generativa suelen implicar miles de millones o incluso billones de parámetros, lo que los hace mucho más exigentes a nivel computacional.

El PC con IA de Intel: una nueva frontera del hardware de IA#

Dmitriy presentó el PC con IA de Intel como una nueva solución de hardware diseñada para abordar los crecientes desafíos de ejecutar modelos de IA tradicionales y generativos de manera eficiente. El PC con IA de Intel es una máquina potente y energéticamente eficiente. Es capaz de ejecutar una amplia gama de modelos de IA localmente, sin necesidad de procesamiento en la nube.

El procesamiento local ayuda a mantener privados los datos sensibles. Cuando los modelos de inteligencia artificial pueden operar independientemente de las conexiones a Internet, se responden las preocupaciones éticas de las industrias en materia de privacidad y seguridad.

El motor que impulsa el AI PC de Intel es el procesador de la serie Intel Core Ultra 200V. Este procesador incorpora tres componentes clave: la unidad central de procesamiento (CPU), la unidad de procesamiento gráfico (GPU) y la unidad de procesamiento neuronal (NPU). Cada uno desempeña una función específica en la gestión de diferentes tipos de cargas de trabajo de inteligencia artificial. La CPU es ideal para tareas más pequeñas y de baja latencia que requieren respuestas rápidas, mientras que la GPU está optimizada para operaciones de alto rendimiento como la ejecución de modelos de inteligencia artificial. La NPU, diseñada para la eficiencia energética, es muy adecuada para tareas de larga duración como la detección de objetos en tiempo real con modelos como YOLO11.

Se destacó que la CPU puede ofrecer hasta 5 TOPS (billones de operaciones por segundo), la GPU hasta 67 TOPS, y la NPU proporciona una forma energéticamente eficiente de ejecutar tareas de IA continuamente sin agotar los recursos del sistema.

Avances de IA de Intel: serie Intel Core Ultra 200V#

El procesador Intel Core Ultra 200V Series integra los tres motores de IA (NPU, CPU y GPU) en un único chip pequeño. Su diseño es perfectamente adecuado para dispositivos compactos como portátiles, sin sacrificar el rendimiento.

El procesador también incluye memoria RAM integrada, lo que reduce la necesidad de tarjetas gráficas independientes. Esto ayuda a disminuir el consumo de energía y mantiene el dispositivo compacto. Dmitriy también destacó la flexibilidad del procesador. Los usuarios pueden decidir si ejecutar modelos de inteligencia artificial en la CPU, la GPU o la NPU, según la tarea. Por ejemplo, la detección de objetos con modelos YOLO11 se puede ejecutar en cualquiera de estos motores, mientras que las tareas más complejas, como la generación de texto a imagen, pueden utilizar la GPU y la NPU al mismo tiempo para obtener un mejor rendimiento.

Durante la presentación, Dmitriy sacó el chip de su bolsillo, dando a todos una idea clara de lo pequeño que es realmente, a pesar de su capacidad para manejar tareas de IA tan avanzadas. Fue una forma divertida y memorable de mostrar cómo Intel está llevando potentes capacidades de IA a dispositivos más portátiles y prácticos.

Fig 2. El procesador Intel Core Ultra 200V puede caber en un bolsillo.

Optimización de modelos de IA con Intel OpenVINO#

Tras mostrar los últimos avances en hardware de Intel, Dmitriy pasó a hablar de la pila de software de Intel que da soporte a la inteligencia artificial. Presentó OpenVINO, el marco de trabajo de código abierto de Intel diseñado para optimizar y desplegar modelos de inteligencia artificial de manera eficiente en diferentes dispositivos. OpenVINO va más allá de las tareas visuales y extiende su soporte a los modelos de inteligencia artificial utilizados para el procesamiento del lenguaje natural, el procesamiento de audio, transformers, etc.

OpenVINO es compatible con plataformas populares como PyTorch, TensorFlow y ONNX, y los desarrolladores pueden integrarlo fácilmente en sus flujos de trabajo. Una característica clave a la que llamó la atención fue la cuantización. La cuantización comprime los pesos de los modelos para reducir su tamaño, de modo que los modelos grandes puedan ejecutarse sin problemas en dispositivos locales sin necesidad de la nube. OpenVINO funciona en múltiples marcos de trabajo, ejecutándose en CPU, GPU, NPU, FPGA o incluso dispositivos ARM, y es compatible con Windows, Linux y macOS. Dmitriy también guió a la audiencia sobre lo fácil que es empezar a utilizar OpenVINO.

Fig 3. Dmitriy explicando cómo empezar con OpenVINO.

Integración de Ultralytics con Intel OpenVINO#

En la segunda parte de la charla, se le pasó el micrófono a Adrian, quien explicó la perfecta integración entre los modelos Ultralytics YOLO y el kit de herramientas OpenVINO de Intel, lo que simplifica el proceso de despliegue del modelo YOLO. Ofreció una explicación paso a paso de cómo exportar un modelo YOLO utilizando el paquete de Python de Ultralytics al formato OpenVINO es un proceso rápido y directo. Esta integración facilita enormemente que los desarrolladores optimicen sus modelos para el hardware de Intel y aprovechen al máximo ambas plataformas.

Fig 4. Adrian explicando cómo Ultralytics facilita la exportación de tu modelo al formato OpenVINO.

Adrian demostró que, una vez entrenado un modelo Ultralytics YOLO, los usuarios pueden exportarlo utilizando unas pocas opciones sencillas en la línea de comandos. Por ejemplo, los usuarios pueden especificar si desean exportar el modelo como una versión de coma flotante para obtener la máxima precisión o como una versión cuantizada para mayor velocidad y eficiencia. También destacó cómo los desarrolladores pueden gestionar este proceso directamente mediante código, utilizando opciones como la cuantización INT8 para mejorar el rendimiento sin sacrificar demasiada precisión.

Demos de IA en tiempo real en el PC con IA de Intel#

Llevando toda esta teoría a la práctica, el equipo de Intel presentó una demostración en tiempo real de detección de objetos ejecutando YOLO11 en el AI PC de Intel. Adrian mostró cómo el sistema gestionaba el modelo en diferentes procesadores, alcanzando 36 fotogramas por segundo (FPS) en la CPU con un modelo de coma flotante, más de 100 FPS en la GPU integrada y 70 FPS con la versión cuantizada en INT8. Pudieron demostrar con cuánta eficiencia puede gestionar el AI PC de Intel tareas complejas de inteligencia artificial.

También señaló que el sistema puede ejecutar modelos en paralelo, utilizando la CPU, la GPU y la NPU juntas para tareas donde todos los datos o fotogramas de vídeo están disponibles de antemano. Esto es útil al procesar cargas pesadas como vídeos. El sistema puede dividir la carga de trabajo entre diferentes procesadores, haciéndolo más rápido y eficiente.

Para concluir, Adrian mencionó que los usuarios podían probar demostraciones en casa, incluyendo soluciones como el recuento de personas y la gestión inteligente de colas. A continuación, mostró una demostración adicional en la que los usuarios podían introducir indicaciones para generar imágenes oníricas en tiempo real en la GPU. Esto demostró la versatilidad del AI PC de Intel tanto para tareas de inteligencia artificial tradicional como para proyectos creativos de inteligencia artificial generativa.

Detección de objetos en tiempo real con Intel OpenVINO#

En el evento, Intel contó con un puesto donde mostró una demostración de detección de objetos en tiempo real utilizando Ultralytics YOLO11, ejecutándose en su Intel AI PC. Los asistentes pudieron ver el modelo en acción, optimizado con OpenVINO y desplegado en el procesador Intel Core Ultra 200V.

Fig 5. Los asistentes tuvieron la oportunidad de ver una demo en tiempo real en el stand de Intel OpenVINO.

En el stand de Intel, Dmitriy compartió: "Esta es mi primera vez en YOLO Vision y estoy feliz de estar en Madrid. Estamos presentando el modelo YOLO11 de Ultralytics, ejecutándose en el procesador Intel Core Ultra 200V. Muestra un rendimiento excelente y utilizamos OpenVINO para optimizar y desplegar el modelo. Fue muy fácil colaborar con Ultralytics y ejecutar el modelo en el último hardware de Intel, utilizando la CPU, la GPU y la NPU". El stand también tenía algunos regalos divertidos, como camisetas y cuadernos para que los asistentes se los llevaran a casa.

Conclusiones clave#

La charla técnica de Intel en YV24, centrada en los procesadores Intel Core Ultra 200V Series, mostró cómo el kit de herramientas OpenVINO optimiza modelos de IA como Ultralytics YOLO11. Esta integración permite a los usuarios ejecutar modelos YOLO directamente en sus dispositivos, ofreciendo un gran rendimiento para tareas de visión artificial como la detección de objetos. El beneficio clave es que los usuarios no necesitan depender de servicios en la nube.

Los desarrolladores y entusiastas de la IA pueden ejecutar y ajustar fácilmente los modelos YOLO, utilizando plenamente hardware como CPUs, GPUs y NPUs para aplicaciones en tiempo real. El kit de herramientas Intel OpenVINO, en combinación con los modelos Ultralytics YOLO, abre nuevas posibilidades para llevar capacidades avanzadas de IA directamente a dispositivos personales, convirtiéndolo en una opción ideal para desarrolladores deseosos de impulsar innovaciones de IA en diversas industrias.

¡Colaboremos e innovemos! Visita nuestro repositorio de GitHub para explorar nuestras contribuciones y conectar con nuestra comunidad. Comprueba cómo estamos utilizando la inteligencia artificial para generar un impacto en industrias como la manufactura y la salud.