9 de octubre de 2024
Revise la charla YOLO Vision 2024 de Dmitriy Pastushenkov y Adrian Boguszewski sobre la optimización de modelos YOLO con Intel OpenVino y la ejecución de inferencias en tiempo real en la PC Intel AI.
YOLO Vision 2024 (YV24), el evento híbrido anual de Ultralytics, reunió a entusiastas de la IA, desarrolladores y expertos de todo el mundo para explorar las últimas innovaciones en visión por ordenador. YV24 fue una gran oportunidad y plataforma para debatir nuevos avances. En el evento participaron actores clave del sector de la IA que presentaron sus últimas innovaciones. Entre ellos se encontraba Intel, que participó en el evento presentando una keynote sobre su nuevo e innovador PC de IA y la integración de Intel OpenVino con modelos Ultralytics YOLO como Ultralytics YOLO11.
La charla fue dirigida por Adrian Boguszewski, un Software Evangelist que es coautor del conjunto de datos LandCover.ai y educa a los desarrolladores sobre el kit de herramientas OpenVINO de Intel, y Dmitriy Pastushenkov, un AI PC Evangelist con más de 20 años de experiencia en automatización industrial e IA. Durante el evento, Adrian compartió su emoción y dijo: "Este es un gran evento hoy, no sólo porque Ultralytics entregó una nueva versión YOLO, sino también porque somos capaces de presentar este nuevo modelo que se ejecuta en nuestro nuevo hardware, así como una nueva versión de OpenVINO."
En este artículo, vamos a echar un vistazo a los aspectos más destacados de la charla de Intel en YV24, profundizando en los entresijos de su PC AI, la serie Intel Core Ultra 200V, y cómo se integran con los modelos Ultralytics YOLO utilizando el kit de herramientas OpenVINO. Empecemos.
Dmitriy comenzó su ponencia profundizando en las principales diferencias entre la IA tradicional y la IA generativa. Se centró en cómo evolucionarán estas tecnologías y sus casos de uso en 2024. Las técnicas tradicionales de IA, como la visión por ordenador y el procesamiento del lenguaje natural, han sido esenciales para tareas como la estimación de poses, la detección de objetos y el reconocimiento de voz. La IA generativa, sin embargo, representa una nueva ola de tecnología de IA que incluye aplicaciones como los chatbots, la generación de texto a imagen, la escritura de código e incluso la conversión de texto a vídeo.
Dmitriy señaló la diferencia de escala entre ambas. Explicó que mientras los modelos tradicionales de IA constan de millones de parámetros, los modelos generativos operan a una escala mucho mayor. Los modelos de IA generativa suelen incluir miles de millones o incluso billones de parámetros, lo que los hace mucho más exigentes desde el punto de vista computacional.
Dmitriy presentó el Intel AI PC como una nueva solución de hardware diseñada para hacer frente a los crecientes retos que plantea la ejecución eficiente de modelos de IA tanto tradicionales como generativos. El Intel AI PC es una máquina potente y energéticamente eficiente. Es capaz de ejecutar una amplia gama de modelos de IA localmente, sin necesidad de procesamiento basado en la nube.
El procesamiento local ayuda a mantener la privacidad de los datos sensibles. Cuando los modelos de IA pueden funcionar independientemente de las conexiones a Internet, se da respuesta a las preocupaciones éticas del sector en materia de privacidad y seguridad.
La fuerza motriz del Intel AI PC es el procesador Intel Core Ultra Serie 200V. Este procesador incorpora tres componentes clave: la Unidad Central de Procesamiento (CPU), la Unidad de Procesamiento Gráfico (GPU) y la Unidad de Procesamiento Neuronal (NPU). Cada uno de ellos desempeña un papel específico en la gestión de diferentes tipos de cargas de trabajo de IA. La CPU es ideal para tareas pequeñas y de baja latencia que requieren respuestas rápidas, mientras que la GPU está optimizada para operaciones de alto rendimiento, como la ejecución de modelos de IA. La NPU, diseñada para ahorrar energía, es idónea para tareas de larga duración, como la detección de objetos en tiempo real con modelos como YOLO11.
Se destacó que la CPU puede ofrecer hasta 5 TOPS (trillones de operaciones por segundo), la GPU hasta 67 TOPS, y la NPU proporciona una forma energéticamente eficiente de ejecutar tareas de IA de forma continua sin agotar los recursos del sistema.
El procesador Intel Core Ultra de la serie 200V integra los tres motores de IA (NPU, CPU y GPU) en un único chip pequeño. Su diseño se adapta perfectamente a dispositivos compactos como los portátiles, sin sacrificar el rendimiento.
El procesador también incluye RAM integrada, lo que reduce la necesidad de tarjetas gráficas independientes. Esto ayuda a reducir el consumo de energía y a mantener el tamaño compacto del dispositivo. Dmitriy también destacó la flexibilidad del procesador. Los usuarios pueden decidir si ejecutan los modelos de IA en la CPU, la GPU o la NPU, en función de la tarea. Por ejemplo, la detección de objetos con modelos YOLO11 puede ejecutarse en cualquiera de estos motores, mientras que las tareas más complejas, como la generación de texto a imagen, pueden utilizar la GPU y la NPU al mismo tiempo para mejorar el rendimiento.
Durante la presentación, Dmitriy sacó el chip de su bolsillo, dando a todos una clara idea de lo pequeño que es en realidad, a pesar de su capacidad para manejar tareas de IA tan avanzadas. Fue una forma divertida y memorable de mostrar cómo Intel está llevando potentes capacidades de IA a dispositivos más portátiles y prácticos.
Tras presentar los últimos avances en hardware de Intel, Dmitriy pasó a la pila de software de Intel compatible con la IA. Presentó OpenVINO, el marco de código abierto de Intel diseñado para optimizar y desplegar eficientemente modelos de IA en diferentes dispositivos. OpenVINO va más allá de las tareas visuales, ampliando su soporte a los modelos de IA utilizados para el procesamiento del lenguaje natural, el procesamiento de audio, los transformadores, etc.
OpenVINO es compatible con plataformas populares como PyTorch, TensorFlow y ONNX, y los desarrolladores pueden incorporarlo fácilmente a sus flujos de trabajo. Una característica clave sobre la que llamó la atención fue la cuantización. La cuantización comprime los pesos de los modelos para reducir su tamaño, de modo que los modelos de gran tamaño puedan ejecutarse sin problemas en dispositivos locales sin necesidad de la nube. OpenVINO funciona en múltiples marcos, ejecutándose en CPU, GPU, NPU, FPGA o incluso en dispositivos ARM, y es compatible con Windows, Linux y macOS. Dmitriy también explicó a los asistentes lo fácil que es empezar a utilizar OpenVINO.
En la segunda parte de la charla, el micrófono pasó a Adrian, que explicó la perfecta integración entre los modelos YOLO de Ultralytics y el kit de herramientas OpenVINO de Intel, lo que simplifica el proceso de despliegue de modelos YOLO. Explicó paso a paso cómo exportar un modelo YOLO utilizando el paquete Python de Ultralytics al formato OpenVINO es rápido y sencillo. Esta integración facilita enormemente a los desarrolladores la optimización de sus modelos para el hardware de Intel y la obtención del máximo rendimiento de ambas plataformas.
Adrian demostró que, una vez entrenado un modelo YOLO de Ultralytics, los usuarios pueden exportarlo utilizando unas sencillas opciones de línea de comandos. Por ejemplo, los usuarios pueden especificar si desean exportar el modelo como una versión en coma flotante para obtener la máxima precisión o como una versión cuantizada para mejorar la velocidad y la eficiencia. También destacó cómo los desarrolladores pueden gestionar este proceso directamente a través del código, utilizando opciones como la cuantización INT8 para mejorar el rendimiento sin sacrificar demasiada precisión.
Poniendo en práctica toda esta teoría, el equipo de Intel presentó una demostración en tiempo real de detección de objetos ejecutando YOLO11 en el Intel AI PC. Adrian mostró cómo el sistema manejaba el modelo en diferentes procesadores, logrando 36 cuadros por segundo (FPS) en la CPU con un modelo de punto flotante, más de 100 FPS en la GPU integrada y 70 FPS con la versión cuantificada INT8. Pudieron demostrar la eficacia con la que el Intel AI PC puede gestionar tareas de IA complejas.
También señaló que el sistema puede ejecutar modelos en paralelo, utilizando la CPU, la GPU y la NPU conjuntamente para tareas en las que todos los datos o fotogramas de vídeo están disponibles por adelantado. Esto resulta útil cuando se procesan cargas pesadas como vídeos. El sistema puede dividir la carga de trabajo entre distintos procesadores, lo que lo hace más rápido y eficiente.
Para concluir, Adrian mencionó que los usuarios podían probar demostraciones en casa, incluidas soluciones como el recuento de personas y la gestión inteligente de colas. A continuación, mostró una demostración adicional en la que los usuarios podían introducir instrucciones para generar imágenes oníricas en tiempo real en la GPU. Esto demostró la versatilidad del PC Intel AI tanto para tareas tradicionales de IA como para proyectos creativos de IA generativa.
En el evento, Intel contó con un stand en el que mostró una demostración de detección de objetos en tiempo real con YOLO11, ejecutada en su Intel AI PC. Los asistentes pudieron ver el modelo en acción, optimizado con OpenVINO e implementado en el procesador Intel Core Ultra 200V.
En el stand de Intel, Dmitry comentó: "Es la primera vez que participo en YOLO Vision y estoy encantado de estar en Madrid. Presentamos el modelo YOLO11 de Ultralytics, que funciona con el procesador Intel Core Ultra 200V. Muestra un rendimiento excelente, y utilizamos OpenVINO para optimizar y desplegar el modelo. Fue muy fácil colaborar con Ultralytics y ejecutar el modelo en el último hardware de Intel, utilizando la CPU, la GPU y la NPU". El stand también contaba con divertidos obsequios, como camisetas y portátiles para que los asistentes se llevaran a casa.
La charla técnica de Intel en YV24, en la que se presentaron los procesadores de la serie Intel Core Ultra 200V, mostró cómo el kit de herramientas OpenVINO optimiza modelos de IA como Ultralytics YOLO11. Esta integración permite a los usuarios ejecutar modelos YOLO directamente en sus dispositivos, ofreciendo un gran rendimiento en tareas de visión por ordenador como la detección de objetos. La principal ventaja es que los usuarios no necesitan depender de servicios en la nube.
Los desarrolladores y entusiastas de la IA pueden ejecutar y ajustar sin esfuerzo los modelos YOLO, utilizando plenamente hardware como CPUs, GPUs y NPUs para aplicaciones en tiempo real. El kit de herramientas Intel OpenVINO, en combinación con los modelos Ultralytics YOLO, abre nuevas posibilidades para llevar las capacidades avanzadas de IA directamente a los dispositivos personales, lo que lo convierte en una opción ideal para los desarrolladores deseosos de impulsar las innovaciones de IA en diversos sectores.
¡Colaboremos e innovemos! Visite nuestro repositorio de GitHub para explorar nuestras contribuciones y colaborar con nuestra comunidad. Descubra cómo utilizamos la IA para influir en sectores como la fabricación y la sanidad.
ES
EN
ZH
KO
JA
RU
DE
FR
PT
IT
TR
VI
AR
