Mejora de la estimación de puntos clave de la mano con Ultralytics YOLO11

Últimamente, los intérpretes de lengua de signos de la Super Bowl han acaparado mucha atención. Cuando los ves interpretar con signos en televisión la canción de tu artista favorito, puedes entenderlos si conoces la lengua de signos, porque tu cerebro procesa los movimientos de sus manos. Pero ¿y si un ordenador pudiera hacer lo mismo? Gracias a las soluciones de seguimiento de manos basadas en IA, las máquinas pueden seguir e interpretar los movimientos de las manos con una precisión impresionante.

La base de estas soluciones es la visión artificial, una subdisciplina de la IA que permite a las máquinas procesar y comprender información visual. Al analizar imágenes y vídeos, la IA visual les ayuda a detectar objetos, seguir movimientos y reconocer gestos complejos.

Por ejemplo, puedes entrenar modelos de visión artificial como Ultralytics YOLO11 para detectar y analizar puntos clave de las manos en tiempo real mediante la estimación de poses. Así, puedes utilizar estos modelos en aplicaciones como el reconocimiento de gestos, la traducción de la lengua de signos y las interacciones de realidad aumentada y realidad virtual.

En este artículo, veremos cómo Ultralytics YOLO11 permite el seguimiento de manos mediante IA, qué conjuntos de datos se utilizan para entrenarlo y cómo entrenar un modelo personalizado para estimar poses de manos. También repasaremos aplicaciones del mundo real.

Comprender la detección de puntos clave de las manos basada en IA#

La IA puede reconocer y seguir los movimientos de las manos en datos visuales al identificar puntos clave, como la muñeca, las yemas de los dedos y las articulaciones de los dedos. Un método conocido como estimación de poses ayuda a los ordenadores a comprender el movimiento humano mediante la asignación de puntos clave y el análisis de sus cambios a lo largo del tiempo. Esto permite a los sistemas de IA interpretar con gran precisión la postura corporal, los gestos y los patrones de movimiento.

Los modelos de visión artificial lo hacen posible analizando imágenes o vídeos para identificar puntos clave de la mano y seguir sus movimientos. Una vez asignados estos puntos, la IA puede reconocer gestos analizando las relaciones espaciales entre los puntos clave y los cambios que experimentan con el tiempo.

Por ejemplo, si disminuye la distancia entre el pulgar y el índice, la IA puede interpretarlo como un gesto de pinza. Del mismo modo, seguir cómo se desplazan los puntos clave en secuencias ayuda a identificar gestos complejos de las manos e incluso a predecir movimientos futuros.

Fig. 1. Ejemplo del reconocimiento de los puntos clave de una mano mediante visión artificial.

Curiosamente, la estimación de pose para el seguimiento de manos ha abierto posibilidades apasionantes, desde el control de dispositivos inteligentes sin usar las manos hasta la mejora de la precisión robótica y la asistencia en aplicaciones sanitarias. A medida que la IA y la visión artificial sigan evolucionando, es probable que el seguimiento de manos desempeñe un papel más importante para hacer que la tecnología sea más interactiva, accesible e intuitiva en la vida cotidiana.

Explorar Ultralytics YOLO11 para la estimación de pose#

Antes de profundizar en cómo crear una solución de seguimiento de manos basada en IA, veamos más de cerca la estimación de pose y cómo Ultralytics YOLO11 admite esta tarea de visión artificial. A diferencia de la detección de objetos estándar, que identifica objetos enteros, la estimación de pose se centra en detectar puntos de referencia clave, como articulaciones, extremidades o bordes, para analizar el movimiento y la postura.

En concreto, Ultralytics YOLO11 está diseñado para estimar poses en tiempo real. Detecta personas y estima puntos clave de forma eficiente en un solo paso, y supera a los modelos anteriores en velocidad y precisión.

Ultralytics YOLO11 viene preentrenado con el conjunto de datos COCO-Pose y puede reconocer puntos clave del cuerpo humano, como la cabeza, los hombros, los codos, las muñecas, las caderas, las rodillas y los tobillos.

Fig. 2. Uso de YOLO11 para estimar la pose humana.

Además de estimar poses humanas, puedes entrenar Ultralytics YOLO11 de forma personalizada para detectar puntos clave en diversos objetos, animados e inanimados. Esta flexibilidad convierte YOLO11 en una gran opción para una amplia variedad de aplicaciones.

Descripción general del conjunto de datos Hand Keypoints#

El primer paso para entrenar un modelo de forma personalizada es recopilar y anotar datos, o encontrar un conjunto de datos existente que se ajuste a las necesidades del proyecto. Por ejemplo, el conjunto de datos Hand Keypoints es un buen punto de partida para entrenar modelos de IA visual destinados al seguimiento de manos y la estimación de pose. Con 26 768 imágenes anotadas, evita tener que etiquetarlas manualmente.

Puede utilizarse para entrenar modelos como Ultralytics YOLO11, que aprenderán rápidamente a detectar y seguir los movimientos de las manos. El conjunto de datos incluye 21 puntos clave por mano, que abarcan la muñeca, los dedos y las articulaciones. Además, las anotaciones del conjunto de datos se generaron con Google MediaPipe, una herramienta para desarrollar soluciones basadas en IA para el procesamiento multimedia en tiempo real, lo que garantiza una detección de puntos clave precisa y fiable.

Fig. 3. Los 21 puntos clave incluidos en el conjunto de datos Hand Keypoints.

Usar un conjunto de datos estructurado como este ahorra tiempo y permite a los desarrolladores centrarse en entrenar y ajustar sus modelos en lugar de recopilar y etiquetar datos. De hecho, el conjunto de datos ya está dividido en subconjuntos de entrenamiento (18 776 imágenes) y validación (7992 imágenes), lo que facilita la evaluación del rendimiento del modelo.

Cómo entrenar Ultralytics YOLO11 para estimar la pose de las manos#

Entrenar YOLO11 para estimar poses de manos es un proceso sencillo, sobre todo con el paquete de Python de Ultralytics, que facilita la configuración y el entrenamiento del modelo. Como el conjunto de datos Hand Keypoints ya es compatible con el flujo de entrenamiento, puedes utilizarlo directamente sin necesidad de darle formato adicional, con el consiguiente ahorro de tiempo y esfuerzo.

Así funciona el proceso de entrenamiento:

• Configura el entorno: El primer paso es instalar el paquete Ultralytics para Python.
• Carga el conjunto de datos Hand Keypoints: Ultralytics YOLO11 admite este conjunto de datos de forma nativa, por lo que puede descargarse y prepararse automáticamente.
• Usa un modelo preentrenado: puedes empezar con un modelo preentrenado de estimación de poses de Ultralytics YOLO11, que ayuda a mejorar la precisión y agiliza el proceso de entrenamiento.
• Entrena el modelo: El modelo aprende a detectar y seguir los puntos clave de las manos tras completar varios ciclos de entrenamiento.
• Supervisa el rendimiento: El paquete Ultralytics también incluye herramientas integradas para seguir métricas clave, como la precisión y la pérdida, lo que ayuda a garantizar que el modelo mejore con el tiempo.
• Guarda e implementa: Una vez entrenado, el modelo puede exportarse y utilizarse en aplicaciones de seguimiento de manos en tiempo real.

Evaluar el modelo entrenado de forma personalizada#

Al seguir los pasos para crear un modelo personalizado, verás que es fundamental supervisar su rendimiento. Además de seguir el progreso durante el entrenamiento, es esencial evaluar el modelo después para asegurarte de que detecta y sigue correctamente los puntos clave de las manos.

Las métricas de rendimiento clave, como la precisión, los valores de pérdida y la precisión media (mAP), ayudan a evaluar el rendimiento del modelo. El paquete Ultralytics para Python incluye herramientas para visualizar los resultados y comparar las predicciones con las anotaciones reales, lo que facilita detectar aspectos que se pueden mejorar.

Para comprender mejor el rendimiento del modelo, puedes consultar gráficos de evaluación, como las curvas de pérdida, los gráficos de precisión y exhaustividad y las matrices de confusión, que se generan automáticamente en los registros de entrenamiento.

Estos gráficos ayudan a identificar problemas como el sobreajuste (cuando el modelo memoriza los datos de entrenamiento, pero tiene dificultades con datos nuevos) o el infraajuste (cuando el modelo no aprende los patrones lo suficientemente bien como para rendir con precisión), y orientan los ajustes necesarios para mejorar la precisión. Además, es importante probar el modelo con imágenes o vídeos nuevos para ver cómo funciona en situaciones reales.

Aplicaciones de las soluciones de seguimiento de manos basadas en IA#

A continuación, repasemos algunas de las aplicaciones más importantes de la estimación de puntos clave de las manos con Ultralytics YOLO11.

Reconocimiento de gestos en tiempo real con Ultralytics YOLO11#

Imagina que pudieras ajustar el volumen del televisor con solo mover la mano o controlar un sistema de hogar inteligente con un simple gesto en el aire. El reconocimiento de gestos en tiempo real con Ultralytics YOLO11 hace posibles estas interacciones sin contacto al detectar con precisión los movimientos de las manos en tiempo real.

Esto funciona mediante cámaras de IA que siguen los puntos clave de tu mano e interpretan los gestos como comandos. Las cámaras con sensor de profundidad, los sensores infrarrojos e incluso las webcams convencionales capturan los movimientos de las manos, mientras que Ultralytics YOLO11 puede procesar los datos para reconocer distintos gestos. Por ejemplo, un sistema de este tipo puede distinguir entre un deslizamiento para cambiar de canción, un pellizco para ampliar la imagen o un movimiento circular para ajustar el volumen.

Detección de puntos clave de las manos basada en IA para reconocer la lengua de signos#

Las soluciones de IA para el seguimiento de manos pueden facilitar la comunicación entre una persona sorda y alguien que no conoce la lengua de signos. Por ejemplo, puedes utilizar dispositivos inteligentes con cámaras y Ultralytics YOLO11 para traducir al instante la lengua de signos a texto o voz.

Gracias a avances como Ultralytics YOLO11, las herramientas de traducción de la lengua de signos son cada vez más precisas y accesibles. Esto repercute en aplicaciones como la tecnología de asistencia, los servicios de traducción en directo y las plataformas educativas. La IA puede ayudar a eliminar barreras de comunicación y fomentar la inclusión en lugares de trabajo, centros educativos y espacios públicos.

Visión artificial para el seguimiento de manos: mejora de las experiencias de AR y VR#

¿Has jugado alguna vez a un juego de realidad virtual (VR) en el que pudieras agarrar objetos sin usar un mando? El seguimiento de manos mediante visión artificial lo hace posible, ya que permite a los usuarios interactuar de forma natural en entornos de realidad aumentada (AR) y VR.

Fig. 4. El seguimiento de manos es un elemento clave de las aplicaciones de AR y VR.

Al estimar los puntos clave de las manos con modelos como Ultralytics YOLO11, la IA sigue los movimientos en tiempo real y permite reconocer gestos como pellizcar, agarrar y deslizar. Esto mejora los videojuegos, la formación virtual y la colaboración remota, y hace que las interacciones sean más intuitivas. A medida que mejore la tecnología de seguimiento de manos, la realidad aumentada y la realidad virtual ofrecerán experiencias aún más inmersivas y realistas.

Conclusiones clave#

La estimación de puntos clave de las manos con Ultralytics YOLO11 está haciendo que las soluciones de seguimiento de manos basadas en IA sean más accesibles y fiables. Desde el reconocimiento de gestos en tiempo real hasta la interpretación de la lengua de signos y las aplicaciones de AR/VR, la visión artificial abre nuevas posibilidades en la interacción entre personas y ordenadores.

Además, la simplificación de los procesos de entrenamiento personalizado y ajuste ayuda a los desarrolladores a crear modelos eficientes para diversos usos reales. A medida que evolucione la tecnología de visión artificial, cabe esperar aún más innovaciones en ámbitos como la sanidad, la robótica, los videojuegos y la seguridad.

Participa en nuestra comunidad y descubre los avances en IA en nuestro repositorio de GitHub. Descubre el impacto de la IA en la fabricación y la visión artificial en la sanidad en nuestras páginas de soluciones. Consulta nuestros planes de licencia y empieza hoy mismo tu trayectoria en IA.