Mejora de la estimación de puntos clave de la mano con Ultralytics YOLO11

Recientemente, los intérpretes de lengua de signos en la Super Bowl han llamado mucho la atención. Cuando los ves cantar la canción de tu artista favorito en la televisión, puedes entenderles si conoces la lengua de signos porque tu cerebro procesa los movimientos de sus manos. Pero, ¿y si un ordenador pudiera hacer lo mismo? Gracias a las soluciones de seguimiento de manos basadas en IA, es posible que las máquinas sigan e interpreten los movimientos de las manos con una precisión impresionante.

En el núcleo de estas soluciones se encuentra la visión artificial, una subdisciplina de la IA que permite a las máquinas procesar y comprender información visual. Al analizar imágenes y videos, la IA visual les ayuda a detectar objetos, rastrear movimientos y reconocer gestos complejos con una precisión notable.

Por ejemplo, los modelos de visión artificial como Ultralytics YOLO11 se pueden entrenar para detectar y analizar puntos clave de la mano en tiempo real mediante la estimación de poses. Al hacerlo, estos modelos se pueden utilizar para aplicaciones como el reconocimiento de gestos, la traducción de lengua de signos y las interacciones de RA/RV.

En este artículo, exploraremos cómo Ultralytics YOLO11 permite el seguimiento de manos basado en IA, los conjuntos de datos utilizados para el entrenamiento y cómo entrenar a medida un modelo para la estimación de postura de manos. También veremos aplicaciones en el mundo real. ¡Empecemos!

Comprender la detección de puntos clave de la mano basada en IA#

La IA se puede utilizar para reconocer y rastrear movimientos de las manos en datos visuales identificando puntos clave como la muñeca, las yemas de los dedos y las articulaciones de los dedos. Un enfoque, conocido como estimación de poses, ayuda a las computadoras a comprender el movimiento humano mediante el mapeo de puntos clave y el análisis de cómo cambian con el tiempo. Esto permite que los sistemas de IA interpreten la postura corporal, los gestos y los patrones de movimiento con gran precisión.

Los modelos de visión artificial hacen esto posible al analizar imágenes o videos para identificar puntos clave en la mano y rastrear su movimiento. Una vez que se mapean estos puntos, la IA puede reconocer gestos analizando las relaciones espaciales entre los puntos clave y cómo cambian con el tiempo.

Por ejemplo, si la distancia entre el pulgar y el dedo índice disminuye, la IA puede interpretarlo como un movimiento de pinza. De forma similar, el seguimiento de cómo se mueven los puntos clave en secuencias ayuda a identificar gestos complejos con las manos e incluso a predecir futuros movimientos.

Fig 1. Un ejemplo de reconocimiento de los puntos clave en una mano mediante visión artificial.

Curiosamente, la estimación de poses para el seguimiento de manos ha abierto posibilidades apasionantes, desde el control manos libres de dispositivos inteligentes hasta una mayor precisión robótica y asistencia en aplicaciones sanitarias. A medida que la IA y la visión artificial sigan evolucionando, el seguimiento de manos probablemente desempeñará un papel más importante para hacer la tecnología más interactiva, accesible e intuitiva en la vida cotidiana.

Explorando Ultralytics YOLO11 para la estimación de postura#

Antes de adormos en cómo crear una solución para el seguimiento de manos basado en IA, echemos un vistazo más de cerca a la estimación de postura y cómo Ultralytics YOLO11 admite esta tarea de visión artificial. A diferencia de la detección de objetos estándar, que identifica objetos enteros, la estimación de postura se centra en detectar puntos de referencia clave —como articulaciones, extremidades o bordes— para analizar el movimiento y la postura.

Concretamente, Ultralytics YOLO11 está diseñado para la estimación de poses en tiempo real. Al aprovechar métodos tanto de arriba a abajo (top-down) como de abajo a arriba (bottom-up), detecta eficazmente personas y estima puntos clave en un solo paso, superando a modelos anteriores en velocidad y precisión.

De serie, Ultralytics YOLO11 viene preentrenado con el COCO-Pose dataset y puede reconocer puntos clave en el cuerpo humano, incluyendo la cabeza, los hombros, los codos, las muñecas, las caderas, las rodillas y los tobillos.

Fig 2. Uso de YOLO11 para la estimación de poses humanas.

Más allá de la estimación de poses humanas, Ultralytics YOLO11 se puede entrenar de forma personalizada para detectar puntos clave en una variedad de objetos, tanto animados como inanimados. Esta flexibilidad hace que YOLO11 sea una gran opción para una amplia gama de aplicaciones.

Una visión general del conjunto de datos Hand Keypoints#

El primer paso para entrenar un modelo de forma personalizada es recopilar datos y anotarlos o encontrar un conjunto de datos existente que se adapte a las necesidades del proyecto. Por ejemplo, el conjunto de datos Hand Keypoints es un buen punto de partida para entrenar modelos de IA visual para el seguimiento de manos y la estimación de poses. Con 26.768 imágenes anotadas, elimina la necesidad de etiquetado manual.

Puede utilizarse para entrenar modelos como Ultralytics YOLO11 para que aprendan rápidamente a detectar y seguir los movimientos de la mano. El conjunto de datos incluye 21 puntos clave por mano, cubriendo la muñeca, los dedos y las articulaciones. Además, las anotaciones del conjunto de datos se generaron con Google MediaPipe, una herramienta para desarrollar soluciones basadas en IA para el procesamiento de medios en tiempo real, lo que garantiza una detección precisa y fiable de los puntos clave.

Fig 3. Los 21 puntos clave incluidos en el conjunto de datos Hand Keypoints.

Utilizar un conjunto de datos estructurado como este ahorra tiempo y permite a los desarrolladores centrarse en entrenar y ajustar sus modelos en lugar de recopilar y etiquetar datos. De hecho, el conjunto de datos ya está dividido en subconjuntos de entrenamiento (18,776 imágenes) y validación (7,992 imágenes), lo que facilita la evaluación del rendimiento del modelo.

Cómo entrenar Ultralytics YOLO11 para la estimación de postura de manos#

Entrenar YOLO11 para la estimación de poses de la mano es un proceso sencillo, especialmente con el paquete de Python de Ultralytics, que facilita la configuración y el entrenamiento del modelo. Dado que el conjunto de datos Hand Keypoints ya es compatible con el flujo de trabajo de entrenamiento, se puede utilizar de inmediato sin formato adicional, lo que ahorra tiempo y esfuerzo.

Así es como funciona el proceso de entrenamiento:

• Configura el entorno: El primer paso es instalar el paquete Python de Ultralytics.
• Carga el conjunto de datos de puntos clave de manos: Ultralytics YOLO11 admite este conjunto de datos de forma nativa, por lo que se puede descargar y preparar automáticamente.
• Usa un modelo preentrenado: Puedes empezar con un modelo de estimación de poses de Ultralytics YOLO11 preentrenado, lo que ayuda a mejorar la precisión y acelera el proceso de entrenamiento.
• Entrena el modelo: El modelo aprende a detectar y seguir los puntos clave de la mano realizando múltiples ciclos de entrenamiento.
• Monitorea el rendimiento: El paquete Ultralytics también proporciona herramientas integradas para seguir métricas clave como la precisión y la pérdida, ayudando a garantizar que el modelo mejore con el tiempo.
• Guardar y desplegar: Una vez entrenado, el modelo se puede exportar y utilizar para aplicaciones de seguimiento de manos en tiempo real.

Evaluación de tu modelo entrenado de forma personalizada#

Al seguir los pasos para crear un modelo personalizado, notarás que monitorear el rendimiento es esencial. Junto con el seguimiento del progreso durante el entrenamiento, evaluar el modelo posteriormente es crucial para asegurarse de que detecta y sigue con precisión los puntos clave de la mano.

Métricas de rendimiento clave como la precisión, los valores de pérdida y la precisión media superior (mAP) ayudan a evaluar el rendimiento del modelo. El paquete de Python de Ultralytics proporciona herramientas integradas para visualizar los resultados y comparar las predicciones con las anotaciones reales, lo que facilita la identificación de áreas de mejora.

Para entender mejor el rendimiento del modelo, puedes comprobar gráficos de evaluación como curvas de pérdida, gráficos de precisión-recuerdo y matrices de confusión, que se generan automáticamente en los registros de entrenamiento.

Estos gráficos ayudan a identificar problemas como el sobreajuste (overfitting) (cuando el modelo memoriza los datos de entrenamiento pero tiene dificultades con datos nuevos) o el subajuste (underfitting) (cuando el modelo no logra aprender los patrones lo suficientemente bien como para funcionar con precisión) y guían los ajustes para mejorar la precisión. Además, probar el modelo en nuevas imágenes o vídeos es importante para ver cómo funciona en escenarios del mundo real.

Aplicaciones de las soluciones de seguimiento de manos basadas en IA#

A continuación, repasemos algunas de las aplicaciones más impactantes de la estimación de puntos clave de la mano con Ultralytics YOLO11.

Reconocimiento de gestos en tiempo real con Ultralytics YOLO11#

Imagina que pudieras ajustar el volumen de tu televisor con solo agitar la mano o navegar por un sistema domótico con un simple gesto en el aire. El reconocimiento de gestos en tiempo real impulsado por Ultralytics YOLO11 hace posible estas interacciones sin contacto al detectar con precisión los movimientos de las manos en tiempo real.

Esto funciona utilizando cámaras de IA para rastrear puntos clave de la mano e interpretar los gestos como comandos. Las cámaras con sensores de profundidad, los sensores infrarrojos o incluso las cámaras web normales capturan los movimientos de las manos, mientras que Ultralytics YOLO11 puede procesar los datos para reconocer diferentes gestos. Por ejemplo, un sistema así puede distinguir entre un gesto de deslizar para cambiar de canción, un pellizco para acercar o un movimiento circular para ajustar el volumen.

Detección de puntos clave de la mano basada en IA para el reconocimiento de lengua de signos#

Las soluciones de IA para el seguimiento de manos pueden facilitar una comunicación fluida entre una persona sorda y alguien que no conoce la lengua de signos. Por ejemplo, los dispositivos inteligentes integrados con cámaras y Ultralytics YOLO11 se pueden utilizar para traducir instantáneamente la lengua de signos a texto o voz.

Gracias a avances como Ultralytics YOLO11, las herramientas de traducción de lengua de signos son cada vez más precisas y accesibles. Esto repercute en aplicaciones como la tecnología asistencial, los servicios de traducción en directo y las plataformas educativas. La IA puede ayudar a salvar las brechas de comunicación y promover la inclusividad en los lugares de trabajo, las escuelas y los espacios públicos.

Visión artificial para el seguimiento de manos: Mejorando las experiencias de AR y VR#

¿Alguna vez has jugado a un videojuego de realidad virtual (RV) en el que podías agarrar objetos sin usar un mando? El seguimiento de manos impulsado por visión artificial hace esto posible al permitir que los usuarios interactúen de forma natural en entornos de realidad aumentada (RA) y RV.

Fig 4. El seguimiento de manos es una parte clave de las aplicaciones de RA y RV.

Con la estimación de puntos clave de la mano usando modelos como Ultralytics YOLO11, la IA sigue los movimientos en tiempo real, permitiendo gestos como pellizcar, agarrar y deslizar. Esto mejora los juegos, la formación virtual y la colaboración remota, haciendo que las interacciones sean más intuitivas. A medida que la tecnología de seguimiento de manos mejore, la AR y la VR se sentirán aún más inmersivas y realistas.

Conclusiones clave#

La estimación de puntos clave de la mano con Ultralytics YOLO11 está haciendo que las soluciones de seguimiento de manos basadas en IA sean más accesibles y fiables. Desde el reconocimiento de gestos en tiempo real hasta la interpretación de la lengua de signos y las aplicaciones de AR/VR, la visión artificial está abriendo nuevas posibilidades en la interacción humano-ordenador.

Además, los procesos optimizados de entrenamiento personalizado y ajuste fino están ayudando a los desarrolladores a crear modelos eficientes para diversos usos en el mundo real. A medida que evolucione la tecnología de visión artificial, podemos esperar aún más innovaciones en áreas como la sanidad, la robótica, los juegos y la seguridad.

Interactúa con our community y explora los avances en IA en nuestro GitHub repository. Descubre el impacto de AI in manufacturing y computer vision in healthcare a través de nuestras páginas de soluciones. ¡Explora our licensing plans y empieza tu viaje en la IA hoy mismo!