借助 Ultralytics YOLO11 提升手部关键点估计效果
了解如何使用 Hand Keypoints 数据集训练 Ultralytics YOLO11 来估计手部姿态,并探索手势、手语和 AR/VR 应用。
Abirami Vina6 分钟阅读
最近,超级碗的手语翻译员引起了很多关注。当你在电视上看到他们用手语演绎你喜欢的歌手的歌曲时,如果你会手语,就能看懂他们的表达,因为你的大脑会处理他们的手部动作。但如果计算机也能做到这一点呢?得益于 AI 驱动的手部追踪解决方案,机器现在可以非常准确地追踪和解读手部动作。
这些解决方案的核心是计算机视觉,它是 AI 的一个子领域,让机器能够处理并理解视觉信息。视觉 AI 通过分析图像和视频,帮助机器检测对象、跟踪运动并识别复杂手势。
例如,可以训练 Ultralytics YOLO11 等计算机视觉模型,通过姿态估计实时检测和分析手部关键点。这样一来,这些模型就能用于手势识别、手语翻译以及 AR/VR 交互等应用。
本文将探讨 Ultralytics YOLO11 如何实现 AI 手部追踪、用于训练的数据集,以及如何自定义训练模型以进行手部姿态估计。我们还会介绍实际应用场景。
了解基于 AI 的手部关键点检测#
AI 可以通过识别手腕、指尖和手指关节等关键点,识别并追踪视觉数据中的手部动作。一种称为姿态估计的方法,通过映射关键点并分析它们随时间的变化,帮助计算机理解人体动作。这样,AI 系统就能高精度地解读身体姿势、手势和运动模式。
计算机视觉模型通过分析图像或视频,识别手部关键点并追踪其运动,从而实现这一功能。映射这些点之后,AI 可以分析关键点之间的空间关系及其随时间的变化,从而识别手势。
例如,如果拇指与食指之间的距离缩短,AI 就能将其解读为捏合动作。同样,追踪关键点在一系列画面中的移动,有助于识别复杂的手势,甚至预测接下来的动作。

图 1. 使用计算机视觉识别手部关键点的示例。
有趣的是,手部追踪姿态估计带来了许多令人兴奋的可能性,从免提控制智能设备,到提高机器人操作精度,再到辅助医疗应用。随着 AI 和计算机视觉不断发展,手部追踪很可能在日常生活中发挥更大作用,让技术更具互动性、更易于使用,也更直观。
探索用于姿态估计的 Ultralytics YOLO11#
在深入了解如何创建基于 AI 的手部追踪解决方案之前,我们先来看看姿态估计,以及 Ultralytics YOLO11 如何支持这项计算机视觉任务。与识别完整物体的标准目标检测不同,姿态估计着重检测关节、肢体或边缘等关键特征点,以分析动作和姿势。
具体来说,Ultralytics YOLO11 专为实时姿态估计而设计。它能高效地在一个步骤中检测人物并估计关键点,在速度和准确性方面均优于早期模型。
Ultralytics YOLO11 开箱即用,已在 COCO-Pose 数据集上完成预训练,能够识别人体关键点,包括头部、肩膀、肘部、手腕、臀部、膝盖和脚踝。

图 2. 使用 YOLO11 进行人体姿态估计。
除了人体姿态估计,Ultralytics YOLO11 还可以通过自定义训练来检测关键点,适用于各种有生命和无生命的对象。这种灵活性让 YOLO11 适用于多种应用场景。
Hand Keypoints 数据集概览#
自定义训练模型的第一步是收集并标注数据,或者寻找符合项目需求的现有数据集。例如,Hand Keypoints 数据集是训练手部追踪和姿态估计视觉 AI 模型的良好起点。该数据集包含 26,768 张已标注图像,无需手动标注。
你可以使用该数据集训练 Ultralytics YOLO11 等模型,让模型快速学会检测和追踪手部动作。数据集为每只手提供 21 个关键点,涵盖手腕、手指和关节。此外,数据集标注由 Google MediaPipe 生成。Google MediaPipe 是一款用于开发实时媒体处理 AI 解决方案的工具,可确保关键点检测准确可靠。

图 3. Hand Keypoints 数据集包含的 21 个关键点。
使用这种结构化数据集可以节省时间,让开发者专注于训练和微调模型,而不是收集和标注数据。事实上,该数据集已划分为训练子集(18,776 张图像)和验证子集(7,992 张图像),便于评估模型性能。
如何训练 Ultralytics YOLO11 进行手部姿态估计#
使用 YOLO11 进行手部姿态估计的训练过程很简单,尤其是借助 Ultralytics Python 包后,模型的设置和训练会更加轻松。由于训练流程已支持 Hand Keypoints 数据集,无需额外调整格式即可直接使用,节省时间和精力。
训练流程如下:
- 设置环境:第一步是安装 Ultralytics Python 软件包。
- 加载 Hand Keypoints 数据集:Ultralytics YOLO11 原生支持此数据集,因此可以自动下载并完成准备。
- 使用预训练模型:你可以从预训练的 Ultralytics YOLO11 姿态估计模型开始,这有助于提高准确率并加快训练过程。
- 训练模型:模型通过多轮训练,学会检测和追踪手部关键点。
- 监控性能:Ultralytics 软件包还提供内置工具,用于追踪准确度和损失等关键指标,帮助确保模型性能不断提升。
- 保存并部署:训练完成后,可以导出模型,并将其用于实时手部追踪应用。
评估你的自定义训练模型#
在创建自定义模型的过程中,你会发现监控性能至关重要。除了在训练期间追踪进度,训练后评估模型也很关键,这样才能确保模型准确检测和追踪手部关键点。
准确度、损失值和平均精度均值(mAP)等关键性能指标有助于评估模型的表现。Ultralytics Python 软件包提供内置工具,可视化结果并将预测结果与真实标注进行比较,让你更容易发现需要改进的地方。
为了更好地了解模型性能,你可以查看损失曲线、精确率-召回率图和混淆矩阵等评估图表,这些图表会自动生成在训练日志中。
这些图表有助于发现过拟合(模型记住训练数据,却难以处理新数据)或欠拟合(模型未能充分学习模式,因而无法准确执行任务)等问题,并为调整模型、提高准确度提供方向。此外,还应使用新图像或视频测试模型,了解模型在真实场景中的表现。
AI 驱动的手部追踪解决方案的应用#
接下来,我们来看看一些最具影响力的应用:使用 Ultralytics YOLO11 进行手部关键点估计。
使用 Ultralytics YOLO11 进行实时手势识别#
想象一下,只需挥挥手就能调节电视音量,或者在空中简单一划就能操作智能家居系统。Ultralytics YOLO11 驱动的实时手势识别能准确检测手部动作,让这些免触控交互成为可能。
这一功能通过使用 AI 摄像头追踪手部关键点,并将手势解读为指令来实现。深度感知摄像头、红外传感器,甚至普通网络摄像头都能捕捉手部动作,而 Ultralytics YOLO11 可以处理这些数据并识别不同手势。例如,系统可以区分切歌时的挥手、放大时的捏合动作,以及调节音量时的圆周动作。
用于手语识别的 AI 手部关键点检测#
手部追踪 AI 解决方案可以帮助聋人和不懂手语的人交流。例如,集成摄像头和 Ultralytics YOLO11 的智能设备可以将手语即时转换为文字或语音。
得益于 Ultralytics YOLO11 等技术的进步,手语翻译工具正变得更加准确、易于使用。这将影响辅助技术、实时翻译服务和教育平台等应用。AI 可以帮助弥合沟通障碍,促进工作场所、学校和公共空间的包容性。
用于手部追踪的计算机视觉:改善 AR 和 VR 体验#
你是否玩过一款虚拟现实(VR)游戏,不用控制器就能抓取物体?由计算机视觉驱动的手部追踪让这成为可能,用户可以在增强现实(AR)和 VR 环境中自然地进行交互。

图 4. 手部追踪是 AR 和 VR 应用的关键组成部分。
利用 Ultralytics YOLO11 等模型进行手部关键点估计,AI 可以实时追踪动作,从而识别捏合、抓握和滑动等手势。这能提升游戏、虚拟培训和远程协作体验,让交互更加直观。随着手部追踪技术不断进步,AR 和 VR 将变得更加沉浸、逼真。
要点#
使用 Ultralytics YOLO11 进行手部关键点估计,让 AI 驱动的手部追踪解决方案更易于使用,也更加可靠。从实时手势识别到手语解读和 AR/VR 应用,计算机视觉正在为人机交互开辟新的可能。
此外,简化的自定义训练和微调流程正帮助开发者构建高效模型,以满足各种真实场景的需求。随着计算机视觉技术不断发展,我们可以期待医疗、机器人、游戏和安防等领域出现更多创新。
欢迎加入我们的社区,并在我们的 GitHub 代码仓库探索 AI 进展。通过我们的解决方案页面,了解制造业中的 AI和医疗保健中的计算机视觉所带来的影响。探索我们的许可方案,开启你的 AI 之旅!
作者
评论
提出问题、分享你的结果,或帮助其他人。










