Ultralytics YOLO27: 加入候补名单。
获取 YOLO 许可
集成

借助 Ultralytics YOLO11 提升手部关键点估计效果

了解如何使用 Hand Keypoints 数据集训练 Ultralytics YOLO11 来估计手部姿态,并探索手势、手语和 AR/VR 应用。

Abirami VinaAbirami Vina6 分钟阅读
使用 Ultralytics YOLO11 进行手部关键点估计

最近,超级碗的手语翻译员引起了很多关注。当你在电视上看到他们用手语演绎你喜欢的歌手的歌曲时,如果你会手语,就能看懂他们的表达,因为你的大脑会处理他们的手部动作。但如果计算机也能做到这一点呢?得益于 AI 驱动的手部追踪解决方案,机器现在可以非常准确地追踪和解读手部动作。

这些解决方案的核心是计算机视觉,它是 AI 的一个子领域,让机器能够处理并理解视觉信息。视觉 AI 通过分析图像和视频,帮助机器检测对象、跟踪运动并识别复杂手势。

例如,可以训练 Ultralytics YOLO11 等计算机视觉模型,通过姿态估计实时检测和分析手部关键点。这样一来,这些模型就能用于手势识别、手语翻译以及 AR/VR 交互等应用。

本文将探讨 Ultralytics YOLO11 如何实现 AI 手部追踪、用于训练的数据集,以及如何自定义训练模型以进行手部姿态估计。我们还会介绍实际应用场景。

了解基于 AI 的手部关键点检测#

AI 可以通过识别手腕、指尖和手指关节等关键点,识别并追踪视觉数据中的手部动作。一种称为姿态估计的方法,通过映射关键点并分析它们随时间的变化,帮助计算机理解人体动作。这样,AI 系统就能高精度地解读身体姿势、手势和运动模式。

计算机视觉模型通过分析图像或视频,识别手部关键点并追踪其运动,从而实现这一功能。映射这些点之后,AI 可以分析关键点之间的空间关系及其随时间的变化,从而识别手势。

例如,如果拇指与食指之间的距离缩短,AI 就能将其解读为捏合动作。同样,追踪关键点在一系列画面中的移动,有助于识别复杂的手势,甚至预测接下来的动作。

使用计算机视觉识别手部关键点

图 1. 使用计算机视觉识别手部关键点的示例。

有趣的是,手部追踪姿态估计带来了许多令人兴奋的可能性,从免提控制智能设备,到提高机器人操作精度,再到辅助医疗应用。随着 AI 和计算机视觉不断发展,手部追踪很可能在日常生活中发挥更大作用,让技术更具互动性、更易于使用,也更直观。

探索用于姿态估计的 Ultralytics YOLO11#

在深入了解如何创建基于 AI 的手部追踪解决方案之前,我们先来看看姿态估计,以及 Ultralytics YOLO11 如何支持这项计算机视觉任务。与识别完整物体的标准目标检测不同,姿态估计着重检测关节、肢体或边缘等关键特征点,以分析动作和姿势。

具体来说,Ultralytics YOLO11 专为实时姿态估计而设计。它能高效地在一个步骤中检测人物并估计关键点,在速度和准确性方面均优于早期模型。

Ultralytics YOLO11 开箱即用,已在 COCO-Pose 数据集上完成预训练,能够识别人体关键点,包括头部、肩膀、肘部、手腕、臀部、膝盖和脚踝。

使用 Ultralytics YOLO11 进行人体姿态估计

图 2. 使用 YOLO11 进行人体姿态估计。

除了人体姿态估计,Ultralytics YOLO11 还可以通过自定义训练来检测关键点,适用于各种有生命和无生命的对象。这种灵活性让 YOLO11 适用于多种应用场景。

Hand Keypoints 数据集概览#

自定义训练模型的第一步是收集并标注数据,或者寻找符合项目需求的现有数据集。例如,Hand Keypoints 数据集是训练手部追踪和姿态估计视觉 AI 模型的良好起点。该数据集包含 26,768 张已标注图像,无需手动标注。

你可以使用该数据集训练 Ultralytics YOLO11 等模型,让模型快速学会检测和追踪手部动作。数据集为每只手提供 21 个关键点,涵盖手腕、手指和关节。此外,数据集标注由 Google MediaPipe 生成。Google MediaPipe 是一款用于开发实时媒体处理 AI 解决方案的工具,可确保关键点检测准确可靠。

Hand Keypoints 数据集包含的 21 个关键点

图 3. Hand Keypoints 数据集包含的 21 个关键点。

使用这种结构化数据集可以节省时间,让开发者专注于训练和微调模型,而不是收集和标注数据。事实上,该数据集已划分为训练子集(18,776 张图像)和验证子集(7,992 张图像),便于评估模型性能。

如何训练 Ultralytics YOLO11 进行手部姿态估计#

使用 YOLO11 进行手部姿态估计的训练过程很简单,尤其是借助 Ultralytics Python 包后,模型的设置和训练会更加轻松。由于训练流程已支持 Hand Keypoints 数据集,无需额外调整格式即可直接使用,节省时间和精力。

训练流程如下:

  • 设置环境:第一步是安装 Ultralytics Python 软件包。
  • 加载 Hand Keypoints 数据集:Ultralytics YOLO11 原生支持此数据集,因此可以自动下载并完成准备。
  • 使用预训练模型:你可以从预训练的 Ultralytics YOLO11 姿态估计模型开始,这有助于提高准确率并加快训练过程。
  • 训练模型:模型通过多轮训练,学会检测和追踪手部关键点。
  • 监控性能:Ultralytics 软件包还提供内置工具,用于追踪准确度和损失等关键指标,帮助确保模型性能不断提升。
  • 保存并部署:训练完成后,可以导出模型,并将其用于实时手部追踪应用。

评估你的自定义训练模型#

在创建自定义模型的过程中,你会发现监控性能至关重要。除了在训练期间追踪进度,训练后评估模型也很关键,这样才能确保模型准确检测和追踪手部关键点。

准确度、损失值和平均精度均值(mAP)等关键性能指标有助于评估模型的表现。Ultralytics Python 软件包提供内置工具,可视化结果并将预测结果与真实标注进行比较,让你更容易发现需要改进的地方。

为了更好地了解模型性能,你可以查看损失曲线、精确率-召回率图和混淆矩阵等评估图表,这些图表会自动生成在训练日志中。

这些图表有助于发现过拟合(模型记住训练数据,却难以处理新数据)或欠拟合(模型未能充分学习模式,因而无法准确执行任务)等问题,并为调整模型、提高准确度提供方向。此外,还应使用新图像或视频测试模型,了解模型在真实场景中的表现。

AI 驱动的手部追踪解决方案的应用#

接下来,我们来看看一些最具影响力的应用:使用 Ultralytics YOLO11 进行手部关键点估计。

使用 Ultralytics YOLO11 进行实时手势识别#

想象一下,只需挥挥手就能调节电视音量,或者在空中简单一划就能操作智能家居系统。Ultralytics YOLO11 驱动的实时手势识别能准确检测手部动作,让这些免触控交互成为可能。

这一功能通过使用 AI 摄像头追踪手部关键点,并将手势解读为指令来实现。深度感知摄像头、红外传感器,甚至普通网络摄像头都能捕捉手部动作,而 Ultralytics YOLO11 可以处理这些数据并识别不同手势。例如,系统可以区分切歌时的挥手、放大时的捏合动作,以及调节音量时的圆周动作。

用于手语识别的 AI 手部关键点检测#

手部追踪 AI 解决方案可以帮助聋人和不懂手语的人交流。例如,集成摄像头和 Ultralytics YOLO11 的智能设备可以将手语即时转换为文字或语音。

得益于 Ultralytics YOLO11 等技术的进步,手语翻译工具正变得更加准确、易于使用。这将影响辅助技术、实时翻译服务和教育平台等应用。AI 可以帮助弥合沟通障碍,促进工作场所、学校和公共空间的包容性。

用于手部追踪的计算机视觉:改善 AR 和 VR 体验#

你是否玩过一款虚拟现实(VR)游戏,不用控制器就能抓取物体?由计算机视觉驱动的手部追踪让这成为可能,用户可以在增强现实(AR)和 VR 环境中自然地进行交互。

手部追踪是 AR 和 VR 应用的关键组成部分

图 4. 手部追踪是 AR 和 VR 应用的关键组成部分。

利用 Ultralytics YOLO11 等模型进行手部关键点估计,AI 可以实时追踪动作,从而识别捏合、抓握和滑动等手势。这能提升游戏、虚拟培训和远程协作体验,让交互更加直观。随着手部追踪技术不断进步,AR 和 VR 将变得更加沉浸、逼真。

要点#

使用 Ultralytics YOLO11 进行手部关键点估计,让 AI 驱动的手部追踪解决方案更易于使用,也更加可靠。从实时手势识别到手语解读和 AR/VR 应用,计算机视觉正在为人机交互开辟新的可能。

此外,简化的自定义训练和微调流程正帮助开发者构建高效模型,以满足各种真实场景的需求。随着计算机视觉技术不断发展,我们可以期待医疗、机器人、游戏和安防等领域出现更多创新。

欢迎加入我们的社区,并在我们的 GitHub 代码仓库探索 AI 进展。通过我们的解决方案页面,了解制造业中的 AI和医疗保健中的计算机视觉所带来的影响。探索我们的许可方案,开启你的 AI 之旅!

作者

Abirami Vina
Abirami Vina

内容创作者 · Ultralytics

Abirami Vina 职业生涯始于计算机视觉工程师,由此在视觉 AI 和机器学习领域打下了坚实基础。她是 Ultralytics 的内容创作者,也是 Scribe of AI 的创始人兼首席撰稿人,为专注 AI 的公司撰写高质量技术内容。她热衷于让 AI 更易理解、更具吸引力,通过自己的作品连接前沿技术与现实影响。

评论

提出问题、分享你的结果,或帮助其他人。

探索解决方案

体育领域的计算机视觉

体育领域的计算机视觉

了解 Ultralytics YOLO 如何通过球员和球追踪、表现分析、教练洞察及运动员康复,推动体育视觉技术的发展。
了解详情
航空影像计算机视觉

航空影像计算机视觉

使用 Ultralytics YOLO 将无人机和航空影像转化为农业、水产养殖、保护工作和地理空间分析的实时洞察。
了解详情
航空航天中的计算机视觉

航空航天中的计算机视觉

使用 Ultralytics YOLO 将计算机视觉应用于航空航天领域,包括飞机检查、跑道 FOD 检测、机场地面作业和复合材料缺陷检测。
了解详情
安防领域的计算机视觉

安防领域的计算机视觉

使用 Ultralytics YOLO 模型守护每个场所。视觉 AI 可用于周界监控、威胁检测、车牌识别和工作场所安全。
了解详情
机器人领域的计算机视觉

机器人领域的计算机视觉

使用 Ultralytics YOLO 模型提升智能机器的能力。机器人领域的视觉 AI 可用于自主导航、感知、目标跟踪和实时控制。
了解详情
物流中的计算机视觉

物流中的计算机视觉

借助 Ultralytics YOLO 模型优化物流流程。视觉 AI 可用于包裹检查、分拣、车辆跟踪和仓库安全实时监控。
了解详情
零售中的计算机视觉

零售中的计算机视觉

借助 Ultralytics YOLO 模型重新构想零售。视觉 AI 可用于库存跟踪、货架监控、排队管理和更深入的客户洞察。
了解详情
医疗领域的计算机视觉

医疗领域的计算机视觉

借助 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可加快医学影像处理、优化诊断并监测患者。
了解详情
制造业中的计算机视觉

制造业中的计算机视觉

利用 Ultralytics YOLO 模型优化制造流程。视觉 AI 可用于质量控制、缺陷检测、个人防护装备合规检查和装配线自动化。
了解详情
汽车领域的计算机视觉

汽车领域的计算机视觉

利用 Ultralytics YOLO 模型在汽车领域应用计算机视觉。视觉 AI 可提升道路安全、驾驶辅助和车辆自动化水平,让道路更智能。
了解详情
农业中的计算机视觉

农业中的计算机视觉

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。为作物监测、牲畜追踪和精准农业提供支持,从而提高产量并实现更智能的生产。
了解详情

让我们携手构建 AI 的未来!

开启你的旅程,迎接机器学习的未来