Ultralytics YOLO27: 加入候补名单。
获取 YOLO 许可
视觉 AI

Google Gemini Robotics 模型正在助力打造更智能的机器人

探索 Google Gemini Robotics 如何通过多模态智能增强 AI 机器人,提升其适应能力、灵巧度和与人自然互动的能力。

Abirami VinaAbirami Vina7 分钟阅读
Google Gemini Robotics 模型助力打造更智能的机器人

几十年来,机器人一直象征着未来,出现在研究实验室、科幻电影和行业原型展示会上。如今,得益于近期人工智能(AI)的进展,这些原型正从受控环境走向现实应用。

具体来说,借助 Gemini Robotics,Google 正朝着构建更智能的机器人所需的技术迈进一步。Gemini Robotics 模型及其配套模型 Gemini Robotics-ER(具身推理)于 2025 年 3 月 12 日发布,是 Google DeepMind 的最新创新成果。

这些模型基于 Gemini 2.0 构建。Gemini 2.0 是一种多模态大型语言模型(LLM),可以处理和生成多种类型的数据,包括文本、图像、音频和视频,从而实现更加灵活、自然的交互。这些模型将 Gemini 2.0 的多模态能力带入物理世界,使机器人更加灵巧、善于交互且智能。

例如,与遵循固定指令的传统机器人不同,集成 Gemini Robotics 模型的机器人可以处理视觉和语言信息。因此,它们能够实时做出决策,并适应不断变化的环境。

本文将介绍 Gemini Robotics 和 Gemini Robotics-ER、这些模型的工作方式,以及它们的主要功能和应用。

Gemini Robotics 帮助机器人高效执行多项任务

图 1. Gemini Robotics 帮助机器人高效执行多项任务。

Google Gemini Robotics 简介#

Google 的 Gemini Robotics 是一种先进的 AI 模型,旨在赋予机器人感知、推理和与物理世界交互的能力。作为视觉-语言-动作(VLA)模型,它能让机器人处理指令、理解周围环境,并高精度地执行复杂任务。

与此同时,Gemini Robotics-ER 模型增强了机器人对空间关系的理解能力,包括物体的位置、运动方式和相互作用。这有助于机器人预判动作并相应地调整自身运动。

例如,设想一项任务:机器人需要将电线缠绕在耳机上。Gemini Robotics-ER 会帮助机器人理解场景、识别电线的形状和柔韧性、辨认耳机的结构,并预测电线移动时的弯曲方式。随后,Gemini Robotics 会将这些理解转化为动作,协调双手平稳地操作电线,调整抓握方式以避免缠绕,并确保电线牢固地绕好。

Gemini Robotics 和 Gemini Robotics-ER 将感知与行动相结合,构建出一个智能系统,让机器人能够在动态环境中高效完成灵巧的任务。

Gemini Robotics 模型系列概览

图 2. Gemini Robotics 模型系列概览。

机器人领域的 AI:探索 Gemini Robotics 的工作原理#

接下来,我们仔细了解每个模型,以便更好地理解 Gemini Robotics 和 Gemini Robotics-ER 如何协同工作,在灵活性与快速执行之间取得平衡。

一方面,Gemini Robotics-ER 利用两种关键机制:零样本代码生成和少样本上下文学习(ICL)。借助零样本代码生成,模型可以根据任务指令、图像和实时数据创建代码来控制机器人,无需额外训练。

同样,借助少样本学习,模型只需从少量示例中学习,就能适应新任务,从而减少大量训练的需求。这些方法结合起来,让机器人能够快速执行复杂任务,并以极少的额外投入应对新的挑战。

另一方面,Gemini Robotics 专为速度和效率而构建。它采用混合系统,由基于云端的主干模型和机载动作解码器组成。基于云端的主干模型能够快速处理信息,查询到响应的延迟低于 160 毫秒。

随后,机载解码器会将这些数据转化为实时动作。这个组合系统的总体响应时间约为 250 毫秒,控制速度为每秒 50 个动作。

Gemini Robotics 如何支持机器人实时控制

图 3. 了解 Gemini Robotics 如何支持机器人实时控制。

Gemini Robotics 的主要能力#

下面快速了解 Gemini Robotics 的主要特性:

  • 通用性:它能够适应光照、背景和物体的变化,同时保持准确性。它还能理解改述后的指令或多语言指令,并根据不同条件调整动作。
  • 交互性:该模型能够处理各种自然语言指令,并做出直观回应。它还会根据环境的实时变化调整动作,因此非常适合人机协作。
  • 灵巧性:由该模型驱动的机器人可以执行复杂、精确的任务,例如折纸或处理易碎物品。无论是分步骤的流程还是快速操作,该模型都能帮助机器人高效完成。
  • 多种具身形态:它只需少量微调,就能适用于各种机器人平台,例如双臂系统和人形机器人。它可以快速适应新任务,同时保持高性能。

Google Gemini Robotics 在各种机器人平台上运行

图 4。Google Gemini Robotics 可在各种机器人平台上运行。

Gemini Robotics-ER 的主要能力#

以下是 Gemini Robotics-ER 的一些主要特性,它们能帮助机器人理解世界并与之交互:

  • 目标检测与跟踪:它可用于识别并跟踪二维和三维空间中的物体。通过使用自然语言查询,它能帮助机器人查找物体并预测物体的位置,无论依据的是类型、位置还是功能。
  • 指点:这项功能允许模型使用精确坐标,在图像中定位特定物体或部位。它可以帮助机器人定位完整物体、物体的某个部位,甚至空白区域。
  • 抓取预测:Gemini Robotics-ER 可根据物体的形状和功能,确定最佳抓取方式。它可以预测抓取位置,无论对象是香蕉还是杯子的把手,从而让机器人能够小心地处理物品。
  • 轨迹推理:模型可通过预测一系列动作来规划运动路径。例如,它可以引导机器人手部移向工具,或为特定任务设定路径点,帮助机器人高效完成任务。
  • 多视角对应:这项功能通过比较物体从不同角度看起来的样子,帮助模型理解三维结构。它可以增强空间推理能力,让机器人在动态环境中更好地与物体交互。

Gemini Robotics-ER 执行各种任务

图 5. Gemini Robotics-ER 可执行各种任务。

对于根据类别名称进行 2D 目标检测的任务,较新的 Gemini 模型(例如 Gemini 4 Argon)会与其他视觉语言模型在 Ultralytics VLM Leaderboard 上进行比较。

Google Gemini Robotics 模型的应用#

现在,我们已经讨论了 Gemini Robotics 和 Gemini Robotics-ER 的主要能力,接下来看看它们在各行各业的实际应用。

Google Gemini Robotics 在制造业中的应用#

在制造业中,精度和速度固然重要,但适应能力才是真正让一切顺畅运行的关键。例如,由 Gemini 驱动的工业机器人可以组装滑轮系统:识别合适的零部件,将它们放到正确位置,并以精准的力度处理有弹性的橡皮筋。

它可以拉伸橡皮筋,将其绕在滑轮上,并将其固定到位,同时避免断裂或错位。如果装置发生变化或任务有所不同,机器人无需大量重新编程就能适应。这种智能自动化能够减少错误、提高效率,并确保制造流程顺畅运行。

双臂工业机器人将橡皮筋精准套在滑轮系统上

图 6. 双臂工业机器人将橡皮筋精准套在滑轮系统上。

Gemini Robotics 助力打造智能家居#

繁忙的日程可能让人难以应付家务。智能机器人可以帮忙完成清洁、整理食品杂货,甚至准备饭菜等任务,让日常生活更加轻松。

例如,机器人可以打包午餐袋,仔细挑选并放入食物,同时调整抓握力度,以保护水果或罐头等易损物品。即使摆放方式发生变化,机器人也能自主适应,在几乎不需要监督的情况下减轻日常家务负担。

人形机器人正在仔细打包午餐袋

图 7。人形机器人正在仔细打包午餐袋。

使用 Gemini Robotics 的优缺点#

Gemini Robotics 正在拓展机器人的能力,从精密制造到智能家居辅助皆是如此。以下是 Gemini Robotics 在各种应用中的一些主要优势:

  • 最低训练要求:与传统机器人不同,由 Gemini Robotics 驱动的机器人只需通过少量演示即可学习,从而降低训练成本,也更容易部署。
  • 安全性增强:在危险环境中,集成 Gemini Robotics 的机器人可以执行危险任务,降低人类工人受伤的风险。
  • 可定制特性:Gemini Robotics 的灵活性意味着它可以根据不同行业或企业的特定需求进行定制,从而支持专业化应用和独特解决方案。

Gemini Robotics 有多项优势,但也需要注意以下局限:

  • 空间关系方面的挑战:这些模型可能难以在较长的视频序列中持续跟踪空间关系,从而影响它们跟踪和理解物体随时间变化的能力。
  • 数值精度不足:模型的预测(例如点和边界框)可能不够精确,无法满足精细控制任务的要求,例如精细的机器人操作。
  • 复杂任务:Gemini Robotics 可能难以处理需要多步推理和精确动作的复杂任务,尤其是在新颖或陌生的情境中。

机器人领域 AI 的未来#

随着 AI 不断进步,Gemini Robotics 和 Gemini Robotics-ER 等模型正推动机器人技术的未来。未来的改进很可能会侧重于增强多步推理能力,让机器人将任务拆分为逻辑步骤,从而提升精度。

Google DeepMind 计划推进的另一个关键领域是基于仿真的训练。机器人可以先在虚拟环境中学习,再部署到现实世界,以此完善决策和动作,尽量减少实际应用中的错误。

随着这些技术不断发展,它们可能为未来铺平道路,让机器人变得更加自主、适应性更强,并能够在日常生活中与人类协同工作。

要点#

Gemini Robotics 是 AI 驱动自动化领域的一大进步,它将数字智能与现实世界中的物理任务连接起来。通过结合视觉、语言和基于动作的学习,这些机器人能够精准、灵活地处理复杂任务。

随着机器人变得越来越智能,它们很可能会在日常生活中发挥更大的作用,改变人类与机器协作的方式。这一进步正让我们更接近一个智能、互联程度更高的世界,在那里,AI 驱动的自动化将提升各行各业和日常任务的效率。

加入不断壮大的社区!访问我们的 GitHub 仓库,深入了解 AI。想要启动自己的计算机视觉项目?了解我们的许可选项。在我们的解决方案页面进一步了解制造业中的 AI和汽车行业中的视觉 AI!

作者

Abirami Vina
Abirami Vina

内容创作者 · Ultralytics

Abirami Vina 职业生涯始于计算机视觉工程师,由此在视觉 AI 和机器学习领域打下了坚实基础。她是 Ultralytics 的内容创作者,也是 Scribe of AI 的创始人兼首席撰稿人,为专注 AI 的公司撰写高质量技术内容。她热衷于让 AI 更易理解、更具吸引力,通过自己的作品连接前沿技术与现实影响。

评论

提出问题、分享你的结果,或帮助其他人。

探索解决方案

体育领域的计算机视觉

体育领域的计算机视觉

了解 Ultralytics YOLO 如何通过球员和球追踪、表现分析、教练洞察及运动员康复,推动体育视觉技术的发展。
了解详情
航空影像计算机视觉

航空影像计算机视觉

使用 Ultralytics YOLO 将无人机和航空影像转化为农业、水产养殖、保护工作和地理空间分析的实时洞察。
了解详情
航空航天中的计算机视觉

航空航天中的计算机视觉

使用 Ultralytics YOLO 将计算机视觉应用于航空航天领域,包括飞机检查、跑道 FOD 检测、机场地面作业和复合材料缺陷检测。
了解详情
安防领域的计算机视觉

安防领域的计算机视觉

使用 Ultralytics YOLO 模型守护每个场所。视觉 AI 可用于周界监控、威胁检测、车牌识别和工作场所安全。
了解详情
机器人领域的计算机视觉

机器人领域的计算机视觉

使用 Ultralytics YOLO 模型提升智能机器的能力。机器人领域的视觉 AI 可用于自主导航、感知、目标跟踪和实时控制。
了解详情
物流中的计算机视觉

物流中的计算机视觉

借助 Ultralytics YOLO 模型优化物流流程。视觉 AI 可用于包裹检查、分拣、车辆跟踪和仓库安全实时监控。
了解详情
零售中的计算机视觉

零售中的计算机视觉

借助 Ultralytics YOLO 模型重新构想零售。视觉 AI 可用于库存跟踪、货架监控、排队管理和更深入的客户洞察。
了解详情
医疗领域的计算机视觉

医疗领域的计算机视觉

借助 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可加快医学影像处理、优化诊断并监测患者。
了解详情
制造业中的计算机视觉

制造业中的计算机视觉

利用 Ultralytics YOLO 模型优化制造流程。视觉 AI 可用于质量控制、缺陷检测、个人防护装备合规检查和装配线自动化。
了解详情
汽车领域的计算机视觉

汽车领域的计算机视觉

利用 Ultralytics YOLO 模型在汽车领域应用计算机视觉。视觉 AI 可提升道路安全、驾驶辅助和车辆自动化水平,让道路更智能。
了解详情
农业中的计算机视觉

农业中的计算机视觉

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。为作物监测、牲畜追踪和精准农业提供支持,从而提高产量并实现更智能的生产。
了解详情

让我们携手构建 AI 的未来!

开启你的旅程,迎接机器学习的未来