Ultralytics YOLO27: 加入候补名单。
获取 YOLO 许可
视觉 AI

探索 Google Beam:新一代 3D 视频会议工具

了解 Google Beam 这款 Google 的 3D 视频会议工具,以及它如何利用 AI、多摄像头采集和光场显示技术实现逼真的会议体验。

Abirami VinaAbirami Vina6 分钟阅读
Google Beam 3D 视频会议,打造沉浸式虚拟会议

视频通话和虚拟会议让远程办公成为可能,帮助团队跨越国家和时区保持联系。它们已经成为我们生活中的常态,也改变了我们的沟通方式。

然而,尽管视频会议已广泛普及,其背后的核心技术多年来基本没有变化。得益于近期的技术进步,视频会议平台正开始转变,力求带来更自然、更逼真的体验。

有趣的是,在年度开发者大会(Google I/O 2025)上,Google 推出了名为 Google Beam 的全新视频通信工具。Beam 运用人工智能(AI)和 3D 视频会议技术,摆脱传统平面屏幕的限制,营造更具沉浸感、仿佛身处现场的体验。

Google CEO Sundar Pichai 介绍 Google Beam

图 1. Google CEO Sundar Pichai 介绍 Google Beam(来源)。

事实上,Google Beam 的设计目标是让你感觉正在交谈的人就坐在你面前。与普通视频通话不同,它能呈现一些细微的人类交流线索,例如眼神交流,以及随你的视角变化的自然动作;这些细节在平面屏幕上往往会丢失。

本文将介绍 Google Beam 是什么、它是如何开发的、如何运作,以及它有哪些应用。

从 Project Starline 到 Google Beam#

在深入了解 Google Beam 之前,我们先来进一步认识它的前身 Project Starline。

Project Starline 于 Google I/O 2021 上发布,是一项旨在让远程交流更有真实感、仿佛身处同一房间的研究计划。它通过实时生成真人大小的 3D 图像来实现这一目标。尽管这项技术引起了广泛关注,但它需要复杂的设置和大量硬件。

Project Starline 一览

图 2. Project Starline 一览(来源)。

随着技术不断进步,Google 多年来持续改进软件并精简硬件。经过四年的开发,Project Starline 已演变为 Google Beam——一种更紧凑、更易用的解决方案。

Google Beam 利用 AI 改善视频通话,生成与你交谈的人物更逼真、近似 3D 的图像。它将普通 2D 视频转换为可随不同视角调整的画面,有助于保持眼神交流,也让面部表情更清晰可见。它还包含实时翻译、头部追踪和空间音频等功能。

Google Beam 概览#

Google Beam 的设计无需增强现实(AR)或虚拟现实(VR)头显等额外配件即可使用。它配备了自己的内置显示屏、摄像头系统和硬件,用于生成 3D 视觉效果。因此,与普通视频会议相比,视频通话会显得更自然、更舒适,也更有吸引力。

Google Beam 舞台演示:大型显示屏上以真人大小显示一位远程参会者,演示者站在一旁

图 3. Google Beam 使用示例(来源)。

Google Beam 如何打造逼真的虚拟会议#

了解了 Google Beam 的由来之后,接下来我们进一步看看它的工作原理。

为沉浸式远程协作捕捉图像#

一切始于视觉信息的采集。Beam 使用六台高分辨率摄像头同时从不同角度拍摄图像。

这些摄像头有助于实时追踪面部特征、肢体语言和细微动作。AI 在优化摄像头设置并保持所有视频流同步方面发挥着关键作用。这为系统的下一阶段做好了准备:数据处理。

从 2D 图像到 3D 视频会议#

接下来,AI 会将六路 2D 摄像头画面合成为视野中人物的实时 3D 模型。系统并非简单地叠加 2D 图像,而是重建深度、阴影和空间关系,生成完整的 3D 数字孪生体。

为了构建这个 3D 模型,Beam 会运用 AI 和计算机视觉技术,例如深度估计和运动追踪。这些方法有助于确定人物与摄像头之间的距离、人物的移动方式以及身体姿势。借助这些数据,系统可以在 3D 空间中准确映射面部特征和身体部位。

Beam 背后的 AI 模型以每秒 60 帧(FPS)的速度更新 3D 表示,让对话流畅自然。它还会实时调整画面,准确呈现人物动作。

Google Beam 的六台摄像头从不同角度捕捉图像

图 4. Google Beam 的六台摄像头从不同角度捕捉图像(来源)。

Google Beam 的光场显示系统#

接收端的 Beam 系统通过光场显示屏呈现 3D 模型。与向双眼呈现相同图像的传统屏幕不同,光场显示屏会向每只眼睛发出略有差异的图像,模拟我们在现实生活中感知深度的方式,从而打造更逼真、更具立体感的视觉体验。

通过 Google Beam 进行虚拟击掌

图 5. 通过 Google Beam 进行虚拟击掌(来源)。

实时毫米级精准头部跟踪#

Google Beam 最令人印象深刻的功能之一是其实时 AI 跟踪能力。系统通过精准的头部和眼动跟踪,捕捉细微至极的动作。

例如,Beam 的 AI 引擎可以持续追踪用户的头部位置,并实时对图像进行细微调整。这会让屏幕上的人看起来仿佛真的坐在你对面。你移动头部时,3D 图像也会相应变化,就像面对面交谈一样。

用于 AI 增强虚拟通信的音频处理#

Beam 还会利用与屏幕上人物位置相匹配的空间音效来改善音频体验。如果有人出现在显示屏左侧,他们的声音听起来也会像是从左侧传来。随着人物位置变化,音频也会随之调整。这让对话感觉更自然,也帮助你的大脑轻松辨别说话者。

这项功能通过结合定向音频技术和实时追踪来实现。Beam 使用空间音频来模拟我们在现实世界中自然感知声音的方式(依据声音传来的方向以及声音到达双耳的方式)。系统还会追踪观看者的头部动作并相应调整音频输出,让声音始终仿佛“附着”在屏幕中的人物身上。

Google Beam 的应用场景#

Google Beam 虽然仍处于早期阶段,但在视频会议领域展现出可喜的潜力。以下是它的一些主要应用场景:

  • 远程协作:Google Beam 可以让会议——尤其是领导层讨论或高风险谈判——更具亲和力,也更有效。通过捕捉肢体语言和眼神交流等细节,即使人们相隔遥远,也能感到彼此就在身边。
  • 教育: Beam 有望让虚拟学习更有趣、更易参与。想象一下,一位科学家为远在世界另一端的学生进行现场授课,而学生仿佛觉得科学家就在同一个房间里。
  • 医疗保健: Beam 可以让远程问诊更具亲和力。当医生和患者能清楚地看到彼此并自然地进行眼神交流时,就能建立信任,让交流更有人情味。
  • 创意行业:对于动画师、艺术家和制作人等创意领域从业者来说,Beam 可以让远程团队合作更轻松、更自然。无论是集思广益还是评审项目,体验都更像是在工作室一起讨论,而不是进行视频通话。

Google Beam 的优缺点#

以下是 Google Beam 这类创新技术带来的一些主要优势:

  • 无需头显:与许多沉浸式技术不同,Beam 无需佩戴 AR 或 VR 头显即可使用。这让体验更加舒适,也避免了晕动症或佩戴额外设备带来的不便等常见问题。
  • 减轻屏幕疲劳:3D 显示屏提供了更自然、更舒适的观看体验,与长时间盯着平面屏幕相比,有助于减轻眼睛疲劳。
  • 实时语言翻译:Beam 可以集成 AI 实时翻译功能,让使用不同语言的人们更容易在国际会议或学习环境中自然交流。

Beam 前景可期,但和任何新技术一样,它也有一些局限。以下是一些需要考虑的方面:

  • 硬件要求:Beam 需要专用的高端设备,例如光场显示屏和多台摄像头,因此成本高昂,个人用户和小型组织也较难使用。
  • 不便携:Beam 系统是为固定安装而设计的,不适合轻松移动,因此在移动或不断变化的环境中,灵活性和适用性都有限。

要点#

Google Beam 是让虚拟交流更有人情味的一项引人入胜的进展。虽然它仍处于早期阶段,但有望改变我们的会议、联络和协作方式。它融合了先进的 AI、3D 成像和空间音频,打造更逼真、更具吸引力的远程体验。

随着 Google 持续改进 Beam 的硬件、进一步缩小设备尺寸,并可能将其带给普通用户,虚拟通信的未来也将迎来令人振奋的可能性。结合全息会议和 3D 虚拟形象等新兴技术趋势,Beam 有望为虚拟会议树立新标准。

加入我们的社区,并查看我们的许可选项,立即开始使用计算机视觉。浏览我们的 GitHub 代码库,进一步了解 AI。阅读我们的解决方案页面,了解零售领域的 AI和农业领域的计算机视觉等各种应用场景。

作者

Abirami Vina
Abirami Vina

内容创作者 · Ultralytics

Abirami Vina 职业生涯始于计算机视觉工程师,由此在视觉 AI 和机器学习领域打下了坚实基础。她是 Ultralytics 的内容创作者,也是 Scribe of AI 的创始人兼首席撰稿人,为专注 AI 的公司撰写高质量技术内容。她热衷于让 AI 更易理解、更具吸引力,通过自己的作品连接前沿技术与现实影响。

评论

提出问题、分享你的结果,或帮助其他人。

探索解决方案

体育领域的计算机视觉

体育领域的计算机视觉

了解 Ultralytics YOLO 如何通过球员和球追踪、表现分析、教练洞察及运动员康复,推动体育视觉技术的发展。
了解详情
航空影像计算机视觉

航空影像计算机视觉

使用 Ultralytics YOLO 将无人机和航空影像转化为农业、水产养殖、保护工作和地理空间分析的实时洞察。
了解详情
航空航天中的计算机视觉

航空航天中的计算机视觉

使用 Ultralytics YOLO 将计算机视觉应用于航空航天领域,包括飞机检查、跑道 FOD 检测、机场地面作业和复合材料缺陷检测。
了解详情
安防领域的计算机视觉

安防领域的计算机视觉

使用 Ultralytics YOLO 模型守护每个场所。视觉 AI 可用于周界监控、威胁检测、车牌识别和工作场所安全。
了解详情
机器人领域的计算机视觉

机器人领域的计算机视觉

使用 Ultralytics YOLO 模型提升智能机器的能力。机器人领域的视觉 AI 可用于自主导航、感知、目标跟踪和实时控制。
了解详情
物流中的计算机视觉

物流中的计算机视觉

借助 Ultralytics YOLO 模型优化物流流程。视觉 AI 可用于包裹检查、分拣、车辆跟踪和仓库安全实时监控。
了解详情
零售中的计算机视觉

零售中的计算机视觉

借助 Ultralytics YOLO 模型重新构想零售。视觉 AI 可用于库存跟踪、货架监控、排队管理和更深入的客户洞察。
了解详情
医疗领域的计算机视觉

医疗领域的计算机视觉

借助 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可加快医学影像处理、优化诊断并监测患者。
了解详情
制造业中的计算机视觉

制造业中的计算机视觉

利用 Ultralytics YOLO 模型优化制造流程。视觉 AI 可用于质量控制、缺陷检测、个人防护装备合规检查和装配线自动化。
了解详情
汽车领域的计算机视觉

汽车领域的计算机视觉

利用 Ultralytics YOLO 模型在汽车领域应用计算机视觉。视觉 AI 可提升道路安全、驾驶辅助和车辆自动化水平,让道路更智能。
了解详情
农业中的计算机视觉

农业中的计算机视觉

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。为作物监测、牲畜追踪和精准农业提供支持,从而提高产量并实现更智能的生产。
了解详情

让我们携手构建 AI 的未来!

开启你的旅程,迎接机器学习的未来