遇见 YOLO26: 下一代视觉 AI。
Ultralytics
视觉 AI

探索 Google Beam:一款下一代 3D 视频会议工具

了解下一代 3D 视频会议工具 Google Beam。探索它如何利用 3D 成像和 AI 实现逼真且身临其境的虚拟会议。

ABAbirami Vina
4 min read
用于沉浸式虚拟会议的 Google Beam 3D 视频会议

视频通话和虚拟会议使远程办公成为可能,帮助团队跨越国家和时区保持联系。它们已成为我们生活中不可或缺的一部分,并改变了我们的沟通方式。

然而,尽管应用广泛,视频会议背后的核心技术多年来却几乎没有变化。得益于近期的技术进步,视频会议平台正开始转变,旨在让体验变得更加自然和逼真。

有趣的是,在年度开发者大会(Google I/O 2025)上,Google 推出了名为 Google Beam 的新型视频通信工具。Beam 利用 人工智能 (AI) 和 3D 视频会议技术,突破了传统平面屏幕的限制,创造出一种更具沉浸感的面对面体验。

Google CEO Sundar Pichai 介绍 Google Beam

图 1. Google 首席执行官 Sundar Pichai 介绍 Google Beam (来源)。

事实上,Google Beam 的设计初衷是让你感觉交谈对象就在你面前。与普通视频通话不同,它还原了微妙的人体交互线索,例如眼神交流和随视角变化的自然移动,而这些细节在平面屏幕上通常会丢失。

在本文中,我们将深入探讨 Google Beam 是什么、它是如何开发的、它是如何运作的及其应用场景。让我们开始吧!

Link to this section从 Project Starline 到 Google Beam#

在深入了解 Google Beam 之前,让我们先了解一下它的前身 Project Starline。

Project Starline 于 Google I/O 2021 上首次亮相,是一项旨在使远程通信感觉更加逼真(如同身处同一房间)的研究计划。它通过实时创建真人大小的 3D 图像 来实现这一目标。尽管这项技术吸引了大量关注,但它需要复杂的设置和笨重的硬件。

概览 Project Starline

图 2. Project Starline 概览 (来源)。

多年来,随着技术的进步,Google 不断改进软件并简化了硬件。经过四年的开发,Project Starline 已经演变为 Google Beam——一个更紧凑、更易于使用的解决方案。

Google Beam 利用 AI 增强视频通话,创建更逼真的 3D 效果图像。它将普通的 2D 视频转换为随视角调整的画面,有助于保持眼神交流,并使面部表情更容易辨认。它还包括实时翻译、头部 追踪 和空间音频等功能。

Link to this sectionGoogle Beam 概述#

Google Beam 的开发旨在无需增强现实 (AR) 或虚拟现实 (VR) 头显等额外配件即可运行。相反,它自带显示屏、摄像头系统和硬件,以创建 3D 视觉效果。这使得视频通话比普通会议感觉更自然、舒适且富有吸引力。

使用 Google Beam 的示例

图 3. 使用 Google Beam 的示例 (来源)。

Link to this sectionGoogle Beam 如何创造逼真的虚拟会议#

既然我们已经讨论了 Google Beam 的由来,现在让我们仔细看看它是如何运作的。

Link to this section用于沉浸式远程协作的图像捕捉#

一切始于对视觉信息的捕捉。Beam 使用六个高分辨率 摄像头 从不同角度同时拍摄图像。

这些摄像头有助于实时追踪面部特征、肢体语言和细微动作。AI 在优化摄像头设置和保持所有视频源完美同步方面发挥了关键作用。这为下一阶段做好了准备:数据处理。

Link to this section从 2D 图像到 3D 视频会议#

接下来,AI 被用于整合这六个 2D 摄像头的源图像,以生成显示人物的实时 3D 模型。它不是简单地叠加 2D 图像,而是通过重构深度、阴影和空间关系,创建一个完整的 3D 数字孪生。

为了构建这个 3D 模型,Beam 使用了深度估计和动作追踪等 AI 和 计算机视觉技术。这些方法有助于确定人与摄像头的距离、他们的动作以及身体姿势。有了这些数据,系统就能在 3D 空间中准确映射面部特征和身体部位。

Beam 背后的 AI 模型以每秒 60 帧 (FPS) 的速度更新 3D 表示,以保持对话流畅且逼真。它还会进行实时调整,以准确反映人物的动作。

Google Beam 的六个摄像头从不同角度捕捉图像

图 4. Google Beam 的六个摄像头从不同角度捕捉图像 (来源)。

Link to this sectionGoogle Beam 的光场显示系统#

3D 模型通过光场显示器显示在接收方的 Beam 系统上。与将相同图像呈现给双眼的传统屏幕不同,光场显示器向每只眼睛发射略有不同的图像,模拟我们在现实生活中感知深度的方式。这创造了一种更逼真的三维视觉体验。

通过 Google Beam 进行虚拟击掌

图 5. 通过 Google Beam 进行虚拟击掌 (来源)。

Link to this section实时毫米级头部追踪#

Google Beam 最令人印象深刻的功能之一是其 AI 实时追踪能力。该系统利用精确的头部和 眼动追踪 来跟进最细微的动作细节。

例如,Beam 的 AI 引擎可以持续追踪用户的头部位置,并 实时 对图像进行细微调整。这创造了屏幕上的人真的坐在你对面的感觉。当你移动头部时,3D 图像会相应移动,就像在真实的面对面交谈中一样。

Link to this section用于 AI 增强虚拟通信的音频处理#

Beam 还通过使用与屏幕上人物出现位置相匹配的空间音效来改善音频体验。如果某人在显示器的左侧,他们的声音听起来就会像从左侧传来。随着他们位置的移动,音频也会随之调整。这使得对话感觉更自然,并有助于你的大脑无需额外努力就能跟上是谁在说话。

这是通过将定向音频技术与 实时追踪 相结合来实现的。Beam 使用空间音频来模拟我们在现实世界中自然感知声音的方式(基于声音来源的方向以及它到达每只耳朵的方式)。该系统还会追踪观看者的头部动作,并相应地调整音频输出,从而使声音始终“附着”在屏幕上的人物身上。

Link to this sectionGoogle Beam 的应用#

尽管 Google Beam 仍处于早期阶段,但它在视频会议领域展现出了广阔的前景。以下是它的一些关键应用:

  • 远程协作: Google Beam 可以让会议(特别是领导层讨论或高风险谈判)感觉更个性化且更有效。通过捕捉肢体语言和眼神交流等细微因素,它能帮助人们即便在远方也能感觉更有“在场感”。
  • 教育 Beam 有潜力使虚拟学习更加令人兴奋且易于获取。想象一下,一位科学家为世界另一端的学生进行现场讲座,感觉就像真的身处同一间教室一样。
  • 医疗保健 Beam 可以让远程会诊感觉更具亲和力。当医生和病人能清晰地看到对方并进行自然的眼神交流时,这能建立信任并使互动感觉更具人文关怀。
  • 创意行业: 对于动画师、艺术家和制作人等创意领域的人来说,Beam 可以让远程团队合作感觉更轻松、更自然。无论是头脑风暴还是审阅项目,感觉都更像是在工作室里坐在一起,而不是在进行视频通话。

Link to this sectionGoogle Beam 的优缺点#

以下是像 Google Beam 这样的创新所带来的主要优势:

  • 无需头显: 与许多沉浸式技术不同,Beam 无需 AR 或 VR 头显 即可工作。这使得体验更舒适,避免了晕动症或佩戴额外装备的不便等常见问题。
  • 减少屏幕疲劳: 3D 显示提供了更自然、更舒适的观看体验,与长时间盯着平面屏幕相比,这有助于减少眼睛疲劳。
  • 实时语言翻译: Beam 可以整合 AI 驱动的实时翻译,使讲不同语言的人们能够在国际会议或学习环境中自然地沟通。

Beam 是向前迈出的重要一步,但像任何新技术一样,它也有一些局限性。以下是一些需要考虑的问题:

  • 硬件要求: Beam 需要专业的高端设备,例如光场显示器和多个摄像头,这使其价格昂贵,且个人和小型组织难以获取。
  • 不可移动: Beam 系统专为固定安装而设计,并非为了轻松移动,这限制了它的灵活性以及在移动或多变环境中的使用。

Link to this section关键要点#

Google Beam 是让虚拟通信变得更具人性化进程中的迷人一步。虽然它仍处于早期阶段,但它有潜力改变我们会议、交流和协作的方式。通过融合先进的 AI、3D 成像和空间音频,它创造了更逼真且吸引人的远程体验。

随着 Google 继续改进 Beam 的硬件、使其进一步小型化,并可能将其带给普通用户,它为虚拟通信的未来带来了令人兴奋的可能性。随着全息会议和 3D 头像等新技术趋势的出现,Beam 正在为虚拟会议设定新的标准。

加入我们的 社区,了解我们的 许可选项,立即开始使用计算机视觉。查看我们的 GitHub 存储库 以了解更多关于 AI 的信息。阅读我们的解决方案页面,获取关于 零售 AI农业计算机视觉 等各种应用案例的见解。

Explore solutions

Real-time AI that works with your team

机器人技术中的 AI

使用 Ultralytics YOLO 模型为智能机器赋能。机器人技术中的视觉 AI 可推动自主导航、感知、物体跟踪和实时控制。
了解更多
Real-time AI that works with your team

物流中的 AI

使用 Ultralytics YOLO 模型简化物流。视觉 AI 可实现包裹检查、分拣、车辆跟踪和实时仓库安全监控。
了解更多
Real-time AI that works with your team

零售业 AI

使用 Ultralytics YOLO 模型重塑零售业。视觉 AI 推动库存跟踪、货架监控、队列管理和更智能的客户洞察。
了解更多
Real-time AI that works with your team

医疗保健中的 AI

利用 Ultralytics YOLO 模型构建医疗保健解决方案。医疗保健中的视觉 AI 可助力更快速的医学影像分析、更智能的诊断和患者监测。
了解更多
Real-time AI that works with your team

制造业中的 AI

使用 Ultralytics YOLO 模型优化制造业。视觉 AI 推动质量控制、缺陷检测、PPE 合规性和装配线自动化。
了解更多
Real-time AI that works with your operation

汽车中的 AI

将计算机视觉应用于汽车行业,并配合 Ultralytics YOLO 模型。汽车视觉 AI 可提升道路安全、辅助驾驶和车辆自动化,打造更智能的道路。
了解更多
Real-time AI tailored to your operation

农业中的 AI

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。赋能作物监测、牲畜追踪和精准农业,实现更高、更智能的产量。
了解更多
Real-time AI that works with your team

机器人技术中的 AI

使用 Ultralytics YOLO 模型为智能机器赋能。机器人技术中的视觉 AI 可推动自主导航、感知、物体跟踪和实时控制。
了解更多
Real-time AI that works with your team

物流中的 AI

使用 Ultralytics YOLO 模型简化物流。视觉 AI 可实现包裹检查、分拣、车辆跟踪和实时仓库安全监控。
了解更多
Real-time AI that works with your team

零售业 AI

使用 Ultralytics YOLO 模型重塑零售业。视觉 AI 推动库存跟踪、货架监控、队列管理和更智能的客户洞察。
了解更多
Real-time AI that works with your team

医疗保健中的 AI

利用 Ultralytics YOLO 模型构建医疗保健解决方案。医疗保健中的视觉 AI 可助力更快速的医学影像分析、更智能的诊断和患者监测。
了解更多
Real-time AI that works with your team

制造业中的 AI

使用 Ultralytics YOLO 模型优化制造业。视觉 AI 推动质量控制、缺陷检测、PPE 合规性和装配线自动化。
了解更多
Real-time AI that works with your operation

汽车中的 AI

将计算机视觉应用于汽车行业,并配合 Ultralytics YOLO 模型。汽车视觉 AI 可提升道路安全、辅助驾驶和车辆自动化,打造更智能的道路。
了解更多
Real-time AI tailored to your operation

农业中的 AI

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。赋能作物监测、牲畜追踪和精准农业,实现更高、更智能的产量。
了解更多
Real-time AI that works with your team

机器人技术中的 AI

使用 Ultralytics YOLO 模型为智能机器赋能。机器人技术中的视觉 AI 可推动自主导航、感知、物体跟踪和实时控制。
了解更多
Real-time AI that works with your team

物流中的 AI

使用 Ultralytics YOLO 模型简化物流。视觉 AI 可实现包裹检查、分拣、车辆跟踪和实时仓库安全监控。
了解更多
Real-time AI that works with your team

零售业 AI

使用 Ultralytics YOLO 模型重塑零售业。视觉 AI 推动库存跟踪、货架监控、队列管理和更智能的客户洞察。
了解更多
Real-time AI that works with your team

医疗保健中的 AI

利用 Ultralytics YOLO 模型构建医疗保健解决方案。医疗保健中的视觉 AI 可助力更快速的医学影像分析、更智能的诊断和患者监测。
了解更多
Real-time AI that works with your team

制造业中的 AI

使用 Ultralytics YOLO 模型优化制造业。视觉 AI 推动质量控制、缺陷检测、PPE 合规性和装配线自动化。
了解更多
Real-time AI that works with your operation

汽车中的 AI

将计算机视觉应用于汽车行业,并配合 Ultralytics YOLO 模型。汽车视觉 AI 可提升道路安全、辅助驾驶和车辆自动化,打造更智能的道路。
了解更多
Real-time AI tailored to your operation

农业中的 AI

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。赋能作物监测、牲畜追踪和精准农业,实现更高、更智能的产量。
了解更多

让我们一起构建 AI 的未来!

开启你的机器学习未来之旅