了解算力对 AI 创新的影响
了解 NVIDIA、Intel、Google 和 Meta 的 GPU、TPU 与定制 AI 芯片如何为现代 AI 提供动力,涵盖模型训练、部署和能效。
Nuvola Ladi6 分钟阅读
人工智能(AI)与计算能力密切相关。AI 应用离不开计算能力,因为计算能力能帮助计算机系统处理并执行任务。这些应用需要大量计算资源来处理复杂算法和大型数据集,因此 GPU 应运而生。GPU,即图形处理器,最初旨在加速图像和视频处理,如今已成为处理 AI 所需的大规模数据处理和深度学习任务的关键硬件。
过去几年里,AI 技术发展迅猛。相应地,AI 硬件也需要不断进步,以满足这种增长需求。一项研究显示,自 2003 年以来,GPU 的性能大约提升了 7,000 倍。
更强大、更快速、更高效的硬件让研究人员和工程师能够开发日益复杂的 AI 模型。让我们了解 AI 计算基础设施如何发展,以满足人工智能不断增长的需求。
AI 硬件:一个持续升温的话题#
GPU 在 AI 开发中的作用不容忽视。这些强大的处理器能够加速训练和部署 AI 模型所需的复杂计算。从本质上说,它们是现代 AI 技术的支柱。不过,受到关注的并不只有 GPU。
我们开始看到专为 AI 打造、能够与 GPU 竞争的芯片。这些芯片从零开始设计,旨在让 AI 更好、更快地完成工作。为了改善 AI 计算的未来,人们正在开展大量研究和工作。许多公司都在投资 AI 算力,这也是全球 AI 硬件市场在 2023 年估值达到 537.1 亿美元,并预计到 2033 年增长至约 4,735.3 亿美元的原因之一。
为什么 AI 硬件的进步最近成为热门话题?向专用 AI 硬件的转变,反映了各行各业对 AI 应用日益增长的需求。要成功打造 AI 解决方案,及时了解硬件领域的变化并抢占先机非常重要。
AI 硬件领域的主要厂商#
领先的硬件制造商正竞相开发下一代硬件,通过内部研发、战略合作和收购提升性能和效率。

图 1。 AI 硬件领域的领军产品。
Apple 已从使用外部 GPU 转向开发自家的 M 系列芯片,并配备用于加速 AI 的神经引擎,从而进一步巩固其高度可控的生态系统。与此同时,Google 持续大力投资其张量处理单元 (TPU) 基础设施。TPU 是 AI 芯片,旨在比 GPU 运行更快、能耗更低,因此非常适合大规模训练和部署 AI 解决方案。
同样,AMD 也凭借其 Instinct 系列加速器进入 AI 硬件领域,瞄准数据中心和高性能计算应用。此外,NVIDIA 继续专注于开发针对 AI 工作负载优化的 GPU,例如 A100 和 H100 Tensor Core GPU。
除了这些成熟厂商,还有许多初创公司和研究机构正在探索新型 AI 芯片架构。例如,Graphcore 专注于稀疏计算,并推出了智能处理单元 (IPU)。Cerebras Systems 则提供 Wafer Scale Engine,这是一款专为超大规模 AI 工作负载打造的巨型芯片。
AI 硬件的最新进展#
来看看最新推出的 AI 硬件。
2024 年 4 月 9 日,Intel 发布了最新的 AI 芯片 Gaudi 3。据 Intel 称,它的性能超过了 NVIDIA H100 GPU:
- 能效高出两倍以上,AI 模型处理速度快 1.5 倍。
- 提供灵活的配置选项,例如集成在主板上或作为独立扩展卡。
- 已在多种 AI 模型上成功通过测试,例如 Meta 的 Llama 和阿布扎比的 Falcon,证明它能够有效训练和部署各种 AI 模型,包括 Stable Diffusion 和用于语音识别的 OpenAI Whisper。

图 2. Intel Gaudi 3。
在 Gaudi 3 发布之前,NVIDIA 于 2024 年 3 月 18 日推出了最新的 AI 平台 Blackwell。该平台旨在推动多个领域的突破,并具备以下特点:
- NVIDIA 声称 Blackwell 是“世界上最强大的芯片”。
- 它采用双裸片 GPU,拥有 2,080 亿个晶体管和 10 TB/s 的芯片间互连速率,为数据中心规模的生成式 AI 树立了功耗和效率的新标准。
- Google Cloud、Amazon Web Services 和 Microsoft Azure 等领先的云服务提供商已宣布计划采用 Blackwell,推动生成式 AI、深度学习和云计算服务的发展。

图 3. NVIDIA Blackwell。
定制 AI 芯片的兴起#
与此同时,几家科技巨头正在开发自己的定制 AI 芯片,为各自的服务提供算力。
2024 年 4 月 10 日,Meta 宣布推出最新版 Meta 训练与推理加速器(MTIA)。这款已在 Meta 数据中心投入运行的第二代芯片,在计算能力和内存带宽方面表现更佳。这些升级有助于提升 Meta 的 AI 应用性能,例如 Facebook 和 Instagram 等平台上的排名与推荐引擎。

图 4. Meta 最新版本的 MTIA。
同样,Google、Amazon 和 Microsoft 等其他主要厂商今年也推出了自研芯片。这是一项战略举措,旨在优化成本结构并减少对 NVIDIA 等第三方供应商的依赖。
AI 硬件应用在哪里?#
AI 硬件为众多行业中的各种 AI 解决方案提供支持。在医疗保健领域,它为 MRI 和 CT 扫描等医学成像系统提供算力,高效处理复杂任务和大量数据,从而实现快速、精准的诊断。
金融机构使用 AI 算法分析数据,以进行欺诈检测和投资优化。金融数据分析错综复杂,需要先进的硬件能力来有效应对巨大的计算负载。
在汽车行业,AI 硬件有助于处理自动驾驶车辆中的实时传感器数据。目标检测和避撞等任务需要强大的先进硬件提供支持,以便快速决策并保障乘客安全。

图 5。自动驾驶汽车的核心。
零售商利用 AI 驱动的推荐引擎,通过分析各部门的大量客户数据来预测客户偏好并推荐相关商品,从而提供个性化购物体验并提升销量。要分析多样化的数据集并生成个性化推荐,就需要先进硬件来实现实时响应并提升用户参与度。
零售店的另一个相关应用是使用计算机视觉监控和分析顾客行为。零售商可以了解顾客如何与周围环境互动、识别热门商品并检测人流模式。根据这些发现,零售商可以优化店铺布局和商品陈列,从而提升销量。实时处理大量视频数据需要强大的计算能力。准确跟踪移动和互动情况,离不开可靠的硬件。缺少这类硬件会影响数据处理的速度和准确性,降低顾客行为分析的效果。
这只是冰山一角。从制造业到农业,AI 硬件随处可见。
以算力扩展 AI#
AI 硬件通常专为处理大型任务而构建。要理解 AI 在全球各行业的部署规模并不容易,但显然,可扩展的 AI 离不开合适的硬件。
以 BMW 和 NVIDIA 的合作为例。BMW 每年生产 250 万辆汽车,运营规模十分庞大。BMW 正在利用 AI 优化其制造流程的各个环节,从质量控制和预测性维护到物流与供应链管理。
为满足这些需求,BMW 依靠 NVIDIA Quadro RTX 8000 和搭载 RTX 的服务器等先进 AI 硬件解决方案。这些技术让 AI 部署更简单,也更易于扩展。
算力会影响 AI 解决方案的多个方面#
除了为 AI 应用提供计算能力之外,你选择的 AI 硬件还会影响解决方案的模型性能、模型转换需求、部署灵活性和整体准确率。AI 模型训练和测试完成后,通常会转换为适用于所选部署平台的格式。
不过,模型转换可能造成精度损失,需要提前考虑。ONNX(开放神经网络交换)等集成工具可以提供标准化格式,便于在各种硬件平台上部署 AI 模型。这也是 YOLOv8 等热门模型允许用户将自定义训练的模型导出为多种格式,以适配不同部署选项的原因。
能源效率是 AI 计算未来的重要组成部分#
先进 AI 算力的影响并不局限于 AI,也正在波及能源行业。

图 6. 迈向可持续的 AI 硬件。
例如,Meta 的 Llama 3 是一种先进的大型语言模型(LLM),训练时使用了两个定制的数据中心集群,每个集群都配备了 24,576 个 NVIDIA H100 GPU。结合软件改进,这套配置使 Llama 3 的训练效率比 Llama 2 高出约三倍。因此,AI 硬件的进步也在助力实现更节能的运算。
此外,随着Sam Altman等人参与其中,AI 与能源之间的联系愈发受到关注。作为 OpenAI 的 CEO,Altman 最近让核能公司 Oklo 上市。Oklo 凭借创新的核裂变技术,旨在变革能源生产,并有望为 AI 运行所必需的数据中心供电。过去几年里,Microsoft 联合创始人 Bill Gates 和 Amazon 创始人 Jeff Bezos 也投资了核电站。
超越芯片#
展望未来,AI 硬件即将迎来巨大飞跃,尤其是量子计算的兴起。随着 AI 模型日益复杂,专用硬件对于释放模型的全部潜力至关重要。从专为 AI 设计的芯片到量子计算探索,硬件创新推动着更复杂、更具影响力的 AI 解决方案不断发展。
欢迎查看我们的 GitHub 代码仓库,并加入我们的社区,深入了解 AI。浏览我们最新的博客文章,了解 AI 如何应用于一级方程式赛车和机器人技术等不同领域。
作者
评论
提出问题、分享你的结果,或帮助其他人。










