Ultralytics YOLO27: 加入候补名单。
获取 YOLO 许可
视觉 AI

了解算力对 AI 创新的影响

了解 NVIDIA、Intel、Google 和 Meta 的 GPU、TPU 与定制 AI 芯片如何为现代 AI 提供动力,涵盖模型训练、部署和能效。

Nuvola LadiNuvola Ladi6 分钟阅读
算力与 AI 创新

人工智能(AI)与计算能力密切相关。AI 应用离不开计算能力,因为计算能力能帮助计算机系统处理并执行任务。这些应用需要大量计算资源来处理复杂算法和大型数据集,因此 GPU 应运而生。GPU,即图形处理器,最初旨在加速图像和视频处理,如今已成为处理 AI 所需的大规模数据处理和深度学习任务的关键硬件。

过去几年里,AI 技术发展迅猛。相应地,AI 硬件也需要不断进步,以满足这种增长需求。一项研究显示,自 2003 年以来,GPU 的性能大约提升了 7,000 倍。

更强大、更快速、更高效的硬件让研究人员和工程师能够开发日益复杂的 AI 模型。让我们了解 AI 计算基础设施如何发展,以满足人工智能不断增长的需求。

AI 硬件:一个持续升温的话题#

GPU 在 AI 开发中的作用不容忽视。这些强大的处理器能够加速训练和部署 AI 模型所需的复杂计算。从本质上说,它们是现代 AI 技术的支柱。不过,受到关注的并不只有 GPU。

我们开始看到专为 AI 打造、能够与 GPU 竞争的芯片。这些芯片从零开始设计,旨在让 AI 更好、更快地完成工作。为了改善 AI 计算的未来,人们正在开展大量研究和工作。许多公司都在投资 AI 算力,这也是全球 AI 硬件市场在 2023 年估值达到 537.1 亿美元,并预计到 2033 年增长至约 4,735.3 亿美元的原因之一。

为什么 AI 硬件的进步最近成为热门话题?向专用 AI 硬件的转变,反映了各行各业对 AI 应用日益增长的需求。要成功打造 AI 解决方案,及时了解硬件领域的变化并抢占先机非常重要。

AI 硬件领域的主要厂商#

领先的硬件制造商正竞相开发下一代硬件,通过内部研发、战略合作和收购提升性能和效率。

AI 硬件领域的领先厂商

图 1。 AI 硬件领域的领军产品。

Apple 已从使用外部 GPU 转向开发自家的 M 系列芯片,并配备用于加速 AI 的神经引擎,从而进一步巩固其高度可控的生态系统。与此同时,Google 持续大力投资其张量处理单元 (TPU) 基础设施。TPU 是 AI 芯片,旨在比 GPU 运行更快、能耗更低,因此非常适合大规模训练和部署 AI 解决方案。

同样,AMD 也凭借其 Instinct 系列加速器进入 AI 硬件领域,瞄准数据中心和高性能计算应用。此外,NVIDIA 继续专注于开发针对 AI 工作负载优化的 GPU,例如 A100 和 H100 Tensor Core GPU。

除了这些成熟厂商,还有许多初创公司和研究机构正在探索新型 AI 芯片架构。例如,Graphcore 专注于稀疏计算,并推出了智能处理单元 (IPU)。Cerebras Systems 则提供 Wafer Scale Engine,这是一款专为超大规模 AI 工作负载打造的巨型芯片。

AI 硬件的最新进展#

来看看最新推出的 AI 硬件。

2024 年 4 月 9 日,Intel 发布了最新的 AI 芯片 Gaudi 3。据 Intel 称,它的性能超过了 NVIDIA H100 GPU:

  • 能效高出两倍以上,AI 模型处理速度快 1.5 倍。
  • 提供灵活的配置选项,例如集成在主板上或作为独立扩展卡。
  • 已在多种 AI 模型上成功通过测试,例如 Meta 的 Llama 和阿布扎比的 Falcon,证明它能够有效训练和部署各种 AI 模型,包括 Stable Diffusion 和用于语音识别的 OpenAI Whisper。

Intel 的 Gaudi 3 AI 芯片

图 2. Intel Gaudi 3。

在 Gaudi 3 发布之前,NVIDIA 于 2024 年 3 月 18 日推出了最新的 AI 平台 Blackwell。该平台旨在推动多个领域的突破,并具备以下特点:

  • NVIDIA 声称 Blackwell 是“世界上最强大的芯片”。
  • 它采用双裸片 GPU,拥有 2,080 亿个晶体管和 10 TB/s 的芯片间互连速率,为数据中心规模的生成式 AI 树立了功耗和效率的新标准。
  • Google Cloud、Amazon Web Services 和 Microsoft Azure 等领先的云服务提供商已宣布计划采用 Blackwell,推动生成式 AI、深度学习和云计算服务的发展。

NVIDIA 的 Blackwell 平台

图 3. NVIDIA Blackwell。

定制 AI 芯片的兴起#

与此同时,几家科技巨头正在开发自己的定制 AI 芯片,为各自的服务提供算力。

2024 年 4 月 10 日,Meta 宣布推出最新版 Meta 训练与推理加速器(MTIA)。这款已在 Meta 数据中心投入运行的第二代芯片,在计算能力和内存带宽方面表现更佳。这些升级有助于提升 Meta 的 AI 应用性能,例如 Facebook 和 Instagram 等平台上的排名与推荐引擎。

Meta 最新的 MTIA 芯片

图 4. Meta 最新版本的 MTIA。

同样,Google、Amazon 和 Microsoft 等其他主要厂商今年也推出了自研芯片。这是一项战略举措,旨在优化成本结构并减少对 NVIDIA 等第三方供应商的依赖。

AI 硬件应用在哪里?#

AI 硬件为众多行业中的各种 AI 解决方案提供支持。在医疗保健领域,它为 MRI 和 CT 扫描等医学成像系统提供算力,高效处理复杂任务和大量数据,从而实现快速、精准的诊断。

金融机构使用 AI 算法分析数据,以进行欺诈检测和投资优化。金融数据分析错综复杂,需要先进的硬件能力来有效应对巨大的计算负载。

在汽车行业,AI 硬件有助于处理自动驾驶车辆中的实时传感器数据。目标检测和避撞等任务需要强大的先进硬件提供支持,以便快速决策并保障乘客安全。

自动驾驶汽车的大脑

图 5。自动驾驶汽车的核心。

零售商利用 AI 驱动的推荐引擎,通过分析各部门的大量客户数据来预测客户偏好并推荐相关商品,从而提供个性化购物体验并提升销量。要分析多样化的数据集并生成个性化推荐,就需要先进硬件来实现实时响应并提升用户参与度。

零售店的另一个相关应用是使用计算机视觉监控和分析顾客行为。零售商可以了解顾客如何与周围环境互动、识别热门商品并检测人流模式。根据这些发现,零售商可以优化店铺布局和商品陈列,从而提升销量。实时处理大量视频数据需要强大的计算能力。准确跟踪移动和互动情况,离不开可靠的硬件。缺少这类硬件会影响数据处理的速度和准确性,降低顾客行为分析的效果。

这只是冰山一角。从制造业到农业,AI 硬件随处可见。

以算力扩展 AI#

AI 硬件通常专为处理大型任务而构建。要理解 AI 在全球各行业的部署规模并不容易,但显然,可扩展的 AI 离不开合适的硬件。

以 BMW 和 NVIDIA 的合作为例。BMW 每年生产 250 万辆汽车,运营规模十分庞大。BMW 正在利用 AI 优化其制造流程的各个环节,从质量控制和预测性维护到物流与供应链管理。

为满足这些需求,BMW 依靠 NVIDIA Quadro RTX 8000 和搭载 RTX 的服务器等先进 AI 硬件解决方案。这些技术让 AI 部署更简单,也更易于扩展。

算力会影响 AI 解决方案的多个方面#

除了为 AI 应用提供计算能力之外,你选择的 AI 硬件还会影响解决方案的模型性能、模型转换需求、部署灵活性和整体准确率。AI 模型训练和测试完成后,通常会转换为适用于所选部署平台的格式。

不过,模型转换可能造成精度损失,需要提前考虑。ONNX(开放神经网络交换)等集成工具可以提供标准化格式,便于在各种硬件平台上部署 AI 模型。这也是 YOLOv8 等热门模型允许用户将自定义训练的模型导出为多种格式,以适配不同部署选项的原因。

能源效率是 AI 计算未来的重要组成部分#

先进 AI 算力的影响并不局限于 AI,也正在波及能源行业。

迈向可持续的 AI 硬件

图 6. 迈向可持续的 AI 硬件。

例如,Meta 的 Llama 3 是一种先进的大型语言模型(LLM),训练时使用了两个定制的数据中心集群,每个集群都配备了 24,576 个 NVIDIA H100 GPU。结合软件改进,这套配置使 Llama 3 的训练效率比 Llama 2 高出约三倍。因此,AI 硬件的进步也在助力实现更节能的运算。

此外,随着Sam Altman等人参与其中,AI 与能源之间的联系愈发受到关注。作为 OpenAI 的 CEO,Altman 最近让核能公司 Oklo 上市。Oklo 凭借创新的核裂变技术,旨在变革能源生产,并有望为 AI 运行所必需的数据中心供电。过去几年里,Microsoft 联合创始人 Bill Gates 和 Amazon 创始人 Jeff Bezos 也投资了核电站。

超越芯片#

展望未来,AI 硬件即将迎来巨大飞跃,尤其是量子计算的兴起。随着 AI 模型日益复杂,专用硬件对于释放模型的全部潜力至关重要。从专为 AI 设计的芯片到量子计算探索,硬件创新推动着更复杂、更具影响力的 AI 解决方案不断发展。

欢迎查看我们的 GitHub 代码仓库,并加入我们的社区,深入了解 AI。浏览我们最新的博客文章,了解 AI 如何应用于一级方程式赛车和机器人技术等不同领域。

作者

Nuvola Ladi
Nuvola Ladi

数字内容经理 · Ultralytics

Nuvola Ladi 是 Ultralytics 的数字内容经理,负责创作涵盖视觉 AI 和 Ultralytics YOLO 的内容,并代表公司参加 PyTorch Conference 2025 等行业活动。她常驻西班牙,拥有 IE University 的视觉与数字媒体硕士学位。加入 Ultralytics 之前,她曾在 XVA Gallery & Hotel 和 Rolex 等机构任职。

评论

提出问题、分享你的结果,或帮助其他人。

探索解决方案

体育领域的计算机视觉

体育领域的计算机视觉

了解 Ultralytics YOLO 如何通过球员和球追踪、表现分析、教练洞察及运动员康复,推动体育视觉技术的发展。
了解详情
航空影像计算机视觉

航空影像计算机视觉

使用 Ultralytics YOLO 将无人机和航空影像转化为农业、水产养殖、保护工作和地理空间分析的实时洞察。
了解详情
航空航天中的计算机视觉

航空航天中的计算机视觉

使用 Ultralytics YOLO 将计算机视觉应用于航空航天领域,包括飞机检查、跑道 FOD 检测、机场地面作业和复合材料缺陷检测。
了解详情
安防领域的计算机视觉

安防领域的计算机视觉

使用 Ultralytics YOLO 模型守护每个场所。视觉 AI 可用于周界监控、威胁检测、车牌识别和工作场所安全。
了解详情
机器人领域的计算机视觉

机器人领域的计算机视觉

使用 Ultralytics YOLO 模型提升智能机器的能力。机器人领域的视觉 AI 可用于自主导航、感知、目标跟踪和实时控制。
了解详情
物流中的计算机视觉

物流中的计算机视觉

借助 Ultralytics YOLO 模型优化物流流程。视觉 AI 可用于包裹检查、分拣、车辆跟踪和仓库安全实时监控。
了解详情
零售中的计算机视觉

零售中的计算机视觉

借助 Ultralytics YOLO 模型重新构想零售。视觉 AI 可用于库存跟踪、货架监控、排队管理和更深入的客户洞察。
了解详情
医疗领域的计算机视觉

医疗领域的计算机视觉

借助 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可加快医学影像处理、优化诊断并监测患者。
了解详情
制造业中的计算机视觉

制造业中的计算机视觉

利用 Ultralytics YOLO 模型优化制造流程。视觉 AI 可用于质量控制、缺陷检测、个人防护装备合规检查和装配线自动化。
了解详情
汽车领域的计算机视觉

汽车领域的计算机视觉

利用 Ultralytics YOLO 模型在汽车领域应用计算机视觉。视觉 AI 可提升道路安全、驾驶辅助和车辆自动化水平,让道路更智能。
了解详情
农业中的计算机视觉

农业中的计算机视觉

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。为作物监测、牲畜追踪和精准农业提供支持,从而提高产量并实现更智能的生产。
了解详情

让我们携手构建 AI 的未来!

开启你的旅程,迎接机器学习的未来