Cloud Computing

云计算是指通过互联网，按使用量付费，从服务提供商的数据中心按需获取计算资源，包括服务器、存储、数据库、网络、GPU 和完整的软件应用。美国国家标准与技术研究院于 2011 年在 NIST SP 800-145 中将云计算定义为具备五项基本特征：按需自助服务、广泛的网络访问、多租户资源池、快速弹性和可计量服务。Amazon Web Services 于 2006 年推出 S3 存储和 EC2 计算服务；如今 AWS、Microsoft Azure 和 Google Cloud 已成为最大的云服务提供商。对于人工智能来说，云计算让人们可以按需租用价格昂贵的加速器，即使只用一个下午也没问题，因此大多数团队无需拥有数据中心就能训练大型模型。

服务与部署模型#

各服务模型的区别在于服务提供商负责管理技术栈的多少：

• 基础设施即服务（IaaS）：提供虚拟机、块存储和网络，客户负责管理操作系统、驱动程序和软件。Amazon EC2 P5 等 GPU 虚拟机属于 IaaS。
• 平台即服务（PaaS）：提供托管运行时、数据库和 Kubernetes 集群，客户部署代码，服务提供商负责服务器和补丁管理。Amazon SageMaker、Google Vertex AI 和 Azure Machine Learning 等托管 ML 平台在此基础上增加了训练任务和模型端点。
• 无服务器计算：函数或容器会在每次请求到来时启动，空闲时缩容至零，并按请求次数和执行时间计费。这种较新的模式完全隐藏了服务器。
• 软件即服务（SaaS）：客户通过浏览器或 API 使用的完整应用，无需自行运维。

NIST 还定义了四种部署模型：由许多客户共享的公有云、为单个组织运行的私有云、由具有共同需求的组织共享的社区云，以及将这些模式结合起来的混合云。在所有模式中，服务提供商都遵循共同责任模型：服务提供商负责保护实体数据中心和虚拟化层，客户则负责身份、配置和数据安全。

面向 AI 的云计算#

训练是 AI 中最耗费计算资源的环节。云服务提供商出租单张GPU，或由 NVIDIA H100、H200 和 B200 加速器组成、通过高带宽互连的集群，用于分布式训练；Google Cloud 还提供自家的TPU。闲置容量更便宜：AWS Spot 实例的费用比按需价格最多低 90%，但可能会提前两分钟通知后被回收，因此使用这类实例的任务需要频繁保存模型权重检查点，以便恢复运行。

数据的存放位置会影响云成本。数据集存储在对象存储中，通常按数据湖进行组织。云服务提供商会对离开其网络的数据收取出口费用，而入口流量通常免费，因此训练计算通常会在读取的大数据所在的同一区域运行。在推理方面，打包为 Docker 容器的模型会运行在托管端点上，用于模型服务，或者运行在 Kubernetes 集群上；集群会随着流量变化增加或移除副本，这正是 NIST 定义中的快速弹性，而靠近用户的区域有助于保持较低的推理延迟。云端 ML 平台还托管了周边的 MLOps 工具，用于实验跟踪、模型注册和模型监控。

Ultralytics Platform 将这种按用量付费的模式应用于 YOLO 训练：云训练提供 26 种 GPU，从 16 GB 的 RTX 2000 Ada 到 288 GB 的 B300。系统按运行实际使用的 GPU 时间计费；如果所选 GPU 容量不足，则会推荐最接近的可用 GPU，依次优先匹配显存、速度和价格。

云计算与边缘计算#

边缘计算在产生数据的设备（例如摄像头、机器人和网关）上或附近处理数据，避免了与数据中心之间的网络往返，并且在连接中断时仍能继续工作。云计算则集中提供弹性容量，适用于最需要它的任务：训练、大规模批处理、长期存储，以及用户能够容忍数十毫秒网络延迟的服务。大多数计算机视觉系统会结合两者：在云端 GPU 上训练的模型会导出为 ONNX 或 TensorRT 等紧凑格式，并作为边缘 AI在设备上运行；设备则将检测结果和选定图像发送回云端，作为下一个模型版本的训练数据。