无服务器计算

无服务器计算是一种云执行模型，云服务提供商动态管理服务器的分配和配置。这种方法允许开发人员构建和运行应用程序及服务，而无需考虑底层服务器基础设施。开发人员无需配置和管理服务器，而是以函数的形式部署代码。这些函数由提供商按需执行，自动扩展，从每天几个请求到每秒数千个请求。这种按使用付费的模式使其非常适合具有可变或不可预测流量的工作负载，这在 机器学习 (ML) 应用程序中是一种常见的情况。

无服务器计算如何工作

无服务器计算的核心是 函数即服务 (FaaS) 模型。在这种设置中，应用程序逻辑被分解为小的、单一用途的函数，这些函数由特定事件触发。事件可以是来自 Web 应用程序的 HTTP 请求、队列中的新消息或上传到云存储的文件。

当触发事件发生时，云平台会立即执行相应的函数。该平台处理资源管理的所有方面，包括配置计算实例、管理操作系统以及确保高可用性和可扩展性。函数执行完成后，资源将被释放。这消除了空闲服务器时间，并确保您只需为应用程序消耗的精确计算资源付费。这是现代 MLOps 的基本原则。

在 AI 和机器学习中的应用

无服务器架构特别适用于 AI/ML 生命周期的各个阶段，尤其适用于 模型推理。

• 自动化数据管道： 无服务器函数可以自动化数据预处理任务。 例如，每次将新图像上传到诸如Amazon S3之类的存储服务时，都可以触发一个函数。 然后，该函数可以自动调整图像大小、标准化像素值，并将其存储为可用于模型训练的格式。
• 经济高效的模型服务： 许多 AI 应用程序不需要持续的高容量处理。 用于 计算机视觉 模型的无服务器端点允许您部署像 Ultralytics YOLO 这样的模型，而无需维护持续运行且通常很昂贵的服务器。 该函数按需启动以处理请求，然后在之后关闭，从而显着降低运营成本。 这种方法简化了具有间歇性使用模式的应用程序的 模型部署。

真实世界的例子

1. 按需图像分析: 移动应用程序允许用户上传植物照片进行识别。每次照片上传都会通过 API 网关 触发一个无服务器函数。该函数加载图像分类模型，分析照片以识别植物种类，并将结果返回给用户的应用程序。整个过程在几秒钟内完成，无需专用服务器。
2. 实时聊天机器人处理： 在客户服务聊天机器人中，每条用户消息都是一个触发无服务器函数的事件。该函数调用 自然语言处理 (NLP) 模型来理解用户的意图。根据分析，可能会触发另一个函数来查询数据库或调用另一个 API，遵循 事件驱动架构。

无服务器与相关概念

区分无服务器计算和相关技术非常重要：

• 云计算与无服务器计算：云计算是通过互联网广泛交付计算服务。无服务器计算是云计算中一种特定的执行模型，它强调自动资源管理，完全抽象化服务器管理。诸如基础设施即服务 (IaaS)之类的其他云模型仍然需要用户配置和管理虚拟机。
• 容器化与无服务器： 像Docker这样的容器化工具将应用程序及其依赖项打包在一起。像Kubernetes这样的编排平台可以自动执行这些容器的部署和扩展。虽然这减少了运营负担，但您仍然需要管理底层集群基础设施。无服务器平台完全抽象了这一层；您只需管理函数代码。了解如何将Docker与Ultralytics结合使用。
• 边缘计算与无服务器： 边缘计算 涉及在靠近数据源的设备上本地处理数据。相比之下，无服务器计算在集中式云数据中心运行函数。两者可以互补；边缘 AI 设备（如在 NVIDIA Jetson 上运行的设备）可能会执行初始过滤，然后触发云中的无服务器函数以进行更密集的分析。

领先的无服务器平台包括 AWS Lambda、Google Cloud Functions 和 Azure Functions。这些服务提供了有效构建和运行无服务器 AI/ML 应用程序的基础设施。Ultralytics HUB 等平台可以进一步简化模型在各种架构（包括无服务器设置）中的部署和管理。