深圳Yolo 视觉
深圳
立即加入
词汇表

无服务器计算

了解无服务器计算如何通过可扩展性、成本效益和快速部署来彻底改变 AI/ML。立即构建更智能、更快速的解决方案!

无服务器计算是一种云执行模式,在这种模式下,云提供商动态地管理服务器的分配和供应。 无服务器计算是一种云计算执行模式,在这种模式下,云提供商动态地管理服务器的分配和供应,允许开发人员构建和运行应用程序,而无需管理底层基础设施。 基础设施。在这种架构中,代码在由特定事件触发的无状态容器中执行、 代码在无状态容器中执行,容器由特定事件触发,自动从零瞬间扩展到数千个请求。这种按使用付费的模式对 这种按使用付费的模式对于流量可变的工作负载非常高效,使其成为现代 机器学习 (ML)应用开发 和云计算战略的基石。

无服务器机制

无服务器计算的核心是 功能即服务(FaaS)模式。它不是部署一个 而是将逻辑分解成执行单一任务的单个功能。这些功能是 事件驱动,这意味着它们只有在被操作触发时才会运行,例如通过 API 网关的 HTTP 请求、将文件上传到存储服务(如 亚马逊 S3 或数据库更新。

云提供商负责处理所有运营开销,包括操作系统维护、容量 配置和可扩展性。这种抽象性使 团队完全专注于为计算机视觉或数据分析编写代码 计算机视觉或数据分析的代码,从而大大 大大加快了 MLOps 最佳实践所定义的开发生命周期。 MLOps最佳实践所定义的开发生命周期。

人工智能和机器学习中的无服务器

无服务器架构能够处理 "突发 "流量模式,而不会产生闲置服务器的成本,因此在部署人工智能模型方面特别有优势。 "突发 "流量模式,而不会产生闲置服务器的成本。

  • 按需推理:在专用服务器上托管用于 在专用服务器上进行实时推理 如果请求时有时无,则成本会很高。无服务器功能可以加载类似于 YOLO11这样的模型。 图像,并以经济高效的方式返回预测结果。
  • 数据预处理管道:无服务器功能非常适合 数据预处理任务的理想选择。例如 上传原始数据集可以触发函数来调整图像大小、规范像素值或转换文件格式、 为模型训练做好准备。
  • 模型再训练:在事件驱动的工作流程中,由 模型性能的显著下降 在事件驱动的工作流程中,监控工具检测到的模型性能大幅下降可自动触发使用新数据的重新训练管道。

Python 示例:无服务器推理处理程序

下面的代码展示了一个概念处理函数,该函数加载了一个轻量级Ultralytics 模型,以便在图像路径上执行对象检测。 对象检测。 事件触发器提供的图像路径上执行对象检测。

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for warm starts
# YOLO11n is chosen for its small size and speed, ideal for serverless environments
model = YOLO("yolo11n.pt")


def lambda_handler(event, context):
    """Simulated serverless handler for performing inference. 'event' contains the input data, e.g., path to an image.
    """
    image_path = event.get("image_path", "data/images/bus.jpg")

    # Run inference
    results = model(image_path)

    # Return the count of detected objects
    return {"status": "success", "objects_detected": len(results[0].boxes)}

实际应用

  1. 智能安防系统:家庭安防摄像头可利用 边缘人工智能来detect 运动并将快照上传至云 云端。这一上传事件会触发一个无服务器功能(例如,在 AWS LambdaGoogle 函数),运行更精确的检测模型 以识别运动是由人还是宠物引起的,从而减少误报。
  2. 农业分析:人工智能在农业中的应用 可以将数据上传到一个中央数据仓库。这将触发并行的无服务器功能,以同时分析成千上万张图像中的作物健康状况。 同时分析成千上万张图像,利用云的大规模并行性,在几分钟而不是几小时内完成工作。 而不是几小时。

区分相关概念

要了解无服务器的适用范围,就必须将其与类似技术区分开来:

  • 无服务器与容器化:无服务器通常在引擎盖下使用容器、 容器化技术,如 Docker和编排平台(如 Kubernetes等容器化技术要求用户管理容器 生命周期和集群资源。无服务器则完全抽象了这一点。
  • 无服务器计算与边缘计算: 边缘计算在本地设备(如嵌入式系统或物联网传感器)上处理数据 如嵌入式系统或物联网传感器)上处理数据,以尽量减少延迟。无服务器在集中式云 环境中进行。混合方法通常使用边缘设备进行即时过滤,使用无服务器进行重型 深度学习分析。
  • 无服务器与 PaaS: 平台即服务(PaaS) 平台即服务(PaaS)为构建应用程序提供了一个框架,但与无服务器的纯事件驱动特性相比,它往往涉及到更多关于实例数量或 与无服务器的纯事件驱动特性相比,PaaS 通常涉及更多有关实例数量或运行时环境的配置。

通过采用无服务器计算,企业可以部署强大的 的计算机视觉应用。 成本效益和全球规模,使基础设施支出与业务价值直接挂钩。

加入Ultralytics 社区

加入人工智能的未来。与全球创新者联系、协作和共同成长

立即加入