Điện toán Serverless

Điện toán không máy chủ (serverless computing) là một mô hình thực thi đám mây, trong đó nhà cung cấp dịch vụ đám mây quản lý động việc phân bổ và cung cấp máy chủ, cho phép các nhà phát triển xây dựng và chạy ứng dụng mà không cần quản lý cơ sở hạ tầng nền tảng. Trong kiến trúc này, mã được thực thi trong các container không trạng thái, được kích hoạt bởi các sự kiện cụ thể, tự động mở rộng quy mô từ 0 đến hàng nghìn yêu cầu ngay lập tức. Mô hình trả tiền theo mức sử dụng này cực kỳ hiệu quả đối với các khối lượng công việc có lưu lượng biến đổi, trở thành nền tảng của phát triển ứng dụng Học máy (ML) hiện đại và các chiến lược Điện toán đám mây .

Cơ chế của Serverless

Cốt lõi của điện toán không máy chủ là mô hình Chức năng như một Dịch vụ (FaaS) . Thay vì triển khai một ứng dụng nguyên khối, logic được chia nhỏ thành các hàm riêng lẻ thực hiện các tác vụ đơn lẻ. Các hàm này được điều khiển theo sự kiện, nghĩa là chúng chỉ chạy khi được kích hoạt bởi một hành động, chẳng hạn như yêu cầu HTTP qua API Gateway , tải tệp lên các dịch vụ lưu trữ như Amazon S3 hoặc cập nhật cơ sở dữ liệu.

Nhà cung cấp đám mây xử lý toàn bộ chi phí vận hành, bao gồm bảo trì hệ điều hành, cung cấp dung lượng và khả năng mở rộng . Sự trừu tượng hóa này cho phép các nhóm tập trung hoàn toàn vào việc viết mã cho thị giác máy tính hoặc phân tích dữ liệu, giúp tăng tốc đáng kể vòng đời phát triển được xác định bởi các phương pháp hay nhất của MLOps .

Không máy chủ trong AI và Học máy

Kiến trúc không máy chủ đặc biệt có lợi thế khi triển khai các mô hình AI do khả năng xử lý các mẫu lưu lượng "bùng nổ" mà không phải chịu chi phí cho các máy chủ nhàn rỗi.

• Suy luận theo yêu cầu: Việc lưu trữ mô hình để suy luận theo thời gian thực trên máy chủ chuyên dụng có thể tốn kém nếu các yêu cầu không thường xuyên. Các hàm không máy chủ chỉ có thể tải một mô hình như YOLO11 khi người dùng đưa ra yêu cầu, xử lý hình ảnh và trả về dự đoán một cách hiệu quả về mặt chi phí.
• Quy trình tiền xử lý dữ liệu: Các hàm không máy chủ lý tưởng cho các tác vụ tiền xử lý dữ liệu . Ví dụ: việc tải lên một tập dữ liệu thô có thể kích hoạt các hàm để thay đổi kích thước hình ảnh, chuẩn hóa giá trị pixel hoặc chuyển đổi định dạng tệp, chuẩn bị chúng cho quá trình huấn luyện mô hình .
• Đào tạo lại mô hình: Trong quy trình làm việc theo sự kiện, hiệu suất mô hình giảm đáng kể được phát hiện bởi các công cụ giám sát có thể tự động kích hoạt quy trình đào tạo lại bằng cách sử dụng dữ liệu mới.

Python Ví dụ: Trình xử lý suy luận không có máy chủ

Đoạn mã sau minh họa một hàm xử lý khái niệm tải một tệp nhẹ Ultralytics mô hình thực hiện phát hiện đối tượng trên đường dẫn hình ảnh được cung cấp bởi trình kích hoạt sự kiện.

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for warm starts
# YOLO11n is chosen for its small size and speed, ideal for serverless environments
model = YOLO("yolo11n.pt")


def lambda_handler(event, context):
    """Simulated serverless handler for performing inference. 'event' contains the input data, e.g., path to an image.
    """
    image_path = event.get("image_path", "data/images/bus.jpg")

    # Run inference
    results = model(image_path)

    # Return the count of detected objects
    return {"status": "success", "objects_detected": len(results[0].boxes)}

Các Ứng dụng Thực tế

1. Hệ thống an ninh thông minh: Camera an ninh gia đình có thể sử dụng Edge AI để detect chuyển động và tải ảnh chụp nhanh lên đám mây. Sự kiện tải lên này kích hoạt một hàm không máy chủ (ví dụ: trên AWS Lambda hoặc Google Cloud Functions ) chạy mô hình phát hiện chính xác hơn để xác định xem chuyển động là do người hay thú cưng gây ra, giúp giảm thiểu báo động giả.
2. Phân tích Nông nghiệp: Trong AI trong Nông nghiệp , máy bay không người lái chụp ảnh thực địa có thể tải dữ liệu lên một kho dữ liệu trung tâm. Điều này kích hoạt các hàm không máy chủ song song để phân tích sức khỏe cây trồng trên hàng nghìn hình ảnh cùng lúc, tận dụng tính song song khổng lồ của đám mây để hoàn thành công việc chỉ trong vài phút thay vì hàng giờ.

Phân biệt các khái niệm liên quan

Để hiểu được vị trí phù hợp của công nghệ không máy chủ, cần phân biệt nó với các công nghệ tương tự:

• Serverless so với Containerization: Mặc dù serverless thường sử dụng container ngầm, nhưng các công nghệ container hóa như Docker và các nền tảng điều phối như Kubernetes yêu cầu người dùng quản lý vòng đời container và tài nguyên cụm. Serverless trừu tượng hóa hoàn toàn việc này.
• Điện toán không máy chủ so với điện toán biên: Điện toán biên xử lý dữ liệu cục bộ trên thiết bị (ví dụ: hệ thống nhúng hoặc cảm biến IoT) để giảm thiểu độ trễ. Điện toán không máy chủ diễn ra trong môi trường đám mây tập trung. Các phương pháp kết hợp thường sử dụng thiết bị biên để lọc tức thời và không máy chủ để phân tích học sâu chuyên sâu.
• Không máy chủ so với PaaS: Nền tảng dưới dạng dịch vụ (PaaS) cung cấp một khuôn khổ để xây dựng ứng dụng nhưng thường liên quan đến nhiều cấu hình hơn về số lượng phiên bản hoặc môi trường thời gian chạy so với bản chất hoàn toàn dựa trên sự kiện của không máy chủ.

Bằng cách áp dụng điện toán không máy chủ, các tổ chức có thể triển khai các ứng dụng thị giác máy tính mạnh mẽ, vừa tiết kiệm chi phí vừa có khả năng mở rộng toàn cầu, điều chỉnh chi tiêu cho cơ sở hạ tầng phù hợp trực tiếp với giá trị kinh doanh.