Serverless Computing

Điện toán không máy chủ là một mô hình thực thi trên cloud, cho phép developer xây dựng và chạy ứng dụng mà không phải xử lý sự phức tạp của việc quản lý hạ tầng. Trong mô hình này, nhà cung cấp cloud tự động quản lý việc phân bổ và provisioning server, tách phần cứng và hệ điều hành nền tảng khỏi người dùng. Code được thực thi trong các container stateless, được kích hoạt bởi những sự kiện cụ thể như HTTP request, thay đổi cơ sở dữ liệu hoặc tải tệp lên. Phương pháp này đặc biệt phù hợp với các chiến lược điện toán đám mây hiện đại, vì cho phép tổ chức chỉ trả phí cho thời gian compute đã sử dụng và tự động đáp ứng các yêu cầu về khả năng mở rộng bằng cách tăng từ 0 lên hàng nghìn instance dựa trên nhu cầu lưu lượng truy cập.

Cơ chế hoạt động của điện toán không máy chủ cho AI#

Nền tảng của điện toán không máy chủ là khái niệm Dịch vụ hàm (FaaS), trong đó ứng dụng được chia thành các hàm riêng lẻ thực hiện những tác vụ độc lập. Đối với các chuyên gia Học máy (ML), mô hình này cung cấp một quy trình tinh gọn để triển khai model. Thay vì duy trì một server riêng luôn ở trạng thái idle trong những giai đoạn lưu lượng thấp, hàm không máy chủ có thể được khởi chạy theo nhu cầu để xử lý dữ liệu và tắt ngay sau đó.

Tuy nhiên, một yếu tố quan trọng cần cân nhắc trong kiến trúc này là "cold start"—độ trễ phát sinh khi một hàm được gọi lần đầu hoặc sau một khoảng thời gian không hoạt động. Để giảm thiểu vấn đề này, developer thường sử dụng các kiến trúc nhẹ như YOLO26 hoặc các kỹ thuật như lượng tử hóa model nhằm bảo đảm thời gian tải nhanh, yếu tố thiết yếu để duy trì độ trễ suy luận thấp.

Các ứng dụng thực tế trong machine learning#

Kiến trúc không máy chủ đặc biệt hiệu quả đối với các workflow và pipeline dữ liệu thị giác máy tính (CV) dựa trên sự kiện.

• Tiền xử lý dữ liệu tự động: Khi người dùng tải một dataset thô lên dịch vụ lưu trữ như Amazon S3, sự kiện này có thể kích hoạt một hàm không máy chủ để thực hiện ngay việc tiền xử lý dữ liệu. Hàm này có thể thay đổi kích thước ảnh, chuẩn hóa giá trị pixel hoặc kiểm tra định dạng tệp trước khi dữ liệu đi vào pipeline dữ liệu huấn luyện, bảo đảm tính nhất quán mà không cần can thiệp thủ công.
• Giám sát thông minh theo nhu cầu: Trong AI trong an ninh, cảm biến chuyển động có thể kích hoạt camera chụp một frame. Sự kiện này gọi một cloud function lưu trữ model phát hiện đối tượng. Model phân tích ảnh để phân biệt giữa một động vật vô hại và kẻ xâm nhập tiềm tàng, chỉ gửi cảnh báo khi cần thiết. So với việc streaming liên tục, cách này giúp giảm đáng kể chi phí băng thông và lưu trữ.

Ví dụ Python: Trình xử lý suy luận không máy chủ#

Đoạn code sau minh họa một trình xử lý không máy chủ mang tính khái niệm. Trình xử lý khởi tạo một instance model toàn cục để tận dụng "warm starts" (khi container vẫn hoạt động giữa các request) và xử lý đường dẫn ảnh đầu vào.

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for subsequent requests
# YOLO26n is ideal for serverless due to its compact size and speed
model = YOLO("yolo26n.pt")


def lambda_handler(event, context):
    """Simulates a serverless function handler triggered by an event. 'event' represents the input payload containing
    the image source.
    """
    image_source = event.get("url", "https://ultralytics.com/images/bus.jpg")

    # Perform inference
    results = model(image_source)

    # Return prediction summary
    return {
        "statusCode": 200,
        "body": {
            "objects_detected": len(results[0].boxes),
            "top_class": results[0].names[int(results[0].boxes.cls[0])] if len(results[0].boxes) > 0 else "None",
        },
    }

Phân biệt các công nghệ liên quan#

Để hiểu điện toán không máy chủ, cần phân biệt mô hình này với các mô hình hạ tầng khác thường được sử dụng trong MLOps.

• Không máy chủ và điện toán biên: Mặc dù cả hai đều hướng đến việc tối ưu hiệu quả, chúng hoạt động ở các vị trí khác nhau. Điện toán biên xử lý dữ liệu cục bộ trên thiết bị (ví dụ: camera thông minh hoặc thiết bị IoT) để giảm thời gian truyền qua mạng. Điện toán không máy chủ diễn ra trên một cloud công cộng tập trung. Các giải pháp hybrid thường xử lý dữ liệu ban đầu tại biên rồi gửi những điểm bất thường phức tạp đến các cloud function không máy chủ để phân tích ảnh y khoa chuyên sâu hơn hoặc phục vụ việc xem xét pháp y.
• Không máy chủ và Kubernetes: Kubernetes là một nền tảng orchestration cho container hóa, cung cấp cho developer quyền kiểm soát chi tiết đối với môi trường cluster, networking và pod. Dù mạnh mẽ, nền tảng này đòi hỏi đáng kể công sức quản lý. Các nền tảng không máy chủ như Google Cloud Functions hoặc Azure Functions hoàn toàn trừu tượng hóa hoạt động orchestration này, cho phép các team chỉ tập trung vào logic code thay vì tình trạng của các node.
• Không máy chủ và IaaS: Hạ tầng dưới dạng dịch vụ (IaaS) cung cấp tài nguyên compute được ảo hóa qua internet, chẳng hạn như Amazon EC2. Với IaaS, người dùng chịu trách nhiệm patch hệ điều hành và quản lý middleware. Ngược lại, điện toán không máy chủ loại bỏ các trách nhiệm vận hành này, cho phép developer tập trung vào những tác vụ cấp cao hơn như cải thiện độ chính xác của phân loại ảnh.

Bằng cách tận dụng kiến trúc không máy chủ, developer có thể triển khai các giải pháp AI mạnh mẽ, tiết kiệm chi phí và có khả năng xử lý workload không thể dự đoán, đồng thời sử dụng các công cụ như Ultralytics Platform để tinh gọn quy trình huấn luyện và quản lý model trước khi triển khai.