Máy tính không có máy chủ

Điện toán không máy chủ (serverless computing) là một mô hình thực thi đám mây, trong đó nhà cung cấp dịch vụ đám mây quản lý động việc phân bổ và cung cấp máy chủ. Phương pháp này cho phép các nhà phát triển xây dựng và chạy các ứng dụng và dịch vụ mà không cần quan tâm đến cơ sở hạ tầng máy chủ bên dưới. Thay vì cung cấp và quản lý máy chủ, các nhà phát triển triển khai mã của họ dưới dạng các hàm. Các hàm này được nhà cung cấp thực thi theo yêu cầu, tự động mở rộng quy mô từ vài yêu cầu mỗi ngày lên hàng nghìn yêu cầu mỗi giây. Mô hình trả tiền theo mức sử dụng này rất hiệu quả đối với các khối lượng công việc có lưu lượng biến đổi hoặc không thể đoán trước, một tình huống phổ biến trong các ứng dụng Học máy (ML) .

Cách thức hoạt động của máy tính không máy chủ

Cốt lõi của điện toán không máy chủ là mô hình Chức năng như một Dịch vụ (FaaS) . Trong thiết lập này, logic ứng dụng được chia thành các hàm nhỏ, có mục đích duy nhất, được kích hoạt bởi các sự kiện cụ thể. Một sự kiện có thể là một yêu cầu HTTP từ ứng dụng web, một tin nhắn mới trong hàng đợi hoặc một tệp đang được tải lên bộ nhớ đám mây.

Khi sự kiện kích hoạt xảy ra, nền tảng đám mây sẽ ngay lập tức thực thi chức năng tương ứng. Nền tảng này xử lý mọi khía cạnh của quản lý tài nguyên, bao gồm cung cấp phiên bản tính toán, quản lý hệ điều hành và đảm bảo tính khả dụng và khả năng mở rộng cao. Sau khi chức năng hoàn tất, tài nguyên sẽ được giải phóng. Điều này loại bỏ thời gian máy chủ nhàn rỗi và đảm bảo bạn chỉ phải trả tiền cho đúng tài nguyên tính toán mà ứng dụng của bạn sử dụng. Đây là nguyên tắc cơ bản của MLOps hiện đại.

Ứng dụng trong AI và Học máy

Kiến trúc không máy chủ đặc biệt phù hợp với nhiều giai đoạn khác nhau của vòng đời AI/ML, đặc biệt là đối với suy luận mô hình .

• Đường ống dữ liệu tự động: Các hàm không máy chủ có thể tự động hóa các tác vụ tiền xử lý dữ liệu . Ví dụ: một hàm có thể được kích hoạt mỗi khi một hình ảnh mới được tải lên dịch vụ lưu trữ như Amazon S3 . Sau đó, hàm này có thể tự động thay đổi kích thước hình ảnh, chuẩn hóa giá trị pixel và lưu trữ ở định dạng sẵn sàng cho việc huấn luyện mô hình.
• Phục vụ Mô hình Hiệu quả về Chi phí: Nhiều ứng dụng AI không yêu cầu xử lý liên tục, khối lượng lớn. Điểm cuối không máy chủ cho mô hình Thị giác Máy tính cho phép bạn triển khai các mô hình như Ultralytics YOLO mà không cần duy trì máy chủ hoạt động liên tục và thường tốn kém. Chức năng này khởi động theo yêu cầu để xử lý yêu cầu và tắt sau đó, giúp giảm đáng kể chi phí vận hành. Phương pháp này đơn giản hóa việc triển khai mô hình cho các ứng dụng có mô hình sử dụng không liên tục.

Ví dụ thực tế

1. Phân tích hình ảnh theo yêu cầu: Ứng dụng di động cho phép người dùng tải ảnh thực vật lên để nhận dạng. Mỗi ảnh tải lên sẽ kích hoạt một hàm không máy chủ thông qua API Gateway . Hàm này tải một mô hình phân loại ảnh, phân tích ảnh để nhận dạng loài thực vật và trả kết quả về ứng dụng của người dùng. Toàn bộ quá trình này diễn ra trong vài giây mà không cần máy chủ chuyên dụng.
2. Xử lý Chatbot theo thời gian thực: Trong chatbot dịch vụ khách hàng, mỗi tin nhắn của người dùng là một sự kiện kích hoạt một hàm không máy chủ. Hàm này gọi mô hình Xử lý ngôn ngữ tự nhiên (NLP) để hiểu ý định của người dùng. Dựa trên phân tích, một hàm khác có thể được kích hoạt để truy vấn cơ sở dữ liệu hoặc gọi một API khác, theo kiến trúc hướng sự kiện .

Serverless so với các khái niệm liên quan

Điều quan trọng là phải phân biệt điện toán không máy chủ với các công nghệ liên quan:

• Điện toán đám mây so với không máy chủ: Điện toán đám mây là việc cung cấp rộng rãi các dịch vụ điện toán qua internet. Không máy chủ là một mô hình thực thi cụ thể trong điện toán đám mây, nhấn mạnh vào việc quản lý tài nguyên tự động, trừu tượng hóa hoàn toàn việc quản lý máy chủ. Các mô hình đám mây khác như Cơ sở hạ tầng dưới dạng Dịch vụ (IaaS) vẫn yêu cầu người dùng cung cấp và quản lý máy ảo.
• Container hóa so với Serverless: Các công cụ container hóa như Docker đóng gói các ứng dụng và các phần phụ thuộc của chúng. Các nền tảng phối hợp như Kubernetes tự động hóa việc triển khai và mở rộng các container này. Mặc dù điều này giúp giảm gánh nặng vận hành, bạn vẫn quản lý được cơ sở hạ tầng cụm cơ bản. Các nền tảng Serverless trừu tượng hóa hoàn toàn lớp này; bạn chỉ quản lý mã chức năng. Xem cách sử dụng Docker với Ultralytics .
• Điện toán biên so với không máy chủ: Điện toán biên liên quan đến việc xử lý dữ liệu cục bộ trên các thiết bị gần nguồn dữ liệu. Ngược lại, điện toán không máy chủ chạy các chức năng trong các trung tâm dữ liệu đám mây tập trung. Hai công nghệ này có thể bổ sung cho nhau; một thiết bị AI biên (như thiết bị chạy trên NVIDIA Jetson ) có thể thực hiện lọc ban đầu và sau đó kích hoạt một chức năng không máy chủ trên đám mây để phân tích chuyên sâu hơn.

Các nền tảng không máy chủ hàng đầu bao gồm AWS Lambda , Google Cloud Functions và Azure Functions . Các dịch vụ này cung cấp cơ sở hạ tầng để xây dựng và vận hành hiệu quả các ứng dụng AI/ML không máy chủ. Các nền tảng như Ultralytics HUB có thể đơn giản hóa hơn nữa việc triển khai và quản lý các mô hình trong nhiều kiến trúc khác nhau, bao gồm cả các thiết lập không máy chủ.