Bảng chú giải thuật ngữ

Khả Năng Mở Rộng

Khám phá cách khả năng mở rộng trong AI và ML đảm bảo hiệu suất, khả năng thích ứng và hiệu quả nhất quán cho các ứng dụng trong thế giới thực như Ultralytics YOLO .

Trong Trí tuệ Nhân tạo (AI) và Học máy (ML) , khả năng mở rộng đề cập đến khả năng xử lý khối lượng công việc ngày càng tăng của hệ thống—chẳng hạn như khối lượng dữ liệu tăng, lưu lượng người dùng hoặc độ phức tạp tính toán—mà không ảnh hưởng đến hiệu suất. Một kiến trúc có khả năng mở rộng đảm bảo rằng khi nhu cầu tăng lên, hệ thống có thể thích ứng bằng cách sử dụng nhiều tài nguyên hơn hoặc tối ưu hóa các tài nguyên hiện có để duy trì độ trễ suy luận thấp và thông lượng cao. Cho dù triển khai mô hình thị giác máy tính trên một thiết bị biên đơn lẻ hay phục vụ hàng triệu yêu cầu qua đám mây, thiết kế để mở rộng quy mô là nền tảng cho sự thành công lâu dài của bất kỳ ứng dụng AI nào.

Tại sao khả năng mở rộng lại quan trọng trong AI

Khả năng mở rộng là nền tảng của các Hoạt động Học máy (MLOps) mạnh mẽ. Nếu không có nó, một mô hình hoạt động đặc biệt tốt trong giai đoạn tạo mẫu có thể gặp lỗi khi tiếp xúc với luồng dữ liệu tốc độ cao thường thấy trong môi trường sản xuất. Việc quản lý Dữ liệu lớn hiệu quả đòi hỏi các hệ thống có thể mở rộng theo chiều ngang (thêm máy) hoặc theo chiều dọc (thêm sức mạnh cho các máy hiện có).

Các lợi ích chính bao gồm:

Độ tin cậy: Đảm bảo thời gian hoạt động của dịch vụ ổn định trong thời gian lưu lượng truy cập tăng đột biến.
Hiệu quả về chi phí: Cho phép giảm quy mô tài nguyên trong thời gian sử dụng thấp, thường được quản lý bởi các dịch vụ điện toán đám mây .
Chống lỗi thời: Hỗ trợ các thuật toán mới hơn, phức tạp hơn như máy biến áp mà không cần phải thay đổi toàn bộ cơ sở hạ tầng.

Chiến lược để đạt được khả năng mở rộng

Việc tạo ra các giải pháp AI có khả năng mở rộng liên quan đến việc tối ưu hóa cả kiến trúc mô hình và cơ sở hạ tầng triển khai.

Đào tạo Phân tán: Khi bộ dữ liệu trở nên quá lớn đối với một bộ xử lý duy nhất, đào tạo phân tán sẽ chia nhỏ khối lượng công việc trên nhiều GPU hoặc TPU. Các nền tảng như PyTorch Distributed cho phép các nhà phát triển song song hóa các phép tính, giảm đáng kể thời gian đào tạo.
Kiến trúc Mô hình Hiệu quả: Việc lựa chọn đúng mô hình là rất quan trọng. Ultralytics YOLO11 được thiết kế gọn nhẹ và nhanh chóng, cho phép mở rộng cao trên nhiều loại phần cứng khác nhau, từ thiết bị AI biên đến máy chủ doanh nghiệp.
Container hóa và điều phối: Đóng gói ứng dụng với Docker đảm bảo chúng chạy nhất quán trên nhiều môi trường. Để quản lý các cụm container lớn, Kubernetes tự động hóa việc triển khai và mở rộng, xử lý việc phân bổ tài nguyên một cách linh hoạt.
Tối ưu hóa mô hình: Các kỹ thuật như lượng tử hóa và cắt tỉa mô hình giúp giảm thiểu dung lượng bộ nhớ và yêu cầu tính toán của mô hình. Các công cụ như NVIDIA TensorRT có thể tăng tốc suy luận hơn nữa, cho phép tăng thông lượng trên phần cứng hiện có.

Ví dụ mã: Suy luận hàng loạt

Một cách đơn giản để cải thiện khả năng mở rộng trong quá trình suy luận là xử lý đầu vào theo từng đợt thay vì tuần tự. Điều này tối đa hóa GPU sử dụng và tăng thông lượng.

from ultralytics import YOLO

# Load a scalable YOLO11 model
model = YOLO("yolo11n.pt")

# Define a batch of images (URLs or local paths)
# Processing multiple images at once leverages parallel computation
batch_images = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]

# Run inference on the batch
results = model(batch_images)

# Results contain predictions for both images
print(f"Processed {len(results)} images.")

Các Ứng dụng Thực tế

Khả năng mở rộng cho phép AI chuyển đổi từ phòng thí nghiệm nghiên cứu sang các ngành công nghiệp toàn cầu.

Sản xuất Thông minh: Trong ứng dụng AI trong sản xuất , hệ thống phải kiểm tra hàng nghìn linh kiện mỗi giờ trên dây chuyền lắp ráp. Một hệ thống phát hiện vật thể có khả năng mở rộng đảm bảo rằng khi tốc độ sản xuất tăng lên, quy trình kiểm soát chất lượng vẫn duy trì độ chính xác cao mà không bị tắc nghẽn.
Đề xuất thương mại điện tử: Các nền tảng bán lẻ lớn sử dụng hệ thống đề xuất để cung cấp hàng triệu gợi ý được cá nhân hóa ngay lập tức. Việc sử dụng cơ sở hạ tầng có khả năng mở rộng cho phép các nền tảng này xử lý các sự kiện như Black Friday, nơi lưu lượng truy cập có thể tăng vọt gấp 100 lần, bằng cách tự động cung cấp thêm các nút máy chủ thông qua Amazon Web Services (AWS) .