Khả năng mở rộng

Trong trí tuệ nhân tạo (AI) và học máy (ML), khả năng mở rộng đề cập đến khả năng xử lý hiệu quả khối lượng công việc ngày càng tăng của hệ thống hoặc tiềm năng mở rộng của hệ thống để đáp ứng sự tăng trưởng đó. Một hệ thống có khả năng mở rộng có thể duy trì hoặc cải thiện mức hiệu suất, chẳng hạn như thông lượng hoặc độ trễ suy luận , khi được kiểm tra bởi các yêu cầu vận hành lớn hơn. Những yêu cầu này có thể đến từ việc tăng khối lượng dữ liệu, số lượng người dùng đồng thời hoặc độ phức tạp của các tác vụ tính toán, chẳng hạn như chuyển từ phát hiện đối tượng đơn giản sang phân đoạn thực thể phức tạp.

Tại sao khả năng mở rộng lại quan trọng?

Khả năng mở rộng là một yếu tố kiến trúc quan trọng để xây dựng các hệ thống AI mạnh mẽ và sẵn sàng cho tương lai. Nếu không có nó, một mô hình hoạt động tốt trong quá trình tạo mẫu có thể thất bại trong môi trường sản xuất. Những lý do chính cho tầm quan trọng của nó bao gồm việc xử lý khối lượng dữ liệu ngày càng tăng ( Dữ liệu lớn ), hỗ trợ cơ sở người dùng ngày càng mở rộng và thích ứng với các vấn đề phức tạp hơn mà không cần thiết kế lại toàn bộ hệ thống. Thiết kế cho khả năng mở rộng ngay từ đầu đảm bảo rằng ứng dụng AI luôn đáng tin cậy, tiết kiệm chi phí và duy trì trải nghiệm người dùng tích cực khi phát triển. Đây là nguyên tắc cốt lõi của Vận hành Máy học (MLOps) hiệu quả.

Làm thế nào để đạt được khả năng mở rộng

Việc xây dựng các hệ thống AI có khả năng mở rộng đòi hỏi sự kết hợp các chiến lược giải quyết vấn đề xử lý dữ liệu, đào tạo mô hình và triển khai.

• Hệ thống phân tán: Đối với các tập dữ liệu lớn và mô hình phức tạp, đào tạo phân tán sẽ phân bổ tải tính toán trên nhiều bộ xử lý hoặc máy móc. Các nền tảng như Apache Spark và các công nghệ như song song dữ liệu và song song mô hình là nền tảng cho phương pháp này.
• Kiến trúc Mô hình Hiệu quả: Việc lựa chọn kiến trúc mô hình ảnh hưởng đáng kể đến khả năng mở rộng. Các mô hình như Ultralytics YOLO11 được thiết kế để mang lại sự cân bằng mạnh mẽ giữa độ chính xác và tốc độ, cho phép chúng mở rộng hiệu quả từ các thiết bị biên nhẹ đến các máy chủ đám mây mạnh mẽ.
• Điện toán đám mây và Container hóa: Các nền tảng điện toán đám mây như Amazon Web Services (AWS) và Google Cloud cung cấp tài nguyên linh hoạt có thể mở rộng theo nhu cầu. Các công nghệ container hóa như Docker và các nền tảng điều phối như Kubernetes giúp đơn giản hóa việc triển khai mô hình và giúp việc mở rộng quy mô dễ dàng hơn.
• Tối ưu hóa mô hình: Các kỹ thuật cải thiện hiệu quả mô hình, chẳng hạn như lượng tử hóa mô hình và cắt tỉa mô hình , giúp giảm tài nguyên tính toán cần thiết cho suy luận, điều này rất quan trọng đối với khả năng mở rộng.

Ứng dụng trong thế giới thực

1. Trí tuệ nhân tạo trong bán lẻ: Một nền tảng thương mại điện tử sử dụng hệ thống đề xuất để gợi ý sản phẩm cho hàng triệu người dùng. Hệ thống phải có khả năng mở rộng để xử lý lưu lượng truy cập tăng đột biến trong các sự kiện bán hàng, xử lý danh mục sản phẩm liên tục phát triển và tích hợp hành vi người dùng theo thời gian thực. Điều này đòi hỏi một kiến trúc có khả năng mở rộng, có thể xử lý cả khối lượng yêu cầu lớn và lượng dữ liệu khổng lồ.
2. Sản xuất Thông minh: Trong một nhà máy, hệ thống thị giác máy tính thực hiện kiểm soát chất lượng trên dây chuyền sản xuất . Khi nhà máy tăng sản lượng, hệ thống thị giác phải mở rộng quy mô để phân tích nhiều sản phẩm hơn mỗi phút mà không ảnh hưởng đến độ chính xác. Một hệ thống có khả năng mở rộng như hệ thống được hỗ trợ bởi YOLO11 có thể xử lý khối lượng sản xuất ngày càng tăng và đảm bảo suy luận nhất quán theo thời gian thực .

Khả năng mở rộng so với các khái niệm liên quan

Điều quan trọng là phải phân biệt khả năng mở rộng với các thuật ngữ tương tự:

• Hiệu suất: Hiệu suất thường đề cập đến mức độ hệ thống thực hiện các tác vụ tốt như thế nào dưới một tải trọng cụ thể , thường được đo bằng các số liệu như tốc độ hoặc độ chính xác . Tuy nhiên, khả năng mở rộng tập trung vào khả năng duy trì hoặc điều chỉnh hiệu suất một cách linh hoạt của hệ thống khi tải trọng tăng lên. Một hệ thống có thể có hiệu suất cao ở mức tải thấp nhưng khả năng mở rộng kém nếu nó suy giảm nhanh chóng dưới tải trọng cao hơn.
• Hiệu suất: Hiệu suất liên quan đến việc sử dụng tối ưu các tài nguyên (như tính toán, bộ nhớ, năng lượng) để thực hiện một tác vụ. Mặc dù các hệ thống có khả năng mở rộng thường được thiết kế để đạt hiệu suất cao, nhưng khả năng mở rộng tập trung vào việc xử lý sự gia tăng khối lượng công việc, trong khi hiệu suất tập trung vào việc tiêu thụ tài nguyên ở bất kỳ quy mô nào. Các kỹ thuật tối ưu hóa mô hình hỗ trợ khả năng mở rộng bằng cách cải thiện hiệu suất.
• Tính linh hoạt/Tính đa năng: Tính linh hoạt đề cập đến khả năng thích ứng của hệ thống với các tác vụ, kiểu dữ liệu hoặc yêu cầu khác nhau. Ví dụ, Ultralytics YOLOv8 rất linh hoạt vì nó hỗ trợ phát hiện, phân đoạn, phân loại và ước tính tư thế. Ngược lại, khả năng mở rộng là về việc xử lý sự gia tăng về khối lượng hoặc độ phức tạp của công việc, không phải loại công việc.