Machine Learning Operations (MLOps)

Vận hành Học máy (MLOps) là một tập hợp các thực hành, nguyên tắc và công nghệ giúp hợp lý hóa quy trình đưa các mô hình học máy (ML) từ giai đoạn phát triển thử nghiệm sang triển khai sản xuất đáng tin cậy. Bằng cách kết hợp bản chất khám phá của khoa học dữ liệu với kỷ luật nghiêm ngặt của DevOps, MLOps hướng tới việc thống nhất chu kỳ phát hành cho các ứng dụng Trí tuệ nhân tạo (AI). Trong khi phát triển phần mềm truyền thống tập trung chủ yếu vào quản lý phiên bản mã nguồn, MLOps đưa thêm sự phức tạp vào việc quản lý dữ liệu quy mô lớn và các hành vi mô hình thay đổi theo thời gian. Phương pháp tiếp cận toàn diện này đảm bảo rằng các hệ thống AI luôn có thể mở rộng, chính xác và được kiểm soát trong suốt toàn bộ vòng đời của chúng.

Link to this sectionCác trụ cột của MLOps#

Các triển khai MLOps thành công dựa vào việc thu hẹp khoảng cách giữa ba lĩnh vực riêng biệt: kỹ thuật dữ liệu, học máy và DevOps.

• Tích hợp và Chuyển giao liên tục (CI/CD): Giống như phần mềm tiêu chuẩn sử dụng các CI/CD pipeline để tự động hóa thử nghiệm và triển khai, các pipeline MLOps tự động hóa việc huấn luyện và xác thực mô hình. Điều này đảm bảo rằng các thay đổi đối với mã hoặc dữ liệu sẽ tự động kích hoạt các bước xác minh hiệu suất mô hình trước khi các bản cập nhật được đưa vào sản xuất.
• Quản lý phiên bản Dữ liệu và Mô hình: Trong lập trình truyền thống, bạn chỉ quản lý phiên bản cho mã nguồn. Trong MLOps, các nhóm phải sử dụng các công cụ như DVC (Data Version Control) để theo dõi các thay đổi trong dữ liệu huấn luyện cùng với các siêu tham số của mô hình. Điều này đảm bảo tính có thể tái lập, cho phép các kỹ sư tạo lại bất kỳ phiên bản mô hình cụ thể nào từ lịch sử.
• Giám sát liên tục: Sau khi triển khai, các mô hình có thể suy giảm hiệu suất do concept drift, khi các đặc tính thống kê của biến mục tiêu thay đổi theo thời gian. MLOps liên quan đến việc thiết lập các hệ thống quan sát để theo dõi các chỉ số như độ trễ suy luận và độ chính xác, tự động cảnh báo cho các nhóm khi cần huấn luyện lại.

Link to this sectionCác ứng dụng trong thực tế#

MLOps là xương sống của AI doanh nghiệp hiện đại, cho phép các công ty mở rộng từ một mô hình đơn lẻ lên hàng nghìn endpoint được triển khai một cách đáng tin cậy.

1. Bảo trì dự đoán trong sản xuất: Các nhà máy sử dụng thị giác máy tính để nhận diện lỗi trên dây chuyền lắp ráp. Một pipeline MLOps đảm bảo rằng khi các dòng sản phẩm mới được giới thiệu, các mô hình phát hiện đối tượng được huấn luyện lại với hình ảnh mới, được phiên bản hóa và tự động triển khai tới các thiết bị edge của nhà máy mà không gây gián đoạn. Điều này đảm bảo kiểm tra chất lượng duy trì tính nhất quán ngay cả khi điều kiện sản xuất thay đổi.

2. Quản lý hàng tồn kho bán lẻ thông minh: Các nhà bán lẻ triển khai camera để theo dõi hàng hóa trên kệ. Vì ánh sáng trong cửa hàng và bao bì sản phẩm thay đổi thường xuyên, model drift là một rủi ro thường trực. Các hệ thống MLOps giám sát các điểm số độ tin cậy; nếu độ tin cậy giảm, hệ thống sẽ gắn cờ các hình ảnh để gán nhãn và khởi tạo chu kỳ huấn luyện lại trên đám mây, sau đó đẩy một mô hình đã cập nhật tới các cửa hàng để duy trì quản lý hàng tồn kho tự động.

Link to this sectionTriển khai MLOps với Ultralytics#

Một bước quan trọng trong bất kỳ quy trình làm việc MLOps nào là theo dõi thử nghiệm. Điều này đảm bảo rằng mỗi lần chạy huấn luyện đều được ghi lại với cấu hình cụ thể của nó, cho phép các nhóm tái lập kết quả hoặc quay trở lại các phiên bản trước đó nếu cần.

Ví dụ sau đây minh họa cách huấn luyện một mô hình YOLO26—mô hình tiên tiến nhất mới nhất từ Ultralytics được khuyến nghị cho tất cả các dự án mới—trong khi vẫn cho phép theo dõi dự án. Điều này tự nhiên tạo ra các artifact cần thiết cho một pipeline sản xuất.

from ultralytics import YOLO

# Load the YOLO26 model (recommended for superior speed and accuracy)
model = YOLO("yolo26n.pt")

# Train the model while specifying project and name for organized logging
# This creates a structured directory of artifacts (weights, charts, args)
# which is essential for reproducibility in MLOps pipelines.
results = model.train(data="coco8.yaml", epochs=10, project="mlops_experiments", name="run_v1")

Bằng cách sắp xếp các lượt chạy huấn luyện vào các dự án cụ thể, các nhóm có thể dễ dàng tích hợp các công cụ như MLflow hoặc TensorBoard để trực quan hóa các chỉ số hiệu suất theo thời gian. Khi các tổ chức mở rộng quy mô, họ thường di chuyển các quy trình làm việc này sang Ultralytics Platform, nền tảng cung cấp giao diện thống nhất để quản lý tập dữ liệu, huấn luyện từ xa và triển khai các mô hình sang nhiều định dạng khác nhau như TensorRT để tối ưu hóa tốc độ suy luận.

Link to this sectionMLOps so với các khái niệm liên quan#

Để triển khai các thực hành này một cách hiệu quả, điều quan trọng là phải phân biệt MLOps với các thuật ngữ liên quan trong hệ sinh thái.

• MLOps so với DevOps: DevOps tập trung vào việc chuyển giao liên tục các ứng dụng phần mềm. MLOps mở rộng các nguyên tắc này bằng cách thêm "Dữ liệu" và "Mô hình" thành các thành phần hạng nhất. Trong DevOps, một thay đổi mã kích hoạt một bản dựng; trong MLOps, một thay đổi trong phân phối dữ liệu hoặc sự sụt giảm về độ chính xác cũng có thể kích hoạt việc thực thi một pipeline mới.
• MLOps so với Model Serving: Model serving đề cập cụ thể đến cơ sở hạ tầng được sử dụng để lưu trữ một mô hình và xử lý các yêu cầu suy luận. MLOps là phạm vi rộng hơn bao gồm cả việc serving, nhưng cũng bao gồm các giai đoạn huấn luyện, quản trị và giám sát.
• MLOps so với AutoML: Học máy tự động (AutoML) tập trung vào việc tự động hóa quy trình tạo mô hình (ví dụ: chọn thuật toán). MLOps quản lý vòng đời của mô hình đó sau khi nó đã được tạo và vận hành hóa pipeline chạy các công cụ AutoML.