Vận hành Máy học (MLOps)

Vận hành học máy (MLOps) là một tập hợp các phương pháp nhằm mục đích triển khai và duy trì các mô hình Học máy (ML) trong sản xuất một cách đáng tin cậy và hiệu quả. Lấy cảm hứng từ các nguyên tắc DevOps, MLOps áp dụng các khái niệm tương tự cho toàn bộ vòng đời mô hình AI, từ thu thập dữ liệu và huấn luyện mô hình đến triển khai và giám sát. Mục tiêu chính là tự động hóa và hợp lý hóa các quy trình liên quan đến việc đưa một mô hình ML từ một nguyên mẫu nghiên cứu thành một ứng dụng sản xuất mạnh mẽ, có khả năng mở rộng. Điều này đảm bảo rằng các mô hình không chỉ hoạt động tốt ban đầu mà còn duy trì hiệu quả theo thời gian khi có dữ liệu mới.

MLOps so với các khái niệm liên quan

Điều quan trọng là phải phân biệt MLOps với các khái niệm liên quan nhưng khác biệt:

• MLOps so với AutoML: Mặc dù chúng có thể hoạt động cùng nhau, nhưng trọng tâm của chúng khác nhau. Automated Machine Learning (AutoML) tập trung vào việc tự động hóa quy trình tạo mô hình, chẳng hạn như tiền xử lý dữ liệu, feature engineering và điều chỉnh siêu tham số. Mặt khác, MLOps bao gồm toàn bộ vòng đời, bao gồm những gì xảy ra sau khi mô hình được xây dựng, như triển khai mô hình, giám sát và quản trị. AutoML có thể được coi là một công cụ trong một framework MLOps lớn hơn, giúp tăng tốc giai đoạn phát triển.
• MLOps so với DevOps: MLOps là một chuyên môn hóa của DevOps được điều chỉnh cho các nhu cầu riêng của machine learning. Trong khi DevOps tập trung vào việc tự động hóa việc phân phối phần mềm thông qua Tích hợp liên tục và Triển khai liên tục (CI/CD), MLOps mở rộng mô hình này để bao gồm các pipeline dữ liệu và mô hình. Nó giải quyết các thách thức thường không thấy trong phát triển phần mềm truyền thống, chẳng hạn như data drift, kiểm soát phiên bản mô hình và nhu cầu tái huấn luyện liên tục.

Các Ứng dụng Thực tế

Các phương pháp MLOps rất cần thiết để quản lý các hệ thống ML phức tạp trong môi trường sản xuất.

1. Hệ thống đề xuất: Các công ty như Netflix hoặc Spotify sử dụng MLOps để liên tục tái huấn luyện các mô hình hệ thống đề xuất của họ dựa trên dữ liệu tương tác mới của người dùng. Các quy trình MLOps cho phép họ thử nghiệm A/B các phiên bản mô hình khác nhau, theo dõi các số liệu tương tác và nhanh chóng hoàn nguyên các mô hình hoạt động kém hiệu quả, đảm bảo các đề xuất luôn mới mẻ và được cá nhân hóa.
2. Phát hiện gian lận: Các tổ chức tài chính triển khai MLOps để quản lý các mô hình phát hiện gian lận. Điều này bao gồm giám sát dữ liệu giao dịch để tìm các mẫu hoạt động gian lận mới, tự động huấn luyện lại các mô hình bằng dữ liệu mới, đảm bảo độ trễ suy luận thấp để phát hiện theo thời gian thực và duy trì dấu vết kiểm toán để tuân thủ quy định. Các mô hình Ultralytics YOLO được sử dụng trong các hệ thống kiểm tra trực quan, có thể cung cấp dữ liệu cho việc phát hiện gian lận, cũng được hưởng lợi từ MLOps để triển khai và giám sát trên thiết bị biên.

Công cụ và Nền tảng

Nhiều công cụ hỗ trợ các giai đoạn khác nhau của vòng đời MLOps, cho phép các nhóm xây dựng quy trình làm việc hiệu quả và có khả năng mở rộng.

• Theo dõi thử nghiệm & Kiểm soát phiên bản: MLflow, Weights & Biases và Data Version Control (DVC) là những công cụ phổ biến để theo dõi các thử nghiệm và kiểm soát phiên bản dữ liệu và mô hình. Ultralytics cung cấp tích hợp gốc với nhiều công cụ này, bao gồm Weights & Biases.
• Điều phối quy trình làm việc: Các công cụ như Kubeflow Pipelines và Apache Airflow giúp tự động hóa và quản lý các quy trình làm việc ML phức tạp.
• Phục vụ mô hình (Model Serving): Để triển khai mô hình ở quy mô lớn, các nền tảng như KServe, BentoML và NVIDIA Triton Inference Server được sử dụng rộng rãi. Các mô hình Ultralytics có thể được xuất sang các định dạng như ONNX để tương thích với các máy chủ này.
• Giám sát: Grafana và Prometheus thường được sử dụng để tạo bảng điều khiển để giám sát hiệu suất mô hình và tình trạng hệ thống.
• Nền tảng End-to-End: Các nền tảng toàn diện như Amazon SageMaker, Google Cloud AI Platform, Microsoft Azure Machine Learning và Ultralytics HUB cung cấp các môi trường tích hợp bao gồm hầu hết, nếu không phải tất cả, các giai đoạn MLOps, từ quản lý dữ liệu đến triển khai và giám sát mô hình. Các nền tảng này tận dụng điện toán đám mây để cung cấp các tài nguyên có khả năng mở rộng để huấn luyện các mô hình tùy chỉnh.