Hoạt động học máy (MLOps)

Vận hành Học Máy (MLOps) là một tập hợp các phương pháp nhằm triển khai và duy trì các mô hình Học Máy (ML) trong môi trường sản xuất một cách đáng tin cậy và hiệu quả. Lấy cảm hứng từ các nguyên tắc DevOps , MLOps áp dụng các khái niệm tương tự vào toàn bộ vòng đời của mô hình AI , từ thu thập dữ liệu và đào tạo mô hình đến triển khai và giám sát. Mục tiêu chính là tự động hóa và hợp lý hóa các quy trình liên quan đến việc đưa một mô hình ML từ nguyên mẫu nghiên cứu lên một ứng dụng sản xuất mạnh mẽ, có khả năng mở rộng. Điều này đảm bảo rằng các mô hình không chỉ hoạt động tốt ban đầu mà còn duy trì hiệu quả theo thời gian khi dữ liệu mới xuất hiện.

MLOps so với các khái niệm liên quan

Điều quan trọng là phải phân biệt MLOps với các khái niệm liên quan nhưng khác biệt:

• MLOps so với AutoML : Mặc dù chúng có thể hoạt động cùng nhau, nhưng trọng tâm của chúng lại khác nhau. Học máy tự động (AutoML) tập trung vào việc tự động hóa quy trình tạo mô hình, chẳng hạn như tiền xử lý dữ liệu, thiết kế tính năng và điều chỉnh siêu tham số . Mặt khác, MLOps bao gồm toàn bộ vòng đời, bao gồm cả những gì diễn ra sau khi mô hình được xây dựng, chẳng hạn như triển khai , giám sát và quản trị mô hình. AutoML có thể được coi là một công cụ trong khuôn khổ MLOps lớn hơn giúp đẩy nhanh giai đoạn phát triển.
• MLOps so với DevOps : MLOps là một chuyên ngành của DevOps được thiết kế riêng cho nhu cầu học máy. Trong khi DevOps tập trung vào việc tự động hóa việc phân phối phần mềm thông qua Tích hợp Liên tục và Triển khai Liên tục (CI/CD) , MLOps mở rộng mô hình này để bao gồm cả các quy trình dữ liệu và mô hình. Nó giải quyết những thách thức thường không gặp trong phát triển phần mềm truyền thống, chẳng hạn như trôi dạt dữ liệu , quản lý phiên bản mô hình và nhu cầu đào tạo lại liên tục.

Ứng dụng trong thế giới thực

Thực hành MLOps rất cần thiết để quản lý các hệ thống ML phức tạp trong môi trường sản xuất.

1. Hệ thống Đề xuất : Các công ty như Netflix hoặc Spotify sử dụng MLOps để liên tục đào tạo lại các mô hình hệ thống đề xuất dựa trên dữ liệu tương tác người dùng mới. Quy trình MLOps cho phép họ thử nghiệm A/B các phiên bản mô hình khác nhau, theo dõi số liệu tương tác và nhanh chóng khôi phục các mô hình kém hiệu quả, đảm bảo các đề xuất luôn mới mẻ và được cá nhân hóa.
2. Phát hiện Gian lận : Các tổ chức tài chính triển khai MLOps để quản lý các mô hình phát hiện gian lận. Điều này bao gồm việc giám sát dữ liệu giao dịch để phát hiện các mô hình gian lận mới, tự động đào tạo lại các mô hình với dữ liệu mới, đảm bảo độ trễ suy luận thấp để phát hiện theo thời gian thực và duy trì dấu vết kiểm toán để tuân thủ quy định. Các mô hình YOLO của Ultralytics được sử dụng trong các hệ thống kiểm tra trực quan, có thể cung cấp dữ liệu cho việc phát hiện gian lận, cũng được hưởng lợi từ MLOps để triển khai và giám sát trên các thiết bị biên .

Công cụ và Nền tảng

Nhiều công cụ hỗ trợ các giai đoạn khác nhau của vòng đời MLOps, cho phép các nhóm xây dựng quy trình làm việc hiệu quả và có khả năng mở rộng.

• Theo dõi & Quản lý Phiên bản Thí nghiệm : MLflow , Weights & Biases và Data Version Control (DVC) là những công cụ phổ biến để theo dõi thí nghiệm và quản lý phiên bản dữ liệu và mô hình. Ultralytics cung cấp khả năng tích hợp gốc với nhiều công cụ này, bao gồm Weights & Biases .
• Điều phối quy trình làm việc : Các công cụ như Kubeflow Pipelines và Apache Airflow giúp tự động hóa và quản lý các quy trình làm việc ML phức tạp.
• Phục vụ Mô hình : Để triển khai các mô hình ở quy mô lớn, các nền tảng như KServe , BentoML và NVIDIA Triton Inference Server được sử dụng rộng rãi. Các mô hình Ultralytics có thể được xuất sang các định dạng như ONNX để tương thích với các máy chủ này.
• Giám sát : Grafana và Prometheus thường được sử dụng để tạo bảng thông tin nhằm giám sát hiệu suất mô hình và tình trạng hệ thống.
• Nền tảng đầu cuối : Các nền tảng toàn diện như Amazon SageMaker , Google Cloud AI Platform , Microsoft Azure Machine Learning và Ultralytics HUB cung cấp các môi trường tích hợp bao gồm hầu hết, nếu không muốn nói là tất cả, các giai đoạn MLOps, từ quản lý dữ liệu đến triển khai và giám sát mô hình . Các nền tảng này tận dụng điện toán đám mây để cung cấp các tài nguyên có khả năng mở rộng cho việc đào tạo các mô hình tùy chỉnh .