Data Flywheel

Bánh đà dữ liệu là một vòng lặp tự củng cố, trong đó model AI đã triển khai tạo ra dữ liệu — bao gồm đầu vào, dự đoán, lỗi và phản hồi của người dùng — rồi dữ liệu được tuyển chọn thành dữ liệu huấn luyện tốt hơn cho phiên bản tiếp theo. Mỗi bản phát hành xử lý chính xác nhiều trường hợp hơn, sản phẩm tốt hơn thu hút thêm người dùng, và lượng sử dụng tăng tạo ra thêm dữ liệu cần thiết cho bản phát hành tiếp theo. Tên gọi này bắt nguồn từ bánh đà cơ học, vốn cần lực để bắt đầu quay rồi tích lũy đà.

Trong thị giác máy tính, vòng lặp tập trung vào các trường hợp khó: những khung hình mà detector bỏ sót một đối tượng, phát hiện nhầm hoặc đưa ra độ tin cậy thấp. Hệ thống kiểm tra bằng hình ảnh gặp các vật liệu và phản xạ mới sau khi triển khai, còn model kiểm kê bán lẻ gặp bao bì theo mùa, vì vậy những hình ảnh đó đáng được gán nhãn. Nhóm Autopilot của Tesla trình bày một phiên bản nổi tiếng, gọi là data engine, tại Autonomy Day năm 2019: các trường hợp mạng hoạt động kém được thu thập từ đội xe, gán nhãn và đưa vào huấn luyện. Các sản phẩm xây dựng trên mô hình ngôn ngữ lớn cũng vận hành vòng lặp tương tự với đánh giá, chỉnh sửa và hội thoại; dữ liệu này được dùng cho các tập đánh giá, tinh chỉnh và học tăng cường từ phản hồi của con người.

Cách vòng lặp dữ liệu hoạt động#

Mỗi vòng lặp trải qua các bước thu thập, đánh giá, huấn luyện lại và quyết định phát hành:

Bước thu thập quyết định dữ liệu trong môi trường production nào được đưa vào vòng lặp. Lưu trữ mọi thứ vừa tốn kém vừa chủ yếu dư thừa, nên hệ thống giữ lại các đầu vào chứa nhiều thông tin: dự đoán có độ tin cậy thấp, bất đồng giữa các model, chỉnh sửa của người dùng, lớp hiếm và đầu vào báo hiệu trôi dạt dữ liệu. Học chủ động có nhiệm vụ chọn các ví dụ giúp model học được nhiều nhất.

Bước đánh giá biến các đầu vào đã thu thập thành ground truth. Người gán nhãn theo quy trình có con người tham gia xác nhận hoặc sửa từng nhãn, loại bỏ dữ liệu trùng lặp và nội dung nhạy cảm; các ví dụ được duyệt sẽ được đưa vào bộ dữ liệu có quản lý phiên bản để có thể truy vết từng model về dữ liệu đã dùng để huấn luyện model đó.

Huấn luyện lại tạo ra một ứng viên; trước khi phát hành, ứng viên phải đạt kết quả tốt hơn model hiện tại trên một tập kiểm tra cố định, tách riêng, thường là bộ dữ liệu chuẩn vàng được tuyển chọn. Sau đó, triển khai tăng dần và giám sát model giúp phát hiện hồi quy và khởi động vòng lặp tiếp theo.

Ultralytics Platform tự động hóa bước thu thập bằng Agents, các workflow trực quan có mẫu Collect Uncertain Detections chạy hình ảnh của một bộ dữ liệu qua model đã triển khai, giữ lại những hình ảnh có ít nhất một detection nằm trong khoảng độ tin cậy đã chọn, chẳng hạn từ 0.25 đến 0.5, rồi thêm chúng vào bộ dữ liệu đích ở trạng thái chưa gán nhãn để đánh giá trong trình chỉnh sửa annotation.

Vì sao bánh đà bị đình trệ#

Bánh đà chỉ quay nhanh bằng công đoạn chậm nhất, và công đoạn đó thường là gán nhãn thủ công. Đưa dự đoán của chính model trở lại làm nhãn mà không có người đánh giá sẽ khiến lỗi tự củng cố. Hệ thống hành động dựa trên dự đoán của mình cũng định hình dữ liệu mà hệ thống tiếp nhận tiếp theo, vì vậy hệ thống gợi ý chỉ học về những mục mà chính nó chọn hiển thị; năm 2015, các nhà nghiên cứu của Google đã liệt kê những vòng lặp phản hồi như vậy trong số các nguồn gây ra nợ kỹ thuật tiềm ẩn trong hệ thống học máy. Đánh giá từng phiên bản trên một tập kiểm tra thay đổi theo dữ liệu mới sẽ che giấu hồi quy, còn đưa ví dụ kiểm tra vào dữ liệu huấn luyện sẽ gây ra rò rỉ dữ liệu.

Bánh đà dữ liệu và các thuật ngữ liên quan#

• AI lấy dữ liệu làm trung tâm: Phương pháp cải thiện model bằng cách cải thiện dữ liệu. Bánh đà áp dụng phương pháp này liên tục, với dữ liệu được cung cấp từ môi trường production.
• Học liên tục: Cập nhật model bằng dữ liệu mới theo thời gian, đồng thời tránh quên thảm họa các tác vụ trước đó. Thay vào đó, hầu hết bánh đà huấn luyện lại trên toàn bộ bộ dữ liệu đang tăng trưởng ở mỗi lần phát hành.
• Vận hành học máy (MLOps): Các pipeline và công cụ quản lý phiên bản, huấn luyện, triển khai và giám sát, giúp mỗi vòng quay của bánh đà có thể tái lập.
• Hiệu ứng mạng lưới: Sản phẩm tăng giá trị khi có thêm người sử dụng. Bánh đà dữ liệu chỉ tạo ra lợi thế lâu dài khi lượng sử dụng đó tạo ra dữ liệu mà đối thủ khó thu thập.