Độ Lệch Tập Dữ Liệu (Dataset Bias)

Thiên vị tập dữ liệu xảy ra khi dữ liệu được sử dụng để huấn luyện mô hình không thể hiện chính xác môi trường thực tế mà mô hình sẽ được triển khai. Sự mất cân bằng hoặc sai lệch này là một vấn đề quan trọng trong học máy (ML) vì các mô hình học các mẫu và các lỗi có trong dữ liệu huấn luyện của chúng. Nếu dữ liệu bị thiên vị, hệ thống AI thu được sẽ kế thừa và thường khuếch đại sự thiên vị đó, dẫn đến các kết quả không chính xác, không đáng tin cậy và không công bằng. Giải quyết sự thiên vị của tập dữ liệu là nền tảng của việc phát triển AI có trách nhiệm và duy trì Đạo đức AI.

Các Nguồn Phổ Biến Gây Ra Sai Lệch trong Bộ Dữ Liệu

Độ lệch có thể được đưa vào ở nhiều giai đoạn khác nhau của quy trình dữ liệu, từ thu thập đến xử lý. Một số loại phổ biến bao gồm:

• Thiên vị Chọn mẫu (Selection Bias): Điều này xảy ra khi dữ liệu không được lấy mẫu ngẫu nhiên từ quần thể mục tiêu. Ví dụ: thu thập dữ liệu cho mô hình phân tích bán lẻ chỉ từ các khu dân cư có thu nhập cao sẽ tạo ra thiên vị chọn mẫu, dẫn đến một mô hình không hiểu hành vi của các nhóm khách hàng khác.
• Sai lệch do đại diện: Điều này xảy ra khi một số nhóm nhất định không được đại diện đầy đủ hoặc được đại diện quá mức trong tập dữ liệu. Một tập dữ liệu chuẩn để giám sát giao thông chủ yếu bằng hình ảnh ban ngày sẽ khiến mô hình hoạt động kém khi phát hiện phương tiện vào ban đêm.
• Độ lệch đo lường: Điều này phát sinh từ các lỗi hệ thống trong quá trình thu thập dữ liệu hoặc từ chính các công cụ đo lường. Ví dụ: sử dụng máy ảnh có độ phân giải cao cho một nhóm nhân khẩu học và máy ảnh có độ phân giải thấp cho một nhóm khác sẽ đưa độ lệch đo lường vào bộ dữ liệu thị giác máy tính.
• Độ lệch chú thích: Điều này xuất phát từ các phán đoán chủ quan của người chú thích trong quá trình gán nhãn dữ liệu. Các định kiến có thể ảnh hưởng đến cách áp dụng nhãn, đặc biệt là trong các tác vụ liên quan đến diễn giải chủ quan, điều này có thể ảnh hưởng đến quá trình học tập của mô hình.

Các ví dụ thực tế

1. Hệ thống nhận dạng khuôn mặt: Các hệ thống nhận dạng khuôn mặt (facial recognition) thương mại ban đầu nổi tiếng là kém chính xác hơn đối với phụ nữ và người da màu. Nghiên cứu, chẳng hạn như dự án Gender Shades, tiết lộ rằng điều này phần lớn là do các bộ dữ liệu huấn luyện chủ yếu bao gồm hình ảnh của đàn ông da trắng. Các mô hình được huấn luyện trên dữ liệu bị lệch này không thể khái quát hóa trên các nhóm nhân khẩu học khác nhau.
2. Chẩn đoán y tế: Một mô hình AI được thiết kế để phân tích hình ảnh y tế, chẳng hạn như phát hiện khối u trong ảnh chụp X-quang, có thể được huấn luyện trên dữ liệu từ một bệnh viện duy nhất. Mô hình này có thể học các đặc điểm cụ thể cho thiết bị hình ảnh của bệnh viện đó. Khi được triển khai ở một bệnh viện khác có máy móc khác, hiệu suất của nó có thể giảm đáng kể do data drift (trôi dữ liệu). Điều này làm nổi bật sự cần thiết của các nguồn dữ liệu đa dạng trong ứng dụng AI trong chăm sóc sức khỏe.

Độ lệch tập dữ liệu so với Độ lệch thuật toán

Điều quan trọng là phải phân biệt giữa sai lệch tập dữ liệu (dataset bias) và sai lệch thuật toán (algorithmic bias).

• Độ lệch tập dữ liệu bắt nguồn từ chính dữ liệu. Dữ liệu bị lỗi trước khi mô hình nhìn thấy nó, làm cho nó trở thành một vấn đề cơ bản.
• Độ lệch thuật toán có thể phát sinh từ kiến trúc hoặc quy trình tối ưu hóa của mô hình, có thể có hệ thống ưu tiên một số kết quả nhất định hơn những kết quả khác, ngay cả với dữ liệu hoàn toàn cân bằng.

Tuy nhiên, hai điều này có mối liên hệ sâu sắc với nhau. Sự thiên vị của tập dữ liệu là một trong những nguyên nhân phổ biến nhất gây ra sự thiên vị của thuật toán. Một mô hình được huấn luyện trên dữ liệu thiên vị gần như chắc chắn sẽ đưa ra các dự đoán thiên vị, tạo ra một thuật toán thiên vị. Do đó, việc đảm bảo Tính công bằng trong AI phải bắt đầu bằng việc giải quyết sự thiên vị trong dữ liệu.

Các chiến lược giảm thiểu

Giảm thiểu sai lệch tập dữ liệu là một quá trình liên tục đòi hỏi phải lập kế hoạch và thực hiện cẩn thận trong suốt vòng đời các hoạt động học máy (MLOps).

• Thu thập dữ liệu có cân nhắc: Cố gắng thu thập các nguồn dữ liệu đa dạng và đại diện, phản ánh thế giới thực. Tuân theo hướng dẫn có cấu trúc để thu thập và gán nhãn dữ liệu là rất cần thiết. Việc lập tài liệu cho các tập dữ liệu bằng cách sử dụng các khuôn khổ như Bảng dữ liệu cho tập dữ liệu sẽ thúc đẩy tính minh bạch.
• Tăng cường và tổng hợp dữ liệu: Sử dụng các kỹ thuật như lấy mẫu quá mức các nhóm ít đại diện, áp dụng tăng cường dữ liệu có mục tiêu hoặc tạo dữ liệu tổng hợp để cân bằng tập dữ liệu. Các mô hình Ultralytics hỗ trợ tự nhiên nhiều phương pháp tăng cường mạnh mẽ.
• Công cụ kiểm tra độ lệch: Sử dụng các công cụ như What-If Tool của Google và các thư viện mã nguồn mở như Fairlearn để kiểm tra các tập dữ liệu và mô hình để tìm các độ lệch tiềm ẩn.
• Đánh giá mô hình nghiêm ngặt: Ngoài các chỉ số độ chính xác tổng thể, hãy đánh giá hiệu suất của mô hình trên các nhóm nhân khẩu học hoặc môi trường khác nhau. Nên ghi lại các phát hiện bằng các phương pháp như Model Cards để duy trì tính minh bạch.
• Tận dụng các nền tảng hiện đại: Các nền tảng như Ultralytics HUB cung cấp các công cụ tích hợp để quản lý tập dữ liệu, trực quan hóa và huấn luyện các mô hình như Ultralytics YOLO11. Điều này giúp các nhà phát triển xây dựng các hệ thống công bằng hơn bằng cách đơn giản hóa quy trình tạo và đánh giá các mô hình trên dữ liệu đa dạng.

Bằng cách chủ động giải quyết sự thiên vị của tập dữ liệu, các nhà phát triển có thể xây dựng các hệ thống AI mạnh mẽ, đáng tin cậy và đạo đức hơn, một chủ đề thường được thảo luận tại các hội nghị hàng đầu như Hội nghị ACM về Tính công bằng, Trách nhiệm giải trình và Tính minh bạch (FAccT).