Bias in AI

Thiên kiến trong AI đề cập đến các lỗi hệ thống, định kiến, hoặc các giả định không có căn cứ được nhúng trong các hệ thống Artificial Intelligence (AI) dẫn đến các kết quả không công bằng, bất công, hoặc mang tính phân biệt đối xử. Không giống như các lỗi ngẫu nhiên vốn không thể đoán trước, thiên kiến biểu hiện dưới dạng sự lệch lạc nhất quán của kết quả ủng hộ hoặc chống lại các nhóm cụ thể, thường dựa trên các đặc điểm nhạy cảm như chủng tộc, giới tính, độ tuổi, hoặc tình trạng kinh tế xã hội. Khi các mô hình Machine Learning (ML) ngày càng được triển khai trong các môi trường có rủi ro cao—từ chẩn đoán AI in healthcare đến cho vay tài chính—việc xác định và giảm thiểu các thiên kiến này đã trở thành một thành phần quan trọng của các giao thức an toàn và AI Ethics.

Nguồn gốc và nguyên nhân của định kiến#

Định kiến hiếm khi được đưa vào một cách cố ý; thay vào đó, nó xâm nhập vào hệ thống thông qua các giai đoạn khác nhau của vòng đời phát triển, thường phản ánh những bất bình đẳng lịch sử hoặc các lỗ hổng trong việc thu thập dữ liệu.

• Dataset Bias: Đây là nguồn phổ biến nhất, xảy ra khi training data không đại diện chính xác cho dân số trong thế giới thực. Ví dụ, nếu một mô hình Computer Vision (CV) được huấn luyện chủ yếu trên các hình ảnh từ các quốc gia phương Tây, mô hình có thể không nhận ra các bối cảnh văn hóa hoặc đối tượng từ các khu vực khác, một hiện tượng thường gắn liền với selection bias.
• Algorithmic Bias: Ngay cả với dữ liệu hoàn hảo, thiết kế của mô hình vẫn có thể dẫn đến sự bất công. Các optimization algorithms cụ thể ưu tiên các số liệu accuracy toàn cục, điều này có thể vô tình đánh đổi hiệu suất trên các nhóm nhỏ hơn, ít được đại diện để tối đa hóa điểm số tổng thể.
• Thiên kiến Nhận thức và Lịch sử: Các định kiến của con người có thể được mã hóa vào các nhãn ground truth trong quá trình data labeling. Nếu những người gán nhãn dữ liệu mang các thiên kiến vô thức, mô hình sẽ học cách lặp lại các phán xét chủ quan này, qua đó tự động hóa hiệu quả các sự chênh lệch xã hội hiện có.

Hệ quả trong thế giới thực#

Hậu quả của định kiến trong AI có thể rất sâu sắc, ảnh hưởng đến quyền cá nhân và sự an toàn.

• Sự khác biệt trong Phân tích Khuôn mặt: Các phiên bản đầu tiên của công nghệ facial recognition cho thấy tỷ lệ lỗi cao hơn đáng kể đối với phụ nữ và người da màu. Các tổ chức như Algorithmic Justice League đã làm nổi bật cách các hệ thống này, thường được sử dụng trong lĩnh vực an ninh, có thể dẫn đến việc nhận dạng sai và buộc tội oan do các tập dữ liệu huấn luyện không mang tính đại diện.
• Chẩn đoán Y tế: Trong medical image analysis, các mô hình được huấn luyện chủ yếu trên bệnh nhân da sáng có thể gặp khó khăn trong việc phát hiện các tình trạng da trên tông màu da sẫm hơn. Sự khác biệt này có thể dẫn đến việc chẩn đoán bị trì hoãn và chất lượng chăm sóc không đồng đều, thúc đẩy các lời kêu gọi về các biomedical datasets đa dạng hơn.

Chiến lược giảm thiểu#

Việc giải quyết thiên kiến đòi hỏi một cách tiếp cận chủ động xuyên suốt quy trình model training và triển khai.

1. Tuyển chọn Dữ liệu Đa dạng: việc sử dụng các công cụ như Ultralytics Platform cho phép các nhóm trực quan hóa sự phân phối của tập dữ liệu và xác định các khoảng trống trong tính đại diện trước khi quá trình huấn luyện bắt đầu.

2. Kiểm thử Nhận thức về Công bằng: Thay vì chỉ dựa vào các số liệu tổng hợp, các nhà phát triển nên thực hiện model evaluation chi tiết trên các lát cắt nhân khẩu học khác nhau để đảm bảo hiệu suất công bằng.

3. Khả năng giải thích: Việc thực hiện các kỹ thuật Explainable AI (XAI) giúp các bên liên quan hiểu lý do tại sao một mô hình đưa ra quyết định, giúp dễ dàng phát hiện logic phân biệt đối xử hoặc sự phụ thuộc vào các biến đại diện (ví dụ: sử dụng mã bưu chính làm đại diện cho chủng tộc).

Phân biệt các khái niệm liên quan#

Điều quan trọng là phải phân biệt "Định kiến trong AI" với các cách sử dụng kỹ thuật khác của từ "định kiến".

• so với Bias-Variance Tradeoff: Trong học máy thống kê, điều này đề cập đến sai số do việc xấp xỉ một bài toán trong thế giới thực bằng một mô hình đơn giản hóa (underfitting). Đây là một khái niệm toán học liên quan đến độ phức tạp của mô hình, khác biệt với định kiến xã hội được ngụ ý bởi "Thiên kiến trong AI."
• so với Trọng số và Độ lệch của Mô hình: Trong một neural network, thuật ngữ "bias" là một tham số có thể học được (giống như hệ số chặn trong một phương trình tuyến tính) cho phép activation function được dịch chuyển. Đây là một thành phần toán học cơ bản, không phải là một lỗi đạo đức.
• so với Fairness in AI: Trong khi thiên kiến đề cập đến sự hiện diện của định kiến hoặc sai sót, sự công bằng là mục tiêu hoặc tập hợp các biện pháp khắc phục được áp dụng để loại bỏ thiên kiến đó.

Ví dụ kỹ thuật: Đánh giá hiệu suất theo phân nhóm#

Để phát hiện thiên kiến, các nhà phát triển thường kiểm thử mô hình của họ trên các tập dữ liệu "thử thách" cụ thể đại diện cho các nhóm thiểu số. Ví dụ sau đây minh họa cách sử dụng YOLO26 để xác thực hiệu suất trên một tập dữ liệu con cụ thể.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a specific dataset split designed to test
# performance on an underrepresented environment (e.g., 'night_time.yaml')
metrics = model.val(data="night_time_data.yaml")

# Analyze specific metrics to check for performance degradation
print(f"mAP50-95 on challenge set: {metrics.box.map}")

Các tiêu chuẩn như NIST AI Risk Management Framework và các quy định như EU AI Act đang ngày càng bắt buộc thực hiện các loại kiểm toán thiên kiến này để đảm bảo sự phát triển Responsible AI.