Bias in AI

Định kiến trong AI đề cập đến các lỗi hệ thống, thành kiến hoặc giả định không căn cứ tồn tại trong các hệ thống Artificial Intelligence (AI) dẫn đến kết quả không công bằng, bất bình đẳng hoặc mang tính phân biệt đối xử. Không giống như các lỗi ngẫu nhiên vốn không thể đoán trước, định kiến biểu hiện dưới dạng sự lệch lạc nhất quán của kết quả theo hướng có lợi hoặc có hại cho các nhóm cụ thể, thường dựa trên các đặc điểm nhạy cảm như chủng tộc, giới tính, độ tuổi hoặc tình trạng kinh tế xã hội. Khi các mô hình Machine Learning (ML) ngày càng được triển khai trong các môi trường có tính rủi ro cao—từ chẩn đoán AI in healthcare đến cấp tín dụng tài chính—việc xác định và giảm thiểu những định kiến này đã trở thành thành phần quan trọng của các giao thức an toàn và AI Ethics.

Link to this sectionNguồn gốc và nguyên nhân của định kiến#

Định kiến hiếm khi được đưa vào một cách cố ý; thay vào đó, nó xâm nhập vào hệ thống thông qua các giai đoạn khác nhau của vòng đời phát triển, thường phản ánh những bất bình đẳng lịch sử hoặc các lỗ hổng trong việc thu thập dữ liệu.

• Dataset Bias: Đây là nguồn phổ biến nhất, xảy ra khi training data không đại diện chính xác cho quần thể trong thế giới thực. Ví dụ, nếu một mô hình Computer Vision (CV) được huấn luyện chủ yếu trên hình ảnh từ các quốc gia phương Tây, nó có thể không nhận diện được các bối cảnh văn hóa hoặc vật thể từ các khu vực khác, một hiện tượng thường liên quan đến selection bias.
• Algorithmic Bias: Ngay cả với dữ liệu hoàn hảo, thiết kế của mô hình cũng có thể tạo ra sự bất công. Một số optimization algorithms ưu tiên các chỉ số accuracy tổng thể, điều này có thể vô tình làm giảm hiệu suất đối với các nhóm nhỏ hơn, ít được đại diện để tối đa hóa điểm số chung.
• Định kiến nhận thức và lịch sử: Thành kiến của con người có thể được mã hóa vào các nhãn ground truth trong quá trình data labeling. Nếu người gán nhãn có những định kiến tiềm thức, mô hình sẽ học cách sao chép các đánh giá chủ quan này, qua đó tự động hóa các bất bình đẳng xã hội hiện có.

Link to this sectionHệ quả trong thế giới thực#

Hậu quả của định kiến trong AI có thể rất sâu sắc, ảnh hưởng đến quyền cá nhân và sự an toàn.

• Sự khác biệt trong phân tích khuôn mặt: Các phiên bản đầu của công nghệ facial recognition cho thấy tỷ lệ lỗi cao hơn đáng kể đối với phụ nữ và người da màu. Các tổ chức như Algorithmic Justice League đã nêu bật cách các hệ thống này, vốn thường được sử dụng trong lĩnh vực an ninh, có thể dẫn đến việc nhận dạng sai và buộc tội oan do các bộ dữ liệu huấn luyện không mang tính đại diện.
• Chẩn đoán y tế: Trong medical image analysis, các mô hình được huấn luyện chủ yếu trên bệnh nhân da sáng có thể gặp khó khăn trong việc phát hiện các tình trạng da trên các tông màu da sẫm hơn. Sự khác biệt này có thể dẫn đến chẩn đoán chậm trễ và chất lượng chăm sóc không đồng đều, thúc đẩy nhu cầu về các biomedical datasets đa dạng hơn.

Link to this sectionChiến lược giảm thiểu#

Việc giải quyết định kiến đòi hỏi một cách tiếp cận chủ động trong suốt quy trình model training và triển khai.

1. Quản lý dữ liệu đa dạng: Việc sử dụng các công cụ như Ultralytics Platform cho phép các nhóm trực quan hóa sự phân bổ của bộ dữ liệu và xác định các khoảng trống về tính đại diện trước khi bắt đầu huấn luyện.

2. Kiểm thử nhận thức về sự công bằng: Thay vì chỉ dựa vào các số liệu tổng hợp, các nhà phát triển nên thực hiện model evaluation chi tiết trên các phân khúc nhân khẩu học khác nhau để đảm bảo hiệu suất công bằng.

3. Khả năng giải thích: Triển khai các kỹ thuật Explainable AI (XAI) giúp các bên liên quan hiểu tại sao mô hình đưa ra một quyết định, từ đó dễ dàng phát hiện logic phân biệt đối xử hoặc sự phụ thuộc vào các biến đại diện (ví dụ: sử dụng mã bưu chính làm đại diện cho chủng tộc).

Link to this sectionPhân biệt các khái niệm liên quan#

Điều quan trọng là phải phân biệt "Định kiến trong AI" với các cách sử dụng kỹ thuật khác của từ "định kiến".

• vs. Bias-Variance Tradeoff: Trong học thống kê, thuật ngữ này đề cập đến sai số phát sinh do việc xấp xỉ một bài toán thế giới thực bằng một mô hình đơn giản hóa (underfitting). Đây là một khái niệm toán học liên quan đến độ phức tạp của mô hình, khác biệt với thành kiến xã hội trong "Định kiến trong AI".
• vs. Trọng số và Bias của mô hình: Trong một neural network, thuật ngữ "bias" là một tham số có thể học được (giống như điểm cắt trong phương trình tuyến tính) cho phép dịch chuyển activation function. Đây là một thành phần toán học cơ bản, không phải là một khiếm khuyết đạo đức.
• vs. Fairness in AI: Trong khi định kiến đề cập đến sự tồn tại của thành kiến hoặc lỗi, thì tính công bằng lại là mục tiêu hoặc tập hợp các biện pháp khắc phục được áp dụng để loại bỏ định kiến đó.

Link to this sectionVí dụ kỹ thuật: Đánh giá hiệu suất theo phân nhóm#

Để phát hiện định kiến, các nhà phát triển thường kiểm thử mô hình của họ trên các bộ dữ liệu "thử thách" đại diện cho các nhóm thiểu số. Ví dụ sau đây minh họa cách sử dụng YOLO26 để kiểm chứng hiệu suất trên một tập hợp dữ liệu cụ thể.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a specific dataset split designed to test
# performance on an underrepresented environment (e.g., 'night_time.yaml')
metrics = model.val(data="night_time_data.yaml")

# Analyze specific metrics to check for performance degradation
print(f"mAP50-95 on challenge set: {metrics.box.map}")

Các tiêu chuẩn như NIST AI Risk Management Framework và các quy định như EU AI Act đang ngày càng bắt buộc thực hiện các loại kiểm định định kiến này để đảm bảo sự phát triển Responsible AI.