Bias in AI

Thiên lệch trong AI đề cập đến các lỗi có tính hệ thống, định kiến hoặc giả định không có căn cứ được tích hợp trong các hệ thống Trí tuệ nhân tạo (AI), dẫn đến các kết quả không công bằng, bất bình đẳng hoặc mang tính phân biệt đối xử. Khác với các lỗi ngẫu nhiên vốn không thể dự đoán, thiên lệch biểu hiện dưới dạng kết quả bị lệch một cách nhất quán theo hướng có lợi hoặc bất lợi cho các nhóm cụ thể, thường dựa trên những đặc điểm nhạy cảm như chủng tộc, giới tính, độ tuổi hoặc tình trạng kinh tế - xã hội. Khi các model Học máy (ML) ngày càng được triển khai trong những môi trường có rủi ro cao—từ chẩn đoán AI trong y tế đến cho vay tài chính—việc xác định và giảm thiểu các thiên lệch này đã trở thành một thành phần quan trọng của Đạo đức AI và các quy trình an toàn.

Nguồn gốc và nguyên nhân của thiên lệch#

Thiên lệch hiếm khi được đưa vào một cách có chủ đích; thay vào đó, nó xâm nhập vào các hệ thống qua nhiều giai đoạn khác nhau của vòng đời phát triển, thường phản ánh những bất bình đẳng trong quá khứ hoặc các thiếu sót trong quá trình thu thập dữ liệu.

• Thiên lệch tập dữ liệu: Đây là nguồn phổ biến nhất, xảy ra khi dữ liệu huấn luyện không đại diện chính xác cho dân số ngoài thực tế. Ví dụ, nếu một model Thị giác máy tính (CV) chủ yếu được huấn luyện trên hình ảnh từ các quốc gia phương Tây, model đó có thể không nhận diện được bối cảnh văn hóa hoặc các đối tượng từ những khu vực khác, một hiện tượng thường liên quan đến thiên lệch lựa chọn.
• Thiên lệch thuật toán: Ngay cả với dữ liệu hoàn hảo, thiết kế của model vẫn có thể tạo ra sự thiếu công bằng. Một số thuật toán tối ưu hóa ưu tiên các chỉ số độ chính xác tổng thể, điều này có thể vô tình làm giảm hiệu năng trên các nhóm nhỏ hơn, chưa được đại diện đầy đủ để tối đa hóa điểm số chung.
• Thiên lệch nhận thức và lịch sử: Định kiến của con người có thể được mã hóa vào các nhãn ground truth trong quá trình gán nhãn dữ liệu. Nếu những người gán nhãn mang các thiên lệch vô thức, model sẽ học cách tái tạo những phán đoán chủ quan này, qua đó tự động hóa các bất bình đẳng xã hội hiện hữu.

Các tác động trong thực tế#

Hậu quả của thiên lệch trong AI có thể rất nghiêm trọng, ảnh hưởng đến quyền và sự an toàn của mỗi cá nhân.

• Chênh lệch trong phân tích khuôn mặt: Các phiên bản đầu tiên của công nghệ nhận dạng khuôn mặt cho thấy tỷ lệ lỗi cao hơn đáng kể đối với phụ nữ và người da màu. Các tổ chức như Liên đoàn Công lý Thuật toán đã chỉ ra rằng những hệ thống này, thường được sử dụng trong lĩnh vực an ninh, có thể dẫn đến nhận dạng sai và cáo buộc oan do các tập dữ liệu huấn luyện không mang tính đại diện.
• Chẩn đoán y tế: Trong phân tích ảnh y tế, các model được huấn luyện chủ yếu trên bệnh nhân có làn da sáng có thể gặp khó khăn khi phát hiện các bệnh lý da trên tông da sẫm màu hơn. Sự chênh lệch này có thể dẫn đến chẩn đoán chậm trễ và chất lượng chăm sóc không đồng đều, thúc đẩy nhu cầu về các tập dữ liệu y sinh đa dạng hơn.

Chiến lược giảm thiểu#

Giải quyết thiên lệch đòi hỏi một cách tiếp cận chủ động trong toàn bộ quy trình huấn luyện model và triển khai.

1. Tuyển chọn dữ liệu đa dạng: Việc sử dụng các công cụ như Ultralytics Platform cho phép các nhóm trực quan hóa phân phối tập dữ liệu và xác định các khoảng trống về tính đại diện trước khi bắt đầu huấn luyện.

2. Kiểm thử nhận thức tính công bằng: Thay vì chỉ dựa vào các chỉ số tổng hợp, developer nên thực hiện đánh giá model chi tiết trên các phân khúc nhân khẩu học khác nhau để bảo đảm hiệu năng công bằng.

3. Khả năng diễn giải: Việc triển khai các kỹ thuật AI có thể giải thích (XAI) giúp các bên liên quan hiểu tại sao model đưa ra một quyết định, từ đó dễ dàng phát hiện logic mang tính phân biệt đối xử hoặc sự phụ thuộc vào các biến đại diện (ví dụ: sử dụng mã ZIP làm biến đại diện cho chủng tộc).

Phân biệt các khái niệm liên quan#

Điều quan trọng là phải phân biệt "Thiên lệch trong AI" với các cách sử dụng kỹ thuật khác của từ "bias".

• so với Đánh đổi độ chệch-phương sai: Trong học thống kê, thuật ngữ này đề cập đến lỗi phát sinh khi xấp xỉ một bài toán thực tế bằng một model đơn giản hóa (underfitting). Đây là một khái niệm toán học liên quan đến độ phức tạp của model, khác với định kiến xã hội được hàm ý trong "Thiên lệch trong AI".
• so với Trọng số và bias của model: Trong một mạng nơ-ron, một hạng tử "bias" là một tham số có thể học được (giống như hệ số chặn trong phương trình tuyến tính), cho phép dịch chuyển hàm kích hoạt. Đây là một thành phần toán học nền tảng, không phải là một khiếm khuyết về mặt đạo đức.
• so với Tính công bằng trong AI: Trong khi bias đề cập đến sự hiện diện của định kiến hoặc lỗi, tính công bằng là mục tiêu hoặc tập hợp các biện pháp khắc phục được áp dụng để loại bỏ bias đó.

Ví dụ kỹ thuật: Đánh giá hiệu năng trên các nhóm con#

Để phát hiện thiên lệch, developer thường kiểm thử model trên các tập dữ liệu "thách thức" cụ thể đại diện cho các nhóm thiểu số. Ví dụ sau minh họa cách sử dụng YOLO26 để xác thực hiệu năng trên một tập con dữ liệu cụ thể.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a specific dataset split designed to test
# performance on an underrepresented environment (e.g., 'night_time.yaml')
metrics = model.val(data="night_time_data.yaml")

# Analyze specific metrics to check for performance degradation
print(f"mAP50-95 on challenge set: {metrics.box.map}")

Các tiêu chuẩn như Khung quản lý rủi ro AI của NIST và các quy định như Đạo luật AI của EU ngày càng bắt buộc thực hiện các cuộc kiểm toán thiên lệch như vậy để bảo đảm phát triển AI có trách nhiệm.