Độ lệch Thuật toán

Sai lệch thuật toán đề cập đến các lỗi hệ thống và lặp lại trong hệ thống máy tính, tạo ra kết quả không công bằng, chẳng hạn như ưu tiên một nhóm người dùng tùy ý hơn những nhóm khác. Trong bối cảnh Trí tuệ Nhân tạo (AI) , hiện tượng này xảy ra khi một mô hình học máy (ML) tạo ra kết quả luôn bị lệch so với các nhóm nhân khẩu học hoặc kịch bản cụ thể. Không giống như các lỗi ngẫu nhiên, vốn không thể dự đoán trước, sai lệch thuật toán phản ánh một lỗ hổng về cấu trúc trong cách mô hình được thiết kế, đào tạo hoặc triển khai. Việc giải quyết những sai lệch này là một khía cạnh cơ bản của Đạo đức AI và rất cần thiết để xây dựng niềm tin vào các hệ thống ra quyết định tự động.

Nguồn gốc và cơ chế

Sai lệch có thể xâm nhập vào hệ thống AI thông qua nhiều con đường. Nguồn phổ biến nhất là dữ liệu huấn luyện không mang tính đại diện. Nếu một mô hình thị giác máy tính (CV) được huấn luyện chủ yếu dựa trên hình ảnh từ một khu vực địa lý, nó có thể gặp khó khăn trong việc nhận dạng các vật thể hoặc cảnh từ các khu vực khác trên thế giới. Điều này thường được gọi là sai lệch tập dữ liệu . Tuy nhiên, bản thân thuật toán - logic toán học xử lý dữ liệu - cũng có thể gây ra sai lệch. Ví dụ: một thuật toán tối ưu hóa được thiết kế để tối đa hóa độ chính xác tổng thể có thể hy sinh hiệu suất trên các nhóm nhỏ hơn, ít đại diện hơn để đạt được tổng điểm cao hơn.

Ứng dụng và hậu quả trong thế giới thực

Tác động của sự thiên vị thuật toán rất đáng kể trong nhiều ngành công nghiệp, đặc biệt là nơi các hệ thống tự động đưa ra những quyết định có tính rủi ro cao.

• Chẩn đoán chăm sóc sức khỏe: Trong AI trong chăm sóc sức khỏe , các mô hình được sử dụng để detect Bệnh tật từ hình ảnh y tế. Một nghiên cứu về AI da liễu cho thấy một số thuật toán kém chính xác hơn trong việc chẩn đoán ung thư da trên tông màu da tối hơn vì các tập dữ liệu được sử dụng để đào tạo chủ yếu là bệnh nhân da sáng. Sự chênh lệch này có thể dẫn đến chẩn đoán chậm trễ và chất lượng chăm sóc không đồng đều.
• Tuyển dụng và Tuyển dụng: Nhiều công ty sử dụng các công cụ tự động để lọc hồ sơ xin việc. Một trường hợp đáng chú ý liên quan đến công cụ tuyển dụng của một gã khổng lồ công nghệ đã học cách xử phạt các hồ sơ xin việc có chứa từ "phụ nữ" (ví dụ: "câu lạc bộ cờ vua nữ") vì nó được đào tạo dựa trên hồ sơ xin việc được nộp chủ yếu bởi nam giới trong một thập kỷ. Điều này minh họa cách các thành kiến lịch sử có thể được mã hóa bằng mô hình dự đoán .
• Phân tích khuôn mặt: Các phiên bản đầu tiên của phần mềm nhận dạng khuôn mặt thương mại cho thấy tỷ lệ lỗi cao hơn đáng kể ở phụ nữ và người da màu. Các tổ chức như Liên minh Công lý Thuật toán đã đóng vai trò chủ chốt trong việc làm nổi bật những bất bình đẳng này và ủng hộ công nghệ công bằng hơn.

Phân biệt các khái niệm liên quan

Để giảm thiểu hiệu quả sự thiên vị, cần phân biệt "Sự thiên vị thuật toán" với các thuật ngữ liên quan trong lĩnh vực AI có trách nhiệm .

• so với Sai lệch Tập dữ liệu: Sai lệch tập dữ liệu đề cập cụ thể đến các lỗi trong dữ liệu đầu vào, chẳng hạn như lỗi lấy mẫu hoặc sự không nhất quán trong việc gắn nhãn. Sai lệch thuật toán là kết quả rộng hơn, bao gồm các lỗi phát sinh từ dữ liệu, kiến trúc mô hình hoặc hàm mục tiêu .
• so với Công bằng trong AI: Công bằng trong AI là kỷ luật chủ động và tập hợp các chiến lược được sử dụng để ngăn ngừa và khắc phục sai lệch thuật toán. Trong khi sai lệch là vấn đề, thì công bằng là mục tiêu.
• so với Độ trôi của mô hình: Đôi khi, một mô hình không bị sai lệch trong quá trình huấn luyện nhưng lại bị sai lệch theo thời gian khi dữ liệu thực tế thay đổi. Điều này được gọi là độ trôi của dữ liệu , đòi hỏi phải theo dõi mô hình liên tục để detect .

Các chiến lược giảm thiểu

Các nhà phát triển có thể giảm thiểu sai lệch thuật toán bằng cách áp dụng các thử nghiệm nghiêm ngặt và chiến lược đào tạo đa dạng. Các kỹ thuật như tăng cường dữ liệu có thể giúp cân bằng bộ dữ liệu bằng cách tạo ra các biến thể từ các ví dụ chưa được thể hiện đầy đủ. Hơn nữa, việc tuân thủ các khuôn khổ như Khung Quản lý Rủi ro AI của NIST đảm bảo một phương pháp tiếp cận có cấu trúc để xác định rủi ro.

Ví dụ sau đây minh họa cách áp dụng tăng cường dữ liệu trong quá trình huấn luyện với Ultralytics YOLO11 . Bằng cách tăng cường các phép tăng cường hình học như lật hoặc thu nhỏ, mô hình học cách khái quát hóa tốt hơn, có khả năng giảm độ lệch đối với các hướng hoặc vị trí cụ thể của đối tượng.

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Train with increased augmentation to improve generalization
# 'fliplr' (flip left-right) and 'scale' help the model see diverse variations
results = model.train(
    data="coco8.yaml",
    epochs=50,
    imgsz=640,
    fliplr=0.5,  # 50% probability of horizontal flip
    scale=0.5,  # +/- 50% image scaling
)

Các công cụ như Fairlearn và Công cụ What-If của Google cho phép các kỹ sư kiểm tra sự khác biệt giữa các mô hình của họ giữa các nhóm nhỏ khác nhau. Cuối cùng, việc đạt được tính minh bạch trong AI đòi hỏi sự kết hợp giữa các giải pháp kỹ thuật, các nhóm phát triển đa dạng và việc đánh giá liên tục hiệu suất của các mô hình trong thế giới thực.