Algorithmic Bias

Thiên kiến thuật toán đề cập đến các lỗi có hệ thống và lặp lại trong một hệ thống máy tính tạo ra các kết quả không công bằng, chẳng hạn như ưu tiên một nhóm người dùng tùy ý hơn những nhóm khác. Trong bối cảnh của Trí tuệ nhân tạo (AI), hiện tượng này xảy ra khi một mô hình Học máy (ML) tạo ra các kết quả nhất quán bị lệch so với các nhân khẩu học hoặc kịch bản cụ thể. Không giống như các lỗi ngẫu nhiên, vốn là nhiễu không thể dự đoán, thiên kiến thuật toán phản ánh một sai sót cấu trúc trong cách mô hình được thiết kế, huấn luyện hoặc triển khai. Giải quyết những thiên kiến này là một khía cạnh cơ bản của Đạo đức AI và là yếu tố thiết yếu để xây dựng niềm tin vào các hệ thống ra quyết định tự động.

Link to this sectionNguồn gốc và Cơ chế#

Thiên kiến có thể xâm nhập vào các hệ thống AI thông qua một vài con đường. Nguồn phổ biến nhất là dữ liệu huấn luyện không đại diện. Nếu một mô hình thị giác máy tính (CV) được huấn luyện chủ yếu trên hình ảnh từ một khu vực địa lý, nó có thể gặp khó khăn khi nhận diện các đối tượng hoặc cảnh từ các khu vực khác trên thế giới. Điều này thường được gọi là thiên kiến tập dữ liệu. Tuy nhiên, bản thân thuật toán—logic toán học xử lý dữ liệu—cũng có thể tạo ra thiên kiến. Ví dụ, một thuật toán tối ưu hóa được thiết kế để tối đa hóa độ chính xác tổng thể có thể hy sinh hiệu suất trên các nhóm nhỏ hơn, ít được đại diện để đạt được điểm số tổng cao hơn.

Link to this sectionỨng dụng thực tế và Hậu quả#

Tác động của thiên kiến thuật toán là rất đáng kể trên nhiều ngành công nghiệp, đặc biệt là nơi các hệ thống tự động đưa ra các quyết định quan trọng.

• Chẩn đoán chăm sóc sức khỏe: Trong AI trong chăm sóc sức khỏe, các mô hình được sử dụng để phát hiện bệnh từ hình ảnh y tế. Các nghiên cứu đã chỉ ra rằng một số thuật toán kém chính xác hơn trong việc chẩn đoán ung thư da trên tông màu da sẫm hơn vì các tập dữ liệu được sử dụng để huấn luyện bị thống trị bởi các bệnh nhân có tông màu da sáng hơn. Sự chênh lệch này làm nổi bật nhu cầu về phân tích hình ảnh y tế đa dạng để đảm bảo chất lượng chăm sóc bình đẳng.
• Tuyển dụng: Nhiều công ty sử dụng các công cụ tự động để lọc sơ yếu lý lịch. Một trường hợp lịch sử đáng chú ý liên quan đến một công cụ tuyển dụng đã học cách phạt các sơ yếu lý lịch chứa từ "women's" (của phụ nữ) vì nó được huấn luyện trên hàng thập kỷ sơ yếu lý lịch chủ yếu do nam giới nộp. Điều này minh họa cách các thiên kiến lịch sử có thể được hệ thống hóa bởi mô hình dự đoán.
• Phân tích khuôn mặt: Các phiên bản đầu của phần mềm nhận diện khuôn mặt thương mại đã cho thấy tỷ lệ lỗi cao hơn đáng kể đối với phụ nữ và người da màu. Các tổ chức như Algorithmic Justice League đã đóng vai trò quan trọng trong việc làm nổi bật những chênh lệch này và ủng hộ công nghệ công bằng hơn.

Link to this sectionPhân biệt các khái niệm liên quan#

Để giảm thiểu thiên kiến một cách hiệu quả, việc phân biệt "Thiên kiến thuật toán" với các thuật ngữ liên quan trong lĩnh vực AI có trách nhiệm là rất hữu ích.

• vs. Thiên kiến tập dữ liệu: Thiên kiến tập dữ liệu đề cập cụ thể đến các sai sót trong dữ liệu đầu vào, chẳng hạn như lỗi lấy mẫu hoặc sự không nhất quán trong việc gán nhãn. Thiên kiến thuật toán là kết quả rộng hơn, bao gồm các lỗi phát sinh từ dữ liệu, kiến trúc mô hình hoặc hàm mục tiêu.
• vs. Công bằng trong AI: Công bằng trong AI là kỷ luật chủ động và tập hợp các chiến lược được sử dụng để ngăn chặn và sửa chữa thiên kiến thuật toán. Trong khi thiên kiến là vấn đề, thì công bằng là mục tiêu.
• vs. Trôi mô hình (Model Drift): Đôi khi một mô hình không có thiên kiến trong quá trình huấn luyện nhưng lại trở nên thiên kiến theo thời gian khi dữ liệu thực tế thay đổi. Điều này được gọi là trôi dữ liệu, đòi hỏi phải giám sát mô hình liên tục để phát hiện.

Link to this sectionChiến lược giảm thiểu#

Các nhà phát triển có thể giảm thiên kiến thuật toán bằng cách áp dụng các thử nghiệm nghiêm ngặt và chiến lược huấn luyện đa dạng. Các kỹ thuật như tăng cường dữ liệu có thể giúp cân bằng các tập dữ liệu bằng cách tạo ra các biến thể của các ví dụ ít được đại diện. Hơn nữa, việc tuân thủ các khung làm việc như Khung quản lý rủi ro AI của NIST đảm bảo một cách tiếp cận có cấu trúc để xác định rủi ro.

Ví dụ sau đây minh họa cách áp dụng tăng cường dữ liệu trong quá trình huấn luyện với Ultralytics YOLO26 hiện đại. Bằng cách tăng cường các phép biến đổi hình học như lật hoặc thay đổi tỷ lệ, mô hình học cách khái quát hóa tốt hơn, từ đó có khả năng giảm thiên kiến đối với các hướng hoặc vị trí đối tượng cụ thể.

from ultralytics import YOLO

# Load the YOLO26 model, the new standard for speed and accuracy
model = YOLO("yolo26n.pt")

# Train with increased augmentation to improve generalization
# 'fliplr' (flip left-right) and 'scale' help the model see diverse variations
results = model.train(
    data="coco8.yaml",
    epochs=50,
    fliplr=0.5,  # 50% probability of horizontal flip
    scale=0.5,  # +/- 50% image scaling
)

Các công cụ như AI Fairness 360 của IBM và What-If Tool của Google cho phép các kỹ sư kiểm tra mô hình của họ để tìm ra sự chênh lệch giữa các nhóm nhỏ khác nhau. Việc sử dụng dữ liệu tổng hợp cũng có thể giúp lấp đầy khoảng trống trong các tập huấn luyện nơi dữ liệu thực tế khan hiếm. Để quản lý tập dữ liệu và huấn luyện trên đám mây được tối ưu hóa, Nền tảng Ultralytics cung cấp các công cụ để trực quan hóa phân phối dữ liệu và xác định sớm các mất cân bằng tiềm ẩn. Cuối cùng, việc đạt được sự minh bạch trong AI đòi hỏi sự kết hợp giữa các giải pháp kỹ thuật, đội ngũ phát triển đa dạng và việc đánh giá liên tục độ chính xác (precision) và độ hồi đáp (recall) trên tất cả các nhân khẩu học người dùng.