Độ lệch Thuật toán

Độ lệch thuật toán đề cập đến các lỗi hệ thống và lặp lại trong một hệ thống trí tuệ nhân tạo (AI) dẫn đến các kết quả không công bằng, chẳng hạn như ưu tiên một nhóm người dùng tùy ý hơn những người khác. Những độ lệch này có thể xuất hiện từ nhiều nguồn khác nhau, bao gồm dữ liệu sai sót hoặc thiết kế của chính thuật toán máy học (ML). Giải quyết vấn đề này là một thành phần quan trọng của việc phát triển AI có trách nhiệm và đạo đức, đảm bảo rằng công nghệ mang lại lợi ích cho xã hội một cách công bằng. Hậu quả của độ lệch thuật toán không được kiểm soát có thể từ việc duy trì sự bất bình đẳng xã hội đến đưa ra các dự đoán không chính xác trong các ứng dụng quan trọng như chăm sóc sức khỏe và tài chính.

Các nguồn gây ra sai lệch thuật toán

Độ lệch thuật toán không phải là một vấn đề đơn lẻ; nó bắt nguồn từ nhiều nguồn, thường liên kết với nhau, trong suốt vòng đời phát triển AI. Hiểu được những nguồn gốc này là bước đầu tiên để giảm thiểu.

• Độ lệch dữ liệu (Data Bias): Đây là nguồn phổ biến nhất, khi dữ liệu huấn luyện không đại diện cho thế giới thực. Nếu một tập dữ liệu chứa nhiều hình ảnh của một nhóm nhân khẩu học hơn nhóm khác, thì mô hình được huấn luyện trên đó có thể sẽ hoạt động tốt hơn cho nhóm chiếm đa số. Đây là một dạng độ lệch tập dữ liệu (dataset bias), trực tiếp góp phần vào các kết quả thuật toán bị sai lệch.
• Độ lệch chủ quan của con người: Các nhà phát triển, người dán nhãn dữ liệu và người dùng cuối của hệ thống AI có thể vô tình đưa những thành kiến nhận thức của riêng họ vào. Điều này có thể biểu hiện ở cách dữ liệu được thu thập và chú thích, những đặc điểm nào được coi là quan trọng và cách các kết quả đầu ra của mô hình được diễn giải.
• Thiết kế thuật toán: Việc lựa chọn thuật toán và cách tối ưu hóa thuật toán cũng có thể tạo ra sự thiên vị. Ví dụ: một thuật toán được thiết kế để tối đa hóa độ chính xác tổng thể có thể làm như vậy bằng cách hy sinh hiệu suất trên các nhóm thiểu số, một ví dụ điển hình của sự đánh đổi giữa độ chệch và phương sai.

Các ví dụ thực tế về sự thiên vị của thuật toán

Tác động của sự thiên vị thuật toán là hữu hình và đã được quan sát thấy trong nhiều ứng dụng thực tế.

1. Hệ thống nhận dạng khuôn mặt: Các công nghệ nhận dạng khuôn mặt (facial recognition) ban đầu cho thấy tỷ lệ chính xác thấp hơn đáng kể đối với phụ nữ và những người có tông màu da sẫm hơn. Nghiên cứu từ các tổ chức như MIT tiết lộ rằng các hệ thống này được huấn luyện trên các bộ dữ liệu chủ yếu bao gồm hình ảnh của đàn ông da trắng, dẫn đến hiệu suất kém đối với các nhóm nhân khẩu học khác và làm dấy lên những lo ngại nghiêm trọng về việc sử dụng chúng trong thực thi pháp luật.
2. Thuật toán phê duyệt khoản vay: Trong lĩnh vực tài chính, các mô hình AI được sử dụng để dự đoán khả năng trả nợ. Tuy nhiên, dữ liệu cho vay trong quá khứ thường phản ánh những thành kiến ​​của xã hội trước đây. Một thuật toán được đào tạo trên dữ liệu này có thể học cách liên kết một số mã vùng hoặc dấu hiệu nhân khẩu học nhất định với rủi ro cao hơn, từ đó từ chối các khoản vay một cách không công bằng đối với những người nộp đơn đủ điều kiện từ các cộng đồng thiểu số, một hành vi được gọi là phân biệt đối xử kỹ thuật số.

Độ lệch thuật toán so với độ lệch tập dữ liệu

Mặc dù liên quan chặt chẽ, điều quan trọng là phải phân biệt giữa sai lệch thuật toán và sai lệch bộ dữ liệu (dataset bias).

• Độ lệch tập dữ liệu đặc biệt đề cập đến các vấn đề trong dữ liệu được sử dụng để huấn luyện, chẳng hạn như thiếu tính đa dạng hoặc nhãn không chính xác. Đó là một nguyên nhân chính.
• Độ lệch thuật toán là hiệu ứng rộng hơn. Nó mô tả hành vi sai lệch kết quả của mô hình AI. Mặc dù thường do độ lệch tập dữ liệu gây ra, nhưng nó cũng có thể được giới thiệu hoặc khuếch đại bởi logic riêng của thuật toán, hàm tối ưu hóa của nó hoặc cách nó được tích hợp vào một hệ thống lớn hơn. Một thuật toán có thể bị sai lệch ngay cả với dữ liệu hoàn toàn cân bằng nếu các hoạt động bên trong của nó ưu tiên một số kết quả nhất định.

Các chiến lược giảm thiểu

Giải quyết sự thiên vị của thuật toán đòi hỏi một cách tiếp cận chủ động và nhiều mặt trong suốt vòng đời AI:

• Các chỉ số công bằng: Kết hợp các chỉ số công bằng vào quá trình huấn luyện và xác thực mô hình, cùng với các chỉ số hiệu suất truyền thống như độ chính xác.
• Kiểm toán thuật toán: Thường xuyên kiểm tra các thuật toán để tìm các kết quả sai lệch trên các nhóm nhỏ khác nhau. Các công cụ như bộ công cụ AI Fairness 360 và Fairlearn có thể hỗ trợ phát hiện và giảm thiểu sự thiên vị.
• Kỹ thuật giảm thiểu sai lệch: Sử dụng các kỹ thuật được thiết kế để điều chỉnh thuật toán, chẳng hạn như cân bằng lại các điểm dữ liệu, sửa đổi các ràng buộc học tập hoặc xử lý hậu kỳ các đầu ra mô hình để đảm bảo kết quả công bằng hơn.
• AI Giải thích được (Explainable AI - XAI): Sử dụng các phương pháp XAI để hiểu tại sao một thuật toán đưa ra các quyết định nhất định, giúp xác định các thành kiến ẩn trong logic của nó. Tăng cường Tính minh bạch trong AI (Transparency in AI) là yếu tố then chốt.
• Đội ngũ đa dạng và thử nghiệm: Thu hút các đội ngũ đa dạng trong quá trình phát triển và tiến hành thử nghiệm kỹ lưỡng với các nhóm người dùng đại diện để khám phá những thành kiến tiềm ẩn.
• Nhận thức về quy định: Luôn cập nhật thông tin về các quy định đang phát triển như Đạo luật AI của EU, bao gồm các điều khoản liên quan đến sự thiên vị và công bằng.
• Giám sát Mô hình Liên tục (Model Monitoring): Giám sát các mô hình đã triển khai để phát hiện sự suy giảm hiệu suất hoặc các sai lệch mới phát sinh theo thời gian.

Bằng cách hiểu rõ các sắc thái của sai lệch thuật toán và chủ động làm việc để giảm thiểu nó thông qua thiết kế cẩn thận, kiểm tra nghiêm ngặt và tuân thủ các nguyên tắc về Tính công bằng trong AI và Đạo đức AI, các nhà phát triển có thể tạo ra các ứng dụng AI đáng tin cậy, công bằng và có lợi hơn. Các tổ chức như Partnership on AI và Algorithmic Justice League ủng hộ việc phát triển AI có trách nhiệm. Các nền tảng như Ultralytics HUB và các mô hình như Ultralytics YOLO cung cấp các khuôn khổ hỗ trợ phát triển và đánh giá mô hình cẩn thận, xem xét các yếu tố như Quyền riêng tư dữ liệu và đóng góp vào việc tạo ra các hệ thống công bằng hơn. Hội nghị ACM về Tính công bằng, Trách nhiệm giải trình và Tính minh bạch (FAccT) là một địa điểm hàng đầu cho nghiên cứu trong lĩnh vực này.