Sự thiên vị của thuật toán

Nguồn gốc của sự thiên vị thuật toán

Sai lệch thuật toán không phải là một vấn đề đơn lẻ; nó bắt nguồn từ nhiều nguồn, thường liên quan đến nhau, trong suốt vòng đời phát triển AI. Hiểu được những nguồn gốc này là bước đầu tiên để giảm thiểu.

• Sai lệch dữ liệu: Đây là nguyên nhân phổ biến nhất, trong đó dữ liệu huấn luyện không đại diện cho thế giới thực. Nếu một tập dữ liệu chứa nhiều hình ảnh của một nhóm nhân khẩu học hơn nhóm khác, mô hình được huấn luyện trên tập dữ liệu đó có thể sẽ hoạt động tốt hơn đối với nhóm đa số. Đây là một dạng sai lệch dữ liệu , góp phần trực tiếp vào kết quả thuật toán bị sai lệch.
• Thành kiến của con người: Các nhà phát triển, người dán nhãn dữ liệu và người dùng cuối của hệ thống AI có thể vô tình tạo ra thành kiến nhận thức của riêng họ. Những thành kiến này có thể thể hiện qua cách thu thập và chú thích dữ liệu , những đặc điểm nào được coi là quan trọng và cách diễn giải kết quả đầu ra của mô hình.
• Thiết kế thuật toán: Việc lựa chọn thuật toán và cách tối ưu hóa nó cũng có thể tạo ra sai lệch. Ví dụ, một thuật toán được thiết kế để tối đa hóa độ chính xác tổng thể có thể làm như vậy bằng cách hy sinh hiệu suất trên các nhóm ít được đại diện, một ví dụ điển hình về sự đánh đổi giữa sai lệch và phương sai .

Ví dụ thực tế về sự thiên vị thuật toán

Tác động của sự thiên vị thuật toán là rõ ràng và đã được quan sát thấy trong nhiều ứng dụng thực tế.

1. Hệ thống Nhận dạng Khuôn mặt: Các công nghệ nhận dạng khuôn mặt ban đầu cho thấy tỷ lệ chính xác thấp hơn đáng kể đối với phụ nữ và người có tông màu da tối. Nghiên cứu từ các tổ chức như MIT cho thấy các hệ thống này được đào tạo trên các tập dữ liệu chủ yếu là hình ảnh của đàn ông da trắng, dẫn đến hiệu suất kém đối với các nhóm nhân khẩu học khác và làm dấy lên mối lo ngại nghiêm trọng về việc sử dụng chúng trong thực thi pháp luật.
2. Thuật toán phê duyệt khoản vay: Trong lĩnh vực tài chính, các mô hình AI được sử dụng để dự đoán khả năng tín dụng. Tuy nhiên, dữ liệu lịch sử cho vay thường phản ánh những định kiến xã hội trong quá khứ. Một thuật toán được đào tạo dựa trên dữ liệu này có thể học cách liên kết một số mã bưu chính hoặc đặc điểm nhân khẩu học với rủi ro cao hơn, từ chối khoản vay một cách bất công cho những người nộp đơn đủ điều kiện từ các cộng đồng thiểu số, một hành vi được gọi là phân biệt đối xử kỹ thuật số.

Độ lệch thuật toán so với độ lệch tập dữ liệu

Mặc dù có liên quan chặt chẽ, nhưng điều quan trọng là phải phân biệt giữa sai lệch thuật toán và sai lệch tập dữ liệu .

• Sai lệch tập dữ liệu đề cập cụ thể đến các vấn đề trong dữ liệu được sử dụng để đào tạo , chẳng hạn như thiếu tính đa dạng hoặc nhãn không chính xác. Đây là nguyên nhân chính.
• Sai lệch thuật toán là hiệu ứng rộng hơn. Nó mô tả hành vi lệch lạc của mô hình AI. Mặc dù thường do sai lệch tập dữ liệu gây ra, nó cũng có thể được đưa vào hoặc khuếch đại bởi logic riêng của thuật toán, hàm tối ưu hóa của nó, hoặc cách nó được tích hợp vào một hệ thống lớn hơn. Một thuật toán có thể bị sai lệch ngay cả với dữ liệu hoàn toàn cân bằng nếu cơ chế hoạt động bên trong của nó thiên về một số kết quả nhất định.

Chiến lược giảm thiểu

Để giải quyết vấn đề thiên vị thuật toán đòi hỏi phải có cách tiếp cận chủ động và đa chiều trong suốt vòng đời của AI:

• Chỉ số công bằng: Kết hợp chỉ số công bằng vào quá trình đào tạo và xác thực mô hình, cùng với các chỉ số hiệu suất truyền thống như độ chính xác.
• Kiểm toán thuật toán: Kiểm toán thường xuyên các thuật toán để tìm ra kết quả thiên vị trên các nhóm con khác nhau. Các công cụ như bộ công cụ AI Fairness 360 và Fairlearn có thể hỗ trợ phát hiện và giảm thiểu thiên vị.
• Kỹ thuật giảm thiểu sai lệch: Sử dụng các kỹ thuật được thiết kế để điều chỉnh thuật toán, chẳng hạn như cân nhắc lại các điểm dữ liệu, sửa đổi các ràng buộc học tập hoặc xử lý hậu kỳ đầu ra của mô hình để đảm bảo kết quả công bằng hơn.
• AI có thể giải thích (XAI) : Sử dụng các phương pháp XAI để hiểu lý do tại sao một thuật toán đưa ra một số quyết định nhất định, giúp xác định các thành kiến tiềm ẩn trong logic của thuật toán đó. Tăng cường tính minh bạch trong AI là chìa khóa.
• Các nhóm và thử nghiệm đa dạng: Thu hút nhiều nhóm khác nhau tham gia vào quá trình phát triển và tiến hành thử nghiệm kỹ lưỡng với các nhóm người dùng đại diện để phát hiện ra những sai lệch tiềm ẩn.
• Nhận thức về quy định: Luôn cập nhật các quy định đang thay đổi như Đạo luật AI của EU , bao gồm các điều khoản liên quan đến sự thiên vị và công bằng.
• Giám sát mô hình liên tục: Giám sát các mô hình được triển khai để phát hiện tình trạng suy giảm hiệu suất hoặc sai lệch mới xuất hiện theo thời gian.

Bằng cách hiểu được các sắc thái của sự thiên vị thuật toán và tích cực hành động để giảm thiểu nó thông qua thiết kế cẩn thận, thử nghiệm nghiêm ngặt và tuân thủ các nguyên tắc Công bằng trong AI và Đạo đức AI , các nhà phát triển có thể tạo ra các ứng dụng AI đáng tin cậy, công bằng và có lợi hơn. Các tổ chức như Partnership on AI và Algorithmic Justice League ủng hộ việc phát triển AI có trách nhiệm. Các nền tảng như Ultralytics HUB và các mô hình như Ultralytics YOLO cung cấp các khuôn khổ hỗ trợ phát triển và đánh giá mô hình cẩn thận, xem xét các yếu tố như Quyền riêng tư dữ liệu và góp phần tạo ra các hệ thống công bằng hơn. Hội nghị ACM về Công bằng, Trách nhiệm giải trình và Minh bạch (FAccT) là địa điểm hàng đầu cho nghiên cứu trong lĩnh vực này.