Tính công bằng trong AI

Tính công bằng trong AI là một lĩnh vực đa ngành dành riêng để đảm bảo rằng các hệ thống trí tuệ nhân tạo không tạo ra hoặc duy trì các kết quả không công bằng cho các cá nhân hoặc nhóm khác nhau. Nó bao gồm việc phát triển và triển khai các mô hình đối xử công bằng với tất cả người dùng, bất kể nền tảng nhân khẩu học của họ, chẳng hạn như chủng tộc, giới tính, tuổi tác hoặc các đặc điểm được bảo vệ khác. Đạt được sự công bằng là một thành phần quan trọng để xây dựng các hệ thống AI có trách nhiệm và đáng tin cậy, mang lại lợi ích cho toàn xã hội. Việc theo đuổi sự công bằng vượt ra ngoài độ chính xác của mô hình, thay vào đó tập trung vào tác động xã hội và các hệ quả đạo đức của các quyết định do AI điều khiển.

Tính công bằng khác với các khái niệm liên quan như thế nào

Mặc dù thường được sử dụng thay thế cho nhau, tính công bằng và các thuật ngữ liên quan có ý nghĩa khác nhau:

• Đạo đức AI (AI Ethics): Đây là một lĩnh vực rộng lớn bao gồm tất cả các cân nhắc về đạo đức liên quan đến trí tuệ nhân tạo, bao gồm quyền riêng tư dữ liệu (data privacy), trách nhiệm giải trình và tính minh bạch trong AI (transparency in AI). Tính công bằng là một nguyên tắc cốt lõi trong khuôn khổ lớn hơn của đạo đức AI.
• Độ lệch (Bias) trong AI: Độ lệch đề cập đến các lỗi hoặc định kiến có hệ thống trong kết quả đầu ra của một hệ thống AI, thường bắt nguồn từ dữ liệu huấn luyện bị sai lệch hoặc các thuật toán bị lỗi. Tính công bằng là mục tiêu chủ động xác định và giảm thiểu độ lệch này để ngăn chặn các kết quả phân biệt đối xử.
• Độ lệch thuật toán: Đây là một loại độ lệch cụ thể bắt nguồn từ chính thuật toán, trong đó logic của nó có thể vốn đã ưu tiên các nhóm nhất định. Các sáng kiến về tính công bằng nhằm mục đích điều chỉnh độ lệch thuật toán thông qua các kỹ thuật chuyên biệt trong quá trình phát triển và đánh giá.

Ứng dụng thực tế của tính công bằng trong AI

Việc triển khai tính công bằng là rất cần thiết trong các ứng dụng có rủi ro cao, nơi các quyết định của AI có thể tác động đáng kể đến cuộc sống của mọi người. Hai ví dụ nổi bật bao gồm:

1. Dịch vụ Tài chính Công bằng: Các mô hình AI được sử dụng rộng rãi để đánh giá khả năng tín dụng cho các khoản vay. Một mô hình không công bằng có thể từ chối các khoản vay đối với những người nộp đơn đủ điều kiện từ các nhóm thiểu số với tỷ lệ cao hơn những người khác do sự thiên vị lịch sử trong dữ liệu cho vay. Một hệ thống AI công bằng được thiết kế và thử nghiệm để đảm bảo rằng các đề xuất cho vay của nó không tương quan với các đặc điểm được bảo vệ, thúc đẩy khả năng tiếp cận bình đẳng với các cơ hội tài chính như được ủng hộ bởi các tổ chức như Diễn đàn Kinh tế Thế giới.
2. Công cụ tuyển dụng không thiên vị: Các công ty ngày càng sử dụng AI để sàng lọc hồ sơ và xác định các ứng viên đầy triển vọng. Tuy nhiên, nếu một mô hình được huấn luyện trên dữ liệu tuyển dụng lịch sử phản ánh những thành kiến ​​trong quá khứ tại nơi làm việc, nó có thể phạt một cách không công bằng các ứng viên nữ hoặc ứng viên có tên không theo truyền thống. Để chống lại điều này, các nhà phát triển thực hiện các ràng buộc về tính công bằng và tiến hành kiểm toán để đảm bảo công cụ đánh giá tất cả các ứng viên chỉ dựa trên kỹ năng và trình độ, như đã được nghiên cứu bởi các tổ chức như Hiệp hội Quản lý Nguồn nhân lực (SHRM).

Đạt được sự công bằng trong các hệ thống AI

Đạt được sự công bằng là một quá trình liên tục đòi hỏi một cách tiếp cận toàn diện trong suốt vòng đời AI. Các chiến lược chính bao gồm:

• Xử lý Dữ liệu Cẩn thận: Các phương pháp thu thập và gán nhãn dữ liệu nghiêm ngặt là nền tảng để tạo ra các tập dữ liệu đa dạng và đại diện. Các kỹ thuật như tăng cường dữ liệu có thể giúp cân bằng các nhóm chưa được đại diện đầy đủ và các framework như Datasheets for Datasets thúc đẩy tính minh bạch.
• Thuật toán nhận biết tính công bằng: Phát triển hoặc điều chỉnh các thuật toán máy học (ML) để kết hợp rõ ràng các ràng buộc về tính công bằng trong quá trình huấn luyện mô hình. Điều này đảm bảo mô hình tối ưu hóa cả hiệu suất và tính công bằng.
• Đánh giá nghiêm ngặt: Thực hiện đánh giá mô hình kỹ lưỡng bằng cách sử dụng các chỉ số công bằng cụ thể là rất quan trọng để đánh giá sự khác biệt về hiệu suất giữa các nhóm nhỏ khác nhau. Các công cụ như What-If Tool của Google và AI Fairness 360 của IBM cung cấp các khả năng để phát hiện và giảm thiểu sự thiên vị.
• Giám sát liên tục: Việc liên tục theo dõi hiệu suất và tính công bằng của mô hình sau khi triển khai là cần thiết để phát hiện và giải quyết bất kỳ vấn đề mới nổi nào hoặc sự trôi dạt dữ liệu có thể gây ra những sai lệch mới theo thời gian.

Các nền tảng như Ultralytics HUB cung cấp các công cụ để huấn luyện mô hình tùy chỉnh và quản lý, cho phép các nhà phát triển tuyển chọn cẩn thận các bộ dữ liệu và đánh giá các mô hình như Ultralytics YOLO11 về hiệu suất trên các nhóm đa dạng. Điều này hỗ trợ sự phát triển của các giải pháp thị giác máy tính (CV) công bằng hơn. Tuân thủ các nguyên tắc đạo đức từ các tổ chức như Partnership on AI và tuân theo các khuôn khổ của chính phủ như NIST AI Risk Management Framework cũng là những bước quan trọng. Cộng đồng nghiên cứu tiếp tục thúc đẩy các chủ đề này tại các địa điểm như Hội nghị ACM về Tính công bằng, Trách nhiệm giải trình và Tính minh bạch (FAccT).