AI Ethics

Đạo đức AI là lĩnh vực áp dụng các nguyên tắc đạo đức vào thiết kế, phát triển và sử dụng trí tuệ nhân tạo (AI), xem xét nên xây dựng hệ thống nào, hệ thống cần hoạt động ra sao và ai chịu trách nhiệm về tác động của chúng. Các mối quan tâm trọng tâm gồm tính công bằng, quyền riêng tư, tính minh bạch, an toàn, trách nhiệm giải trình và sự giám sát của con người; lĩnh vực này dựa trên triết học, luật, khoa học xã hội và kỹ thuật. Trong thực tế, đạo đức AI định hình cách các nhóm thu thập dữ liệu, đánh giá model và quyết định phát hành sản phẩm nào; đây cũng là nền tảng của các quy định như Đạo luật AI của EU và các luật AI của California.

Các nguyên tắc cốt lõi#

Các khuôn khổ quốc tế đều hội tụ vào một nhóm nguyên tắc tương tự. Các Nguyên tắc AI của OECD, được thông qua năm 2019 và cập nhật năm 2024, là tiêu chuẩn liên chính phủ đầu tiên về AI; Khuyến nghị về Đạo đức Trí tuệ nhân tạo của UNESCO được cả 193 quốc gia thành viên thông qua vào năm 2021; còn Khung Quản lý Rủi ro AI của NIST (2023) chuyển các giá trị tương tự thành những đặc tính của AI đáng tin cậy mà các tổ chức có thể đo lường:

• Công bằng và không phân biệt đối xử: Các hệ thống không nên hoạt động kém hơn hoặc gây bất lợi cho mọi người vì màu da, giới tính, tuổi tác hay các đặc điểm được bảo vệ khác. Thiên kiến trong AI thường xuất phát từ dữ liệu hoặc nhãn không đại diện, còn tính công bằng trong AI cung cấp các chỉ số để kiểm tra vấn đề này.
• Quyền riêng tư và quản trị dữ liệu: Dữ liệu cá nhân cần được thu thập hợp pháp, có sự đồng ý khi cần thiết và chỉ được xử lý trong phạm vi cần cho mục đích sử dụng. Các kỹ thuật như quyền riêng tư vi sai và học liên kết giúp giảm lượng thông tin mà model tiết lộ hoặc tập trung hóa. Trong phân tích video, quyền riêng tư ngay từ khâu thiết kế có thể là ẩn danh hóa người xuất hiện trước khi lưu video: giải pháp làm mờ đối tượng của Ultralytics chạy phát hiện YOLO26 trên từng frame và làm mờ tại chỗ từng đối tượng được phát hiện, chẳng hạn như mọi người.
• Tính minh bạch và khả năng giải thích: Mọi người cần biết khi nào họ đang tương tác với một hệ thống AI và có thể tìm hiểu cách hệ thống được xây dựng — nội dung thuộc tính minh bạch trong AI; các quyết định ảnh hưởng đến họ cũng cần được giải thích bằng các phương pháp AI có khả năng giải thích (XAI).
• An toàn và độ bền vững: Các hệ thống cần hoạt động đáng tin cậy trong những điều kiện triển khai thực tế, chống lại các hành vi thao túng như tấn công đối kháng và chuyển sang trạng thái an toàn khi gặp lỗi.
• Trách nhiệm giải trình và giám sát của con người: Một cá nhân hoặc tổ chức được chỉ định chịu trách nhiệm về kết quả của từng hệ thống, đồng thời con người có thể giám sát, ghi đè hoặc tắt hệ thống.

Từ nguyên tắc đến luật pháp#

Đạo luật AI của EU chuyển các nguyên tắc này thành những nghĩa vụ tương ứng với mức độ rủi ro. Đạo luật có hiệu lực từ tháng 8 năm 2024; các lệnh cấm đối với những thực hành bị cấm được áp dụng từ ngày 2 tháng 2 năm 2025, còn các nghĩa vụ minh bạch có hiệu lực từ ngày 2 tháng 8 năm 2026. Sau sửa đổi Digital Omnibus năm 2026, các yêu cầu đối với mục đích sử dụng rủi ro cao được liệt kê trong Phụ lục III, chẳng hạn như tuyển dụng, chấm điểm tín dụng và giáo dục, sẽ áp dụng từ ngày 2 tháng 12 năm 2027. Đạo luật phân loại từng trường hợp sử dụng AI theo các nghĩa vụ phát sinh:

Một số lệnh cấm liên quan trực tiếp đến thị giác máy tính: thu thập dữ liệu không có mục tiêu cụ thể từ ảnh khuôn mặt trên Internet hoặc camera giám sát để xây dựng cơ sở dữ liệu nhận dạng; nhận dạng cảm xúc tại nơi làm việc và trường học; phân loại sinh trắc học nhằm suy đoán các đặc điểm như chủng tộc hoặc quan điểm chính trị; và, trừ một số ngoại lệ hẹp, nhận dạng sinh trắc học từ xa theo thời gian thực tại không gian công cộng để thực thi pháp luật. Các tổ chức cũng có thể chứng nhận hoạt động quản lý AI theo ISO/IEC 42001, tiêu chuẩn quốc tế được công bố năm 2023.

Đạo đức AI và các thuật ngữ liên quan#

• An toàn AI: Tập trung ngăn ngừa tai nạn, lạm dụng và mất kiểm soát khi các hệ thống ngày càng có năng lực. Đạo đức AI còn đặt câu hỏi liệu một hệ thống có nên tồn tại và hệ thống phục vụ ai.
• Quản trị AI: Các chính sách, quy trình và luật pháp mà tổ chức và chính phủ sử dụng để đưa những nguyên tắc đạo đức vào thực tiễn.
• AI có trách nhiệm: Thuật ngữ mà các công ty thường dùng để chỉ thực hành đạo đức AI của chính họ, và phần lớn đồng nghĩa với thuật ngữ này.
• Thiên kiến thuật toán: Một vấn đề đạo đức cụ thể trong lĩnh vực rộng hơn, chỉ lỗi có tính hệ thống dẫn đến kết quả không công bằng.

Các vấn đề đạo đức trong thị giác máy tính#

• Chăm sóc sức khỏe: Trong phân tích ảnh y tế, model được xác thực trên máy quét và bệnh nhân của một bệnh viện có thể bỏ sót các phát hiện ở những nhóm dân số chưa từng xuất hiện trong dữ liệu. Vì vậy, các khuôn khổ đạo đức yêu cầu đánh giá riêng theo từng nhóm và có sự giám sát của bác sĩ.
• Nội dung tổng hợp: Deepfake tạo điều kiện cho gian lận, quấy rối và thông tin sai lệch; Đạo luật AI của EU yêu cầu đơn vị triển khai công khai nội dung này.
• Nhận dạng cảm xúc: Năm 2022, Microsoft ngừng cung cấp các tính năng Azure Face suy đoán trạng thái cảm xúc và thuộc tính như giới tính, tuổi tác, với lý do thiếu sự đồng thuận khoa học về cách định nghĩa cảm xúc và có nghi ngờ rằng các suy luận từ biểu cảm khuôn mặt có thể khái quát giữa các khu vực và nhóm nhân khẩu học.
• Sự đồng ý và nguồn gốc bộ dữ liệu: Nhiều bộ dữ liệu khuôn mặt và con người được thu thập mà những người trong ảnh không hề hay biết; năm 2019, Microsoft đã gỡ bộ dữ liệu MS-Celeb-1M gồm khoảng 10 triệu ảnh của 100.000 người.
• Nhận dạng khuôn mặt và giám sát: Tháng 6 năm 2020, IBM ngừng cung cấp công nghệ nhận dạng khuôn mặt đa dụng và Amazon tạm dừng việc cảnh sát sử dụng dịch vụ Rekognition; sau đó, Amazon gia hạn lệnh tạm hoãn vô thời hạn. Tháng 9 năm 2024, Cơ quan Bảo vệ Dữ liệu Hà Lan phạt Clearview AI 30,5 triệu euro vì xây dựng cơ sở dữ liệu gồm hàng tỷ ảnh khuôn mặt thu thập từ Internet.