Transparency in AI

Tính minh bạch trong AI là sự cởi mở về cách một hệ thống trí tuệ nhân tạo (AI) được xây dựng, huấn luyện, đánh giá và sử dụng, đồng thời thông báo cho mọi người khi họ đang tương tác với hệ thống đó. Tính minh bạch trả lời các câu hỏi về toàn bộ hệ thống: dữ liệu nào đã được dùng để huấn luyện model, ai xây dựng model và vì mục đích gì, model hoạt động tốt đến đâu và với những ai, không nên dùng model vào việc gì, và liệu đối tác trò chuyện, hình ảnh hay quyết định có phải do AI tạo ra hay không. Tính minh bạch giúp người dùng hiệu chỉnh mức độ tin tưởng, cho phép kiểm toán viên và cơ quan quản lý kiểm tra các tuyên bố về hệ thống, đồng thời giúp nhà nghiên cứu phát hiện sai sót như thiên kiến thuật toán; vì vậy, Các nguyên tắc AI của OECD và hầu hết các khuôn khổ đạo đức AI khác đều liệt kê tính minh bạch là một nguyên tắc cốt lõi.

Các hình thức minh bạch#

• Thông báo: Mọi người được thông báo khi tương tác với hệ thống AI hoặc xem nội dung do AI tạo ra. Điều 50 của Đạo luật AI EU, có hiệu lực từ ngày 2 tháng 8 năm 2026, yêu cầu chatbot nêu rõ người dùng đang nói chuyện với máy, yêu cầu nhà cung cấp hệ thống tạo sinh đánh dấu đầu ra theo định dạng máy có thể đọc được, và yêu cầu đơn vị triển khai gắn nhãn deepfake. Các tiêu chuẩn như Content Credentials (C2PA) và đóng dấu watermark cho AI triển khai việc đánh dấu này.
• Tài liệu: Thẻ model báo cáo mục đích sử dụng dự kiến, dữ liệu huấn luyện, kết quả đánh giá được phân tách theo nhóm và các hạn chế đã biết của model; Datasheets for Datasets cung cấp thông tin tương tự cho dữ liệu, ghi lại động cơ, thành phần, quy trình thu thập và mục đích sử dụng được khuyến nghị. Theo Đạo luật AI EU, nhà cung cấp model AI đa dụng cũng phải công bố bản tóm tắt nội dung huấn luyện theo mẫu mà Ủy ban châu Âu phát hành vào tháng 7 năm 2025.
• Quyền truy cập: Việc phát hành trọng số, code hoặc dữ liệu cho phép bên ngoài trực tiếp kiểm tra, tái tạo và thử nghiệm model thay vì dựa vào báo cáo của nhà phát triển.
• Giải thích đầu ra: Có thể giải thích từng quyết định bằng các phương pháp AI có thể giải thích (XAI), vốn được GDPR và Đạo luật AI EU yêu cầu trong một số bối cảnh có rủi ro cao.

Quyền truy cập có nhiều cấp độ. Chỉ có thể sử dụng model đóng thông qua API của nhà phát triển; model có trọng số mở công bố các tham số của model; còn Định nghĩa AI mã nguồn mở phiên bản 1.0 của Open Source Initiative, phát hành vào tháng 10 năm 2024, cũng yêu cầu cung cấp đầy đủ code huấn luyện và suy luận, cùng đủ thông tin chi tiết về dữ liệu huấn luyện, bao gồm nguồn gốc và quy trình xử lý, để người có chuyên môn có thể xây dựng một hệ thống tương đương về cơ bản:

Tính minh bạch và khả năng giải thích#

Hai thuật ngữ này có phần giao thoa và đôi khi được dùng cùng nhau, như trong cụm “tính minh bạch và khả năng giải thích”. Tính minh bạch liên quan đến hệ thống và quy trình tạo ra hệ thống đó, và vẫn có ý nghĩa ngay cả với model không ai có thể diễn giải, chẳng hạn khi nhà phát triển lập tài liệu về dữ liệu huấn luyện và kết quả kiểm thử. Khả năng giải thích liên quan đến lý do model tạo ra một đầu ra cụ thể, chẳng hạn như những pixel nào ảnh hưởng đến kết quả phân loại. Các model có thể diễn giải, chẳng hạn cây quyết định nhỏ, vốn dễ hiểu ngay từ thiết kế; còn khả năng diễn giải cơ chế tìm cách đảo ngược kỹ thuật các mạch nội bộ của mạng lớn. Nguồn gốc dữ liệu, tức hồ sơ về nguồn dữ liệu và những thay đổi của dữ liệu, cung cấp phần lớn thông tin có trong các báo cáo minh bạch.

Tài liệu đi cùng model#

Tài liệu hữu ích nhất khi vẫn được đính kèm với model sau khi triển khai. Ultralytics YOLO26 ghi mô tả về model và tập dữ liệu huấn luyện, phiên bản thư viện, ngày export, tác vụ, kích thước đầu vào và tên lớp vào từng model đã export, chẳng hạn như các thuộc tính metadata của tệp ONNX; Ultralytics đọc lại những trường này để chạy model chính xác:

import onnx
from ultralytics import YOLO

# Export YOLO26 to ONNX; the exporter embeds provenance metadata in the file
model = YOLO("yolo26n.pt")
onnx_path = model.export(format="onnx")

# Anyone holding only the exported file can read where it came from
metadata = {prop.key: prop.value for prop in onnx.load(onnx_path).metadata_props}
for key in ("description", "author", "version", "date", "task", "imgsz"):
    print(f"{key}: {metadata[key]}")

Các trường được in ra xác định model, dữ liệu huấn luyện, phần mềm dùng để export và thời điểm export, mà không cần truy cập lần chạy huấn luyện ban đầu.

Đo lường tính minh bạch#

Chỉ số minh bạch của Foundation Model của Stanford chấm điểm các nhà phát triển AI lớn dựa trên 100 chỉ báo bao quát dữ liệu và năng lực tính toán đứng sau các model chủ lực, bản thân các model, cũng như cách sử dụng model sau khi phát hành. Trong phiên bản năm 2025, chấm điểm 13 nhà phát triển, điểm trung bình giảm từ 58 năm 2024 xuống 40/100; các nhà phát triển thiếu minh bạch nhất về dữ liệu huấn luyện và năng lực tính toán dùng để huấn luyện, trong khi IBM đạt điểm cao nhất của chỉ số là 95.