Concept Bottleneck Models

Mô hình nút thắt khái niệm (CBM) là các mạng neural đưa ra dự đoán thông qua một tầng trung gian gồm các khái niệm mà con người có thể hiểu được. Thay vì ánh xạ một đầu vào trực tiếp thành nhãn cuối cùng, CBM trước tiên dự đoán các thuộc tính có ý nghĩa—chẳng hạn như "cánh đỏ", "vết nứt bề mặt" hoặc "thu hẹp khớp"—và sau đó chỉ sử dụng các thuộc tính đó để đưa ra quyết định. Cấu trúc này giúp mô hình dễ kiểm tra, gỡ lỗi và chỉnh sửa hơn so với một mô hình hộp đen thông thường.

Cách thức hoạt động của Mô hình Nút thắt Khái niệm#

Một neural network tiêu chuẩn thường biểu diễn thông tin trong một latent space không rõ ràng. CBM thay thế một phần của biểu diễn ẩn đó bằng một véc-tơ khái niệm có các chiều mang ý nghĩa được xác định.

Quy trình dự đoán của mô hình có hai giai đoạn chính:

1. Bộ dự đoán khái niệm ánh xạ đầu vào thô, chẳng hạn như một hình ảnh, thành các giá trị khái niệm.
2. Bộ dự đoán mục tiêu ánh xạ các giá trị khái niệm đó thành lớp hoặc điểm số cuối cùng.

Ví dụ, một bộ phân loại chim có thể dự đoán "mỏ đen", "ngực trắng" và "đuôi dài" trước khi nhận dạng loài. Các khái niệm có thể là nhị phân, phân loại hoặc liên tục. Chúng thường được học thông qua supervised learning, đòi hỏi mỗi ví dụ huấn luyện phải bao gồm cả nhãn mục tiêu và chú thích khái niệm.

Hai giai đoạn này có thể được huấn luyện độc lập, tuần tự hoặc đồng thời. Huấn luyện độc lập giúp sự tách biệt trở nên rõ ràng, trong khi huấn luyện đồng thời có thể cân bằng chất lượng khái niệm với hiệu suất tác vụ cuối cùng. Trong mọi trường hợp, nút thắt phải giới hạn bộ dự đoán mục tiêu ở các khái niệm đã khai báo; nếu không, thông tin ẩn có thể bỏ qua phần giải thích dự định.

Tại sao Khả năng giải thích và Sự can thiệp lại Quan trọng#

CBM là một dạng explainable AI nội tại: cấu trúc dễ giải thích của chúng được tích hợp ngay vào quá trình dự đoán thay vì được thêm vào sau đó. Điều này khác với các công cụ hậu kỳ như saliency maps, vốn ước tính những yếu tố ảnh hưởng đến một hộp đen đã được huấn luyện.

Tầng khái niệm hỗ trợ một số tương tác hữu ích:

• Người dùng có thể kiểm tra những khái niệm nào đã gây ra một quyết định.
• Các chuyên gia miền có thể chỉnh sửa một khái niệm không chính xác và tính toán lại kết quả đầu ra.
• Các lập trình viên có thể kiểm tra xem bộ dự đoán mục tiêu có tuân theo logic miền hợp lệ hay không.
• Các nhóm có thể đo lường độ chính xác của khái niệm tách biệt với độ chính xác của tác vụ cuối cùng.

Các khả năng này phù hợp với NIST guidance on explainable AI và các biện pháp kiểm soát lấy con người làm trung tâm được thảo luận trong People + AI Guidebook. Tuy nhiên, một lời giải thích dễ hiểu không tự động đồng nghĩa với một lời giải thích chính xác. Độ trung thực của khái niệm phải được đánh giá thay vì giả định.

Các ứng dụng trong thực tế#

• Medical Image Analysis: Một mô hình kiểm tra phim X-quang có thể ước tính các khái niệm như gai xương, thu hẹp khoảng cách khớp và xơ hóa trước khi phân loại mức độ nghiêm trọng của bệnh. Bác sĩ lâm sàng có thể xem xét hoặc chỉnh sửa các kết quả trung gian này thay vì chỉ nhận được một điểm số mức độ nghiêm trọng. Sự tương tác giữa con người và mô hình này đặc biệt có liên quan đến FDA transparency principles for machine-learning medical devices.

• Manufacturing Visual Inspection: A vision system can identify concepts such as missing components, cracks, discoloration, or incorrect alignment, then use them to decide whether a product passes inspection or requires a particular repair. Object detection can localize components and defects, while the downstream concept-based classifier provides an auditable quality decision.

Hạn chế và Các Khái niệm Liên quan#

Nhãn khái niệm tạo ra các chi phí data annotation bổ sung và có thể yêu cầu kiến thức chuyên môn. Các khái niệm được định nghĩa kém có thể mang tính chủ quan, có tương quan, chưa đầy đủ hoặc khó nhận dạng từ đầu vào. Các nhóm nên thiết lập các quy tắc gán nhãn chính xác và kiểm toán sự bất đồng giữa những người gán nhãn.

Các rủi ro quan trọng khác bao gồm lỗi dự đoán khái niệm, điểm số chưa được hiệu chỉnh và rò rỉ khái niệm (concept leakage), trong đó các giá trị khái niệm liên tục mã hóa thông tin ngoài ý muốn vượt ra ngoài ý nghĩa đã nêu của chúng. Hướng dẫn về probability calibration có thể giúp xác định xem các giá trị độ tin cậy của khái niệm có đáng tin cậy hay không.

CBM cũng khác biệt so với kỹ thuật đặc trưng (feature engineering): các đặc trưng được thiết kế là đầu vào được tính toán thủ công, trong khi các khái niệm thường được dự đoán từ dữ liệu thô và được giám sát rõ ràng. Nó không giống với nguyên tắc nút thắt thông tin, vốn nén các biểu diễn mà không yêu cầu mọi chiều phải có thể đọc được đối với con người.

Hiệu suất của khái niệm nên được kiểm tra trên các lát dữ liệu liên quan vì các chú thích bị thiên lệch hoặc thiếu khái niệm có thể tạo ra các lỗi không đồng đều. Google’s guidance for identifying ML bias và NIST AI RMF Core cung cấp các thực tiễn đánh giá và quản trị hữu ích.

Xây dựng một Đường ống Thị giác Thực tế#

Một mô hình Ultralytics YOLO26 có thể đóng vai trò là bộ trích xuất khái niệm thị giác ở thượng nguồn. Predict mode workflow sau đây thu thập các lớp đối tượng được phát hiện làm tín hiệu khái niệm ứng viên:

from ultralytics import YOLO

# Load a pretrained visual concept extractor
model = YOLO("yolo26n.pt")

# Run inference and select the first result
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into human-readable concept candidates
concepts = {result.names[int(class_id)] for class_id in result.boxes.cls}
print(sorted(concepts))

result.save(filename="concept_candidates.jpg")

Đây không phải là một CBM hoàn chỉnh: một mô hình hạ nguồn vẫn phải được huấn luyện để dự đoán mục tiêu cuối cùng độc quyền từ các khái niệm đã chọn. Các nhóm có thể sử dụng Ultralytics Platform để gán nhãn dữ liệu thị giác, huấn luyện bộ trích xuất khái niệm, so sánh các thử nghiệm và giám sát các thành phần đã triển khai. Đánh giá độ chính xác của khái niệm, độ chính xác của mục tiêu, quá trình hiệu chỉnh, hành vi can thiệp và các phân nhóm quan trọng một cách riêng biệt bằng cách sử dụng một model evaluation workflow có cấu trúc.