Hallucination (in LLMs)

Trong lĩnh vực Trí tuệ nhân tạo (AI), hiện tượng ảo giác đề cập đến một hiện tượng trong đó một Large Language Model (LLM) tạo ra nội dung mang tính tự tin và chính xác về mặt cú pháp nhưng lại sai lệch về mặt thực tế, vô nghĩa hoặc không trung thực so với đầu vào nguồn. Khác với các lỗi phần mềm thông thường có thể gây ra sự cố treo máy hoặc lỗi hiển thị rõ ràng, một model bị ảo giác cư xử giống như một kẻ bịa đặt đầy thuyết phục, trình bày thông tin sai lệch với độ uy tín tương đương các sự kiện hợp lệ. Điều này đặt ra những thách thức đáng kể cho các tổ chức triển khai Generative AI trong các lĩnh vực nhạy cảm như y tế, luật pháp và tài chính, nơi tính toàn vẹn của dữ liệu là tối quan trọng.

Tại sao ảo giác lại xảy ra?#

Để hiểu lý do tại sao các model gặp hiện tượng ảo giác, việc xem xét cách chúng được xây dựng sẽ rất hữu ích. Các LLM thường dựa trên kiến trúc Transformer, hoạt động như một công cụ dự đoán tinh vi. Thay vì truy vấn cơ sở dữ liệu có cấu trúc gồm các sự kiện đã được xác minh, model dự đoán token tiếp theo trong một chuỗi dựa trên xác suất thống kê lấy từ training data của nó.

Một vài yếu tố thúc đẩy hành vi này:

• Đoán theo xác suất: Model ưu tiên tính trôi chảy và mạch lạc hơn là sự thật thực tế. Nếu một chuỗi từ cụ thể có xác suất cao về mặt thống kê—ngay cả khi sai về mặt thực tế—model vẫn có thể tạo ra nó. Khái niệm này thường được thảo luận trong nghiên cứu về stochastic parrots, nơi các model mô phỏng các mẫu ngôn ngữ mà không hiểu ý nghĩa.
• Vấn đề chất lượng dữ liệu: Nếu khối lượng văn bản khổng lồ được sử dụng để huấn luyện chứa các mâu thuẫn, thông tin lỗi thời hoặc hư cấu, mô hình có thể tái tạo lại những sự thiếu chính xác này.
• Mất trí nhớ nguồn: Các LLM nén một lượng lớn thông tin vào các model weights. Trong quá trình này, chúng thường đánh mất liên kết với các nguồn cụ thể, dẫn đến hiện tượng "bịa đặt" (confabulation) khi các khái niệm hoặc sự kiện riêng biệt bị hợp nhất một cách sai sót.

Các ví dụ thực tế về ảo giác#

Ảo giác có thể biểu hiện theo nhiều cách, từ những chi tiết sáng tạo vô hại đến những sai lệch nghiêm trọng về sự thật:

• Bịa đặt pháp lý: Đã có những trường hợp được ghi nhận khi các chuyên gia pháp lý sử dụng AI để soạn thảo các bản tóm tắt pháp lý, để rồi phát hiện ra model đã tự bịa ra các non-existent court cases và trích dẫn để hỗ trợ cho một lập luận.
• Tạo mã: Các lập trình viên sử dụng trợ lý AI có thể gặp phải "ảo giác gói thư viện" (package hallucinations), nơi mô hình gợi ý import một thư viện phần mềm hoặc gọi một hàm không thực sự tồn tại, chỉ đơn giản vì tên gọi tuân theo các quy ước đặt tên tiêu chuẩn.
• Sai sót tiểu sử: Khi được hỏi về những cá nhân ít nổi tiếng, các mô hình có thể tự tin gán cho họ các thành tựu, nơi sinh hoặc lịch sử nghề nghiệp không chính xác, thực tế là trộn lẫn các chi tiết từ nhiều người khác nhau.

Chiến lược giảm thiểu#

Giảm tần suất ảo giác là trọng tâm chính của AI Safety. Các kỹ sư và nhà nghiên cứu áp dụng một số kỹ thuật để gắn kết các model vào thực tế:

• Tạo tăng cường truy xuất (RAG): Phương pháp này kết nối LLM với một cơ sở tri thức bên ngoài đáng tin cậy, thường được lập chỉ mục trong một vector database. Bằng cách truy xuất các tài liệu liên quan trước khi tạo ra câu trả lời, model bị giới hạn bởi dữ liệu thực tế.
• Prompt tư duy từng bước (Chain-of-Thought): Kỹ thuật prompt engineering này khuyến khích model "thể hiện quá trình làm việc" bằng cách chia nhỏ lập luận phức tạp thành các bước trung gian, điều này thường làm giảm các lỗi logic.
• Reinforcement Learning from Human Feedback (RLHF): Trong giai đoạn tinh chỉnh (fine-tuning), các đánh giá viên là con người sẽ xếp hạng các phản hồi của mô hình. Bằng cách phạt các ảo giác và thưởng cho sự trung thực, mô hình học cách điều chỉnh tốt hơn theo kỳ vọng của con người.

Gắn kết LLM với thị giác máy tính (Computer Vision)#

Trong các hệ thống Multimodal AI, việc tạo văn bản có thể được gắn kết bằng cách sử dụng dữ liệu trực quan. Nếu một LLM được yêu cầu mô tả một khung cảnh, nó có thể ảo giác ra các đối tượng không có ở đó. Bằng cách tích hợp một bộ dò tìm đối tượng độ chính xác cao như YOLO26, các nhà phát triển có thể cung cấp một danh sách thực tế các đối tượng hiện diện cho LLM, qua đó giới hạn nghiêm ngặt đầu ra của nó ở các kết quả phát hiện đã được xác minh.

Ví dụ bằng Python sau đây cho thấy cách sử dụng gói ultralytics để trích xuất danh sách đối tượng đã được xác minh, từ đó có thể đóng vai trò là ràng buộc thực tế cho một prompt của mô hình ngôn ngữ.

from ultralytics import YOLO

# Load the YOLO26n model (latest generation, efficient and accurate)
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# This factual list prevents the LLM from hallucinating items
print(f"Verified Objects for Prompt Context: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

Phân biệt các khái niệm liên quan#

Việc phân biệt ảo giác với các lỗi AI phổ biến khác là rất quan trọng:

• So với Bias in AI: Định kiến đề cập đến sự thiên vị có hệ thống trong các đầu ra (ví dụ: ưu ái nhân khẩu học này hơn nhân khẩu học khác), trong khi ảo giác là sự thất bại về độ chính xác thực tế. Một phản hồi có thể không có định kiến nhưng lại bị ảo giác (ví dụ: "Mặt trăng được làm bằng phô mai").
• So với Overfitting: Quá overfitting xảy ra khi một model ghi nhớ dữ liệu huấn luyện quá kỹ và không thể tổng quát hóa sang các đầu vào mới. Ảo giác thường xảy ra khi một model cố gắng tổng quát hóa quá mức vào các khu vực mà nó thiếu dữ liệu.
• So với phân loại nhầm: Trong object detection, việc dán nhãn một chiếc ô tô là xe tải là một lỗi phân loại (vấn đề độ chính xác), chứ không phải là ảo giác. Ảo giác là đặc thù của việc tạo ra nội dung sai lệch thông qua quá trình sinh dữ liệu.

Đối với những ai muốn quản lý tập dữ liệu và huấn luyện model với tính toàn vẹn dữ liệu cao để ngăn ngừa các lỗi ở hạ nguồn, Ultralytics Platform cung cấp các công cụ toàn diện cho việc gán nhãn và quản lý tập dữ liệu. Hơn nữa, hướng dẫn từ NIST AI Risk Management Framework cung cấp các tiêu chuẩn để đánh giá và giảm thiểu những rủi ro này trong môi trường sản xuất.