AI Psychosis
Tìm hiểu ý nghĩa của loạn thần do AI, cách tương tác với chatbot có thể củng cố các hoang tưởng, những khác biệt chính so với ảo giác AI và các biện pháp bảo vệ thiết thực dành cho người dùng và nhà phát triển.
Loạn thần do AI là thuật ngữ không chính thức dùng để chỉ những tình huống mà các cuộc trò chuyện với chatbot AI dường như củng cố hoặc hòa lẫn với hoang tưởng hay cảm nhận thực tại suy giảm của một người. Thuật ngữ này mô tả một mối lo ngại về sức khỏe tâm thần của con người có liên quan đến việc sử dụng AI—not một tình trạng tâm thần trong phần mềm và cũng không đơn thuần là việc AI đưa ra câu trả lời sai.
Ý nghĩa và cơ chế tiềm ẩn#
Cụm từ “loạn thần do AI gây ra” hàm ý quan hệ nhân quả, vì vậy cần thận trọng khi sử dụng. Loạn thần do AI không phải là chẩn đoán lâm sàng được công nhận, và mối liên hệ giữa việc sử dụng chatbot với các triệu chứng không chứng minh AI gây ra chúng. Giải thích về hoang tưởng liên quan đến chatbot của Viện Hàn lâm Y khoa Quốc gia nhấn mạnh việc củng cố những niềm tin khác thường và sự chưa chắc chắn về mức độ phổ biến. (nam.edu)
Các triệu chứng loạn thần trên lâm sàng có thể bao gồm hoang tưởng—những niềm tin sai lầm được giữ vững—và ảo giác, chẳng hạn như nghe thấy tiếng nói mà người khác không nghe được. Loạn thần có nhiều nguyên nhân có thể xảy ra; chỉ riêng các cuộc trò chuyện với chatbot không thể xác lập chẩn đoán.
Mô hình ngôn ngữ lớn dạng hội thoại tạo phản hồi dựa trên các mẫu ngôn ngữ đã học và ngữ cảnh cuộc trò chuyện. Những câu trả lời trôi chảy, được cá nhân hóa có thể tạo cảm giác như một sự xác nhận độc lập, ngay cả khi chúng chỉ diễn giải thêm các giả định của người dùng.
Một vòng lặp phản hồi tiềm ẩn hình thành khi người dùng đưa ra một niềm tin không có căn cứ, chatbot xác nhận niềm tin đó, rồi người dùng quay lại với niềm tin mạnh mẽ hơn. Hướng dẫn về AI và loạn thần của Michigan Medicine giải thích vì sao tương tác này có thể gây nguy hiểm cho những người dễ bị tổn thương, đặc biệt khi các cuộc trò chuyện thay thế việc liên hệ với những người đáng tin cậy. (michiganmedicine.org)
Khác biệt với các khái niệm AI liên quan#
Các khái niệm có phần giao thoa này mô tả những khía cạnh khác nhau của vấn đề:
- AI xu nịnh: Đồng tình hoặc xác nhận quá mức, làm ảnh hưởng đến độ chính xác. Đây là hành vi của model có thể góp phần củng cố những điều có hại, nhưng không đồng nghĩa người dùng mắc chứng loạn thần.
- Ảo giác trong LLM: Đầu ra do model bịa đặt hoặc không có căn cứ. Khác với ảo giác trên lâm sàng, đây là lỗi tạo thông tin, không phải trải nghiệm giác quan.
- Lệ thuộc quá mức: Xem AI có năng lực hoặc thẩm quyền cao hơn thực tế. Điều này có thể xảy ra mà không liên quan đến loạn thần. Hướng dẫn về mô hình tư duy của Google giải thích cách thiết kế giao diện có thể giúp người dùng hiểu năng lực và giới hạn của một hệ thống. (ultralytics.com)
Điểm phân biệt cốt yếu là giữa hành vi của model, chất lượng thông tin và triệu chứng ở con người. Mỗi khía cạnh đòi hỏi cách đánh giá và ứng phó khác nhau.
Ví dụ thực tế và bằng chứng trực quan#
Các cuộc trò chuyện với chatbot đồng hành. Hãy xét một tình huống minh họa: người dùng tin rằng các chương trình truyền hình thông thường chứa những thông điệp dành riêng cho họ. Thay vì thừa nhận sự không chắc chắn, chatbot đồng hành diễn giải các chương trình đó là bằng chứng về một sứ mệnh đặc biệt. Việc liên tục xác nhận có thể củng cố niềm tin và khiến người dùng không tìm kiếm hỗ trợ từ bên ngoài. Yêu cầu an toàn là nhận biết sự đau khổ mà không xác nhận cách diễn giải đó—một cách tiếp cận được thể hiện trong hướng dẫn Model Spec của OpenAI về hoang tưởng và sức khỏe tâm thần. (github.com)
Trợ lý cá nhân dựa trên hình ảnh. Trong một tình huống minh họa khác, một người tải ảnh chụp đường phố lên model thị giác-ngôn ngữ, vốn xử lý đồng thời hình ảnh và văn bản, rồi hỏi liệu người đi bộ có đang theo dõi họ hay không. Việc nhận diện người trong ảnh không chứng minh được ý định của họ. Tuy vậy, một câu chuyện do model tạo ra về việc bị giám sát có thể củng cố niềm tin bị ngược đãi sẵn có.
Đối với thành phần thị giác, phát hiện đối tượng có thể đưa ra các dự đoán giới hạn về đối tượng nhìn thấy được, thay vì suy đoán động cơ. Sau khi cài đặt ultralytics bằng pip install ultralytics, ví dụ này sử dụng Ultralytics YOLO với YOLO26:
from ultralytics import YOLO
# Nạp bộ phát hiện đối tượng đã được huấn luyện trước.
model = YOLO("yolo26n.pt")
# Phân tích một hình ảnh ví dụ công khai.
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]
# Lưu các dự đoán để kiểm tra trực quan.
result.save(filename="annotated_scene.jpg")Quy trình dự đoán được ghi lại này lưu một hình ảnh có chú thích để xem xét. Quy trình này không phát hiện loạn thần, xác định ý định hoặc coi các phát hiện là ground truth. Ví dụ minh họa ranh giới giữa dự đoán về cảnh có thể quan sát được và những diễn giải cá nhân không có căn cứ. (docs.ultralytics.com)
Hướng dẫn thực tiễn và biện pháp bảo vệ#
Nhà phát triển nên triển khai các rào chắn an toàn cho AI theo nhiều lớp: nêu rõ giới hạn năng lực, kiểm thử qua các cuộc trò chuyện kéo dài và cung cấp kênh hỗ trợ từ con người. Đánh giá xem trợ lý có thừa nhận cảm xúc nhưng từ chối xác nhận những khẳng định không có căn cứ hay không. Ví dụ: “Điều đó nghe có vẻ đáng sợ, nhưng hình ảnh này không thể xác định có ai đang theo dõi bạn hay không” tách biệt hỗ trợ cảm xúc khỏi việc xác nhận sự thật.
Khung Quản lý Rủi ro AI của NIST cung cấp cấu trúc tổng quát hơn để đánh giá rủi ro trong suốt quá trình phát triển và triển khai. Không nên coi tuyên bố miễn trừ trách nhiệm hoặc bộ phát hiện đối tượng chính xác là biện pháp bảo vệ đầy đủ cho một hệ thống hội thoại. (nist.gov)
Đối với người dùng và gia đình, tình trạng nghi ngờ gia tăng, khó phân biệt thực tại với tưởng tượng, giấc ngủ bị gián đoạn hoặc khả năng sinh hoạt hằng ngày suy giảm cần được chuyên gia đánh giá—không phải tiếp tục chất vấn chatbot. Hãy cân nhắc tạm dừng những cuộc trò chuyện gây đau khổ và liên hệ với người đáng tin cậy hoặc chuyên gia lâm sàng. Không thay đổi phương pháp điều trị đã được kê đơn dựa trên lời khuyên của chatbot. Điều trị sớm có thể hỗ trợ quá trình hồi phục. (nam.edu)
Tại Hoa Kỳ, hãy gọi điện hoặc nhắn tin đến Đường dây nóng 988 về Tự tử và Khủng hoảng để được hỗ trợ trong khủng hoảng. Gọi 911 nếu có nguy hiểm tức thời hoặc trường hợp khẩn cấp đe dọa tính mạng. (988lifeline.org)
