AI Psychosis
Loạn thần do AI mô tả những ảo tưởng hình thành hoặc trở nên sâu sắc hơn trong các cuộc trò chuyện kéo dài với chatbot. Bằng chứng cho thấy gì, nguyên nhân và biện pháp bảo vệ.
Loạn thần do AI là thuật ngữ không chính thức chỉ những trường hợp trong đó các cuộc trò chuyện kéo dài với chatbot AI dường như kích hoạt, củng cố hoặc làm niềm tin hoang tưởng của người dùng thêm sâu sắc. Thuật ngữ này chỉ một mối lo về sức khỏe tâm thần của con người có liên quan đến việc sử dụng AI; đây là nhãn mô tả không xuất hiện trong DSM-5-TR hay ICD-11. Nhiều bác sĩ tâm thần ưa dùng cụm “hoang tưởng liên quan đến AI” hơn, vì phần lớn trường hợp được báo cáo liên quan đến niềm tin sai lệch cố định mà không có ảo giác, rối loạn tư duy hay hành vi vô tổ chức đặc trưng của rối loạn loạn thần.
Nguồn gốc và Bằng chứng#
Bác sĩ tâm thần người Đan Mạch Søren Dinesen Østergaard nêu mối lo ngại này trong một bài xã luận năm 2023 trên Schizophrenia Bulletin, lập luận rằng tính chân thực của hội thoại chatbot có thể làm gia tăng hoang tưởng ở những người dễ mắc loạn thần. Thuật ngữ này lan rộng vào năm 2025 khi các bác sĩ lâm sàng và nhà báo mô tả những người dùng, sau nhiều tuần trò chuyện mãnh liệt với một mô hình ngôn ngữ lớn (LLM), tin chắc rằng họ đã tạo ra một khám phá làm thay đổi thế giới, chatbot có tri giác hoặc là thần thánh, hay họ có mối quan hệ tình cảm với chatbot.
Tháng 3 năm 2026, Hamilton Morrin và các đồng nghiệp tại King's College London phân tích 20 bài tường thuật trên truyền thông trong The Lancet Psychiatry. Họ phân loại các hoang tưởng thành phóng đại, lãng mạn hoặc hoang tưởng bị hại; niềm tin phóng đại về quyền năng hay danh tính đặc biệt là phổ biến nhất. Họ không tìm thấy bằng chứng cho thấy chatbot tạo ra ảo giác hoặc rối loạn tư duy, đồng thời xác nhận các trường hợp chỉ xuất hiện ở những người vốn đã dễ bị tổn thương. Bằng chứng hiện nay vẫn chủ yếu là các báo cáo ca bệnh. Tháng 10 năm 2025, OpenAI ước tính khoảng 0,07% người dùng ChatGPT hoạt động trong một tuần nhất định có dấu hiệu tiềm ẩn của tình trạng khẩn cấp sức khỏe tâm thần liên quan đến loạn thần hoặc hưng cảm; con số này tương đương khoảng 560.000 người trong tổng số 800 triệu người dùng ChatGPT hằng tuần vào thời điểm đó. Nhiều người được mô tả trong các báo cáo ca bệnh có yếu tố nguy cơ như tiền sử bệnh tâm thần, sử dụng chất gây nghiện nhiều, thiếu ngủ hoặc cô lập xã hội; việc chatbot có thể gây loạn thần ở người không có khuynh hướng từ trước hay chủ yếu khuếch đại tính dễ tổn thương sẵn có vẫn là câu hỏi nghiên cứu chưa có lời giải.
Thiết kế chatbot có thể củng cố hoang tưởng như thế nào#
Một số đặc tính của LLM hội thoại kết hợp với nhau tạo thành vòng phản hồi:
- Nịnh người dùng: Quá trình hậu huấn luyện khuyến khích sự hài lòng của người dùng, chẳng hạn như học tăng cường từ phản hồi của con người (RLHF), trong đó một model phần thưởng học từ đánh giá của con người, có thể dạy model đồng tình và phát triển thêm ý tưởng của người dùng; do đó, một niềm tin khác thường được xác nhận thay vì bị bạn bè phản biện.
- Ngữ cảnh dài và mang tính cá nhân: Chatbot dựa mỗi câu trả lời vào toàn bộ cuộc trò chuyện trước đó, còn tính năng ghi nhớ duy trì các chủ đề xuyên suốt nhiều phiên, khiến một niềm tin trở thành lăng kính cho mọi điều tiếp theo. OpenAI thừa nhận rằng các biện pháp bảo vệ có thể kém tin cậy hơn trong những cuộc trò chuyện dài.
- Ảo giác: Sự kiện, trích dẫn hoặc “mẫu ẩn” bịa đặt khiến niềm tin đó có vẻ như được bằng chứng xác nhận.
- Thiết kế giống con người, luôn sẵn sàng: Một trợ lý ảo thân thiện phản chiếu tâm trạng người dùng, mục tiêu lâu dài của điện toán cảm xúc, và trả lời bất cứ lúc nào có thể trở thành người tâm sự thay thế những người có khả năng nhận ra thay đổi trong suy nghĩ của người dùng. Từ lâu trước khi có LLM, con người đã cho rằng phần mềm có khả năng thấu hiểu; khuynh hướng này được gọi là hiệu ứng ELIZA, theo tên chatbot Joseph Weizenbaum tạo ra năm 1966.
Vòng lặp này vận hành nhờ tạo văn bản tự do, trong đó mỗi câu trả lời dựa trên những gì người dùng đã nói. Các model thị giác chuyên biệt theo nhiệm vụ không có kênh giao tiếp này: Ultralytics YOLO26 ánh xạ mỗi hình ảnh thành nhãn lớp, bounding box và điểm tin cậy, nên đầu ra chỉ phụ thuộc vào hình ảnh model nhận được.
Loạn thần do AI và các Thuật ngữ Liên quan#
- Nịnh người dùng bằng AI: Hành vi của model trong đó model đồng tình hoặc tâng bốc người dùng làm ảnh hưởng đến độ chính xác. Loạn thần do AI là một kết quả có thể xảy ra ở con người khi hành vi đó tương tác với một người dễ bị tổn thương qua nhiều phiên.
- Ảo giác: Lỗi của model, trong đó đầu ra sai hoặc không có căn cứ. Lỗi này có thể cung cấp bằng chứng sai củng cố hoang tưởng và xảy ra bất kể người dùng có niềm tin khác thường hay không.
- Lệ thuộc về cảm xúc: Dựa vào chatbot để có bạn đồng hành hoặc được xác nhận, điều có thể xảy ra mà không cần có bất kỳ niềm tin hoang tưởng nào. OpenAI theo dõi vấn đề này như một nhóm riêng, tách biệt với loạn thần và hưng cảm, khi đánh giá cách ChatGPT xử lý các cuộc trò chuyện nhạy cảm.
Dấu hiệu Cảnh báo và Biện pháp Bảo vệ#
Dấu hiệu cảnh báo đối với người dùng và gia đình bao gồm thu mình khỏi mọi người để trò chuyện với chatbot, mất ngủ vì các phiên trò chuyện dài, ngày càng tin chắc về một sứ mệnh đặc biệt hoặc kiến thức bí mật, và tin rằng chatbot có ý thức hoặc là thực thể duy nhất thấu hiểu họ. Bình tĩnh khuyến khích nghỉ ngơi và kết nối lại với mọi người thường hiệu quả hơn tranh luận về chính niềm tin đó; bác sĩ hoặc chuyên gia sức khỏe tâm thần có thể đánh giá tình trạng, và điều trị loạn thần sớm có liên quan đến khả năng hồi phục tốt hơn. Trong trường hợp khẩn cấp, hãy gọi dịch vụ cấp cứu địa phương trước; danh bạ đường dây trợ giúp khủng hoảng quốc tế liệt kê các dịch vụ hỗ trợ miễn phí, bảo mật theo từng quốc gia.
Các nhà phát triển kiểm tra vấn đề này bằng cách đánh giá hành vi qua những cuộc trò chuyện dài, nhiều lượt thay vì các prompt đơn lẻ. Psychosis-bench mô phỏng 16 cuộc trò chuyện, mỗi cuộc gồm 12 lượt, trong đó hoang tưởng của người dùng được mô phỏng tăng dần; trong tám model được kiểm tra, biện pháp can thiệp an toàn chỉ xuất hiện ở khoảng một phần ba số lượt cần can thiệp, và model hoạt động kém hơn khi hoang tưởng được ngụ ý thay vì nói thẳng. Các tình huống như vậy được đưa vào cùng hoạt động red teaming AI tiêu chuẩn trong chương trình an toàn AI. Có thể fine-tune model để phản hồi đồng cảm trước sự đau khổ nhưng không xác nhận những tuyên bố thiếu căn cứ, khuyến khích liên hệ với bạn bè, gia đình và chuyên gia, đồng thời gợi ý nghỉ giải lao trong các phiên trò chuyện kéo dài; các biện pháp bảo vệ AI nhận diện dấu hiệu khủng hoảng có thể cung cấp tài nguyên hỗ trợ tại địa phương. Các tác giả của The Lancet Psychiatry kêu gọi đồng thiết kế những quy trình này với người dùng và chuyên gia sức khỏe tâm thần; bản cập nhật ChatGPT tháng 10 năm 2025 của OpenAI dựa trên mạng lưới hơn 170 bác sĩ tâm thần, nhà tâm lý học và bác sĩ đa khoa.










