Hallucination (in LLMs)

الهلوسة في نموذج لغوي كبير (LLM) هي محتوى مُنشأ يبدو سلسًا وواثقًا لكنه زائف، أو لا تدعمه مصادر النموذج، أو يتعارض مع مدخلاته. وتتراوح الهلوسات بين استشهاد مختلق أو تاريخ خاطئ وملخص يضيف ادعاءات لم يذكرها المستند المصدر قط، ويصعب اكتشافها لأن الإجابة الخاطئة تُقال بالنبرة نفسها التي تُقال بها الإجابة الصحيحة. وفي قضية Mata v. Avianca (2023)، فرضت محكمة اتحادية أمريكية عقوبات على محاميين قدّما مذكرة استشهدت بستة أحكام قضائية اختلقها ChatGPT. ويُفضّل بعض الباحثين مصطلح التخيّل، لأن النموذج يملأ فجوات معرفته بنص معقول ظاهريًا.

أنواع الهلوسة#

• الهلوسات الداخلية: مخرجات تتناقض مع المصدر المقدّم، مثل ملخص يذكر سنة موافقة مختلفة عن السنة الواردة في المستند الذي يلخّصه. ويستخدم استعراض Ji وآخرين هذا المصطلح والمصطلح التالي لتصنيف الأخطاء في التلخيص والحوار والترجمة.
• الهلوسات الخارجية: مخرجات تضيف معلومات لا يستطيع المصدر تأكيدها، وقد تكون صحيحة أو غير صحيحة.
• الأخطاء الواقعية في الإجابات المفتوحة: عندما لا يتوفر أي مصدر، يذكر النموذج حقائق خاطئة أو يختلق مراجع أو يخلط تفاصيل عدة أشخاص في سيرة واحدة.
• هلوسات الحزم البرمجية: يستورد مساعدو البرمجة مكتبات غير موجودة. ووجدت دراسة لـ576,000 عينة برمجية مُنشأة من 16 نموذجًا أن 5.2% على الأقل من الحزم المقترحة من النماذج التجارية و21.7% من النماذج مفتوحة المصدر كانت مختلقة، وشملت 205,474 اسم حزمة زائفًا فريدًا يمكن للمهاجمين تسجيله لإدراج شيفرات ضارة.
• هلوسات الكائنات: تصف نماذج الرؤية واللغة (VLMs) كائنات غير موجودة في الصورة.

لماذا تهلوس النماذج اللغوية الكبيرة؟#

ينشئ النموذج اللغوي الكبير نصًا بالتنبؤ بالـرمز التالي انطلاقًا من الاحتمالات التي تعلّمها أثناء التدريب المسبق، من دون تحقق مدمج من قاعدة بيانات للحقائق. ويرجع Kalai وآخرون (2025) في OpenAI الهلوسات إلى عاملين إحصائيين ضاغطين. ففي التدريب المسبق، لا يمكن تعلّم الحقائق التي لا تظهر إلا مرة واحدة، مثل تاريخ ميلاد شخص غير معروف، على نحو موثوق: إذا ظهر 20% من حقائق أعياد الميلاد مرة واحدة فقط في بيانات التدريب، فيُتوقع أن يهلوس النموذج الأساسي في 20% على الأقل من الأسئلة عن أعياد الميلاد. وبعد التدريب، تصنّف معظم المعايير الإجابات إلى صحيحة أو خاطئة، ولا تمنح عبارة «لا أعرف» أي نقاط؛ لذا يتفوق النموذج الذي يخمّن على الذي يمتنع عن الإجابة، ويضبط التدريب اللاحق النماذج لتصبح مخمّنة واثقة.

وتُسهم عوامل أخرى في ذلك. فقد يؤدي أخذ العينات بدرجة حرارة مرتفعة أو باستخدام أخذ عينات النواة واسع النطاق إلى اختيار تكملات منخفضة الاحتمال، كما تنخفض الدقة عندما تُدفن الحقائق ذات الصلة في مدخلات طويلة (تدهور السياق)، وتميل النماذج المدرّبة على موافقة البشر إلى قبول فرضية خاطئة في السؤال، وهو شكل من التملّق للذكاء الاصطناعي.

كشف الهلوسات والحد منها#

• التوليد المعزّز بالاسترجاع (RAG): يسترجع النظام مقاطع من مجموعة موثوقة ويوجّه النموذج إلى الإجابة استنادًا إليها. ويحسّن نموذج إعادة الترتيب اختيار المقاطع التي تصل إلى الموجّه، لكن قد يسيء النموذج فهمها أو يتجاهلها رغم ذلك.
• الإرساء مع الاستشهادات: يجب إسناد كل ادعاء إلى مقطع مسترجع، ويتحقق مدقّق، غالبًا نموذج ثانٍ، من أن المقطع يدعمه.
• الإنتروبيا الدلالية: يجيب النموذج عن السؤال نفسه عدة مرات، ثم تُجمّع الإجابات حسب المعنى، ويشير ارتفاع الإنتروبيا بين المجموعات إلى احتمال حدوث تخيّل.
• سلسلة التحقق (CoVe): يصوغ النموذج إجابة أولية، ويكتب أسئلة للتحقق من ادعاءاته، ويجيب عنها بشكل مستقل، ثم ينقّح الإجابة الأولية.
• مكافأة الامتناع عن الإجابة: يزيل التدريب باستخدام RLHF أو غيره من أساليب التغذية الراجعة التي تعاقب الأخطاء الواثقة بدرجة أكبر من عبارة «لا أعرف»، مع تقييم الأداء بالطريقة نفسها، الحافز إلى التخمين.

يجمع نظام الإجابة عن الأسئلة المرتكز عدة عمليات تحقق من هذه العمليات ضمن حلقة:

الهلوسة مقارنةً بالمفاهيم ذات الصلة#

• التحيز في الذكاء الاصطناعي: انحراف منهجي في المخرجات، مثل تفضيل مجموعة بعينها. وقد تكون الإجابة خالية من التحيز لكنها تنطوي على هلوسة، أو صحيحة واقعيًا لكنها متحيزة.
• فرط التكيّف: حفظ أمثلة التدريب على حساب القدرة على التعميم. وغالبًا ما تنشأ الهلوسات عن الحالة المعاكسة، حين يملأ النموذج فراغًا بحقيقة لم يرها مرات كافية لحفظها.
• انهيار النماذج: فقدان المعرفة النادرة عندما تتدرب النماذج على بيانات مُنشأة، ما قد يجعل النماذج اللاحقة تهلوس أكثر بشأن الحقائق قليلة التكرار.

هلوسة الكائنات في نماذج الرؤية واللغة#

تعتمد نماذج VLMs على الانحيازات المسبقة للغة، لذا قد يذكر نموذج لوصف الصور شوكةً على طاولة طعام خالية منها، لأن الشوك تظهر كثيرًا إلى جانب الأطباق في أوصاف التدريب. وتُقاس هلوسة الكائنات في وصف الصور بمقياس CHAIR، وهو نسبة الكائنات المذكورة في الوصف التي لا تظهر في التعليقات التوضيحية المرجعية للصورة. ومن طرق الحد من ذلك تزويد النموذج اللغوي بقائمة الكائنات التي عثر عليها الكاشف فعليًا. يشغّل المقتطف أدناه YOLO26 على صورة، ويحوّل اكتشافاته إلى قيد للموجّه:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Per-class detection counts as text, used as facts the language model must stay within
detections = result.verbose()
prompt = f"Describe this image. Mention only these detected objects: {detections}"
print(prompt)

تعيد result.verbose() عددًا واحدًا لكل فئة مكتشفة، لذا يكون وراء كل كائن مذكور في الموجّه صندوق إحاطة، ويمكن الإبلاغ عن أي إجابة تذكر كائنًا آخر قبل وصولها إلى المستخدم.