Hallucination (in LLMs)

في مجال الذكاء الاصطناعي (AI)، تشير الهلوسة إلى ظاهرة يُنشئ فيها نموذج لغوي كبير (LLM) محتوى يتسم بالثقة والصحة النحوية، لكنه غير دقيق من الناحية الواقعية، أو عديم المعنى، أو غير faithful لمصدر الإدخال. وعلى خلاف أخطاء البرمجيات القياسية التي قد تؤدي إلى تعطل النظام أو ظهور خلل واضح، يتصرف النموذج الذي يعاني من الهلوسة كأنه مختلق مقنع، إذ يقدم معلومات زائفة بالسلطة نفسها التي تقدم بها الحقائق الصحيحة. ويمثل ذلك تحديات كبيرة للمؤسسات التي تنشر الذكاء الاصطناعي التوليدي في مجالات حساسة مثل الرعاية الصحية والقانون والتمويل، حيث تُعد سلامة البيانات أمرًا بالغ الأهمية.

لماذا تحدث الهلوسة؟#

لفهم سبب تعرض النماذج للهلوسة، من المفيد إلقاء نظرة على طريقة بنائها. تعتمد نماذج LLM عادةً على بنية Transformer، التي تعمل كمحرك متطور للتنبؤ. فبدلًا من الاستعلام عن قاعدة بيانات منظمة للحقائق المُتحقق منها، يتنبأ النموذج بـالرمز التالي في تسلسل ما، استنادًا إلى الاحتمالات الإحصائية المستمدة من بيانات التدريب.

تدفع عدة عوامل هذا السلوك:

• التخمين الاحتمالي: يعطي النموذج الأولوية للطلاقة والاتساق على حساب الحقيقة الواقعية. فإذا كان تسلسل معين من الكلمات مرجحًا إحصائيًا—حتى لو كان خاطئًا من الناحية الواقعية—فقد ينشئه النموذج. ويُناقش هذا المفهوم غالبًا في الأبحاث المتعلقة بـالببغاوات العشوائية، حيث تحاكي النماذج أنماط اللغة من دون فهم المعنى.
• مشكلات جودة البيانات: إذا احتوت مجموعة النصوص الضخمة المستخدمة في التدريب على تناقضات أو معلومات قديمة أو خيال، فقد يعيد النموذج إنتاج هذه الأخطاء.
• فقدان مصدر المعلومات: تضغط نماذج LLM كميات هائلة من المعلومات في أوزان النموذج. وخلال هذه العملية، غالبًا ما تفقد الصلة بالمصادر المحددة، مما يؤدي إلى «اختلاق معلومات» تندمج فيه مفاهيم أو أحداث متميزة على نحو غير صحيح.

أمثلة واقعية على الهلوسة#

يمكن أن تظهر الهلوسة بطرق متنوعة، بدءًا من الإضافات الإبداعية غير الضارة ووصولًا إلى الأخطاء الواقعية الخطيرة:

• الاختلاق القانوني: وُثقت حالات استخدم فيها متخصصون قانونيون الذكاء الاصطناعي لصياغة مذكرات قانونية، ثم اكتشفوا أن النموذج اخترع قضايا محاكم غير موجودة واستشهادات لدعم حجة ما.
• إنشاء التعليمات البرمجية: قد يواجه المطورون الذين يستخدمون مساعدين للذكاء الاصطناعي «هلوسة الحزم»، حيث يقترح النموذج استيراد مكتبة برمجية أو استدعاء دالة غير موجودة فعليًا، لمجرد أن الاسم يتبع اصطلاحات التسمية القياسية.
• أخطاء السيرة الذاتية: عند سؤالها عن أفراد أقل شهرة، قد تنسب النماذج بثقة إنجازات أو أماكن ميلاد أو مسارات مهنية غير صحيحة إليهم، فتخلط فعليًا بين تفاصيل مستمدة من عدة أشخاص.

استراتيجيات التخفيف#

يمثل الحد من تكرار الهلوسة محورًا رئيسيًا في سلامة الذكاء الاصطناعي. ويستخدم المهندسون والباحثون عدة تقنيات لترسيخ النماذج في الواقع:

• التوليد المعزز بالاسترجاع (RAG): تصل هذه الطريقة نموذج LLM بقاعدة معرفية خارجية موثوقة، غالبًا ما تكون مفهرسة في قاعدة بيانات متجهية. ومن خلال استرجاع المستندات ذات الصلة قبل إنشاء إجابة، يُقيَّد النموذج بالبيانات الفعلية.
• التحفيز بسلسلة الأفكار: تشجع تقنية هندسة المحفزات هذه النموذج على «إظهار خطوات عمله» عبر تقسيم الاستدلال المعقد إلى خطوات وسيطة، مما يقلل غالبًا من الأخطاء المنطقية.
• التعلم المعزز من الملاحظات البشرية (RLHF): خلال مرحلة الضبط الدقيق، يقيّم المقيمون البشريون استجابات النموذج ويرتبونها. ومن خلال معاقبة الهلوسة ومكافأة الصدق، يتعلم النموذج التوافق بصورة أفضل مع التوقعات البشرية.

ترسيخ نماذج LLM باستخدام الرؤية الحاسوبية#

في أنظمة الذكاء الاصطناعي متعدد الوسائط، يمكن ترسيخ إنشاء النصوص باستخدام البيانات المرئية. فإذا طُلب من نموذج LLM وصف مشهد ما، فقد يهلوس بأجسام غير موجودة فيه. ومن خلال دمج كاشف أجسام عالي الدقة مثل YOLO26، يستطيع المطورون تزويد نموذج LLM بقائمة واقعية بالأجسام الموجودة، مما يقصر مخرجاته بدقة على الاكتشافات التي تم التحقق منها.

يوضح مثال Python التالي كيفية استخدام الحزمة ultralytics لاستخراج قائمة موثقة بالأجسام، والتي يمكنها بعد ذلك أن تمثل قيدًا واقعيًا لمحفز نموذج لغوي.

from ultralytics import YOLO

# Load the YOLO26n model (latest generation, efficient and accurate)
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# This factual list prevents the LLM from hallucinating items
print(f"Verified Objects for Prompt Context: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

تمييز المفاهيم ذات الصلة#

من المهم التمييز بين الهلوسة وأخطاء الذكاء الاصطناعي الشائعة الأخرى:

• مقابل التحيز في الذكاء الاصطناعي: يشير التحيز إلى تحيز منهجي في المخرجات (مثل تفضيل فئة سكانية على أخرى)، بينما تمثل الهلوسة إخفاقًا في الدقة الواقعية. وقد تكون الاستجابة غير متحيزة لكنها هلوسية (مثل «القمر مصنوع من الجبن»).
• مقابل فرط التخصيص: يحدث فرط التخصيص عندما يحفظ النموذج بيانات التدريب بصورة مفرطة ولا يستطيع التعميم على مدخلات جديدة. وغالبًا ما تحدث الهلوسة عندما يحاول النموذج التعميم بدرجة مفرطة على مجالات يفتقر فيها إلى البيانات.
• مقابل سوء التصنيف: في اكتشاف الأجسام، يُعد تصنيف سيارة على أنها شاحنة خطأً في التصنيف (مشكلة في الدقة)، وليس هلوسة. فالهلوسة خاصة بإنشاء محتوى زائف بصورة توليدية.

بالنسبة إلى من يرغبون في إدارة مجموعات البيانات وتدريب النماذج مع الحفاظ على سلامة عالية للبيانات لمنع الأخطاء اللاحقة، توفر منصة Ultralytics أدوات شاملة لإضافة التعليقات التوضيحية وإدارة مجموعات البيانات. علاوة على ذلك، توفر إرشادات إطار عمل NIST لإدارة مخاطر الذكاء الاصطناعي معايير لتقييم هذه المخاطر والتخفيف منها في بيئات الإنتاج.