Hallucination (in LLMs)
استكشف أسباب ومخاطر هلوسة الذكاء الاصطناعي في LLMs. تعلم كيفية تخفيف الأخطاء الواقعية باستخدام RAG، وRLHF، والتأريض مع Ultralytics YOLO26.
في مجال الذكاء الاصطناعي (AI)، تشير الهلوسة إلى ظاهرة يقوم فيها نموذج لغوي كبير (LLM) بتوليد محتوى يتسم بالثقة والصحة النحوية ولكنه غير دقيق واقعياً، أو غير معقول، أو غير مطابق للإدخال الأصلي. وعلى عكس أخطاء البرمجيات القياسية التي قد تنتج تعطلاً أو عطلاً مرئياً، يتصرف النموذج المهلوس كصانع أكدان مقنع، مقدمًا معلومات خاطئة بنفس السلطة التي تتمتع بها الحقائق الصحيحة. وهذا يفرض تحديات كبيرة على المؤسسات التي تنشر الذكاء الاصطناعي التوليدي في مجالات حساسة مثل الرعاية الصحية، والقانون، والتمويل، حيث تكون سلامة البيانات أمراً بالغ الأهمية.
لماذا تحدث الهلوسة؟#
لفهم سبب هلوسة النماذج، من المفيد النظر في كيفية بناءها. تعتمد نماذج LLM عادةً على بنية Transformer، والتي تعمل بمثابة محرك تنبؤ متطور. وبجلا استعلام عن قاعدة بيانات منظمة من الحقائق التي تم التحقق منها، يتنبأ النموذج بـ token التالي في تسلسل بناءً على الاحتمالات الإحصائية المستمدة من بيانات التدريب الخاصة به.
هناك عدة عوامل تدفع هذا السلوك:
- التخمين الاحتمالي: يعطي النموذج الأولوية للطلاقة والتماسك على الحقيقة الواقعية. وإذا كان تسلسل معين من الكلمات محتملاً إحصائياً - حتى لو كان خاطئاً واقعياً - فقد يولد النموذج ذلك. غالباً ما تتم مناقشة هذا المفهموم في الأبحاث المتعلقة بـ الببغاوات العشوائية، حيث تحاكي النماذج أنماط اللغة دون فهم المعنى.
- مشكلات جودة البيانات: إذا كانت مجموعة النصوص الضخمة المستخدمة في التدريب تحتوي على تناقضات أو معلومات قديمة أو خيال، فقد يعيد النموذج إنتاج هذه الأخطاء.
- فقدان ذاكرة المصدر: تقوم نماذج LLM بضغط كميات هائلة من المعلومات في أوزان النموذج. وفي هذه العملية، غالباً ما يفقدون الارتباط بمصادر محددة، مما يؤدي إلى "التلفيق" حيث يتم دمج مفاهيم أو أحداث متميزة بشكل غير صحيح.
أمثلة واقعية على الهلوسة#
يمكن أن تظهر الهلوسة بطرق مختلفة، من الزخارف الإبداعية غير الضارة إلى الأخطاء الواقعية الخطيرة:
- التلفيق القانوني: كانت هناك حالات موثقة استخدم فيها متخصصون قانونيون الذكاء الاصطناعي لصياغة المذكرات، ليجدوا فقط أن النموذج قد اخترع قضايا قانونية غير موجودة واستشهادات لدعم حجة ما.
- توليد الكود: قد يواجه المطورون الذين يستخدمون مساعدي الذكاء الاصطناعي "هلوسة الحزم"، حيث يقترح النموذج استيراد مكتبة برمجية أو استدعاء وظيفة غير موجودة في الواقع، ببساطة لأن الاسم يتبع اصطلاحات التسمية القياسية.
- أخطاء السيرة الذاتية: عند سؤال النماذج عن أفراد أقل شهرة، قد تنسب إليهم بثقة إنجازات غير صحيحة أو أماكن ميلاد أو تواريخ مهنية، مما يمزج تفاصيل من أشخاص متعددين بفعالية.
استراتيجيات التخفيف#
يعد تقليل تكرار الهلوسة تركيزاً رئيسياً لـ أمان الذكاء الاصطناعي. يستعين المهندسون والباحثون بعدة تقنيات لتثبيت النماذج في الواقع:
- التوليد المعزز بالاسترجاع (RAG): تربط هذه الطريقة نموذج LLM بقاعدة معرفية خارجية موثوقة، وغالباً ما تكون مفهرسة في قاعدة بيانات متجهة. ومن خلال استرداد المستندات ذات الصلة قبل توليد الإجابة، يتم تقييد النموذج بالبيانات الفعلية.
- التوجيه عبر سلسلة التفكير: تشجع تقنية هندسة التوجيه هذه النموذج على "عرض عمله" من خلال تقسيم الاستدلال المعقد إلى خطوات وسيطة، مما يقلل غالباً من أخطاء التفكير المنطقي.
- التعلم التعزيزي من التغذية الراجعة البشرية (RLHF): خلال مرحلة الضبط الدقيق، يقوم المقيمون البشريون بترتيب استجابات النموذج. من خلال معاقبة الهلوسة ومكافأة الصدق، يتعلم النموذج التوافق بشكل أفضل مع التوقعات البشرية.
ربط نماذج LLMs بالرؤية الحاسوبية#
في أنظمة الذكاء الاصطناعي متعدد الوسائط، يمكن ترسيخ توليد النص باستخدام البيانات المرئية. إذا طُلب من نموذج LLM وصف مشهد ما، فقد يهلوس بشأن كائنات غير موجودة. ومن خلال دمج كاشف كائنات عالي الدقة مثل YOLO26، يمكن للمطورين توفير قائمة واقعية بالكائنات الموجودة لنموذج LLM، مما يحد بشكل صارم من مخرجاته لتقتصر على الاكتشافات التي تم التحقق منها.
يوضح مثال Python التالي كيفية استخدام حزمة ultralytics استخراج قائمة تم التحقق منها من الكائنات، والتي يمكنها بعد ذلك أن تكون بمثابة قيد واقعي لتوجيه النموذج اللغوي.
from ultralytics import YOLO
# Load the YOLO26n model (latest generation, efficient and accurate)
model = YOLO("yolo26n.pt")
# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")
# Extract the class names of actually detected objects
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]
# This factual list prevents the LLM from hallucinating items
print(f"Verified Objects for Prompt Context: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']التمييز بين المفاهيم ذات الصلة#
من المهم التمييز بين الهلوسة وأخطاء الذكاء الاصطناعي الشائعة الأخرى:
- مقابل الانحياز في الذكاء الاصطناعي: يشير الانحياز إلى تحيز ممنهج في المخرجات (مثل تفضيل فئة ديموغرافية على أخرى)، بينما الهلوسة هي فشل في الدقة الواقعية. يمكن أن تكون الاستجابة خالية من التحيز ومع ذلك تكون مهلوسة (على سبيل المثال، "القمر مصنوع من الجبن").
- مقابل التفرط في التخصيص: يحدث الإفراط في التخصيص عندما يقوم النموذج بحفظ بيانات التدريب عن ظهر قلب بشكل مفرط ولا يمكنه التعميم على مدخلات جديدة. غالباً ما تحدث الهلوسة عندما يحاول النموذج التعميم أكثر من اللازم في مناطق يفتقر فيها إلى البيانات.
- مقابل سوء التصنيف: في اكتشاف الكائنات، يعد تصنيف السيارة على أنها شاحنة خطأ في التصنيف (مشكلة دقة)، وليس هلوسة. الهلوسة خاصة بالتوليد الإنشائي لمحتوى خاطئ.
بالنسبة لأولئك الذين يتطلعون إلى إدارة مجموعات البيانات وتدريب النماذج بسلامة بيانات عالية لمنع الأخطاء اللاحقة، تقدم منصة Ultralytics أدوات شاملة للتعليق وإدارة مجموعات البيانات. علاوة على ذلك، توفر التوجيهات الصادرة عن إطار عمل إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني للمعايير والتكنولوجيا (NIST) معايير لتقييم هذه المخاطر والتخفيف منها في بيئات الإنتاج.
