Chain-of-Thought Prompting
يدفع التلقين بسلسلة الأفكار (CoT) النموذج اللغوي إلى كتابة خطوات الاستدلال الوسيطة قبل الإجابة، ما يعزز الدقة في المسائل متعددة الخطوات.
يُعد التلقين بتسلسل التفكير (CoT) أسلوبًا في هندسة الموجّهات، تكتب فيه النماذج اللغوية الكبيرة (LLM) خطوات الاستدلال الوسيطة قبل تقديم الإجابة النهائية. فبدلًا من الانتقال مباشرةً من السؤال إلى "9"، يكتب النموذج "23 - 20 = 3، و3 + 6 = 9" ثم يذكر الإجابة أخيرًا. قدم Jason Wei وزملاؤه في Google هذا الأسلوب في بحث عام 2022 بعنوان يحفز التلقين بتسلسل التفكير الاستدلال في النماذج اللغوية الكبيرة. وباستخدام ثمانية أمثلة محلولة في الموجّه، ارتفعت نتيجة PaLM 540B من 17.9% إلى 56.9% في GSM8K، وهو معيار لمسائل الرياضيات اللفظية على مستوى المدرسة الابتدائية، متجاوزًا أفضل نتيجة سابقة البالغة 55% التي حققها GPT-3 مضبوط بدقة ومقترن بمُحقّق مدرّب على نحو مستقل.
كيفية عمل التلقين بتسلسل التفكير#
ينشئ النموذج اللغوي الكبير النص رمزًا رمزًا، ويمر كل رمز عبر العدد الثابت نفسه من طبقات الشبكة. وعندما تعتمد إجابة السؤال على عدة خطوات، يُترك للنموذج إنجاز كل هذا العمل قبل كتابة أول رمز من الإجابة. وحين يكتب النموذج الخطوات، تدخل كل نتيجة وسيطة إلى نافذة السياق وتؤثر في كل رمز لاحق، لذا تحصل المسائل الأصعب على مزيد من الرموز والحوسبة قبل ظهور الإجابة.
يضع التلقين بتسلسل التفكير مع أمثلة قليلة عددًا قليلًا من الأمثلة النموذجية في الموجّه، يتبع في كل منها سؤالٌ حلٌّ مفصل، فيحاكي النموذج هذا التنسيق في السؤال الجديد؛ وهذا مثال على التعلم بأمثلة قليلة من أمثلة الموجّه. ويوضح هذا الحوار المأخوذ من الشكل 1 في بحث Wei وزملائه التنسيق. الإجابة الأولى هي المثال النموذجي المكتوب في الموجّه، والثانية رد النموذج:
Q: Roger has 5 tennis balls. He buys 2 more cans of tennis balls. Each can has 3 tennis balls. How many tennis balls does he have now?
A: Roger started with 5 balls. 2 cans of 3 tennis balls each is 6 tennis balls. 5 + 6 = 11. The answer is 11.
Q: The cafeteria had 23 apples. If they used 20 to make lunch and bought 6 more, how many apples do they have?
A: The cafeteria had 23 apples originally. They used 20 to make lunch. So they had 23 - 20 = 3. They bought 6 more apples, so they have 3 + 6 = 9. The answer is 9.عندما اختُزل المثال النموذجي نفسه إلى "الإجابة هي 11."، أجاب النموذج عن سؤال المقصف: "الإجابة هي 27."
لا يحتاج التلقين بتسلسل التفكير من دون أمثلة إلى أمثلة نموذجية. وجد Takeshi Kojima وزملاؤه أن إضافة عبارة "لنفكر خطوة بخطوة" إلى السؤال تكفي لتحفيز كتابة سلسلة استدلال: فمع InstructGPT (text-davinci-002)، رفعت العبارة دقة التعلم دون أمثلة في معيار MultiArith من 17.7% إلى 78.7%، وفي GSM8K من 10.4% إلى 40.7%، وفقًا لما ورد في النماذج اللغوية الكبيرة تستدل دون أمثلة.
متى يفيد تسلسل التفكير#
تعتمد المكاسب على حجم النموذج والمهمة. ويصف Wei وزملاؤه تسلسل التفكير بأنه قدرة ناشئة عن التوسع: لم تظهر التحسينات إلا في النماذج التي تضم نحو 100 مليار معلمة، بينما "أنتجت النماذج الأصغر سلاسل تفكير طليقة لكنها غير منطقية"، وسجلت نتائج أدنى من التلقين المعتاد. وجاءت أكبر المكاسب في المسائل متعددة الخطوات في الحساب والاستدلال المنطقي والاستدلال الرمزي. أما في SingleOp، وهي مجموعة من مسائل الحساب ذات الخطوة الواحدة، فكان التحسن سلبيًا أو ضئيلًا جدًا.
يؤدي أخذ عينات من عدة سلاسل إلى تحسين الأداء مقارنة بسلسلة واحدة. في الاتساق الذاتي، يأخذ Xuezhi Wang وزملاؤه عينات من مسارات استدلال متنوعة باستخدام أخذ عينات النواة أو درجة الحرارة، ويحتفظون بالإجابة التي تتفق عليها معظم المسارات، ما رفع دقة GSM8K بمقدار 17.9 نقطة مئوية مقارنةً بسلسلة جشعة واحدة. وتضيف كل سلسلة أخرى رموزًا مولّدة، لذا يوازن تسلسل التفكير والاتساق الذاتي بين زمن استجابة الاستدلال وتكلفته من جهة والدقة من جهة أخرى.
تستخدم خطوط أنابيب الرؤية واللغة النمط نفسه مع أدلة الصور. ففي وكلاء Ultralytics Platform، تتلقى كتلة نموذج لغوي كبير صورةً إلى جانب اكتشافات YOLO26 السابقة، لذا يمكن لموجّه تسلسل التفكير أن يجعل نموذج الرؤية واللغة يفحص الكائنات المكتشفة واحدًا تلو الآخر قبل إصدار حكمه على المشهد.
نماذج الاستدلال ومدى أمانتها#
تُدرّب نماذج الاستدلال، مثل o1 من OpenAI الذي صدر في سبتمبر 2024، باستخدام التعلم المعزز لإنتاج سلسلة تفكير طويلة قبل كل إجابة، لذا لم يعد هذا السلوك يعتمد على الموجّه. وتنصح أفضل ممارسات الاستدلال لدى OpenAI المطورين بتجنب تعليمات "فكّر خطوة بخطوة" مع هذه النماذج، لأن مثل هذه الموجّهات قد لا تفيد وقد تضر أحيانًا.
تبدو سلسلة التفكير المكتوبة أيضًا كأنها تفسير للإجابة، ما يغري بقراءتها على أنها ذكاء اصطناعي قابل للتفسير. وقد أظهر Miles Turpin وزملاؤه أنها قد تحرّف السبب الحقيقي في بحث النماذج اللغوية لا تقول دائمًا ما تفكر فيه: فعندما أعيد ترتيب أمثلة التلقين ذات الأمثلة القليلة بحيث كان الخيار الصحيح دائمًا "(A)"، غيّر GPT-3.5 وClaude 1.0 إجاباتهما لتقترب من "(A)"، وكتبا سلاسل تبررها من دون الإشارة إلى الترتيب. وخفضت ميزات التحيز من هذا النوع الدقة بنسبة تصل إلى 36% عبر 13 مهمة من BIG-Bench Hard. وتُعد سلاسل التفكير المعقولة لكنها الخاطئة أحد مصادر الهلوسة في النماذج اللغوية الكبيرة.
تسلسل التفكير مقابل تقنيات ذات صلة#
- تسلسل الموجّهات: يقسم المهمة على عدة استدعاءات للنموذج، ويمرر الكود خرج كل استدعاء إلى الموجّه التالي. أما تسلسل التفكير فيحدث داخل استدعاء واحد.
- شجرة الأفكار (ToT): تولّد عدة خطوات مرشحة عند كل نقطة، وتقيّمها، ثم تبحث في الشجرة الناتجة مع التراجع، بينما يتبع CoT مسارًا واحدًا.
- استدلال ReAct: يتناوب على خطوات الاستدلال والإجراءات مثل البحث أو استدعاء الأدوات، ثم يعيد إدخال النتائج في سلسلة الاستدلال.
- سلسلة التحقق (CoVe): يجعل النموذج يصوغ إجابة، ويطرح على نفسه أسئلة للتحقق، ويجيب عنها بصورة مستقلة، ثم ينقح المسودة.
- الاستدلال الكامن: يُجري الاستدلال الوسيط في الحالات المخفية للنموذج بدلًا من الرموز المكتوبة، لذلك لا تظهر سلسلة الاستدلال.
