Nucleus Sampling

الخذرف النواة، والذي يسمى أيضاً خذرف أعلى النسبة، هو وسيلة لاختيار الرمز التالي أثناء توليد النص بالذكاء الاصطناعي. بدلاً من اختيار الرمز الأكثر ترجيحاً دائماً، يبني النموذج قائمة مصغرة تتراكم احتمالاتها لتصل إلى حد عتبة مختار على الأقل، ثم يختار منها عشوائياً. تتغير القائمة المصغرة مع كل تنبؤ: يمكن أن تكون صغيرة عندما يكون هناك استمرار واحد واضح، وتكون أكبر عندما يكون هناك عدة استורים محتملة.

كيف يعمل الخذرف النواة#

يخصص نموذج اللغة احتمالاً لكل رمز تالٍ ممكن. تُحسب هذه الاحتمالات عادةً من درجات مخرجات النموذج باستخدام سوفت ماكس، مما يجعل القيم تتجمع لتصل إلى واحد. يرتب الخذرف النواة الرموز من الأكثر إلى الأقل ترجيحاً، ويدرجها حتى تصل الاحتمالية التراكمية إلى العتبة p، ويستبعد الباقي، ويأخذ عينات من الرموز المضمنة. هنا، يشير p إلى كتلة الاحتمال، وليس إلى احتمال رمز فردي واحد. تشرح وثائق سوفت ماكس في PyTorch تحويل الاحتمالات، بينما يصف دليل فك التشفير في آي بي إم الحد التراكمي. (docs.pytorch.org)

فترض أن أربعة رموز تالية محتملة لها احتمالات 0.50، و0.25، و0.15، و0.10. باستخدام top_p=0.80، يبلغ مجموع أول رمزين 0.75 فقط، لذا يتم تضمين الرمز الثالث أيضاً، مما يرفع القائمة المصغرة إلى 0.90. ويتم استبعاد الرمز الرابع. ثم يأخذ النموذج عينات بين الرموز الثلاثة الأولى بما يتناسب مع احتمالاتها بعد التطبيع؛ فهو لا يمنح كل رمز فرصة متساوية. قد تتجاوز عتبة القطع p لأن الرمز الذي يتجاوزها يظل في القائمة المصغرة. يصف شرح جوجل كلاود لأعلى النسبة قاعدة اختيار الرموز نفسها. (cloud.google.com)

يحدث هذا الاختيار مرة أخرى بعد كل رمز تم توليده. ومع تطور الجملة، يحسب النموذج توزيعاً جديداً وبالتالي نواة جديدة.

أعلى النسبة مقابل أعلى العدد، فك التشفير الجشع، ودرجة الحرارة#

تؤثر هذه الإعدادات على أجزاء مختلفة من عملية التوليد:

• خذرف أعلى العدد يحافظ على عدد ثابت من المرشحين، مثل الرموز الخمسة الأكثر ترجيحاً. بينما يحافظ أعلى النسبة على عدد كافٍ من المرشحين للوصول إلى عتبة الاحتمال، لذا فإن قائمته المصغرة ليس لها حجم ثابت.
• فك التشفير الجشع يختار دائماً الرمز الأرجح الوحيد. إنه متوقع ولكنه لا يقدم أي من التباين الذي يتيحه الخذرف.
• درجة الحرارة تغير مدى تفضيل النموذج للرموز ذات الاحتمالية العالية قبل الاختيار. تركز درجات الحرارة المنخفضة الاحتمال على الخيارات الرائدة؛ بينما تنشره درجات الحرارة المرتفعة بشكل أكبر. بدلاً من ذلك، يحدد أعلى النسبة قطعاً تراكمياً على التوزيع الناتج.

يمكن للتنفيذات الجمع بين أدوات التحكم هذه، لكن تفاعلها يجعل تفسير النتائج أكثر صعوبة. عند التجربة، قم بتغيير إعداد واحد في كل مرة. يصف مرجع معاملات محادثات الإكمال من OpenAI top_p ويوصي بضبط إما المعامل أو درجة الحرارة بدلاً من كيهما معاً في نفس الوقت. (platform.openai.com)

أين يكتسب أهمية في الممارسة العملية#

في روبوت الدردشة الخاص بدعم العملاء، يمكن للخذرف النواة السماح بصياغات طبيعية متعددة لإجابة روتينية دون الاعتماد على كل استمرار غير مرجح. على سبيل المثال، قد يقوم مساعد يوضح سياسة الاسترجاع بتغيير جملته الافتتاحية مع الحفاظ على تفاصيل السياسة الواردة في موجهه. لا يتحقق الخذرف من تلك التفاصيل: لا تزال الإجابة البليغة خاطئة، لذا تظل فحوصات الحقائق والتأصيل المناسب ضرورية.

في توليد تعليقات الصور، قد يكون لدى نموذج الرؤية واللغة عدة طرق معقولة لوصف نفس مشهد الشارع. يمكن لأعلى النسبة تنويع صياغة التعليقات التوضيحية مع تصفية خيارات الرموز منخفضة الاحتمال. قد تستخدم خطوط أنابيب الرؤية أولاً Ultralytics YOLO26 من أجل اكتشاف الكائنات، ثم توفر الكائنات المكتشفة كسيق لمولد التعليقات التوضيحية. لا يستخدم خطوة اكتشاف يولو الخذرف النواة لاختيار تسميات الكائنات الخاصة به؛ بل ينطبق الإعداد على خطوة توليد اللغة اللاحقة. يوضح البرنامج التعليمي لتوليد تعليقات الصور في TensorFlow كيف تتناسب المدخلات المرئية ومفكك تشفير النص معاً. (ibm.com)

تجربة أعلى النسبة في سير عمل موثق#

تقبل واجهة نموذج اللغة من Ultralytics وسائط الطلب لنقطة نهاية نموذج لغة متوافقة. بعد تثبيت ultralytics[llm] وتعيين OPENAI_API_KEY، يطلب هذا المثال إجابة قصيرة باستخدام top_p=0.9:

from ultralytics import LLM

# Use an endpoint that supports the top_p request argument.
llm = LLM("gpt-4.1-mini", api="chat.completions")

prompt = "Describe a city bus in one friendly sentence."
response = llm(prompt, top_p=0.9)

message = response.choices[0].message
print(message.content)

يترك الكود عملية اختيار الرموز لمزود نموذج اللغة. قد يؤدي تشغيله مرة أخرى إلى إنتاج صياغة مختلفة، لكن top_p=0.9 ليس وعداً بأن كل استجابة ستختلف. تحقق من المعاملات المدعومة للنموذج المحدد قبل تطبيق نفس الإعداد في مكان آخر.

اختيار إعداد مفيد#

ابدأ بالافتراضي للنموذج، ثم قارن المخرجات على موجهات نموذجية. قم خفض top_p إذا انحرفت الاستجابات إلى صياغة غير مرجحة؛ ضع في اعتبارك قيمة أعلى إذا كانت متكررة بلا داع. احكم على النتيجة من خلال المهمة - وليس التنوع وحدها. بالنسبة لإجابات العملاء أو التعليقات التوضيحية، راجع الدقة الواقعية وما إذا كانت التفاصيل المهمة موجودة. يمكن أن تقلل القائمة المصغرة الضيقة بعض الاستمرارات غير العادية، لكنها لا تستطيع جعل البيانات غير المدعومة صحيحة. وبالمثل، يتعامل إرشادات آي بي إم بشأن توليد مخرجات دقيقة مع خيارات فك التشفير كجزء واحد فقط من سير عمل التوليد المؤصل. (ibm.com)