Prompt Enrichment

إثراء المطالبات هو الإضافة التلقائية للمعلومات إلى طلب المستخدم قبل وصوله إلى نموذج ذكاء اصطناعي. يقع كود التطبيق بين المستخدم والنموذج، ويملأ ما لم يكتبه المستخدم: تفاصيل حسابه، والمستندات التي تجيب عن السؤال، والبيانات المباشرة من الأدوات، والأمثلة المنجزة، أو نسخة أكثر تفصيلًا من الطلب نفسه. يكتب العميل الذي يسأل "Why is my camera not detected anymore?" سبع كلمات، بينما يتلقى النموذج اللغوي الكبير (LLM) تلك الكلمات السبع مضافًا إليها جهاز العميل وإصدار البرنامج ومقالة المساعدة التي تتناول المشكلة نفسها تحديدًا. وهذا المصطلح مظلة لعدة تقنيات، أشهرها التوليد المعزّز بالاسترجاع (RAG).

ما الذي يضيفه الإثراء#

• بيانات المستخدم والجلسة: حقول الملف الشخصي والخطة واللغة والموقع والتاريخ الحالي أو الصفحة التي يتصفحها المستخدم، وتُقرأ من سجلات التطبيق نفسه.
• المعرفة المسترجعة: مقاطع عُثر عليها بالبحث في مجموعة مستندات أو رسم بياني معرفي عن نصوص مرتبطة بالطلب.
• نتائج الأدوات: قيم جُلبت لهذا الطلب، مثل حالة طلب من API أو صف في قاعدة بيانات أو مخرجات نموذج آخر.
• أمثلة مختارة: أمثلة قليلة تُختار لكل طلب لأنها تشبه المُدخل، بدلًا من استخدام مجموعة ثابتة واحدة لكل الطلبات.
• الاستعلامات المعاد صياغتها: يوسّع نموذجٌ طلبًا مقتضبًا قبل استخدامه. في أسلوب HyDE، يجعل Luyu Gao وزملاؤه نموذج LLM يكتب إجابة افتراضية، ثم يستخدمون تضمين ذلك المستند لاسترجاع مستندات حقيقية، وقد تفوق هذا النهج على نظام الاسترجاع غير الخاضع للإشراف نفسه عندما زُوّد بالسؤال وحده.

يثري المثال التالي سؤال دعم ببيانات الحساب ومقالة المساعدة الأكثر صلة، المسترجعة باستخدام تشابه TF-IDF مع scikit-learn:

from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.metrics.pairwise import cosine_similarity

# Context the user never typed: their account record and the help center's articles
account = {"plan": "Pro", "device": "USB webcam", "app_version": "2.3"}
articles = [
    "Version 2.4 fixes USB webcams that are not detected after a system update.",
    "Pro plans include ten concurrent video streams per workspace.",
    "Invoices are available on the billing page as soon as a payment succeeds.",
]
question = "Why is my camera not detected anymore?"

# Retrieve the article most similar to the question
vectorizer = TfidfVectorizer().fit([*articles, question])
scores = cosine_similarity(vectorizer.transform([question]), vectorizer.transform(articles))[0]
best = articles[scores.argmax()]

# Assemble the enriched prompt the model actually receives
profile = ", ".join(f"{key}: {value}" for key, value in account.items())
prompt = f"Customer profile: {profile}\nRelevant article: {best}\nQuestion: {question}"
print(prompt)

يطبع:

Customer profile: plan: Pro, device: USB webcam, app_version: 2.3
Relevant article: Version 2.4 fixes USB webcams that are not detected after a system update.
Question: Why is my camera not detected anymore?

لا يذكر سؤال المستخدم كاميرا ويب أو إصدارًا أو تحديثًا، ومع ذلك تحتوي المطالبة المُثرَاة على كل ما يلزم للإجابة بـ"التحديث من 2.3 إلى 2.4". تستخدم أنظمة الإنتاج عادةً تضمينات كثيفة من التضمينات عبر قاعدة بيانات متجهية أو البحث الهجين، لكن خطوة التجميع واحدة.

الإثراء في التطبيق العملي#

في عام 2023، وصفت GitHub كيف تبحث تقنية علامات التبويب المجاورة في Copilot ضمن الملفات المفتوحة لدى المطوّر عن مقاطع تشبه الشيفرة المحيطة بالمؤشر، ثم تضيفها إلى المطالبة، ما أدى إلى زيادة نسبية قدرها 5% في معدل قبول المستخدمين لاقتراحات Copilot. وتُثري روبوتات المحادثة المخصصة لدعم العملاء كل جولة بسجلات الحساب والطلبات، كما يثري وكلاء الذكاء الاصطناعي كل خطوة بنتائج استدعاءات الأدوات السابقة.

تثري خطوط معالجة الرؤية المطالبات بما اكتشفه الكاشف. في وكلاء منصة Ultralytics، ترسل كتلة LLM إلى نموذج الرؤية واللغة المحدد كل صورة مع نتائج الكتل السابقة لها، مثل اكتشافات YOLO26، وبذلك تُثرى مطالبة كُتبت مرة واحدة بنتائج اكتشاف الأجسام الجديدة لكل صورة يعالجها سير العمل.

للإثراء تكاليف. فكل مقطع مضاف يستخدم رموزًا، ما يرفع السعر وزمن استدلال النموذج، كما أن السياق غير ذي الصلة أو المفرط يقلل الدقة، وهو الأثر المعروف باسم تدهور السياق. وقد تحمل صفحات الويب والمستندات المسترجعة أيضًا هجمات حقن المطالبات، كما أن إضافة أي بيانات شخصية إلى المطالبة تثير مخاوف بشأن خصوصية البيانات، لأنها تُرسل إلى الجهة التي تشغّل النموذج.

إثراء المطالبات والمصطلحات ذات الصلة#

• التوليد المعزّز بالاسترجاع (RAG): شكل من أشكال الإثراء يبحث في مجموعة مستندات خارجية. ويشمل الإثراء أيضًا البيانات التي لا تحتاج إلى بحث، مثل خطة المستخدم أو التاريخ الحالي.
• هندسة المطالبات: يصمم شخص قالب المطالبة. ويملأ الإثراء ذلك القالب ببيانات خاصة بالطلب وقت التشغيل.
• هندسة السياق: تدير كل ما يدخل في سياق النموذج عبر التطبيق، بما في ذلك ما ينبغي إضافته أو ضغطه أو حذفه في كل خطوة. والإثراء هو الجزء المتعلق بالإضافة.
• الإسناد إلى مصادر: ربط مخرجات النموذج بمصادر يمكن التحقق منها. ويوفر الإثراء تلك المصادر ضمن المطالبة.
• ضغط المطالبة: يختصر المطالبة بإزالة الرموز منخفضة المعلومات، وغالبًا ما يُطبّق بعد الإثراء عندما يكون السياق المضاف طويلًا.