Context Rot
تآكل السياق هو انخفاض الموثوقية عندما يتلقى النموذج اللغوي الكبير (LLM) سياقًا يتجاوز قدرته على الاستفادة منه، فيغفل حقائق أو يتبع تعليمات قديمة. يتناول طرق الحد منه.
تآكل السياق هو التراجع التدريجي في الموثوقية الذي يحدث عندما يتلقى نموذج ذكاء اصطناعي سياقاً يتجاوز قدرته على استخدامه بفعالية. وحتى عندما تستطيع نافذة السياق المعلنة استيعاب مئات الآلاف من الرموز تقنياً، قد يغفل نموذج لغوي كبير حقائق ذات صلة، أو يتبع تعليمات قديمة، أو يستدل بدقة أقل كلما ازداد حجم المدخلات. وقد رصدت دراسة Chroma لتآكل السياق لعام 2025 هذا التفاوت في الأداء عبر 18 نموذجاً وعدة مهام مضبوطة.
كيف يحدث تدهور السياق#
تفرض المدخلات الطويلة متطلبات أكبر على آلية الانتباه في النموذج. إذ تتنافس الأدلة المهمة مع التعليمات المتكررة والمستندات غير ذات الصلة ومخرجات الأدوات وأدوار المحادثة السابقة. ويمكن أن يؤثر موضع السياق والتشابه الدلالي والحقائق المتضاربة وتعقيد المهمة جميعها فيما يستخدمه النموذج.
وجد معيار RULER للسياق الطويل لعام 2024 أن أداء النماذج الجيد في الاسترجاع البسيط غالباً ما تراجع مع زيادة طول التسلسل وتعقيد المهمة. وكشف معيار NoLiMa لعام 2025 عن تراجعات أكبر عندما تطلب العثور على إجابة استدلالاً دلالياً بدلاً من مطابقة كلمات متطابقة. لذلك لا يوجد عدد موحد للرموز، بما في ذلك لنماذج Gemini، يبدأ عنده تآكل السياق؛ فالعتبة تعتمد على النموذج وبنية التوجيه والمهمة.
أمثلة من الواقع#
- مساعدو دعم العملاء: قد يعطي روبوت محادثة زُوّد بتذاكر لسنوات الأولوية لسياسة قديمة أو يغفل تحديثاً حديثاً للحساب. وتُظهر الأبحاث التي تستخدم ذاكرة المحادثة LongMemEval ومعيار LoCoMo متعدد الوسائط أن استخلاص سجلات التفاعل الطويلة وتحديثها والاستدلال بها ما يزال صعباً.
- وكلاء الفحص البصري: قد يصبح نموذج الرؤية واللغة الذي يراقب مصنعًا أقل موثوقية إذا أُدرج كل إطار وكل اكتشاف وكل سجل صيانة في موجّه واحد. ويستخدم سير عمل أفضل Ultralytics YOLO26 لاستخراج حقائق بصرية موجزة قبل استدلال نموذج اللغة.
- وكلاء البرمجة: قد يؤدي تحميل مستودع كامل وكل تعريفات الأدوات وسجل الطرفية بالكامل إلى حجب الهدف الحالي. وتوصي إرشادات Anthropic لهندسة السياق بتنظيم السياق، بينما يحمّل نهج Agent Skills لديها الموارد التفصيلية عند الحاجة فقط.
يوضح سير عمل التنبؤ في YOLO هذا كيفية تحويل الاكتشافات الخام إلى سياق موجز ومنظم:
from ultralytics import YOLO
model = YOLO("yolo26n.pt")
result = model("https://ultralytics.com/images/bus.jpg")[0]
labels = [model.names[int(cls)] for cls in result.boxes.cls]
context = {"frame": 1, "objects": sorted(set(labels))}
print(context)كيفية الحد من تدهور السياق#
- استرجع الأدلة ذات الصلة فقط: استخدم التقسيم الدلالي وأداة إعادة الترتيب بدلًا من إرسال كل المستندات المتاحة.
- اضغط المعلومات الأقدم: استبدل السجلات الطويلة بملخصات وقرارات ومهام لم تُحل بعد، بعد التحقق منها. وتشير الأبحاث إلى أن طول المدخلات قد يخفض الأداء حتى بعد نجاح الاسترجاع.
- حافظ على البادئات الثابتة: يمكن أن تقلل آلية التخزين المؤقت للموجّهات في OpenAI والتخزين المؤقت للسياق في Gemini تكاليف المعالجة المتكررة، لكن التخزين المؤقت وحده لا يحسن جودة السياق.
- استخدم نوافذ منزلقة: توصي Google بـضغط نافذة السياق للجلسات الحية الطويلة، مع الإبقاء على المعلومات الحديثة وإخلاء الرموز الأقدم.
- قيّم باستخدام أطوال واقعية: طبّق مراقبة النماذج وأعِد الاختبارات المضبوطة باستخدام مجموعة أدوات تدهور السياق المفتوحة.
يختلف تآكل السياق عن الهلوسة، وهي مخرجات لا يسندها دليل؛ وعن النسيان الكارثي، الذي يغيّر معرفة النموذج أثناء التدريب؛ وعن انحراف البيانات، الذي يعكس تغير مدخلات الإنتاج. فتآكل السياق إخفاق يحدث أساسًا وقت الاستدلال في اختيار السياق والاستدلال، ما يجعل هندسة السياق وسيلته الأساسية للوقاية.
