نافذة السياق

نافذة السياق هي مفهوم أساسي في التعلم الآلي (ML) يشير إلى المقدار الثابت من المعلومات التي يمكن للنموذج أخذها في الاعتبار في وقت واحد عند معالجة البيانات التسلسلية. فكر في الأمر على أنه ذاكرة النموذج قصيرة المدى. سواء كانت البيانات نصًا أو سلسلة من أسعار الأسهم أو إطارات في مقطع فيديو، تحدد نافذة السياق مقدار الماضي القريب الذي يمكن للنموذج "رؤيته" لفهم المدخلات الحالية وإجراء تنبؤ دقيق. هذه الآلية ضرورية للمهام التي يكون فيها السياق أساسيًا للتفسير، كما هو الحال في معالجة اللغة الطبيعية (NLP) و تحليل السلاسل الزمنية.

كيف تعمل نافذة السياق؟

تعتمد النماذج التي تعالج البيانات بالتتابع، مثل الشبكات العصبية المتكررة (RNNs) وخاصةً المحولات، على نافذة سياق. عندما يحلل نموذج قطعة من البيانات في تسلسل، فإنه لا ينظر فقط إلى نقطة البيانات الفردية هذه بمعزل عن غيرها. بدلاً من ذلك، فإنه ينظر إلى نقطة البيانات جنبًا إلى جنب مع عدد معين من نقاط البيانات السابقة—هذه المجموعة من النقاط هي نافذة السياق. على سبيل المثال، في نموذج لغوي، للتنبؤ بالكلمة التالية في جملة، سينظر النموذج إلى الكلمات القليلة الأخيرة. يتم تحديد عدد الكلمات التي يأخذها في الاعتبار من خلال حجم نافذة السياق الخاصة به. يساعد هذا النموذج على التقاط التبعيات والأنماط الضرورية لفهم المعلومات المتسلسلة. يمكن العثور على نظرة عامة حول كيفية عمل النماذج اللغوية في هذه المقدمة إلى LLMs.

أمثلة على نافذة السياق في تطبيقات الذكاء الاصطناعي/تعلم الآلة الواقعية

إن مفهوم نافذة السياق جزء لا يتجزأ من العديد من تطبيقات الذكاء الاصطناعي:

• برامج الدردشة الآلية والمساعدون الافتراضيون: تستخدم برامج الدردشة الآلية الحديثة نوافذ السياق للحفاظ على سجل المحادثة. يتيح لهم ذلك فهم أسئلة المتابعة والإشارة إلى النقاط السابقة وتقديم تفاعلات طبيعية ومتماسكة أكثر، وتجنب الاستجابات المتكررة أو غير ذات الصلة. تستفيد نماذج مثل Gemini من Google من نوافذ السياق الكبيرة لإجراء حوار متطور.
• تحليل السلاسل الزمنية للتنبؤ المالي: تحلل النماذج المالية تسلسلات أسعار الأسهم السابقة أو المؤشرات الاقتصادية أو أحجام التداول ضمن نافذة سياق محددة للتنبؤ بتحركات السوق المستقبلية. يحدد حجم النافذة مقدار البيانات التاريخية التي تؤثر على التنبؤ. غالبًا ما يعتمد الذكاء الاصطناعي في التمويل على نوافذ السياق المضبوطة بعناية.
• خوارزميات النص التنبؤية (Predictive Text Algorithms): عندما تكتب على هاتفك الذكي، تقترح لوحة المفاتيح الكلمة التالية بناءً على الكلمات السابقة داخل نافذة السياق الخاصة بها، مما يحسن سرعة الكتابة ودقتها. هذه الميزة هي تطبيق مباشر لنافذة سياق صغيرة وفعالة.

اعتبارات رئيسية ومفاهيم ذات صلة

يتضمن اختيار حجم نافذة السياق المناسب موازنة. يمكن للنوافذ الأكبر التقاط المزيد من السياق وتحسين دقة النموذج (model accuracy)، خاصةً للمهام التي تتطلب فهم التبعية طويلة المدى. ومع ذلك، فإنها تتطلب المزيد من الذاكرة والطاقة الحسابية، مما قد يؤدي إلى إبطاء التدريب (training) والاستدلال (inference). يتم تطوير تقنيات مثل Transformer-XL للتعامل مع السياقات الأطول بكفاءة أكبر، كما هو مفصل في الأبحاث من جامعة كارنيجي ميلون (Carnegie Mellon University).

من المفيد تمييز نافذة السياق عن المصطلحات ذات الصلة:

• الحقل الاستقبالي: على الرغم من التشابه المفاهيمي (منطقة الإدخال التي تؤثر على الإخراج)، تشير الحقول الاستقبالية عادةً إلى المدى المكاني في المدخلات مثل الصور التي تتم معالجتها بواسطة الشبكات العصبية الالتفافية (CNNs). تُستخدم نافذة السياق عادةً للبيانات التسلسلية (النصوص، السلاسل الزمنية، إطارات الفيديو).
• طول التسلسل: في العديد من النماذج، وخاصة المحولات (Transformers)، يحدد حجم نافذة السياق مباشرة الحد الأقصى لطول التسلسل الذي يمكن للنموذج معالجته مرة واحدة. قد تحتاج التسلسلات الأطول إلى الاقتطاع أو المعالجة باستخدام بنيات متخصصة. هذا ذو صلة كبيرة بـ نماذج التسلسل إلى التسلسل.

توفر أطر العمل مثل PyTorch (عبر موقع PyTorch الرسمي) وTensorFlow (مفصلة في موقع TensorFlow الرسمي) أدوات لإنشاء نماذج حيث تكون نوافذ السياق معلمة رئيسية. غالبًا ما يتطلب نشر النموذج الفعال تحسين معالجة السياق، والتي يمكن إدارتها من خلال منصات مثل Ultralytics HUB.