Continual Learning
يدرّب التعلم المستمر، أو التعلم مدى الحياة، نموذجًا على تدفق من المهام أو البيانات الجديدة دون أن ينسى المهام السابقة. يتناول هذا الموضوع إعادة التشغيل وEWC والبرمجة.
يدرّب التعلم المستمر، الذي يُسمى أيضًا التعلم مدى الحياة أو التعلم التزايدي، نموذجًا على سلسلة من المهام أو تدفق متغير من البيانات، مع الحفاظ على ما تعلمه سابقًا. وتستبدل الضبط الدقيق القياسي على بيانات جديدة أوزان النموذج التي أدت المهام السابقة، فتنهار دقته في تلك المهام، وهو إخفاق يُعرف باسم النسيان الكارثي. وتوازن أساليب التعلم المستمر بين المرونة، أي القدرة على تعلم أشياء جديدة، والاستقرار، أي القدرة على الاحتفاظ بالمعارف السابقة؛ وتُسمى هذه المفاضلة معضلة الاستقرار والمرونة في كل من الشبكات العصبية والأدمغة البيولوجية.
أهمية التعلم المستمر#
تواجه النماذج المنشورة بيانات متغيرة باستمرار: فئات جديدة للأجسام، أو معدات كاميرا جديدة، أو إضاءة موسمية، أو انجراف تدريجي للبيانات. وأبسط حل هو إعادة التدريب من الصفر على مجموعة البيانات التراكمية كاملةً، لكن تكلفته تزداد مع كل تحديث، وقد لا تتوفر البيانات الأقدم بسبب قيود التخزين أو الترخيص أو قواعد خصوصية البيانات. ويحدّث التعلم المستمر النموذج تدريجيًا بدلًا من ذلك، ما يجعله مناسبًا لأجهزة الذكاء الاصطناعي الطرفي ومسارات عمل عمليات التعلم الآلي التي تعيد تدريب النماذج المنشورة وفق جدول زمني.
أنواع التعلم المستمر#
يميّز فان دي فين وتويتلارس وتولياس ثلاثة سيناريوهات. في التعلم التزايدي للمهام، يُبلّغ النموذج بالمهمة التي ينتمي إليها كل إدخال، ويمكنه استخدام رأس إخراج منفصل لكل مهمة. وفي التعلم التزايدي للمجالات، تظل الفئات نفسها بينما يتغير توزيع المدخلات، كأن ينتقل كاشف من لقطات النهار إلى لقطات الليل. أما في التعلم التزايدي للفئات، فتصل فئات جديدة باستمرار، ويجب على النموذج التمييز بين جميع الفئات التي رآها حتى ذلك الحين من دون معرفة المهمة التي جاء منها الإدخال، ما يجعله أصعب السيناريوهات الثلاثة.
استراتيجيات منع النسيان#
- إعادة العرض: يحتفظ النموذج بمخزن مؤقت صغير من الأمثلة السابقة، أو يولّد أمثلة اصطناعية بنموذج توليدي، ثم يخلطها بكل جولة تدريب جديدة.
- توحيد الأوزان المرن: تضيف أساليب التنظيم مثل EWC عقوبةً إلى الخسارة عند تغيير الأوزان المهمة للمهام السابقة، وتقدّر أهمية تلك الأوزان استنادًا إلى معلومات فيشر.
- عزل المعلمات: تُخصّص معلمات لكل مهمة، عبر شبكات أساسية مجمّدة أو رؤوس خاصة بالمهام أو محوّلات مثل LoRA، بحيث لا تتمكن تحديثات المهمة الجديدة من استبدال المعلمات القديمة.
- تقطير المعرفة: تُستخدم مخرجات النموذج السابق على البيانات الجديدة أهدافًا لينة أثناء تعلّم النموذج للمهمة الجديدة، وهو نهج يُعرف بالتعلم من دون نسيان.
يشغّل المقتطف أدناه تجربةً للتعلم التزايدي للفئات باستخدام PyTorch: تتعلم شبكة صغيرة الأرقام المكتوبة بخط اليد من 0 إلى 4، ثم من 5 إلى 9، مع مخزن مؤقت لإعادة العرض يضم 100 صورة مخزنة من المهمة الأولى ومن دونه.
import torch
from sklearn.datasets import load_digits
from torch import nn
X, y = load_digits(return_X_y=True)
X, y = torch.tensor(X / 16, dtype=torch.float32), torch.tensor(y)
task_a, task_b = torch.where(y < 5)[0], torch.where(y >= 5)[0] # digits 0-4, then digits 5-9
for replay in [0, 100]:
torch.manual_seed(0)
model = nn.Sequential(nn.Linear(64, 64), nn.ReLU(), nn.Linear(64, 10))
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)
# Train on task A, then on task B plus a replay buffer of stored task A images
for task in [task_a, torch.cat([task_b, task_a[:replay]])]:
for _ in range(200):
optimizer.zero_grad()
nn.functional.cross_entropy(model(X[task]), y[task]).backward()
optimizer.step()
accuracy = (model(X[task_a]).argmax(1) == y[task_a]).float().mean()
print(f"Replay buffer of {replay} images: digits 0-4 accuracy after learning 5-9 = {accuracy:.0%}")من دون إعادة عرض البيانات، تنسى الشبكة الأرقام من 0 إلى 4 تمامًا، وتسجّل دقة قدرها 0% عليها بعد تعلّم الأرقام من 5 إلى 9. وتحافظ إعادة عرض 100 صورة مخزّنة، أي نحو 11% من صور المهمة الأولى البالغ عددها 901 صورة، على مستوى الدقة عند 70%. يدعم Ultralytics YOLO26 جانب عزل المعلمات في مجموعة الأدوات هذه عبر وسيطة التدريب freeze وسيطة التدريب، التي تُجمّد أول N من الطبقات أو الوحدات المسماة، بينما يضبط النموذج أوزانه بدقة على بيانات جديدة.
تحديات مفتوحة#
يتطلب تقييم نظام تعلّم مستمر أكثر من نتيجة واحدة: يجب تتبع مقاييس الأداء لكل مهمة سابقة بعد كل تحديث، وقياس الانتقال العكسي (تأثير التعلم الجديد في المهام القديمة) والانتقال الأمامي (مدى تسريع المعرفة القديمة للتعلم الجديد). ويواجه التدريب المستمر طويل الأمد مشكلة أقل وضوحًا من النسيان. فقد أظهر Dohare وآخرون أن أساليب التعلم العميق القياسية تفقد المرونة تدريجيًا، أي القدرة على تعلم أي شيء جديد، عبر سلاسل طويلة من المهام المعتمدة على ImageNet ومسائل التعلم المعزز، وأن الانتشار العكسي المستمر، الذي يعيد تهيئة نسبة صغيرة من الوحدات قليلة الاستخدام عشوائيًا، يحافظ على هذه المرونة إلى أجل غير مسمى.
تطبيقات عملية#
- الروبوتات: يمكن لروبوت على خط تصنيع تعلم التعامل مع طراز جديد من المنتجات من دون إعادة تدريب كاملة، مع الحفاظ على مهارته في التعامل مع الأجزاء التي اعتاد عليها.
- تحليل الصور الطبية: تغيّر المستشفيات أجهزة التصوير وبروتوكولاته، وتظهر اكتشافات جديدة بمرور الوقت. وتتيح التحديثات التزايدية للمجال تكييف نموذج تشخيصي مع الصور الجديدة مع الحفاظ على دقته في الحالات المعروفة.
- النماذج اللغوية الكبيرة: يحدّث التدريب المسبق المستمر على نصوص أحدث معارف النموذج، وتضيف المحوّلات الموفرة للمعلمات مهارات جديدة من دون إعادة تدريب النموذج كاملًا.
التعلم المستمر مقارنةً بالمفاهيم ذات الصلة#
- التعلم بالنقل: يعيد التعلم بالنقل استخدام نموذج مدرّب مسبقًا نقطةَ انطلاق لمهمة جديدة، ويقيّم النجاح في تلك المهمة وحدها. أما التعلم المستمر فيُقيّم في المهمة الجديدة وكل المهام السابقة.
- التعلم عبر الإنترنت: يحدّث التعلم عبر الإنترنت النموذج مع كل مثال أو دفعة مصغّرة عند ورود البيانات، ويُستخدم عادةً لمهمة واحدة ولا يلزم أن يعالج مشكلة النسيان.
- التعلم وفق منهج متدرّج: يرتّب التعلم وفق منهج متدرّج أمثلة مهمة ثابتة واحدة من الأسهل إلى الأصعب، بينما يواجه التعلم المستمر سلسلة من المهام أو التوزيعات المختلفة.
- إزالة التعلم الآلي: تعمل إزالة التعلم في الاتجاه المعاكس، إذ تزيل عمدًا أثر بيانات تدريب محددة من النموذج، مثلًا للامتثال لطلبات المحو بموجب حق النسيان المنصوص عليه في اللائحة العامة لحماية البيانات (GDPR).










