Online Learning

التعلّم عبر الإنترنت هو إعداد في التعلّم الآلي يتعلم فيه النموذج من البيانات التي تصل بالتتابع، محدّثًا نفسه بعد كل مثال أو دفعة صغيرة بدلًا من التدريب مرة واحدة على مجموعة بيانات ثابتة. وفي كل خطوة، يقدم النموذج تنبؤًا، ويتلقى النتيجة الصحيحة، ويقيس الخسارة، ويضبط معلماته قبل وصول المثال التالي. يناسب هذا النهج البيانات المتدفقة، مثل النقرات والمعاملات وقراءات المستشعرات، والبيانات التي يتعذر تخزينها لكبر حجمها، والعلاقات التي تتغير مع الوقت. أما التعلّم بالدفعات أو دون اتصال فهو النقيض: إذ يتدرب النموذج على جميع بيانات التدريب دفعة واحدة، ويبقى ثابتًا حتى إعادة تدريبه.

آلية عمل التعلّم عبر الإنترنت#

كان البرسيبترون الذي ابتكره Frank Rosenblatt عام 1958 متعلمًا عبر الإنترنت، إذ كان يعدّل أوزانه بعد كل مثال مصنّف خطأً، ويطبّق الانحدار المتدرج العشوائي (SGD) التحديث نفسه لكل مثال أو دفعة على أي نموذج قابل للاشتقاق تقريبًا. وصُممت خوارزميات أخرى للبيانات المتدفقة: فتنمو أشجار Hoeffding، التي قدمها Pedro Domingos وGeoff Hulten عام 2000، لتصبح شجرة قرار من تدفق لا يُعرض فيه كل مثال إلا مرة واحدة، كما تنفذ مكتبات مثل River إصدارات متدفقة من النماذج الشائعة. وفي scikit-learn، تتعلم المقدّرات التي تتضمن طريقة partial_fit تدريجيًا.

يُقيّم المتعلمون عبر الإنترنت عادةً بأسلوب ما قبل التنبؤ، وهو مصطلح وضعه الإحصائي Philip Dawid: يُستخدم كل مثال جديد أولًا لاختبار النموذج ثم لتدريبه، لذا تُحسب النتيجة المتراكمة على بيانات لم يرها النموذج من قبل. وتقيس النظرية المتعلم عبر الإنترنت بندمه، أي الفجوة بين خسارته التراكمية وخسارة أفضل نموذج ثابت يُختار بأثر رجعي. وأوضح Martin Zinkevich عام 2003 أن الانحدار المتدرج عبر الإنترنت يحصر نمو الندم ضمن الجذر التربيعي لعدد الخطوات، لذلك تتقلص الفجوة المتوسطة لكل خطوة نحو الصفر.

يبث هذا المثال 400 دفعة مصغرة إلى انحدار لوجستي مدرّب باستخدام SGD. وفي منتصف التجربة، تتغير قاعدة إسناد التسميات، وتُستخدم نسخة مجمّدة عند تلك اللحظة لتمثيل نموذج توقف عن التعلّم:

import copy

import numpy as np
from sklearn.linear_model import SGDClassifier

rng = np.random.default_rng(0)
online = SGDClassifier(loss="log_loss", random_state=0)
scores = {"frozen": [], "online": []}

for step in range(400):  # 400 mini-batches of 20 examples arrive one at a time
    X = rng.normal(size=(20, 2))
    w = [1.0, 1.0] if step < 200 else [1.0, -1.0]  # the labeling rule changes at step 200
    y = (X @ np.array(w) > 0).astype(int)
    if step == 200:
        frozen = copy.deepcopy(online)  # a copy that stops learning when the rule changes
    if step >= 200:  # test on each new batch before learning from it
        scores["frozen"].append(frozen.score(X, y))
        scores["online"].append(online.score(X, y))
    online.partial_fit(X, y, classes=[0, 1])

for name, acc in scores.items():
    print(f"{name}: {np.mean(acc):.2f} accuracy after the change")

بعد التغيير، يسجل النموذج المجمّد 0.47، وهي نتيجة لا تتجاوز التخمين، بينما يبلغ متوسط نتيجة النموذج المتصل بالإنترنت 0.98. ويسجل النموذج المتصل 0.35 في الدفعة الأولى وفق القاعدة الجديدة و0.80 في الثانية، ثم يتعافى بعد بضع دفعات أخرى.

انحراف المفهوم والنسيان#

السبب الرئيس للتعلّم عبر الإنترنت هو انحراف المفهوم، أي تغير العلاقة بين المدخلات والتسميات، وغالبًا ما يصاحبه انحراف البيانات في المدخلات نفسها. قد يكون الانحراف مفاجئًا، كما في المثال، أو يتراكم تدريجيًا أو يتكرر مع الفصول وتوقيت اليوم. وتراقب كواشف مثل ADWIN، التي وضعها Albert Bifet وRicard Gavaldà، تدفق الأخطاء وترصد تغير متوسطه، ما قد يؤدي إلى تحديثات أسرع أو إعادة ضبط.

للتكيّف السريع كلفة. فمعدل التعلّم المرتفع يتتبع الانحراف بسرعة لكنه يتتبع الضجيج أيضًا، كما أن الشبكة التي لا ترى إلا البيانات الحديثة تستبدل ما تعلمته سابقًا، في إخفاق يُسمى النسيان الكارثي. وتُعد مخازن إعادة التشغيل التي تمزج أمثلة أقدم مخزنة في كل تحديث علاجًا شائعًا.

التعلّم عبر الإنترنت في الممارسة#

ينتشر التعلّم عبر الإنترنت في الحالات التي تصل فيها التسميات خلال ثوانٍ. ويُعد التنبؤ بنقرات الإعلانات المثال الكلاسيكي: فقد وصفت Google عام 2013 كيف تتدرب نماذج النقر لديها باستمرار على بيانات متدفقة باستخدام خوارزمية FTRL-Proximal، كما تحدّث أنظمة التوصية وأنظمة تقييم الاحتيال نماذجها بالطريقة نفسها غالبًا. أما نماذج الرؤية المنشورة فتُحدّث عادةً على دفعات بدلًا من ذلك، لأن التسميات تتأخر ولأن تحديثًا واحدًا فاسدًا قد يضعف كل تنبؤ لاحق؛ لذا تجمع الفرق بين مراقبة النماذج والضبط الدقيق الدوري باستخدام البيانات الحديثة والمعاد تشغيلها، كما في سير عمل صيانة النماذج.

تُجرى تحديثات أصغر عبر الإنترنت داخل أنظمة الرؤية. ففي وضع التتبع في Ultralytics YOLO26، يؤدي تمكين إعادة التعرّف باستخدام with_reid: True إلى جعل متعقب TrackTrack الافتراضي يحتفظ بتمثيل تضمين للمظهر لكل مسار ويحدّثه بعد كل كشف مطابق باستخدام متوسط متحرك، مانحًا التضمين الجديد وزنًا يساوي 5% مضروبًا في ثقة الكشف؛ وهكذا يتكيف مظهر كل مسار مع التغيرات التدريجية في الوضعية والإضاءة، بينما تظل شبكة ReID ثابتة.

يتداخل التعلّم المستمر مع التعلّم عبر الإنترنت، لكنه يركز على الاحتفاظ بالمهام السابقة عند ورود مهام جديدة، بينما يصف التعلّم عبر الإنترنت مدى تواتر التحديثات. ويختار التعلّم النشط الأمثلة التي ينبغي وسمها، كما يتعلّم التعلّم المعزز من تدفق التفاعلات، لكنه يعتمد على مكافآت أفعاله بدلًا من الأمثلة الموسومة.