Diffusion Forcing

فرض الانتشار أسلوب تدريب لمولّدات التسلسلات، يتلقى فيه كل رمز من التسلسل، مثل إطار فيديو أو فعل روبوت، مستوى ضوضاء يُسحب مستقلًا عن بقية الرموز، ويتعلم نموذج سببي إزالة الضوضاء من كل رمز بالنظر إلى سجل سابق مشوش جزئيًا. ويمكن لنموذج واحد مدرّب بهذه الطريقة توليد تسلسل خطوةً بعد خطوة، مثل نموذج لغوي كبير (LLM) يتنبأ بالرمز التالي، كما يمكنه توجيه المستقبل بأكمله نحو هدف، مثل نموذج الانتشار ذي التسلسل الكامل. طرح Boyuan Chen وDiego Martí Monsó وYilun Du وMax Simchowitz وRuss Tedrake وVincent Sitzmann من MIT هذا الأسلوب في يوليو 2024 ضمن ورقة Diffusion Forcing: Next-token Prediction Meets Full-Sequence Diffusion، التي عُرضت في NeurIPS 2024.

الضوضاء بوصفها إخفاءً جزئيًا#

يدرّب أسلوب التلقين نموذجًا ذاتي الانحدار على التنبؤ بالرمز التالي اعتمادًا على سجل نظيف من القيم المرجعية الصحيحة، لذا يواجه النموذج مخرجاته غير المثالية للمرة الأولى عند التوليد، وتنحرف مسارات توليد الفيديو الطويلة مع تراكم الأخطاء. تزيل طريقة الانتشار على مستوى التسلسل الكامل الضوضاء من جميع الإطارات معًا عند مستوى ضوضاء واحد، ما يدعم التوجيه، لكنها تفرض طولًا ثابتًا للتسلسل ولا تستطيع الاستجابة لملاحظات جديدة في منتصف العملية.

يتعامل فرض الانتشار مع الضوضاء بوصفها إخفاءً جزئيًا: يكون الرمز النظيف مرئيًا بالكامل، وتحجبه الضوضاء الصرفة كليًا، بينما تحجب المستويات الوسيطة جزءًا منه. ويعلّم التدريب باستخدام مستويات ضوضاء مستقلة لكل رمز نموذجًا واحدًا جميع التركيبات دفعة واحدة، بما فيها ماضٍ نظيف يتبعه إطار تالٍ مشوش بالكامل، وهو ما يعادل التنبؤ بالرمز التالي، وضوضاء متساوية على كل إطار، وهو ما يعادل انتشار التسلسل الكامل. وتثبت الورقة أن هذه الدالة الهدف تحسّن حدًا أدنى تباينيًا لاحتمالية جميع التسلسلات الفرعية. استخدم التنفيذ المرجعي، Causal Diffusion Forcing، شبكة عصبية متكررة تلخّص حالتها المخفية السجل المشوش، ثم أصدر المؤلفون لاحقًا نسخة باستخدام Transformer.

جداول أخذ العينات#

بما أن أي مزيج من مستويات الضوضاء يقع ضمن توزيع البيانات، يمكن أن يتبع التوليد جدولًا ثنائي الأبعاد يمر بعمليات إزالة الضوضاء والإطارات. يبدأ جدول التعرج في الورقة إزالة الضوضاء لكل إطار في وقت متأخر قليلًا عن الإطار السابق له:

import torch

torch.manual_seed(0)
frames, levels = 5, 4  # a 5-frame clip; noise levels run from 0 (clean) to 4 (pure noise)

# Training: every frame gets its own random noise level, so any mix of clean and noisy frames is seen
print("Training noise levels:", torch.randint(0, levels + 1, (frames,)).tolist())

# Sampling with a zig-zag schedule: each row is one denoising pass over all frames, and frame i
# starts denoising i passes after frame 0, so the near future is always cleaner than the far future
for step in range(levels + frames):
    row = [min(max(levels - step + i, 0), levels) for i in range(frames)]
    print(f"pass {step}: {row}")

يرسم سطر التدريب مستويات مثل [4, 4, 3, 0, 3] لمقطع واحد، وهو مزيج لا يتدرب عليه فرض المعلّم ولا انتشار التسلسل الكامل. في الجدول، يمثّل الصف 0 الضوضاء الصرفة، وبحلول المرور 4 يصبح الإطار الأول نظيفًا بينما يظل الخامس مشوشًا بالكامل؛ ويكتمل المقطع بعد 8 مرات مرور. تستخدم الورقة هذا الشكل للتخطيط لأنه يتعامل مع المستقبل القريب بوصفه أكثر يقينًا من المستقبل البعيد.

تستخدم عمليات التوليد الطويلة حيلة ثانية. إذ يؤدي تكييف كل إطار جديد على نسخ مشوشة قليلًا من الإطارات التي جرى توليدها بالفعل، بدلًا من نسخها النظيفة، إلى جعل النموذج متسامحًا مع أخطائه الطفيفة. وعلى مجموعة بيانات الملاحة DMLab، ولّد نموذج مدرّب على مقاطع من 36 إطارًا تسلسلًا من 2,000 إطار من دون انحراف، بينما انحرفت النماذج الأساسية.

التوجيه والتخطيط والروبوتات#

ينطبق التوجيه المستخدم في التسلسل الكامل أيضًا: إذ يمكن لمكافأة أو هدف توجيه الإطارات المستقبلية المشوشة أثناء أخذ العينات. وتولّد تقنية التوجيه بطريقة مونت كارلو في الورقة عدة احتمالات للمستقبل، ثم تحسب متوسط تدرجات التوجيه، ما حسّن النتائج في مهام تخطيط المتاهات المستخدمة في أبحاث التعلم المعزز. وبالنسبة إلى الروبوتات، استخدم المؤلفون التعلم بالتقليد لتدريب ذراع روبوتية حقيقية على تبديل ثمرتين باستخدام خانة ثالثة، وهي مهمة تتطلب الذاكرة لأن مواضع الثمار تبدأ عشوائيًا. نجح فرض الانتشار في 80% من المحاولات، بينما أخفقت سياسة الانتشار عديمة الذاكرة؛ وحتى مع مشتتات بصرية وكاميرا مغطاة بالكامل، بلغت نسبة النجاح 76%، مقابل 48% لخط أساس الانتشار الخاص بالإطار التالي الذي تعامل مع الإطارات المشوشة بوصفها حقيقة مرجعية. كما تعامل النموذج نفسه مع التنبؤ بالسلاسل الزمنية.

فرض الانتشار في نماذج الفيديو#

يكيّف Diffusion Forcing Transformer (DFoT) التابع لمجموعة MIT، الوارد في ورقة History-Guided Video Diffusion الصادرة في فبراير 2025، النموذج على أي عدد من الإطارات السابقة ويستخدم ذلك السجل إشارةً للتوجيه. وضبطت Skywork AI نموذج فيديو مدرّبًا مسبقًا على التسلسل الكامل بدقة وحوّلته إلى نموذج لفرض الانتشار ضمن SkyReels-V2، الصادر في أبريل 2025، مع مستويات ضوضاء لا تنخفض أبدًا من إطار إلى آخر، ما يتيح تمديد مقاطع الفيديو على دفعات. وتحتاج نماذج العالم للفيديو، التي تتنبأ بكيفية تطور المشهد استجابةً لأفعال وكيل الذكاء الاصطناعي، إلى النوع نفسه من التوليد السببي المستقر. ويمكن قياس مدى حفاظ التوليد الطويل على اتساق الكائنات باستخدام تتبّع الكائنات: إذ يعيّن Ultralytics YOLO26 في وضع التتبّع معرّفًا لكل كائن مكتشف يستمر عبر الإطارات، لذا فإن احتفاظ سيارة بمعرّف التتبّع نفسه خلال مقطع مولّد يعني أنها حافظت على هويتها.

فرض الانتشار ومصطلحات ذات صلة#

• نماذج لغة الانتشار: تكشف رموز النص المتقطعة بالتوازي عبر عدة خطوات، باستخدام نسبة إخفاء واحدة مشتركة في كل خطوة.
• سياسات الانتشار: تزيل الضوضاء من مقطع من أفعال الروبوت باستخدام مستوى الضوضاء نفسه لكل فعل، مع التكييف على ملاحظات نظيفة.
• انتشار تحويل النص إلى فيديو: تولّد معظم الأنظمة مقطعًا بطول ثابت باستخدام انتشار التسلسل الكامل، بينما تمدّد متغيرات فرض الانتشار المقاطع إلى ما يتجاوز ذلك الطول، دفعةً بعد دفعة.