Diffusion Forcing

Diffusion Forcingは、2024年に導入された高度な生成モデリングパラダイムであり、自己回帰的な次トークン予測の強みと、完全なシーケンス拡散を統合するものです。シーケンス内の異なるステップに独立した可変のノイズレベルを適用することで、この手法により機械学習モデルは非常に一貫性の高い時系列データを生成できるようになります。離散的なトークンを一つずつ予測するか、あるいはシーケンス全体を同時にノイズ除去する従来の手法とは異なり、Diffusion Forcingはモデルを堅牢なプランナーおよびシーケンスジェネレーターとして機能するようにトレーニングし、複雑で長期的な依存関係を持つ連続的な状態を扱えるようにします。

Link to this sectionDiffusion Forcingの仕組み#

Diffusion Forcingの核心は、リカレントニューラルネットワークで使用される古典的なティーチャーフォーシングから着想を得ています。しかし、次のステップを予測するために正解の離散トークンを与えるのではなく、ノイズが部分的に付加された連続的な履歴を因果関係を持つTransformerに与えます。モデルは過去の状態に基づいて現在の状態をノイズ除去することを学習します。これにより、ネットワークはフレームごとにノイズレベルを動的に調整できるようになり、局所的な精度と広範な時間的認識の両方を必要とするタスクに対して柔軟なフレームワークを提供します。

このアプローチは、予測不可能な環境に対応しつつ長期的な計画に従う必要があるインテリジェントなAIエージェントを構築する際に非常に有益であり、標準的な自己回帰モデルでしばしば見られる累積誤差の問題を回避できます。

Link to this section実社会での応用#

Diffusion Forcingは、いくつかの複雑な人工知能分野で急速に注目を集めています。

• ロボティクスおよび視覚運動制御：自律型ロボットアームや自動運転システムは、Diffusion Forcingを使用してスムーズで連続的な軌道計画を生成します。連続的なモーターコマンドのシーケンスを予測することで、ロボットは目標への安定した経路を維持しながら動的な障害物に適応できます。
• 動画生成および予測：高度なコンピュータビジョンパイプラインにおいて、モデルはこの技術を活用して、厳密な時間的一貫性を持って将来のビデオフレームを予測し、初期の生成アプローチで一般的に見られたちらつきなどのアーティファクトを回避します。

Link to this sectionDiffusion Forcingと標準的な拡散モデルの比較#

基本的なノイズ除去メカニズムは共通していますが、Diffusion Forcingは標準的な拡散モデルとは明確に異なります。テキストから画像生成などに使用される従来の拡散モデルは、通常、静的な単一出力のすべてのピクセルや潜在変数を同時にノイズ除去します。対照的に、Diffusion Forcingは明示的に時系列をモデル化し、ネットワークに因果的なシーケンス順序を守ることを強制します。これにより、軌道予測や行動認識のような時間的タスクにはるかに適したものとなっています。

Link to this section実践におけるシーケンス処理の統合#

While Diffusion Forcing primarily applies to generative sequence tasks, interpreting temporal sequences is equally critical in modern vision pipelines. For instance, you can efficiently track objects across sequential video frames using Ultralytics YOLO26, which handles temporal consistency natively during object tracking.

from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 model for high-speed inference
model = YOLO("yolo26n.pt")

# Process a temporal sequence (video) to maintain consistent object identities
results = model.track(source="path/to/video.mp4", stream=True)

# Iterate through the sequence of frames
for frame_result in results:
    # Access temporal tracking IDs for objects in the current state
    print(f"Tracked {len(frame_result.boxes)} objects in the current frame.")

For teams looking to scale sequence data collection and train advanced vision models, the Ultralytics Platform provides robust cloud-based tools to manage complex datasets, track experiments, and deploy models natively to the edge. Whether you are experimenting with state-of-the-art causal transformers in PyTorch or deploying real-time tracking systems, mastering the intersection of spatial and temporal data is essential for the future of AI.