Diffusion Forcing

Diffusion Forcingは、自己回帰型の次トークン予測とシーケンス全体の拡散を組み合わせた、2024年に提唱された先進的な生成モデリングパラダイムです。シーケンス内の異なるステップに独立した可変ノイズレベルを適用することで、この手法は機械学習モデルによる一貫性の高い時系列データの生成を可能にします。従来の手法では、離散トークンを1つずつ予測するか、シーケンス全体を同時にデノイズしますが、Diffusion Forcingでは、モデルを堅牢なプランナーおよびシーケンス生成器として学習させ、複雑で長期的な依存関係を持つ連続状態を処理します。

Diffusion Forcingの仕組み#

Diffusion Forcingの中核には、再帰型ニューラルネットワークで使用される古典的なteacher forcingから得た着想があります。ただし、次のステップを予測するために正解の離散トークンを入力するのではなく、部分的にノイズを加えた連続的な履歴を因果Transformerに入力します。モデルは、過去の状態を条件として現在の状態をデノイズする方法を学習します。これにより、ネットワークはフレームごとにノイズレベルを動的に調整でき、局所的な精度と広範な時間的認識の両方を必要とするタスクに柔軟なフレームワークを提供します。

このアプローチは、長期的な計画に従いながら予測不能な環境に反応する必要があるインテリジェントなAIエージェントの構築において、特に有効です。標準的な自己回帰モデルで生じやすい誤差の累積問題も回避できます。

実世界での利用例#

Diffusion Forcingは、複数の複雑な人工知能分野で急速に注目を集めています。

• ロボティクスと視覚・運動制御: 自律型ロボットアームや自動運転システムでは、Diffusion Forcingを使用して滑らかで連続的な軌道計画を生成します。連続的なモーターコマンドのシーケンスを予測することで、ロボットは安定した経路を目標まで維持しながら、動的な障害物に適応できます。
• 動画生成と予測: 高度なコンピュータビジョンパイプラインでは、モデルがこの手法を活用して将来の動画フレームを厳密な時間的一貫性を保ちながら予測し、従来の生成アプローチでよく見られたちらつきのアーティファクトを回避します。

Diffusion Forcingと標準的な拡散モデルの比較#

基本的なデノイズメカニズムは共通していますが、Diffusion Forcingは標準的な拡散モデルとは明確に異なります。テキストから画像を生成するために使用される従来の拡散モデルでは通常、単一の静的な出力に含まれるすべてのピクセルまたは潜在変数を同時にデノイズします。一方、Diffusion Forcingは時系列を明示的にモデル化し、ネットワークに因果的なシーケンス順序を遵守させます。そのため、軌道予測や行動認識などの時間的タスクにより適しています。

実践におけるシーケンス処理の統合#

Diffusion Forcingは主に生成シーケンスタスクに適用されますが、時間的なシーケンスの解釈も現代のビジョンパイプラインでは同様に重要です。たとえば、Ultralytics YOLO26を使用すると、連続する動画フレーム間でオブジェクトを効率的に追跡できます。Ultralytics YOLO26は、オブジェクトトラッキング中に時間的一貫性をネイティブに処理します。

from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 model for high-speed inference
model = YOLO("yolo26n.pt")

# Process a temporal sequence (video) to maintain consistent object identities
results = model.track(source="path/to/video.mp4", stream=True)

# Iterate through the sequence of frames
for frame_result in results:
    # Access temporal tracking IDs for objects in the current state
    print(f"Tracked {len(frame_result.boxes)} objects in the current frame.")

シーケンスデータの収集を拡張し、高度なビジョンモデルをトレーニングしたいチーム向けに、Ultralytics Platformは、複雑なデータセットの管理、実験の追跡、モデルのエッジへのネイティブなデプロイを行うための堅牢なクラウドベースツールを提供します。PyTorchで最先端の因果Transformerを試している場合でも、リアルタイムトラッキングシステムをデプロイしている場合でも、空間データと時間データの交差領域を理解することは、AIの未来に不可欠です。