Continual Learning

継続学習 (CL)は、生涯学習とも呼ばれ、人工知能モデルが過去に学習した情報を忘れることなく、新しいタスクを順次学習したり、新しい知識を時間とともに獲得したりする能力を指します。モデルを固定されたデータセットで一度だけ学習してからデプロイする従来の機械学習パイプラインとは異なり、継続学習は新しい環境への適応や、新しい経験から継続的に学習する人間の能力を模倣します。この分野における主な課題は、破滅的忘却の克服です。これは、ニューラルネットワークを新しいデータで学習すると、古いタスク向けに最適化された重みが上書きされ、古いタスクの性能が大幅に低下する現象です。

継続学習が重要な理由#

変化の激しい実世界の環境では、データ分布が一定に保たれることはほとんどありません。たとえば、自動運転車の視覚認識システムは、初期学習で身に付けた基本的な道路標識の認識能力を失うことなく、季節の移り変わり、新しい交通規則、異なる都市の道路配置に適応する必要があります。累積データセットを使った従来のゼロからの再学習は、計算コストが高く、ストレージの制約やプライバシー上の懸念から実用的でない場合がよくあります。継続学習ではモデルを段階的に更新できるため、リソースが限られたエッジAIアプリケーションの効率と拡張性を高められます。

実際のアプリケーション#

• ロボティクスと自律システム： 構造化されていない環境に導入されたロボットは、見慣れない物体を操作したり、新しい地形を移動したりする必要があります。継続学習によって、ロボットは特定の製造タスクを習得した後、システム全体をリセットすることなく別の製品ラインへの対応を学習でき、柔軟なインダストリー4.0のイノベーションパイプラインを効果的に支援できます。
• 医用画像診断： 新たな疾患の出現や撮像プロトコルの変更に伴い、医療データは変化します。放射線科医を支援するAIシステムは、継続学習を使って、X線画像で確認された新しいウイルス株などの新たな病態を取り込みながら、肺炎や骨折などの一般的な症状を高精度で検出する能力を維持できます。この機能は、確立されたプロトコルにおける患者の安全を損なうことなく、医療診断を最新の状態に保つうえで不可欠です。

継続学習の主な戦略#

破滅的忘却を軽減するため、研究者はいくつかの戦略を用います。正則化手法は、以前のタスクで重要と特定された重みが大きく変化しないよう、損失関数に制約を加えます。リプレイ手法は、過去のデータの一部を保存する（または生成AIで合成サンプルを生成する）ことで、学習時に新しいデータと混合します。最後に、パラメーター分離では、モデルのパラメーターの特定のサブセットをタスクごとに割り当て、新しいタスク向けの更新が以前のタスク向けに最適化されたパラメーターに干渉しないようにします。2024年と2025年の最近の進展では、どの特徴が汎用的で、どの特徴がタスク固有なのかをより適切に特定するため、視覚言語モデルの活用に重点が置かれています。

継続学習と転移学習の比較#

継続学習と転移学習を区別することが重要です。転移学習では、事前学習済みモデルを新しい特定のタスクを解決するための出発点として使用し、通常、元のタスクの性能は重視されません。目標は、対象ドメインでの性能を最大化することです。これに対し、継続学習の目的は、新しいタスクとすべての以前のタスクの両方で良好な性能を発揮することです。同様に、アクティブラーニングが学習用にラベル付けする最も有益なデータポイントの選択に重点を置くのに対し、継続学習はモデル自体を時間とともに更新するプロセスに重点を置きます。

YOLOモデルの更新#

本格的な継続学習には、アーキテクチャに特化した調整が必要ですが、古いデータのバッファーと新しいデータを混ぜてモデルをファインチューニングすることで、このワークフローをシミュレートできます。Ultralytics Platformを使うと、データセットの管理やモデルのバージョン管理が簡単になります。以下に、Python APIを使ってモデルを更新する方法の例を示します。

from ultralytics import YOLO

# 'dataset_v1.yaml'で以前に学習したモデルを読み込みます
model = YOLO("yolo26n-v1.pt")

# 新旧のサンプルを含む新しいデータセットでモデルを学習させます
# 古いデータを「リプレイ」することで、破滅的忘却の軽減に役立ちます
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # ファインチューニングでは学習率を下げます
)

課題と今後の展望#

進展がある一方で、継続学習は依然として活発な研究分野です。新しいことを学ぶ能力（可塑性）と、以前の知識を保持する能力（安定性）のバランスを取る、最適な可塑性と安定性のジレンマを見極めることは困難です。さらに、こうしたシステムの評価には、新しいタスクの学習速度を示す前向き転移と、過去のタスクへの影響を示す後ろ向き転移の両方を考慮した、堅牢な性能指標が必要です。基盤モデルの大規模化に伴い、全面的な再学習を行わずに大規模システムをカスタマイズするため、Low-Rank Adaptation (LoRA)のような効率的な継続適応手法が重要になっています。