Continual Learning

持续学习 (CL)，通常被称为终身学习，描述了人工智能模型随着时间的推移按顺序学习新任务或获取新知识，且不忘记之前所学信息的能力。与传统的机器学习流水线不同（模型在静态数据集上训练一次后即部署），持续学习模拟了人类适应新环境并不断从新经验中学习的能力。该领域的主要挑战是克服灾难性遗忘，这是一种当神经网络在新数据上训练时，由于用于旧任务的权重被覆盖，导致其在旧任务上的表现急剧下降的现象。

Link to this section为什么持续学习很重要#

在动态的现实环境中，数据分布很少保持静态。例如，自动驾驶车辆上的视觉感知系统必须适应季节变化、新的交通法规或不同的城市布局，同时不能丢失在初始训练期间学到的识别基本交通标志的能力。由于存储限制或隐私问题，在累积数据集上进行传统的 重新从头开始训练 通常既昂贵又不切实际。持续学习通过允许模型增量更新来解决这些问题，使其在资源受限的 边缘AI应用 中更加高效且可扩展。

Link to this section实际应用#

• 机器人与自主系统： 部署在非结构化环境中的机器人需要操作新颖的物体或在新的地形中导航。通过持续学习，机器人可以掌握特定的 制造任务，随后学习处理不同的产品线，而无需完全重置系统，从而有效地支持灵活的 工业 4.0 创新流程。
• 医学影像诊断： 医疗数据随着新疾病的出现或影像协议的变更而不断演进。辅助放射科医生的 AI 系统可以利用持续学习来整合新的病理信息，例如在 X 光片中发现的某种病毒新变种，同时在检测 肺炎或骨折 等常见病症时保持高准确度。这种能力对于在不影响既定协议下的患者安全前提下，维持最新的 医疗诊断 水平至关重要。

Link to this section持续学习的关键策略#

为了减轻灾难性遗忘，研究人员采用了多种策略。正则化方法 将约束添加到 损失函数 中，以防止对先前任务中确定的重要权重进行重大更改。重放方法 会存储一小部分先前的数据（或使用 生成式AI 生成合成样本），并在训练过程中将其与新数据混合。最后，参数隔离 将模型参数的特定子集分配给不同的任务，确保新任务的更新不会干扰为先前任务优化的参数。2024年和2025年的最新进展集中于使用 视觉语言模型 来更好地识别哪些特征是通用的，哪些是任务特定的。

Link to this section持续学习与迁移学习#

区分持续学习与 迁移学习 非常重要。在迁移学习中，预训练模型作为解决 新 特定任务的起点，而原任务的表现通常无关紧要。其目标是最大化目标领域中的性能。相比之下，持续学习的目标是在新任务和所有先前任务上都表现良好。同样，虽然 主动学习 侧重于选择最具信息量的数据点进行训练标注，但持续学习侧重于随时间推移更新模型本身的 过程。

Link to this section更新 YOLO 模型#

虽然真正的持续学习需要专门的架构调整，但用户可以通过在混合了旧数据缓冲区的新数据上微调模型来模拟此工作流程。Ultralytics Platform 简化了这些数据集的管理和模型版本控制。以下是一个如何使用 Python API 更新模型的示例：

from ultralytics import YOLO

# Load a model previously trained on 'dataset_v1.yaml'
model = YOLO("yolo26n-v1.pt")

# Train the model on a new dataset containing new and old samples
# This helps mitigate catastrophic forgetting by "replaying" old data
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # Lower learning rate for fine-tuning
)

Link to this section挑战与未来方向#

尽管取得了进展，但持续学习仍然是一个活跃的研究领域。确定最佳的 可塑性-稳定性困境（平衡学习新事物（可塑性）与保留旧事物（稳定性）的能力）是很困难的。此外，评估这些系统需要稳健的 性能指标，这些指标需同时考虑前向迁移（在新任务上的学习速度）和后向迁移（对旧任务的影响）。随着 基础模型 变得越来越大，像低秩自适应 (LoRA) 这样高效的持续适应方法对于在无需完全重新训练的情况下定制大规模系统变得至关重要。