Curriculum Learning

课程学习是一种受人类学习方式启发的机器学习训练策略，先从较简单的概念开始，再逐步引入更复杂的概念。与按照随机顺序向模型提供训练数据不同，训练样本会被明确组织成难度逐渐增加的序列。这种有序地向神经网络提供数据的方法，能够在复杂任务中实现更快的收敛、更好的泛化能力以及更强的整体鲁棒性。

这种结构化的渐进过程不同于持续学习，后者专注于向模型添加新任务，同时避免遗忘之前学到的任务。在课程学习中，目标保持不变，但训练数据的顺序会经过策略性安排。

课程学习的工作原理#

课程学习的核心思想是，使用更容易的示例初始化模型参数，可以引导模型在损失景观中找到更好的局部最小值。随着模型掌握基础特征，训练过程会引入更困难的示例，使模型能够进一步完善理解并学习更复杂的细节。

实施课程学习包括两个主要组成部分：

1. **难度指标：**用于评估每个训练示例复杂程度的方法。在计算机视觉中，这可以基于目标大小、遮挡程度或图像清晰度。

2. **训练调度器：**用于规定何时以及如何在训练过程中引入更困难示例的节奏函数。

例如，在使用Ultralytics YOLO26进行目标检测训练时，你可以先使用包含单个清晰且居中目标的图像进行训练。随着训练的进行，调度器会引入包含多个目标、严重遮挡或不同光照条件的图像。这样可以让模型先掌握目标的基本特征，再应对具有挑战性的现实场景。

实际应用#

课程学习已被证明对多个 AI 领域都有帮助，尤其适用于处理含噪数据集或高度复杂的任务。

• **自动驾驶车辆：**在训练自动驾驶系统时，模型首先接受基本车道标线和清晰道路标志的识别训练。只有掌握这些基础内容后，模型才会接触大雨、行人不规则移动或复杂路口等场景，从而提高AI 安全性和可靠性。
• **医学图像分析：**在开发用于医学图像分析的模型时，课程学习方法可以先从高对比度、清晰且肿瘤明显的扫描图像开始，然后逐步过渡到包含细微异常或成像伪影的扫描图像。

优势与注意事项#

Google AI 和 OpenAI 等机构的研究持续凸显结构化训练方案的优势。通过精心设计训练顺序，开发者通常可以获得更高的 accuracy，并 reduce the risk of overfitting。

然而，定义示例的“难度”并不总是简单明了。设计不当的课程有时会减慢训练速度，或使模型产生偏差。近期arXiv 关于自步学习的论文中讨论的现代方法，可以让模型根据当前损失动态确定示例难度，从而自动完成课程设计。

为了有效管理自定义数据集并试验训练策略，Ultralytics Platform 等工具提供了简化的环境，用于数据标注、组织数据划分以及监控训练进度。

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# A conceptual example of manually implementing a simple curriculum
# Phase 1: Train on 'easy' dataset (e.g., clear, large objects)
model.train(data="easy_dataset.yaml", epochs=50, imgsz=640)

# Phase 2: Fine-tune on 'hard' dataset (e.g., occluded, small objects)
model.train(data="hard_dataset.yaml", epochs=50, imgsz=640)

在这个简化示例中，模型首先从较容易的数据集中学习基础特征，然后适应更具挑战性的数据，从而模拟一个基本的两阶段课程。