Supervised Learning

Обучение с учителем — это раздел машинного обучения (ML), в котором модель учится сопоставлять входные данные с выходными на размеченных примерах: входные данные объединены с правильным ответом, который часто называют эталонной разметкой. Во время обучения предсказания модели сравнивают с этой разметкой, а параметры корректируют, чтобы уменьшить расхождение. Цель — обобщение: точные предсказания для новых входных данных, которых модель раньше не видела. К широко используемым системам ML с обучением под надзором относятся спам-фильтры, системы оценки кредитоспособности, прогнозирования спроса, классификации изображений и обнаружения объектов.

Как работает обучение с учителем#

Датасет для обучения с учителем — это набор пар «входные данные — метка», разделённый на обучающие данные для подгонки модели, валидационные данные для настройки параметров и выбора момента остановки и тестовые данные для итоговой непредвзятой оценки качества. Для каждого обучающего батча модель делает предсказания, функция потерь измеряет их расхождение с метками, а алгоритм оптимизации, например стохастический градиентный спуск, обновляет веса модели, чтобы уменьшить потери. Один проход по обучающему набору называется эпохой; обычно обучение продолжается много эпох, пока отслеживается оценка на валидационных данных.

Если модель продолжает уменьшать потери на обучающих данных, а её оценка на валидационных данных ухудшается, это переобучение: модель запоминает обучающие метки, включая шум в них, вместо изучения закономерностей, которые можно перенести на новые данные. Справиться с этим помогают увеличение объёма данных, аугментация данных, регуляризация и ранняя остановка.

Классификация, регрессия и структурированные выходные данные#

• Классификация: предсказывает дискретную категорию, например спам это или нет, либо какой из 1 000 классов ImageNet представлен на изображении.
• Регрессия: предсказывает непрерывное значение, например цену дома, спрос на завтра или расстояние до объекта; простейшая модель — линейная регрессия.
• Структурированные выходные данные: многие задачи компьютерного зрения сочетают оба подхода. Обнаружение объектов классифицирует каждый объект и регрессирует координаты рамки, сегментация классифицирует каждый пиксель, а оценка позы регрессирует положения ключевых точек.

Одна и та же схема обучения с учителем применима к совершенно разным моделям: от классических алгоритмов, таких как логистическая регрессия, случайные леса и градиентный бустинг деревьев для табличных данных, до глубоких нейронных сетей для изображений, аудио и текста.

Размеченные данные и их стоимость#

Метки создают аннотаторы, их также получают из записей о прошлых случаях мошенничества или покупках и от приборов. Качество меток ограничивает качество модели. Систематические ошибки разметки, несогласованные правила аннотирования, дисбаланс классов и утечка данных между обучающей и тестовой выборками — распространённые причины, по которым модели хорошо показывают себя при разработке, но плохо работают в продакшене. Поскольку разметка данных часто обходится дороже всего в проекте, смежные методы помогают сократить число необходимых меток. Активное обучение просит аннотаторов размечать только самые информативные примеры, а перенос обучения начинает с модели, предварительно обученной на большом наборе данных, поэтому для новой задачи требуется гораздо меньше размеченных примеров.

YOLO26 обучается с учителем на размеченных изображениях: для каждого обучающего изображения есть файл разметки со списком идентификаторов классов и нормализованных координат рамок всех объектов, а режим train обновляет модель, чтобы уменьшить потери между предсказанными классами и рамками и соответствующими метками. В этом примере предварительно обученные веса дообучаются на COCO8 — выборке из 8 изображений датасета COCO, где 4 изображения используются для обучения, а 4 — для валидации. Это позволяет проверить работу всего конвейера обучения:

from ultralytics import YOLO

# Возьми веса, предварительно обученные на полном датасете COCO
model = YOLO("yolo26n.pt")

# Обучение с учителем: изображения с соответствующими метками рамок и классов
results = model.train(data="coco8.yaml", epochs=3, imgsz=640)

Обучение с учителем и другие парадигмы обучения#

• Обучение без учителя: не использует метки и выявляет структуру только в самих входных данных, например кластеры или сжатые представления.
• Полуобучение с учителем: модель обучается на небольшом размеченном наборе и большом неразмеченном наборе; часто для уверенных предсказаний на неразмеченных данных создаются псевдометки.
• Самообучение с учителем: создаёт метки из самих данных, например в виде следующего слова в предложении или скрытого фрагмента изображения. Так предварительно обучают большие языковые модели и базовые модели компьютерного зрения перед дообучением с учителем.
• Обучение с подкреплением: модель учится на вознаграждениях за действия в среде, без размеченного правильного действия для каждой ситуации.
• Обучение по нескольким примерам: распознаёт новые классы по нескольким размеченным примерам — обычно от 1 до 10 на класс — используя знания, полученные при предварительном обучении.