Underfitting

Недообучение (underfitting) возникает, когда модель machine learning слишком проста или не обладает достаточной емкостью для улавливания основных трендов и закономерностей в training data. Концептуально это аналогично попытке провести прямую линию через точки данных, которые образуют четкую кривую; модель не справляется с пониманием сложности взаимосвязи между входами и выходами. Поскольку модель неэффективно изучила данные, она демонстрирует низкую производительность не только на обучающем наборе, но и на невидимых validation data, что приводит к низкой предсказательной accuracy. Это явление часто является результатом высокого показателя bias in AI, когда алгоритм делает чрезмерно упрощенные предположения о целевой функции.

Причины и индикаторы#

Несколько факторов могут привести к недообученной модели. Наиболее частой причиной является использование архитектуры модели, недостаточно сложной для текущей задачи, например применение linear regression к нелинейным данным. Недостаточная продолжительность обучения, при которой модели не выделяется достаточно epochs для сходимости, также препятствует адекватному обучению. Кроме того, чрезмерная regularization — метод, обычно используемый для предотвращения противоположной проблемы, — может излишне ограничивать модель, мешая ей улавливать важные признаки.

Инженеры могут выявить недообучение путем мониторинга loss functions в процессе обучения. Если и ошибка обучения, и ошибка валидации остаются высокими и существенно не уменьшаются, модель, скорее всего, недообучена. В отличие от эффективного feature engineering, который помогает моделям понимать данные, предоставление слишком малого количества признаков также может лишить модель необходимой информации.

Недообучение против переобучения#

Крайне важно отличать недообучение от его противоположности — overfitting. Эти два понятия представляют собой противоположные концы bias-variance tradeoff.

• Недообучение (высокое смещение): Модель слишком жесткая. Она показывает плохие результаты как на обучающих, так и на test data, потому что не усвоила базовый сигнал.
• Переобучение (высокая дисперсия): Модель слишком гибкая. Она заучивает обучающие данные, включая шум, демонстрируя исключительные результаты во время обучения, но не справляясь с generalize на новые примеры.

Поиск «золотой середины» между этими двумя крайностями — главная цель model optimization.

Реальные приложения#

Понимание недообучения жизненно важно для создания надежных систем ИИ в различных отраслях.

• Автономное вождение: В контексте autonomous vehicles недообученная модель обнаружения объектов может не отличить пешехода от фонарного столба в сложных городских условиях. Поскольку модели не хватает параметров для изучения тонких визуальных различий, это ставит под угрозу AI safety.
• Медицинская диагностика: При применении medical image analysis для выявления аномалий вроде опухолей излишне простая модель может пропустить мелкие или нерегулярные новообразования. Если нейронная сеть слишком мелководна, она не способна усвоить сложные текстуры, необходимые для высокой sensitivity and specificity, что приводит к пропущенным диагнозам.

Устранение недообучения с помощью кода#

В computer vision недообучение часто происходит при использовании варианта модели, который слишком мал для сложности задачи (например, обнаружение мелких объектов на аэрофотоснимках высокого разрешения). Следующий пример Python демонстрирует, как перейти от меньшей модели к более крупной и мощной с помощью библиотеки ultralytics для устранения потенциального недообучения.

from ultralytics import YOLO

# If 'yolo26n.pt' (Nano) is underfitting and yielding low accuracy,
# upgrade to a model with higher capacity like 'yolo26l.pt' (Large).
model = YOLO("yolo26l.pt")

# Train the larger model.
# Increasing epochs also helps the model converge if it was previously underfitting.
results = model.train(data="coco8.yaml", epochs=100, imgsz=640)

Переход на более крупную модель Ultralytics YOLO26 и обеспечение достаточной продолжительности обучения позволяют системе получить параметры, необходимые для изучения сложных закономерностей, что эффективно нивелирует недообучение. Чтобы убедиться, что ваша модель больше не недообучена, всегда оценивайте ее на надежном test dataset. Для управления наборами данных и отслеживания экспериментов с целью раннего обнаружения недообучения Ultralytics Platform предлагает комплексные инструменты для визуализации и анализа.