Что такое переобучение в компьютерном зрении и как его предотвратить?

Модели computer vision предназначены для распознавания паттернов, обнаружения объектов и анализа изображений. Однако их производительность зависит от того, насколько хорошо они generalize (обобщают) на основе новых данных. Обобщающая способность — это умение модели хорошо работать с новыми изображениями, а не только с теми, на которых она обучалась. Распространенной проблемой при обучении таких моделей является overfitting (переобучение), при котором модель запоминает слишком много данных из обучающей выборки, включая ненужный шум, вместо того чтобы выделять значимые закономерности.

Когда это происходит, модель отлично показывает себя на обучающих данных, но с трудом справляется с новыми изображениями. Например, модель object detection, обученная только на высококачественных, хорошо освещенных снимках, может давать сбои при обработке размытых или затененных изображений в реальных условиях. Переобучение ограничивает адаптивность модели, сужая возможности ее применения в таких сферах, как автономное вождение, медицинская визуализация и системы безопасности.

В этой статье мы разберем, что такое переобучение, почему оно возникает и как его предотвратить. Мы также рассмотрим, как модели компьютерного зрения, например Ultralytics YOLO11, помогают уменьшить переобучение и улучшить обобщающую способность.

Link to this sectionЧто такое переобучение?#

Переобучение происходит, когда модель «зазубривает» обучающие данные вместо того, чтобы изучать закономерности, применимые к новым входным данным в широком смысле. Модель становится слишком сосредоточенной на обучающих данных, поэтому ей трудно работать с новыми изображениями или ситуациями, которые она ранее не видела.

В компьютерном зрении переобучение может затрагивать различные задачи. Модель классификации, обученная только на ярких и четких снимках, может испытывать трудности при плохом освещении. Модель обнаружения объектов, обучавшаяся на идеальных изображениях, может не справиться со сценами, где много объектов или беспорядок. Аналогично, модель сегментации экземпляров может отлично работать в контролируемых условиях, но испытывать проблемы с тенями или перекрывающимися объектами.

Это становится проблемой для прикладных AI-решений, где модели должны обобщать данные за пределами контролируемых условий обучения. Например, беспилотные автомобили должны обнаруживать пешеходов при разном освещении, погоде и в разных условиях окружающей среды. Модель, переобученная на своем обучающем наборе, не будет работать надежно в таких непредсказуемых сценариях.

Link to this sectionКогда и почему возникает переобучение?#

Переобучение обычно возникает из-за несбалансированных наборов данных, избыточной сложности модели и чрезмерного обучения. Вот основные причины:

• Ограниченные обучающие данные: На небольших наборах данных модели проще запомнить паттерны, чем обобщить их. Модель, обученная всего на 50 изображениях птиц, может с трудом распознавать виды птиц за пределами этой выборки.
• Сложные модели с избыточным количеством параметров: Глубокие сети с огромным числом слоев и нейронов склонны запоминать мелкие детали, вместо того чтобы фокусироваться на существенных признаках.
• Недостаток data augmentation: Без таких преобразований, как кадрирование, отражение или поворот, модель может обучаться только на точных копиях исходных изображений.
• Длительное обучение: Если модель слишком много раз проходит через обучающие данные (что называется epochs), она запоминает детали вместо изучения общих паттернов, что делает ее менее адаптивной.
• Непоследовательные или зашумленные метки: Некорректно размеченные данные заставляют модель изучать неверные закономерности. Это часто встречается в наборах данных, размеченных вручную.

Сбалансированный подход к сложности модели, качеству набора данных и методам обучения гарантирует лучшую обобщающую способность.

Link to this sectionПереобучение против недообучения#

Переобучение и недообучение — это две полярные проблемы в глубоком обучении.

Рис. 1. Сравнение недообучения, оптимального обучения и переобучения в моделях компьютерного зрения.

Переобучение возникает, когда модель слишком сложна, из-за чего она избыточно фокусируется на обучающих данных. Вместо изучения общих паттернов она запоминает мелкие детали, включая даже нерелевантные, такие как фоновый шум. Это приводит к тому, что модель отлично работает на обучающих данных, но с трудом справляется с новыми изображениями: это значит, что она не научилась по-настоящему распознавать закономерности, применимые в других ситуациях.

Недообучение возникает, когда модель слишком проста, поэтому она упускает важные закономерности в данных. Это может случиться, если у модели слишком мало слоев, недостаточно времени на обучение или если данных мало. В результате она не распознает важные паттерны и делает неточные прогнозы. Это ведет к плохим результатам как на обучающих, так и на тестовых данных, поскольку модель не научилась достаточно хорошо понимать задачу.

Хорошо обученная модель находит баланс между сложностью и обобщением. Она должна быть достаточно сложной, чтобы изучить релевантные паттерны, но не настолько, чтобы запоминать данные вместо понимания глубинных взаимосвязей.

Link to this sectionКак определить переобучение#

Вот несколько признаков, указывающих на то, что модель переобучается:

• Если точность на обучающей выборке значительно выше, чем на валидационной, модель, скорее всего, переобучается.
• Увеличивающийся разрыв между ошибкой (loss) на обучающей выборке и ошибкой на валидационной — еще один явный индикатор.
• Модель слишком уверена в неверных ответах, что показывает: она запомнила детали вместо понимания закономерностей.

Чтобы быть уверенным в хорошем обобщении модели, ее нужно тестировать на разнообразных наборах данных, которые отражают реальные условия.

Link to this sectionКак предотвратить переобучение в компьютерном зрении#

Переобучение не неизбежно, его можно предотвратить. С помощью правильных техник модели компьютерного зрения могут изучать общие паттерны, а не запоминать данные, что делает их более надежными в реальных приложениях.

Вот пять ключевых стратегий предотвращения переобучения в компьютерном зрении.

Link to this sectionУвеличивай разнообразие данных с помощью аугментации и синтетических данных#

Лучший способ помочь модели хорошо работать с новыми данными — это расширение набора данных с помощью аугментации и synthetic data. Синтетические данные создаются с помощью компьютера, а не собираются из реальных изображений. Они помогают заполнить пробелы, когда не хватает реальных данных.

Рис. 2. Сочетание реальных и синтетических данных уменьшает переобучение и улучшает точность обнаружения объектов.

Аугментация данных слегка изменяет существующие изображения (отражение, поворот, кадрирование или настройка яркости), благодаря чему модель не просто запоминает детали, а учится распознавать объекты в различных ситуациях.

Синтетические данные полезны, когда реальные изображения сложно получить. Например, модели для беспилотных автомобилей могут обучаться на сгенерированных дорожных сценах, чтобы научиться обнаруживать объекты при разной погоде и освещении. Это делает модель более гибкой и надежной без необходимости в тысячах реальных изображений.

Link to this sectionОптимизируй сложность и архитектуру модели#

Глубокая neural network (тип модели машинного обучения, у которой много слоев для обработки данных вместо одного) не всегда лучше. Когда у модели слишком много слоев или параметров, она запоминает обучающие данные вместо распознавания более широких закономерностей. Снижение избыточной сложности помогает предотвратить переобучение.

Для этого используется pruning, при котором удаляются избыточные нейроны и связи, делая модель более компактной и эффективной.

Другой подход — упрощение архитектуры за счет сокращения количества слоев или нейронов. Предобученные модели, такие как YOLO11, разработаны для качественного обобщения в разных задачах при меньшем количестве параметров, что делает их более устойчивыми к переобучению, чем обучение глубокой модели с нуля.

Поиск баланса между глубиной модели и ее эффективностью помогает изучать полезные паттерны без простого запоминания обучающих данных.

Link to this sectionПрименяй методы регуляризации#

Regularization techniques не дают моделям стать чрезмерно зависимыми от специфических признаков в обучающих данных. Вот несколько часто используемых методов:

• Dropout отключает случайные части модели во время обучения, чтобы она училась распознавать различные паттерны вместо того, чтобы слишком сильно полагаться на несколько признаков.
• Weight decay (L2 regularization) препятствует появлению экстремальных весовых значений, удерживая сложность модели под контролем.
• Batch normalization помогает стабилизировать обучение, гарантируя меньшую чувствительность модели к изменениям в наборе данных.

Эти методы помогают поддерживать гибкость и адаптивность модели, снижая риск переобучения при сохранении точности.

Link to this sectionКонтролируй обучение с помощью валидации и ранней остановки#

Чтобы предотвратить переобучение, важно следить за тем, как модель учится, и гарантировать ее хорошее обобщение на новые данные. Вот пара методов, помогающих в этом:

• Early stopping: Автоматически завершает обучение, когда прогресс модели останавливается, чтобы она не продолжала изучать ненужные детали.
• Cross-validation: Разделяет данные на части и обучает модель на каждой из них. Это помогает изучать закономерности вместо запоминания конкретных изображений.

Эти методы помогают поддерживать баланс модели, чтобы она была достаточно точной, не фокусируясь чрезмерно только на обучающих данных.

Link to this sectionИспользуй предобученные модели и улучшай разметку данных#

Вместо обучения с нуля, использование предобученных моделей, таких как YOLO11, может уменьшить переобучение. YOLO11 обучается на крупномасштабных наборах данных, что позволяет ей хорошо обобщать данные в различных условиях.

Рис. 3. Предобученные модели компьютерного зрения повышают точность и предотвращают переобучение.

Тонкая настройка (fine-tuning) предобученной модели помогает ей сохранить уже имеющиеся знания при изучении новых задач, чтобы она не просто запоминала обучающие данные.

Кроме того, критически важно обеспечить высокое качество разметки данных. Неправильно размеченные или несбалансированные данные могут ввести модель в заблуждение, заставив ее выучить неверные закономерности. Очистка наборов данных, исправление ошибок в разметке и балансировка классов повышают точность и снижают риск переобучения. Еще один эффективный подход — adversarial training, где модель сталкивается с немного измененными или более сложными примерами, предназначенными для проверки ее границ.

Link to this sectionОсновные выводы#

Переобучение — это распространенная проблема в компьютерном зрении. Модель может отлично работать на обучающих данных, но испытывать трудности с реальными изображениями. Чтобы избежать этого, помогают такие методы, как аугментация данных, регуляризация и использование предобученных моделей, например YOLO11, которые улучшают точность и адаптивность.

Применяя эти методы, AI-модели могут оставаться надежными и хорошо работать в разных условиях. Поскольку глубокое обучение развивается, обеспечение правильной обобщающей способности моделей станет ключом к успеху AI в реальном мире.

Присоединяйся к нашему растущему сообществу! Изучи наш репозиторий GitHub, чтобы узнать больше об AI. Готов запустить свои проекты в области компьютерного зрения? Ознакомься с нашими вариантами лицензирования. Узнай о применении AI в беспилотном вождении и AI в здравоохранении, посетив страницы наших решений!