Что такое переобучение в компьютерном зрении и как его предотвратить?

Модели компьютерного зрения предназначены для распознавания закономерностей, обнаружения объектов и анализа изображений. Однако их производительность зависит от того, насколько хорошо они обобщают данные, которых раньше не видели. Обобщение — это способность модели хорошо работать с новыми изображениями, а не только с теми, на которых она обучалась. Распространённая проблема при обучении таких моделей — переобучение, при котором модель слишком многому учится на обучающих данных, включая ненужный шум, вместо выявления значимых закономерностей.

В этом случае модель хорошо работает на обучающих данных, но испытывает трудности с новыми изображениями. Например, модель обнаружения объектов, обученная только на изображениях высокого разрешения при хорошем освещении, может не справиться с размытыми или затенёнными изображениями в реальных условиях. Переобучение ограничивает адаптивность модели и сферу её применения в таких реальных задачах, как автономное вождение, медицинская визуализация и системы безопасности.

В этой статье мы рассмотрим, что такое переобучение, почему оно возникает и как его предотвратить. Мы также разберём, как модели компьютерного зрения, такие как Ultralytics YOLO11, помогают уменьшить переобучение и улучшить обобщение.

Что такое переобучение?#

Переобучение возникает, когда модель запоминает обучающие данные вместо изучения закономерностей, которые применимы к новым входным данным в целом. Модель слишком сильно сосредотачивается на обучающих данных, поэтому испытывает трудности с новыми изображениями или ситуациями, с которыми раньше не сталкивалась.

В компьютерном зрении переобучение может влиять на разные задачи. Модель классификации, обученная только на ярких и чётких изображениях, может плохо работать в условиях слабого освещения. Модель обнаружения объектов, которая учится на идеальных изображениях, может не справиться с перегруженными или неопрятными сценами. Аналогично, модель сегментации экземпляров может хорошо работать в контролируемых условиях, но испытывать трудности с тенями или перекрывающимися объектами.

Это становится проблемой в реальных приложениях ИИ, где модели должны уметь обобщать данные за пределами контролируемых условий обучения. Например, беспилотные автомобили должны обнаруживать пешеходов при разном освещении, в разных погодных условиях и окружающей обстановке. Модель, переобучившаяся на своём обучающем наборе, не будет надёжно работать в таких непредсказуемых сценариях.

Когда и почему возникает переобучение?#

Переобучение обычно возникает из-за несбалансированных наборов данных, чрезмерной сложности модели и слишком долгого обучения. Вот основные причины:

• Ограниченный объём обучающих данных: Небольшие наборы данных заставляют модели запоминать закономерности вместо того, чтобы обобщать их. Модель, обученная всего на 50 изображениях птиц, может плохо распознавать виды птиц, отсутствующие в этом наборе данных.
• Сложные модели с избыточным числом параметров: Глубокие сети с чрезмерным количеством слоёв и нейронов склонны запоминать мельчайшие детали, а не сосредотачиваться на существенных признаках.
• Отсутствие аугментации данных: Без таких преобразований, как обрезка, отражение или поворот, модель может учиться только на исходных обучающих изображениях.
• Слишком длительное обучение: Если модель слишком много раз проходит по обучающим данным — такие проходы называются эпохами, — она запоминает детали вместо изучения общих закономерностей, из-за чего становится менее адаптивной.
• Непоследовательные или зашумлённые метки: Неправильно размеченные данные заставляют модель изучать неверные закономерности. Это часто встречается в наборах данных, размеченных вручную.

Сбалансированный подход к сложности модели, качеству набора данных и методам обучения обеспечивает лучшее обобщение.

Переобучение и недообучение#

Переобучение и недообучение — две полностью противоположные проблемы глубокого обучения.

Рис. 1. Сравнение недообучения, оптимального обучения и переобучения моделей компьютерного зрения.

Переобучение возникает, когда модель слишком сложна и чрезмерно сосредотачивается на обучающих данных. Вместо изучения общих закономерностей она запоминает мелкие детали, в том числе не относящиеся к делу, например фоновый шум. В результате модель хорошо работает на обучающих данных, но испытывает трудности с новыми изображениями, то есть на самом деле не учится распознавать закономерности, применимые в разных ситуациях.

Недообучение возникает, когда модель слишком проста и не улавливает важные закономерности в данных. Это может произойти, если в модели слишком мало слоёв, недостаточно времени на обучение или ограничен объём данных. В результате она не распознаёт важные закономерности и делает неточные прогнозы. Это приводит к низкой производительности как на обучающих, так и на тестовых данных, поскольку модель недостаточно обучилась для правильного понимания задачи.

Хорошо обученная модель находит баланс между сложностью и обобщением. Она должна быть достаточно сложной, чтобы изучать релевантные закономерности, но не настолько сложной, чтобы запоминать данные вместо распознавания лежащих в их основе взаимосвязей.

Как выявить переобучение#

Вот несколько признаков, указывающих на переобучение модели:

• Если точность на обучающих данных значительно выше точности на валидационных данных, модель, скорее всего, переобучается.
• Ещё один явный признак — увеличивающийся разрыв между потерями на обучающих и валидационных данных.
• Модель слишком уверенно выдаёт неправильные ответы, показывая, что она запомнила детали, а не поняла закономерности.

Чтобы убедиться, что модель хорошо обобщает данные, её необходимо тестировать на разнообразных наборах данных, отражающих реальные условия.

Как предотвратить переобучение в компьютерном зрении#

Переобучение не неизбежно — его можно предотвратить. С помощью правильных методов модели компьютерного зрения могут изучать общие закономерности вместо запоминания обучающих данных, что делает их более надёжными в реальных приложениях.

Вот пять ключевых стратегий предотвращения переобучения в компьютерном зрении.

Повышай разнообразие данных с помощью аугментации и синтетических данных#

Лучший способ помочь модели хорошо работать с новыми данными — расширить набор данных с помощью аугментации и синтетических данных. Синтетические данные генерируются компьютером, а не собираются из реальных изображений. Они помогают восполнить пробелы, когда реальных данных недостаточно.

Рис. 2. Объединение реальных и синтетических данных уменьшает переобучение и повышает точность обнаружения объектов.

Аугментация данных слегка изменяет существующие изображения с помощью отражения, поворота, обрезки или регулировки яркости, чтобы модель не просто запоминала детали, а училась распознавать объекты в разных ситуациях.

Синтетические данные полезны, когда реальные изображения сложно получить. Например, модели для беспилотных автомобилей могут обучаться на сгенерированных компьютером дорожных сценах и учиться обнаруживать объекты при разных погодных условиях и освещении. Это делает модель более гибкой и надёжной без необходимости в тысячах реальных изображений.

Оптимизируй сложность и архитектуру модели#

Глубокая нейронная сеть, то есть разновидность модели машинного обучения с множеством слоёв, обрабатывающих данные, не всегда лучше однослойной модели. Если в модели слишком много слоёв или параметров, она запоминает обучающие данные вместо распознавания более общих закономерностей. Уменьшение ненужной сложности помогает предотвратить переобучение.

Для этого можно использовать прунинг, который удаляет избыточные нейроны и связи, делая модель более компактной и эффективной.

Другой подход — упростить архитектуру, уменьшив количество слоёв или нейронов. Предобученные модели, такие как Ultralytics YOLO11, разработаны для хорошего обобщения в разных задачах и имеют меньше параметров, поэтому они устойчивее к переобучению, чем глубокая модель, обучаемая с нуля.

Правильный баланс между глубиной и эффективностью модели помогает ей изучать полезные закономерности, а не просто запоминать обучающие данные.

Применяй методы регуляризации#

Методы регуляризации не дают моделям чрезмерно зависеть от определённых признаков в обучающих данных. Вот несколько распространённых методов:

• Dropout отключает случайные части модели во время обучения, чтобы она училась распознавать разные закономерности, а не слишком полагалась на несколько признаков.
• Уменьшение весов (L2-регуляризация) препятствует появлению экстремальных значений весов, помогая контролировать сложность модели.
• Пакетная нормализация помогает стабилизировать обучение, делая модель менее чувствительной к вариациям в наборе данных.

Эти методы помогают сохранять гибкость и адаптивность модели, снижая риск переобучения без потери точности.

Контролируй обучение с помощью валидации и ранней остановки#

Чтобы предотвратить переобучение, важно отслеживать процесс обучения модели и убеждаться, что она хорошо обобщает новые данные. Вот несколько методов, которые помогут это сделать:

• Ранняя остановка: автоматически завершает обучение, когда модель перестаёт улучшаться, чтобы она не продолжала изучать ненужные детали.
• Кросс-валидация: разделяет данные на части и обучает модель на каждой из них. Это помогает ей изучать закономерности, а не запоминать отдельные изображения.

Эти методы помогают сохранять баланс, чтобы модель обучилась достаточно для точной работы, но не сосредоточилась исключительно на обучающих данных.

Используй предобученные модели и улучшай разметку набора данных#

Вместо обучения с нуля использование предобученных моделей, таких как Ultralytics YOLO11, помогает уменьшить переобучение. YOLO11 обучена на масштабных наборах данных, поэтому хорошо обобщает данные в разных условиях.

Рис. 3. Предобученные модели компьютерного зрения повышают точность и предотвращают переобучение.

Дообучение предобученной модели помогает ей сохранить уже имеющиеся знания и одновременно освоить новые задачи, чтобы она не просто запоминала обучающие данные.

Кроме того, важно обеспечить высокое качество разметки набора данных. Неправильно размеченные или несбалансированные данные могут заставить модели изучать неверные закономерности. Очистка наборов данных, исправление неправильно размеченных изображений и балансировка классов повышают точность и снижают риск переобучения. Ещё один эффективный подход — состязательное обучение, при котором модель сталкивается со слегка изменёнными или более сложными примерами, специально созданными для проверки её возможностей.

Основные выводы#

Переобучение — распространённая проблема компьютерного зрения. Модель может хорошо работать на обучающих данных, но испытывать трудности с реальными изображениями. Чтобы избежать этого, такие методы, как аугментация данных, регуляризация и использование предобученных моделей, например Ultralytics YOLO11, помогают повысить точность и адаптивность.

Применяя эти методы, можно поддерживать надёжность моделей ИИ и обеспечивать их эффективную работу в разных условиях. По мере развития глубокого обучения правильное обобщение моделей станет ключевым фактором успеха ИИ в реальных задачах.

Присоединяйся к нашему растущему сообществу! Изучи наш репозиторий на GitHub, чтобы узнать больше об ИИ. Готов начать собственные проекты в области компьютерного зрения? Ознакомься с нашими вариантами лицензирования. Узнай больше о компьютерном зрении в беспилотном вождении и ИИ в здравоохранении на страницах наших решений!