Underfitting

과소적합은 머신 러닝 모델이 너무 단순하거나 학습 데이터에 내재된 추세와 패턴을 포착할 충분한 용량이 없을 때 발생합니다. 개념적으로는 뚜렷한 곡선을 이루는 데이터 포인트에 직선을 맞추려는 것과 유사하며, 모델은 입력과 출력 간 관계의 복잡성을 파악하지 못합니다. 모델이 데이터를 효과적으로 학습하지 못했기 때문에 학습 세트뿐만 아니라 보지 못한 검증 데이터에서도 성능이 저하되며, 예측 정확도가 낮아집니다. 이 현상은 알고리즘이 대상 함수에 대해 지나치게 단순한 가정을 하는 AI의 높은 편향의 결과인 경우가 많습니다.

원인 및 지표#

여러 요인으로 인해 모델이 과소적합될 수 있습니다. 가장 일반적인 원인은 해당 작업에 충분히 복잡하지 않은 모델 아키텍처를 사용하는 것으로, 비선형 데이터에 선형 회귀를 적용하는 경우가 이에 해당합니다. 모델이 수렴할 수 있도록 충분한 에포크를 제공하지 않는 등 학습 시간이 부족한 경우에도 충분한 학습이 이루어지지 않습니다. 또한 일반적으로 반대 문제를 방지하기 위해 사용하는 기법인 과도한 정규화는 모델을 지나치게 제한하여 중요한 특징을 포착하지 못하게 할 수 있습니다.

엔지니어는 학습 중 손실 함수를 모니터링하여 과소적합을 식별할 수 있습니다. 학습 오류와 검증 오류가 모두 높은 상태로 유지되고 크게 감소하지 않는다면 모델이 과소적합되었을 가능성이 높습니다. 모델이 데이터를 이해하는 데 도움이 되는 효과적인 특징 공학과는 반대로, 특징을 너무 적게 제공하면 모델에 필요한 정보가 부족해질 수 있습니다.

과소적합과 과적합 비교#

과소적합을 그에 대응하는 과적합과 구분하는 것은 매우 중요합니다. 이 두 개념은 편향-분산 트레이드오프의 양극단을 나타냅니다.

• 과소적합(높은 편향): 모델이 지나치게 경직되어 있습니다. 기본적인 신호를 학습하지 못하기 때문에 학습 데이터와 테스트 데이터 모두에서 성능이 저조합니다.
• 과적합(높은 분산): 모델이 지나치게 유연합니다. 노이즈를 포함한 학습 데이터를 암기하여 학습 중에는 매우 우수한 성능을 보이지만 새로운 예시에는 일반화하지 못합니다.

이 두 극단 사이에서 "최적의 지점"을 찾는 것이 모델 최적화의 주요 목표입니다.

실제 적용 사례#

과소적합을 이해하는 것은 다양한 산업 분야에서 신뢰할 수 있는 AI 시스템을 개발하는 데 매우 중요합니다.

• 자율주행: 자율주행 차량에서 과소적합된 객체 탐지 모델은 복잡한 도심 환경에서 보행자와 가로등을 구분하지 못할 수 있습니다. 모델에 미묘한 시각적 차이를 학습하는 데 필요한 파라미터가 부족하기 때문에 AI 안전성을 위협합니다.
• 의료 진단: 종양과 같은 이상을 탐지하기 위해 의료 영상 분석을 적용할 때, 지나치게 단순한 모델은 작거나 불규칙한 종양을 놓칠 수 있습니다. 신경망이 너무 얕으면 높은 민감도와 특이도에 필요한 복잡한 텍스처를 학습할 수 없어 진단을 놓치게 됩니다.

코드로 과소적합 해결하기#

컴퓨터 비전에서는 작업의 난이도에 비해 너무 작은 모델 변형을 사용할 때 과소적합이 자주 발생합니다(예: 고해상도 드론 영상에서 작은 객체 탐지). 다음 Python 예제에서는 ultralytics 라이브러리를 사용하여 더 작은 모델에서 더 크고 성능이 뛰어난 모델로 전환함으로써 잠재적인 과소적합을 해결하는 방법을 보여줍니다.

from ultralytics import YOLO

# If 'yolo26n.pt' (Nano) is underfitting and yielding low accuracy,
# upgrade to a model with higher capacity like 'yolo26l.pt' (Large).
model = YOLO("yolo26l.pt")

# Train the larger model.
# Increasing epochs also helps the model converge if it was previously underfitting.
results = model.train(data="coco8.yaml", epochs=100, imgsz=640)

더 큰 Ultralytics YOLO26 모델로 전환하고 충분한 학습 시간을 확보하면 시스템이 복잡한 패턴을 학습하는 데 필요한 파라미터를 갖추게 되어 과소적합을 효과적으로 완화할 수 있습니다. 모델이 더 이상 과소적합되지 않는지 확인하려면 항상 견고한 테스트 데이터 세트를 사용하여 평가해야 합니다. 과소적합을 조기에 발견하기 위해 데이터 세트를 관리하고 실험을 추적하는 데 Ultralytics 플랫폼은 시각화 및 분석을 위한 종합적인 도구를 제공합니다.