Ensemble

앙상블 학습은 여러 독립적인 모델(종종 "약한 학습기"라고 함)을 결합하여 단일 예측 출력을 생성하는 머신러닝(ML)의 강력한 전략입니다. 근본적인 전제는 모델 그룹이 단독으로 작동하는 어떤 단일 모델보다 더 높은 정확도와 더 나은 일반화 성능을 달성할 수 있다는 것입니다. 다양한 알고리즘의 예측을 집계함으로써 앙상블 기법은 학습 데이터에 대한 과적합 위험을 효과적으로 줄이고, 무작위 오차를 평활화하며, 전반적인 시스템 안정성을 향상시킵니다. 이 접근 방식은 중요한 결정을 내리기 위해 단일 개인의 의견에 의존하는 대신 전문가 패널에 자문하는 것과 유사합니다.

앙상블 학습의 메커니즘#

편향-분산 트레이드오프를 조작하는 능력에 앙상블 기법의 효과가 있습니다. 개별 모델은 높은 분산(노이즈에 민감함) 또는 높은 편향(과도한 단순화)으로 인해 어려움을 겪을 수 있습니다. 앙상블은 다음과 같은 특정 기법을 통해 이러한 문제를 완화합니다.

• 배깅(부트스트랩 Aggregating): 이 기법은 데이터셋의 다양한 서브셋에 동일한 알고리즘의 여러 인스턴스를 학습시키는 것을 포함합니다. 가장 유명한 예시는 분산을 줄이기 위해 많은 결정 트리의 결정을 집계하는 랜덤 포레스트 알고리즘입니다.
• 부스팅: 배깅과 달리 부스팅은 모델을 순차적으로 학습시킵니다. 각 새로운 모델은 이전 모델이 범한 오류를 수정하는 데 중점을 둡니다. LightGBM 및 CatBoost와 같은 인기 있는 프레임워크는 이를 활용하여 매우 정확한 예측 시스템을 생성합니다.
• 스태킹(스택 일반화): 이는 여러 이질적인 베이스 모델(예: 신경망과 서포트 벡터 머신)의 예측을 결합하기 위해 새로운 "메타 모델"을 학습시키는 것을 포함합니다.

컴퓨터 비전에서의 앙상블#

컴퓨터 비전(CV) 분야에서 앙상블은 대회 및 필수 안전 애플리케이션에서 성능을 극대화하기 위해 자주 사용됩니다. 객체 검출의 경우, 이는 동일한 이미지에 대해 YOLO26의 다른 버전과 같은 여러 모델을 실행하는 것을 포함합니다. 그 결과로 생성된 바운딩 박스는 가장 가능성이 높은 객체 위치를 도출하기 위해 최대 억제(NMS) 또는 가중 박스 융합(WBF)과 같은 기법을 사용하여 병합됩니다.

실제 애플리케이션 사례#

앙상블 방법은 예측 신뢰성이 무엇보다 중요한 산업 분야에서 널리 사용됩니다.

1. 의학적 진단 및 이미징: 헬스케어에서는 위음성을 피하는 것이 매우 중요합니다. 앙상블은 엑스레이로 학습된 합성곱 신경망(CNN)과 이상 징후를 감지하기 위한 비전 트랜스포머(ViT)를 결합할 수 있습니다. 모델 간의 합의는 더 높은 신뢰도 점수를 제공하여 방사선 전문의가 종양을 감지하거나 희귀 질환을 진단하는 것을 지원합니다.

2. 금융 사기 탐지: 금융 기관은 트랜잭션 패턴을 분석하기 위해 앙상블을 사용합니다. 로지스틱 회귀 모델과 그래디언트 부스팅 머신을 결합함으로써, 시스템은 단일 모델이 놓칠 수 있는 미묘한 사기 지표를 감지하는 동시에 오탐률을 낮게 유지할 수 있습니다.

Python으로 모델 앙상블 구현하기#

학습된 여러 모델을 로드하고 동일한 입력에 대한 예측을 생성함으로써 기본 추론 앙상블을 시뮬레이션할 수 있습니다. Ultralytics 플랫폼을 사용하면 이러한 변형을 쉽게 학습시킬 수 있습니다. 다음 예제는 이미지에서 검출을 확인하기 위해 두 가지 다른 Ultralytics YOLO 모델(YOLO26n 및 YOLO26s)을 로드하는 방법을 보여줍니다.

from ultralytics import YOLO

# Load two distinct YOLO26 model variants
# 'n' (nano) is faster, 's' (small) is more accurate
model_nano = YOLO("yolo26n.pt")
model_small = YOLO("yolo26s.pt")

# Define the image source
source = "https://ultralytics.com/images/bus.jpg"

# Run inference with both models
results_n = model_nano(source)
results_s = model_small(source)

# Compare the number of objects detected by each model
print(f"Nano Model Found: {len(results_n[0].boxes)} objects")
print(f"Small Model Found: {len(results_s[0].boxes)} objects")

앙상블 vs. 데이터 증강#

앙상블 학습과 데이터 증강을 구별하는 것이 중요합니다.

• 앙상블은 아키텍처 및 예측 단계에 중점을 두며, 훈련된 여러 개의 서로 다른 모델을 결합하여 결과를 개선합니다.
• 데이터 증강은 학습 데이터 단계에 초점을 맞추어, 단일의 더 강력한 모델을 학습시키기 위해 (예: 회전 또는 뒤집기를 통해) 데이터셋의 다양성을 인위적으로 증가시킵니다.

데이터 증강은 단일 모델이 더 잘 학습하도록 돕는 반면, 앙상블 학습은 여러 모델이 서로의 출력을 검증하도록 돕습니다. 인스턴스 세그멘테이션 및 포즈 추정과 같은 작업에서 최고 수준의 결과를 달성하기 위해 두 전략이 함께 사용되는 경우가 많습니다.