Uncertainty Quantification

불확실성 정량화(UQ)는 머신러닝 모델이 각 예측에 대해 얼마나 불확실한지 추정하고, 그 추정이 신뢰할 수 있는지 확인하는 과정입니다. 레이블, 값 또는 바운딩 박스와 함께 UQ를 사용하는 모델은 확률 분포, 예측 구간, 가능한 레이블 집합 또는 분산을 반환합니다. 시스템은 이러한 추정값을 사용해 자동으로 동작할지, 사람에게 판단을 맡길지, 어떤 새 데이터를 수집할지 결정합니다. 신뢰도 점수는 이러한 추정값 중 하나입니다. UQ는 또한 해당 점수가 보정되었는지, 즉 신뢰도 80%로 예측한 결과가 실제로 약 80% 맞는지도 확인합니다.

우연적 불확실성과 인식론적 불확실성#

예측 불확실성에는 두 가지 원인이 있습니다. Alex Kendall과 Yarin Gal은 2017년 논문 컴퓨터 비전을 위한 베이지안 딥러닝에서 어떤 불확실성이 필요한가?에서 이 구분을 비전 딥러닝에 도입했습니다.

• 우연적 불확실성: 움직임 흐림, 센서 노이즈, 가림 또는 주석자 간 의견이 다른 레이블처럼 데이터 자체에 있는 노이즈입니다. 입력에 누락된 정보가 포함되어 있지 않으므로 학습 데이터를 더 늘려도 제거되지 않습니다. 모델은 깊이 추정마다 분산을 추가 출력하는 방식으로 이를 예측하도록 학습할 수 있습니다.
• 인식론적 불확실성: 모델이 지식을 갖추지 못한 상태로, 새 카메라, 계절, 객체 유형처럼 학습 데이터에 없던 입력에서 불확실성이 커집니다. 관련 데이터를 추가하면 불확실성이 줄어들므로 데이터 드리프트와 분포 외 입력을 알리는 신호가 됩니다.

이 구분에 따라 불확실한 예측에 대한 대응 방법이 달라집니다.

불확실성 추정 방법#

• 예측 확률: 분류기의 소프트맥스 출력은 가장 비용이 적게 드는 추정치이지만, Chuan Guo와 동료들이 2017년에 수행한 연구에서는 최신 심층 네트워크가 체계적으로 과도한 확신을 보인다는 점이 밝혀졌습니다. 홀드아웃 데이터에서 온도 스케일링을 적용하면 이러한 차이를 상당 부분 줄일 수 있습니다.
• 몬테카를로 드롭아웃: 추론 중에도 드롭아웃을 활성화하고 입력을 여러 번 실행해 출력의 분산을 근사적인 베이지안 불확실성으로 간주합니다. Yarin Gal과 Zoubin Ghahramani가 2016년에 이를 보였습니다.
• 딥 앙상블: 서로 다른 무작위 초기화로 네트워크 여러 개를 학습하고 예측 간 불일치를 측정합니다. DeepMind의 Balaji Lakshminarayanan과 동료들이 2017년에 이 방법을 소개했습니다. Google이 2019년에 대규모로 수행한 UQ 방법 비교에서 데이터셋 분포 변화가 있을 때 앙상블이 가장 견고했습니다.
• 컨포멀 예측: 어떤 모델이든 감싸서 실제 답을 지정된 비율(예: 95%)로 포함하는 예측 집합이나 구간을 출력합니다.
• 시맨틱 엔트로피: 대규모 언어 모델(LLM)에서 여러 답변을 샘플링하고 서로 다른 의미가 몇 가지인지 측정합니다. 이는 환각을 감지하는 신호입니다.

1차원 회귀 작업에 적용한 딥 앙상블은 인식론적 불확실성을 직접 보여줍니다.

import numpy as np
from sklearn.neural_network import MLPRegressor

# Noisy samples of sin(x), observed only between -3 and 3
rng = np.random.default_rng(0)
x = rng.uniform(-3, 3, (200, 1))
y = np.sin(x).ravel() + rng.normal(0, 0.1, 200)

# Deep ensemble: the same network trained from five random initializations
ensemble = [MLPRegressor(hidden_layer_sizes=(32, 32), max_iter=3000, random_state=seed).fit(x, y) for seed in range(5)]

# Members agree where data exists and diverge where it does not
for x_new in (1.0, 8.0):
    preds = np.array([m.predict([[x_new]])[0] for m in ensemble])
    print(f"x={x_new}: mean {preds.mean():+.2f}, std {preds.std():.2f}")

학습 범위 안쪽인 x = 1에서는 다섯 네트워크가 실제 값 0.84에 대해 평균 0.86을 예측하며 표준편차는 0.01입니다. 학습 범위를 훨씬 벗어난 x = 8에서는 실제 값 0.99에 대해 -1.17을 예측하고 표준편차가 0.59로 급증하므로, 앙상블은 잘못된 예측을 정확히 표시합니다.

불확실성 추정값 평가#

신뢰도별로 예측을 구간화하고 각 구간의 실제 정확도를 표시하는 신뢰도 다이어그램으로 보정 상태를 확인하며, 예상 보정 오차 또는 브라이어 점수로 요약합니다. 예측 구간은 실제 값이 구간에 포함되는 비율인 커버리지와 구간 너비로 평가합니다. 모든 값을 포함할 만큼 넓은 구간은 정보가 없기 때문입니다. 분포 외 탐지는 익숙한 입력과 익숙하지 않은 입력을 구분하는 ROC 곡선 아래 면적으로 점수를 매기며, 최근 벤치마크는 정확도와 함께 보정 지표도 보고합니다. 인류 최후의 시험에서는 출시 초기 LLM의 보정 오차가 73~89%로 나타났습니다.

응용 분야#

• 의료 영상 분석: 의료 분야의 진단 모델은 불확실성이 높은 스캔을 방사선 전문의에게 전달하므로, 자동화는 명확한 사례를 처리하고 사람은 모호한 사례를 검토합니다.
• 자율주행차: 안개나 눈부심 상황처럼 깊이 또는 감지 불확실성이 커지면 인지 시스템이 안전 여유를 늘리거나 제어권을 넘깁니다.
• 능동 학습: 모델이 가장 확신하지 못하는 샘플이 가장 큰 학습 효과를 주므로, 주석을 달 가치가 있는 미레이블 이미지의 선택에 불확실성을 활용합니다.

능동 학습은 감지 파이프라인에서 불확실성을 가장 직접적으로 활용하는 방식입니다. Ultralytics Platform Agents의 Collect Uncertain Detections 템플릿은 배포된 YOLO26 모델로 데이터셋의 이미지를 처리하고, 신뢰도가 0.25~0.5와 같이 지정된 범위에 속하는 감지 결과가 하나 이상 있는 모든 이미지를 주석 및 재학습에 바로 사용할 수 있도록 레이블 없이 검토 데이터셋에 복사합니다.