Uncertainty Quantification

불확실성 정량화(UQ)는 AI 또는 machine learning 모델이 예측에 대해 어느 정도 불확실한지 추정, 평가 및 소통하는 과정입니다. UQ 워크플로는 단순히 레이블, 값 또는 바운딩 박스만을 반환하는 대신 확률 분포, 예측 구간, 신뢰도 점수 또는 예측 세트 같은 추가 정보를 제공합니다. 이를 통해 사용자는 모델이 무엇을 예측하는지뿐만 아니라 그 예측을 얼마나 신뢰해야 하는지도 파악할 수 있습니다.

Link to this section불확실성 정량화가 중요한 이유#

모델은 제한된 데이터로부터 패턴을 학습하기 때문에 출력 결과가 완벽하게 확실할 수 없습니다. 입력에 노이즈가 포함되거나, 레이블이 모호하거나, 프로덕션 데이터가 학습 분포와 다를 수 있습니다. UQ는 이러한 한계를 측정 가능하게 만들고 더 안전한 의사결정, 사람의 검토, 그리고 더 나은 데이터 수집을 지원합니다.

NIST의 가상 측정 프로그램에 설명된 모델 품질 특성화라는 광범위한 목표를 이 아이디어가 확장합니다. AI 시스템에서 불확실성 추정치는 팀이 다음과 같은 작업을 수행하는 데 도움을 줍니다.

• 불확실성이 허용 수준을 초과할 때 예측을 거부하거나 검토합니다.
• 단일 답변에 의존하는 대신 대체 예측들을 비교합니다.
• 익숙하지 않은 입력과 가능한 data drift를 식별합니다.
• active learning을 통해 레이블링을 위한 불확실한 샘플의 우선순위를 지정합니다.
• 에너지부(Department of Energy)의 컴퓨터 모델의 불확실성 개요에서 설명한 바와 같이, 다운스트림 계산과 의사결정에 불확실성을 전파합니다.

예측 오류의 결과가 동등하지 않을 때 UQ는 특히 중요합니다. 보행자를 놓치는 것은 도로변 표지판을 잘못 감지하는 것보다 더 심각하므로, 허용 가능한 불확실성 임계값은 애플리케이션에 따라 달라집니다.

Link to this section우연적 불확실성과 인식적 불확실성#

예측 불확실성이 어디에서 오는지 설명하는 두 가지 범주가 있습니다:

• **우연적 불확실성(Aleatoric uncertainty)**은 우연적 불확실성이라고도 하며, 데이터의 내재적 무작위성이나 모호성에서 비롯됩니다. 모션 블러, 센서 노이즈, 부분적 가림, 그리고 일관되지 않은 레이블은 잘 훈련된 모델에게도 이미지를 해석하기 어렵게 만들 수 있습니다. 더 많은 학습 데이터가 이 불확실성을 추정하는 데 도움을 줄 수는 있지만, 근본적인 모호성을 완전히 제거할 수는 없습니다.
• **인식적 불확실성(Epistemic uncertainty)**은 불완전한 모델 지식에서 비롯됩니다. 이는 주로 학습 데이터가 불충분하거나 대표성이 부족하거나 중요한 상황을 누락했을 때 나타납니다. 관련 예제를 수집하고, 주석을 개선하거나, 모델을 변경함으로써 자주 줄일 수 있습니다.

UQ는 이러한 소스들에 대한 정보를 결합하여 유용한 출력으로 만듭니다. TensorFlow Probability 같은 확률적 모델링 도구는 예측을 분포로 표현할 수 있으며, ensemble methods는 여러 모델이나 학습 실행을 비교하여 불확실성을 추정합니다. 큰 의견 불일치는 일반적으로 더 큰 인식적 불확실성을 시사합니다.

불확실성은 confidence score와 관련이 있지만 그보다 더 포괄적인 개념입니다. 신뢰도는 단일 예측의 강도를 설명하는 반면, UQ는 그 점수가 신뢰할 수 있는지, 그리고 어떤 불확실성 요인이 영향을 미치는지 평가합니다. 이와 유사하게, conformal prediction은 정의된 가정 하에 타겟 커버리지를 가진 예측 세트나 구간을 생성하는 특정 기술입니다.

Link to this section방법 및 평가#

일반적인 UQ 접근법에는 확률적 출력, 앙상블, 반복 샘플링, 베이지안 모델링, 예측 구간이 포함됩니다. 부트스트랩 신뢰 구간은 관측된 데이터를 반복적으로 재샘플링하여 가변성을 추정합니다. 분류의 경우, 보정(calibration)은 약 80%의 확률이 할당된 예측이 실제로 약 80%의 확률로 정답인지 확인합니다.

모델이 정확하지만 보정이 잘못되었을 수 있으므로 팀은 작업 성능과 불확실성 품질을 모두 평가해야 합니다. 확률 보정 도구는 신뢰도 다이어그램과 보정 기법을 사용하여 예측된 확률과 관측된 결과를 비교합니다. Google의 머신러닝 규칙에서도 해석 가능하고 모니터링되는 확률적 예측을 강조합니다.

유용한 평가 기준으로 커버리지, 구간 너비, 보정 오차, 그리고 어려운 데이터 슬라이스에서의 성능이 있습니다. 컴퓨터 비전의 경우, Ultralytics validation mode와 YOLO performance metrics guide는 클래스와 임계값 전반에 걸쳐 정밀도, 재현율, 혼동 행렬, 신뢰도 동작을 검토하는 데 도움을 줍니다.

Link to this section실제 애플리케이션 사례#

• 의료 영상 분석: 진단 모델은 여러 타당한 소견이 유사한 점수를 가지거나 이미지가 학습 데이터와 다를 때 전문가 검토를 위해 스캔에 플래그를 지정할 수 있습니다. 이러한 에스컬레이션이 없으면, 지나치게 자신하는 잘못된 예측이 치료를 지연시킬 수 있습니다.
• 제조업 시각 검사: 결함 감지기는 눈부심, 새로운 소재, 또는 이전에 본 적 없는 손상에 직면할 수 있습니다. 불확실성 인식 라우팅은 모호한 제품을 자동으로 수락 또는 거부하는 대신 수동 검사로 보낼 수 있으며, 이를 통해 빠져나가는 결함과 불필요한 낭비를 모두 줄일 수 있습니다.

이러한 정책들은 모델 불확실성을 운영 리스크와 연결합니다. NIST AI Risk Management Framework Core는 불확실성 측정, 일반화 한계 문서화, 그리고 배포 전반에 걸친 시스템 모니터링을 권장합니다.

Link to this sectionUltralytics YOLO 워크플로에서의 불확실성#

Ultralytics YOLO26은 문서화된 Predict 모드를 통해 감지 신뢰도 점수를 제공합니다:

from ultralytics import YOLO

# Load an official detection model
model = YOLO("yolo26n.pt")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Inspect each detection's confidence
for box in result.boxes:
    class_id = int(box.cls.item())
    class_name = result.names[class_id]
    confidence = box.conf.item()
    print(f"{class_name}: {confidence:.3f}")

이 워크플로는 유용한 불확실성 관련 신호를 제공하지만, 신뢰도만으로는 완전한 UQ가 아니며 보정된 확률로 자동 해석되어서는 안 됩니다. 대표적인 홀드아웃(held-out) 데이터에서 점수를 검증하고, 오류 비용을 기준으로 임계값을 선택하며, 배포 후 신뢰도 분포를 모니터링하십시오.

팀은 Ultralytics Platform을 사용하여 데이터셋에 주석을 달고, 모델을 학습 및 배포하며, 엔드포인트를 모니터링할 수 있습니다. 지속적인 모델 모니터링 및 유지보수와 결합하여, 불확실성 신호는 익숙하지 않은 조건을 드러내고, 사람의 검토를 안내하며, 새로운 데이터나 재학습이 필요한 시점을 식별하는 데 도움을 줍니다.