Confidence

인공지능과 머신러닝 분야에서 신뢰도 점수는 특정 예측에 대해 모델이 갖는 확신 수준을 정량화하는 지표입니다. 이 값은 일반적으로 0에서 1(또는 0%에서 100%) 사이이며, 알고리즘의 출력이 ground truth와 일치할 추정 확률을 나타냅니다. 예를 들어 객체 탐지 작업에서 시스템이 이미지의 한 영역을 "자전거"로 식별하고 신뢰도가 0.92라면, 해당 분류가 정확할 추정 가능성이 92%임을 의미합니다. 이러한 점수는 신경망의 마지막 레이어에서 도출되며, 다중 클래스 분류에는 Softmax와 같은 활성화 함수를, 이진 결정에는 Sigmoid 함수를 통과해 처리되는 경우가 많습니다.

추론에서 신뢰도의 역할#

신뢰도 점수는 추론 엔진 워크플로의 핵심 구성 요소로, 고품질 예측과 배경 노이즈를 구분하는 필터 역할을 합니다. 임계값 설정(thresholding)이라고 하는 이 필터링 프로세스를 통해 개발자는 애플리케이션의 민감도를 조정할 수 있습니다. 최소 신뢰도 임계값을 설정하면 중요한 정밀도-재현율 트레이드오프를 관리할 수 있습니다. 임계값이 낮으면 더 많은 객체를 탐지할 수 있지만 거짓 양성의 위험이 커지고, 임계값이 높으면 정밀도가 향상되지만 미묘한 인스턴스를 놓칠 수 있습니다.

Ultralytics YOLO26과 같은 고급 아키텍처에서 신뢰도 점수는 비최대 억제(NMS)와 같은 후처리 기법에 필수적입니다. NMS는 이러한 점수를 사용하여 크게 겹치는 중복 바운딩 박스를 제거하고, 확률이 가장 높은 탐지만 남깁니다. 이 단계는 최종 출력이 정리되어 객체 수 세기나 추적과 같은 다운스트림 작업에 바로 사용될 수 있도록 합니다.

다음 Python 예제는 ultralytics 패키지를 사용하여 신뢰도에 따라 예측을 필터링하는 방법을 보여줍니다.

from ultralytics import YOLO

# Load the latest YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference with a confidence threshold of 0.5 (50%)
# Only detections with a score above this value are returned
results = model.predict("https://ultralytics.com/images/bus.jpg", conf=0.5)

# Inspect the confidence scores of the detected objects
for box in results[0].boxes:
    print(f"Class: {box.cls}, Confidence: {box.conf.item():.2f}")

실제 적용 사례#

신뢰도 점수는 컴퓨터 비전(CV)이 적용되는 다양한 산업에서 필수적인 해석 가능성의 한 계층을 제공합니다. 이를 통해 자동화 시스템은 자율적으로 진행할 시점과 사람의 검토를 위해 알림을 발생시킬 시점을 판단할 수 있습니다.

• 자율주행: 자동차 분야의 AI 부문에서 자율주행 차량은 승객의 안전을 보장하기 위해 신뢰도 지표에 의존합니다. 인식 시스템이 낮은 신뢰도로 장애물을 탐지하면, 긴급 조작을 실행하기 전에 이 데이터를 LiDAR 센서 또는 레이더와 교차 검증하여 객체의 존재를 확인할 수 있습니다. 이러한 중복성은 그림자나 눈부심으로 인해 발생하는 "유령 제동"을 방지하는 데 도움이 됩니다.
• 의료 진단: 헬스케어 분야의 AI를 활용할 때 모델은 영상 데이터에서 잠재적인 이상을 표시하여 의료 전문가를 지원합니다. 종양 탐지용으로 구축된 시스템은 즉시 진단할 수 있도록 신뢰도가 높은 영역을 강조 표시하고, 신뢰도가 낮은 예측은 2차 분석을 위해 기록할 수 있습니다. 이러한 human-in-the-loop 워크플로는 전문가의 판단을 대체하지 않고 AI가 임상 의사 결정을 보완하도록 합니다.
• 산업 자동화: 스마트 제조 환경에서 로봇 팔은 조립 라인의 객체와 상호작용하기 위해 신뢰도 점수를 사용합니다. 비전 AI가 탑재된 로봇은 탐지 신뢰도가 90%를 초과할 때만 부품을 잡으려고 시도할 수 있으며, 이를 통해 정렬 오류로 인해 섬세한 부품이 손상될 위험을 줄입니다.

신뢰도와 관련 용어의 구분#

신뢰도를 모델 평가에 사용되는 다른 통계 지표와 구분하는 것이 중요합니다.

• 신뢰도와 정확도: 정확도는 전체 데이터셋에서 모델이 얼마나 자주 정확한지를 나타내는 전역 지표입니다(예: "모델의 정확도는 92%입니다"). 반면 신뢰도는 특정 예측에 대한 국소적인 값입니다(예: "모델은 이 특정 이미지에 고양이가 있다고 92% 확신합니다"). 모델의 전체 정확도가 높더라도 엣지 케이스에서는 낮은 신뢰도를 출력할 수 있습니다.
• 신뢰도와 확률 보정: 원시 신뢰도 점수가 실제 정확할 확률과 항상 일치하는 것은 아닙니다. 신뢰도 0.8로 생성된 예측이 약 80%의 확률로 정확하다면 해당 모델은 "잘 보정된" 모델입니다. 점수를 경험적 확률에 맞추기 위해 Platt 스케일링이나 등장 회귀와 같은 기법을 사용하는 경우가 많습니다.
• 신뢰도와 정밀도: 정밀도는 양성으로 식별된 항목 중 실제로 정확했던 항목의 비율을 측정합니다. 일반적으로 신뢰도 임계값을 높이면 정밀도가 향상되지만, 그 대가로 재현율이 낮아지는 경우가 많습니다. 개발자는 애플리케이션이 객체를 놓치는 경우를 줄이는 것과 오경보를 최소화하는 것 중 무엇을 우선하는지에 따라 이 임계값을 조정해야 합니다.

모델 신뢰도 향상#

모델이 유효한 객체에 대해 지속적으로 낮은 신뢰도를 출력한다면, 이는 학습 데이터와 배포 환경 사이에 불일치가 있음을 나타내는 경우가 많습니다. 이를 완화하는 전략으로는 조명, 회전, 노이즈를 변경하여 데이터셋을 인위적으로 확장하는 데이터 증강이 있습니다. 또한 Ultralytics Platform을 사용하여 액티브 러닝 파이프라인을 구현하면 개발자가 낮은 신뢰도의 샘플을 쉽게 식별하고, 해당 샘플에 주석을 추가한 후 모델을 재학습할 수 있습니다. 이러한 반복 주기는 동적인 실제 환경에서 안정적으로 작동할 수 있는 강건한 AI 에이전트를 만드는 데 필수적입니다.