머신러닝에서 정확도, 정밀도, 재현율 비교

머신러닝(ML)은 데이터로부터 학습하는 시스템을 만드는 데 중점을 둔 인공지능(AI)의 한 분야입니다. 머신러닝은 이미지 해석을 수행하는 컴퓨터 비전과 인간의 언어를 이해하고 생성하는 자연어 처리 등 다양한 AI 분야에서 핵심적인 역할을 합니다.

이러한 AI 모델은 데이터에서 예측을 수행하기 위해 딥러닝 기법을 자주 사용합니다. 이러한 시스템은 매우 효과적일 수 있지만 항상 올바른 예측을 내놓는 것은 아닙니다. 일부 출력은 정확할 수 있지만, 다른 출력은 정답을 놓칠 수 있습니다.

이러한 오류가 발생하는 방식을 파악하는 것은 모델 성능을 평가하는 데 중요한 부분입니다. 성능을 측정하려면 모델 평가 지표를 사용할 수 있습니다.

일반적인 평가 지표에는 정확도(전반적인 정답률), 정밀도(긍정 예측의 신뢰도), 재현율(실제 긍정 사례를 모델이 얼마나 잘 식별하는지)이 있습니다. 처음에는 비슷해 보일 수 있지만, 각 지표는 모델 동작의 서로 다른 측면에 초점을 둡니다.

이 글에서는 각 AI 모델 성능 지표를 자세히 살펴보겠습니다. 또한 지표들이 서로 어떤 관계가 있는지, 사용 사례에 적합한 지표를 어떻게 선택하는지도 알아보겠습니다.

머신러닝에서 모델 평가 지표가 중요한 이유#

머신러닝 모델이 처음에는 성능이 좋은 것처럼 보일 수 있습니다. 하지만 적절한 평가 지표가 없으면 결과의 정확도를 파악하기 어렵습니다. 이러한 지표는 모델 평가에 체계를 부여하고, 핵심 질문에 답할 수 있도록 돕습니다. 즉, 해당 작업에서 모델의 예측이 유용하고 신뢰할 수 있는지 판단할 수 있습니다.

정확도, 정밀도, 재현율과 같은 지표는 AI 개발자가 모델의 작동 성능을 명확하게 측정할 수 있게 해줍니다. 예를 들어 여러 모델을 비교할 때 이러한 지표를 사용하면 특정 작업에서 어떤 모델의 성능이 가장 좋은지 확인할 수 있습니다. 지표는 성능 평가를 돕고 AI 프로젝트의 목표에 가장 잘 부합하는 모델을 선택하도록 안내합니다.

그림 1. 모델 학습 및 평가 워크플로 (출처)

이러한 지표는 성능 비교를 더 객관적으로 만들어 줍니다. 추측이나 불완전한 관찰에 의존하는 대신, 다양한 상황에서 모델이 어떻게 동작하는지 측정 가능한 정보를 제공합니다. 이를 통해 각 상황에서 어떤 성능 요소가 가장 중요한지 파악할 수 있습니다.

예를 들어, 지표 선택은 애플리케이션에 따라 달라지는 경우가 많습니다. 헬스케어 AI 애플리케이션에서는 일부 부정 사례가 잘못 표시되더라도 최대한 많은 긍정 사례를 식별하는 것이 목표이므로 재현율이 중요합니다. 반면 이메일 스팸 필터는 정상 이메일을 스팸으로 잘못 표시하지 않도록 정밀도를 우선시할 수 있습니다.

혼동 행렬: 분류 지표의 기반#

이진 분류에서 혼동 행렬은 AI 모델 평가의 기본이 되는 2×2 표입니다. 실제 결과와 예측 결과(모델이 내놓는 답)를 비교하여 예측을 네 가지 범주로 분류합니다.

이 비교를 통해 모델 성능을 자세히 파악할 수 있습니다. 또한 혼동 행렬의 값으로 직접 계산되는 정밀도와 재현율 같은 주요 평가 지표의 기반이 됩니다.

표의 행은 실제 클래스를, 열은 예측 클래스를 나타냅니다. 각 셀은 해당 범주의 결과 수를 보여줍니다. 간단히 말해, 예측이 얼마나 정확했는지와 모델이 어떤 유형의 오류를 냈는지 보여줍니다.

혼동 행렬은 일부 범주에 다른 범주보다 훨씬 많은 예시가 있는 불균형 데이터에서 특히 유용합니다. 오류 유형별 비용이 서로 다른 경우에도 도움이 됩니다.

예를 들어 사기 탐지에서는 사기 행위를 포착하는 것이 중요하지만, 실제 거래를 잘못 표시하는 것 역시 문제를 일으킬 수 있습니다. 혼동 행렬을 사용하면 각 오류 유형이 얼마나 자주 발생하는지 명확히 알 수 있습니다.

혼동 행렬의 구성 요소#

혼동 행렬의 여러 구성 요소를 살펴보겠습니다.

• 참 양성(TP): 모델이 양성 사례를 정확하게 예측하면 참 양성으로 기록됩니다. 예를 들어 컴퓨터 비전 모델이 이미지 속 차량을 정확하게 분류하는 경우입니다.
• 참 음성(TN): 모델이 음성 사례를 정확하게 식별하면 참 음성입니다. 예를 들어 이메일 분류기가 일반 메시지를 스팸이 아닌 것으로 표시하는 경우입니다.
• 거짓 양성(FP): 모델이 실제로는 음성인 사례를 양성으로 잘못 예측하면 거짓 양성이 발생합니다. 제1종 오류라고도 하며, 사기 탐지 시스템이 정상 거래를 사기로 표시하는 경우가 이에 해당합니다.
• 거짓 음성(FN): 모델이 양성 사례를 감지하지 못하고 음성으로 잘못 예측하면 거짓 음성으로 기록됩니다. 제2종 오류라고도 하며, 실제로 아픈 환자의 질병을 진단 도구가 놓치는 경우가 이에 해당할 수 있습니다.

그림 2. 혼동 행렬의 구성 요소 (출처)

혼동 행렬의 시각화 및 해석#

혼동 행렬은 격자 형식으로 표시됩니다. 세로축은 실제 클래스를, 가로축은 예측 클래스를 나타냅니다. 정답 예측은 대각선에 표시되며, 참 양성과 참 음성에 해당합니다.

오류는 대각선 바깥에 표시되며 거짓 양성과 거짓 음성이 포함됩니다. 이러한 구조를 통해 강점과 약점을 쉽게 파악할 수 있습니다.

머신러닝에서 정확도란 무엇인가요?#

정확도는 머신러닝 모델의 성능을 평가하는 데 가장 널리 사용되는 지표 중 하나입니다. 모든 클래스에 걸쳐 예측이 얼마나 자주 맞는지 측정합니다. 다시 말해, AI 모델이 내린 전체 예측 중 몇 개가 정답인지라는 간단한 질문에 답합니다.

정확도 공식은 정답 예측 수(참 양성과 참 음성 모두 포함)를 전체 예측 수로 나눈 값입니다. 정확도는 계산과 이해가 간단하여 모델 평가를 시작할 때 흔히 사용하는 지표입니다.

일반적으로 정확도는 균형 잡힌 데이터셋에서 신뢰할 수 있습니다. 그러나 한 클래스가 다른 클래스보다 많은 불균형 데이터셋에서는 정확도가 오해를 불러일으킬 수 있습니다. 다수 클래스만 계속 예측하는 모델도 높은 정확도 점수를 얻으면서 다른 소수 클래스를 감지하지 못할 수 있습니다.

예를 들어 보행자가 포함된 이미지가 몇 장뿐인 이미지 데이터셋에서는 모든 이미지에 대해 “보행자 없음”이라고 예측하는 모델도 높은 정확도를 얻을 수 있지만, 실제 보행자를 전혀 감지하지 못합니다.

정확도만으로는 모델이 어떤 오류를 얼마나 자주 내는지 알 수 없기 때문입니다. 따라서 AI 모델의 성능을 완전히 이해하려면 정밀도와 재현율 같은 지표도 살펴보는 것이 중요합니다.

정밀도 자세히 알아보기: 오탐 최소화#

정밀도는 모델의 양성 예측 정확도를 측정하는 주요 평가 지표입니다. 양성으로 예측된 전체 사례 중 몇 개가 정답인지에 답합니다.

정밀도 공식은 참 양성 수를 참 양성과 거짓 양성의 합으로 나눈 값입니다. 양성 예측이 틀린 것으로 판명될 경우 비용이 많이 드는 상황에서 특히 중요합니다.

그림 3. 정확도와 정밀도 비교. (출처)

예를 들어 사기 탐지에서 정밀도가 낮은 모델은 정상 거래를 사기로 표시하는 경우가 많아 사용자와 지원팀 모두에게 불필요한 문제를 일으킬 수 있습니다. 정밀도가 높은 모델은 표시된 거래가 실제 사기일 가능성을 높여 이러한 위험을 줄입니다.

정밀도가 높으면 좋지만, 정밀도에 지나치게 집중하는 모델은 매우 선택적으로 동작하여 실제 양성 사례를 놓칠 수 있습니다. 따라서 균형 잡힌 성능을 유지하려면 정밀도 지표를 재현율과 함께 확인하는 경우가 많습니다.

재현율이란 무엇인가요?#

재현율은 실제 양성 사례를 모델이 얼마나 잘 식별하는지 측정하는 지표입니다. 민감도 또는 참 양성률이라고도 하며, 실제 양성 사례 전체 중 모델이 몇 개를 정확히 감지했는지에 답합니다.

재현율 공식은 참 양성 수를 참 양성과 거짓 음성의 합으로 나눈 값입니다. 재현율 점수가 높으면 데이터의 실제 양성 사례 대부분을 모델이 포착하고 있음을 나타냅니다.

재현율은 질환을 감지하지 못하면 치료가 지연되고 환자가 위험에 처할 수 있는 헬스케어와 같은 산업에서 필수적입니다. 일부 음성 사례가 잘못 표시되더라도 모든 실제 사례를 식별하는 것이 최우선입니다.

하지만 재현율에만 초점을 맞춘 모델은 거짓 양성을 지나치게 많이 표시해 정밀도를 낮추고 전반적인 모델 효율성을 떨어뜨릴 수 있습니다. 신뢰할 수 있는 AI 모델 성능을 위해서는 재현율과 정밀도의 균형을 맞추는 것이 중요합니다.

균형 잡기: 정밀도와 재현율의 상충 관계#

정밀도와 재현율은 서로 반대 방향으로 움직이는 경우가 많습니다. 하나가 개선되면 다른 하나가 저하될 수 있습니다. 이러한 상충 관계는 머신러닝 작업에서 흔히 발생하는 문제입니다.

정밀도가 높은 모델은 확신이 있을 때만 양성으로 예측합니다. 이렇게 하면 오탐을 줄일 수 있지만 실제 양성을 놓칠 수 있어 재현율이 낮아집니다. 모든 양성을 포착하려는 모델은 재현율을 높이지만 오탐이 늘어 정밀도가 낮아질 위험이 있습니다.

모델의 결정 임계값을 조정하면 이러한 상충 관계가 더욱 분명해집니다. 임계값은 점수나 확률을 행동 또는 라벨로 변환할 때 시스템이 사용하는 기준점입니다. 임계값을 낮추면 시스템이 양성으로 판단하는 빈도가 높아져 재현율이 올라갈 수 있지만 정밀도는 낮아질 수 있습니다. 임계값을 높이면 반대 효과가 나타납니다. 모델이 양성으로 예측하는 사례가 줄어 정밀도는 높아지지만 재현율은 대체로 떨어집니다.

스팸 탐지 작업을 예로 들어 보겠습니다. 모델은 스팸이 받은편지함으로 들어오는 위험과 정상 이메일을 차단하는 위험 사이에서 균형을 맞춰야 합니다. 엄격한 필터는 정상 메시지를 실수로 차단할 수 있고, 느슨한 필터는 일부 스팸을 통과시킬 수 있습니다. 적절한 균형점은 사용 사례와 각 오류 유형의 비용에 따라 달라집니다.

정밀도-재현율 곡선의 중요성#

정밀도-재현율 곡선 또는 PR 곡선은 모델의 결정 임계값이 달라질 때 정밀도와 재현율이 어떻게 변하는지 보여줍니다. 각 점은 두 지표 사이의 서로 다른 상충 관계를 나타냅니다. PR 곡선은 한 클래스의 빈도가 훨씬 낮은 불균형 데이터셋에서 특히 유용합니다.

불균형 데이터에서는 수신자 조작 특성(ROC) 곡선보다 더 의미 있는 인사이트를 제공하는 경우가 많습니다. ROC 곡선 역시 여러 결정 임계값에서 모델이 양성과 음성을 얼마나 잘 구분하는지 보여줍니다. 정밀도와 재현율이 모두 높은 모델의 정밀도-재현율 곡선은 일반적으로 이상적인 형태인 오른쪽 위 모서리 부근을 유지합니다.

F1 점수 소개: 균형을 위한 통합 지표#

F1 점수는 정밀도와 재현율의 균형을 하나의 값으로 나타냅니다. F1 점수는 정밀도와 재현율의 곱에 2를 곱한 후 정밀도와 재현율의 합으로 나누어 계산합니다. 거짓 양성과 거짓 음성이 모두 중요한 경우에 유용하며, 불균형 데이터셋을 다루거나 모델 성능을 균형 있게 평가해야 할 때 도움이 됩니다.

그림 4. 정밀도와 재현율을 사용한 F1 점수 계산 (출처)

정확도, 정밀도, 재현율을 넘어#

정확도, 정밀도, 재현율은 필수 지표이지만, 다른 지표는 모델 유형과 데이터셋 특성에 따라 추가적인 인사이트를 제공합니다.

성능의 다양한 측면을 평가하는 데 도움이 되는 일반적인 지표는 다음과 같습니다.

• 특이도: 실제 음성을 모델이 얼마나 잘 식별하는지 측정합니다. 오탐을 방지하는 것이 중요한 경우 유용합니다.
• AUC: AUC, 즉 곡선 아래 면적은 모델이 클래스를 얼마나 잘 구분하는지 나타내는 단일 점수입니다.
• 로그 손실: 로그 손실은 모델이 예측을 수행할 때 얼마나 확신하는지 측정하며, 높은 확신을 가지고 내린 잘못된 예측에 더 큰 페널티를 부여합니다. 여기서 확신도는 모델이 자신의 예측을 얼마나 확신하는지를 의미합니다.
• 다중 레이블 평가: 다중 레이블 작업에서는 전반적인 모델 성능을 반영하기 위해 레이블 전반의 지표를 평균합니다.

컴퓨터 비전에서 정확도, 정밀도, 재현율 적용하기#

정확도, 정밀도, 재현율을 더 명확히 이해했으니, 이러한 지표가 컴퓨터 비전에 적용되는 방식을 살펴보겠습니다.

Ultralytics YOLO11과 같은 컴퓨터 비전 모델은 이미지에 어떤 객체가 있는지 식별하고 바운딩 박스로 위치를 찾는 객체 탐지 등의 작업을 지원합니다. 각 예측에는 객체 레이블과 위치가 모두 포함되므로, 레이블이 올바른지만 확인하는 것보다 평가가 더 복잡합니다.

그림 5. 객체 탐지에 Ultralytics YOLO11을 사용하는 예시. (출처)

카메라를 사용해 선반에 진열된 제품을 자동으로 추적하는 소매 애플리케이션을 생각해 보겠습니다. 객체 탐지 모델은 시리얼 상자, 탄산음료 캔, 생수병과 같은 품목을 식별하고 위치를 표시할 수 있습니다.

이 경우 정밀도는 탐지된 품목 중 실제로 맞는 품목이 얼마나 되는지 알려줍니다. 정밀도가 높으면 그림자나 배경 객체를 제품으로 잘못 분류하는 등의 오탐을 시스템이 방지한다는 의미입니다. 재현율은 선반에 있는 실제 제품 중 모델이 얼마나 많이 탐지했는지를 보여줍니다. 재현율이 높으면 놓치는 품목이 적다는 뜻이며, 이는 정확한 재고 수량 파악에 매우 중요합니다.

정확도는 여전히 전반적인 정답률을 나타낼 수 있지만, 이러한 환경에서는 제품 몇 개를 놓치거나 실제로 없는 품목을 탐지하는 것만으로도 재고 관리에 큰 영향을 미칠 수 있습니다. 따라서 개발자는 시스템이 신뢰할 수 있고 실제 환경에서 실용적으로 작동하는지 확인하기 위해 정밀도, 재현율, 정확도를 함께 살펴봅니다.

정확도, 정밀도, 재현율: 핵심 요점#

정확도, 정밀도, 재현율은 각각 머신러닝 모델 성능의 서로 다른 측면을 보여줍니다. 하나의 지표에만 의존하면 잘못된 판단을 내릴 수 있습니다.

혼동 행렬, 정밀도-재현율 곡선, F1 점수와 같은 도구와 지표는 상충 관계를 파악하고 ML 모델을 개선하기 위한 의사 결정을 내리는 데 도움이 됩니다. 특정 AI 솔루션에 적합한 지표 조합을 선택하면 실제 애플리케이션에서 정확하고 신뢰할 수 있으며 효과적인 모델을 구현할 수 있습니다.

성장 중인 커뮤니티에 참여하세요! AI에 대해 자세히 알아보려면 GitHub 저장소를 확인하세요. 컴퓨터 비전 프로젝트를 시작할 준비가 되셨나요? 라이선스 옵션을 살펴보세요. 솔루션 페이지를 방문하여 농업 분야의 AI와 로봇공학 분야의 비전 AI를 알아보세요!