교차 검증

교차 검증은 통계 분석 결과가 독립적인 데이터 세트에 얼마나 잘 일반화되는지 평가하는 데 사용되는 머신러닝(ML)의 강력한 모델 평가 기술입니다. 제한된 데이터 샘플에서 ML 모델을 평가하는 데 사용되는 재샘플링 절차입니다. 주요 목표는 모델이 훈련 데이터를 너무 잘 학습하여 새로운 미지의 데이터에서 성능이 저하되는 과적합을 방지하는 것입니다. 교차 검증은 모델이 실제 환경에서 어떻게 작동하는지 시뮬레이션함으로써 모델 성능에 대한 더욱 강력하고 신뢰할 수 있는 추정치를 제공합니다.

교차 검증은 어떻게 작동하나요?

가장 일반적인 교차 검증 방법은 K-Fold 교차 검증입니다. 이 프로세스에는 단일 데이터 세트를 여러 부분으로 분할하는 작업이 포함됩니다.

1. 데이터 분할: 전체 학습 데이터 세트는 무작위로 'k'개의 동일한 크기의 하위 집합 또는 "폴드"로 분할됩니다.
2. 반복 훈련 및 검증: 모델은 'k'번 훈련됩니다. 각 반복에서 폴드 중 하나가 검증 세트로 유지되고 모델은 나머지 k-1 폴드에서 훈련됩니다.
3. 성능 평가: 모델의 성능은 보류된 폴드에서 평가됩니다. 정확도 또는 평균 평균 정밀도(mAP)와 같은 주요 메트릭이 각 반복에 대해 기록됩니다.
4. 결과 평균: 모든 'k' 반복을 완료한 후 성능 지표를 평균화하여 모델 효과에 대한 단일의 보다 안정적인 추정치를 생성합니다.

이 접근 방식은 모든 데이터 포인트가 정확히 한 번 유효성 검사 세트에 포함되고 k-1번 훈련 세트에 포함되도록 합니다. 구현에 대한 자세한 가이드는 Ultralytics K-Fold 교차 검증 가이드에서 확인할 수 있습니다.

교차 검증 vs. 단순 검증 분할

일반적인 ML 프로젝트에서 데이터는 학습, 검증 및 테스트 세트로 나뉩니다.

• 검증 데이터: 하이퍼파라미터 튜닝 및 모델 아키텍처에 대한 결정을 내리기 위해 훈련 단계에서 사용됩니다.
• 테스트 데이터: 모든 훈련과 조정이 완료된 후에만 모델의 일반화 능력에 대한 최종적이고 편향되지 않은 평가를 제공하는 데 사용됩니다.

단순한 훈련/검증 분할은 검증 세트에 특히 쉽거나 어려운 샘플이 포함된 경우 오해의 소지가 있을 수 있습니다. 교차 검증은 데이터 세트의 모든 부분을 훈련 및 검증에 사용하여 모델의 일반화 능력에 대한 보다 안정적인 척도를 제공하여 이를 극복합니다. 따라서 사용 가능한 데이터 양이 제한적인 경우 특히 유용합니다. Scikit-learn과 같은 인기 있는 프레임워크는 교차 검증 기술의 강력한 구현을 제공합니다.

실제 애플리케이션

교차 검증은 다양한 영역에서 신뢰할 수 있는 AI 시스템을 구축하는 데 필수적입니다.

1. 의료 영상 분석: 뇌종양 데이터 세트와 같은 데이터 세트를 사용하여 뇌 스캔에서 종양을 탐지하는 것과 같은 의료 영상 분석을 위한 합성곱 신경망(CNN)을 개발할 때 CV는 다양한 환자 데이터에서 모델의 진단 정확도와 일반화 기능을 엄격하게 평가하는 데 사용됩니다. 이 강력한 평가는 임상 시험을 고려하거나 FDA와 같은 기관의 규제 승인을 받기 전에 매우 중요합니다.
2. 자율 주행 차량: 자율 주행 차량에 사용되는 Ultralytics YOLO와 같은 객체 탐지 모델의 경우 CV는 다양한 환경 조건에서 보행자, 자전거 타는 사람 및 기타 차량을 탐지하는 데 안정적인 성능을 보장하는 데 도움이 됩니다. Argoverse와 같은 복잡한 데이터 세트에 대한 이 검증은 자동차 솔루션의 AI와 같은 안전에 중요한 시스템에서 모델 배포하기 전에 매우 중요합니다.

다른 응용 분야로는 이미지 분할 모델 평가, 감성 분석과 같은 자연어 처리(NLP) 작업, 재무 모델링의 위험 평가 등이 있습니다. Ultralytics HUB와 같은 플랫폼은 이러한 평가 기술 중에 생성된 실험 및 결과물을 관리하여 개발 주기를 간소화하는 데 도움을 줄 수 있습니다.