Active Learning

Active Learning은 알고리즘이 미리 레이블이 지정된 데이터셋을 수동적으로 수용하는 대신 가장 유용한 데이터 포인트를 능동적으로 선택하여 레이블을 지정하는 machine learning (ML)의 전략적 접근 방식입니다. 전통적인 supervised learning에서 모델은 종종 방대한 양의 주석이 달린 데이터를 필요로 하며, 이는 구축하는 데 비용이 많이 들고 시간이 소요될 수 있습니다. Active learning은 "불확실한" 또는 " 어려운" 예시(결정 경계 근처에 있거나 모델의 신뢰도가 부족한 예시)를 식별하고 사람 주석자에게 해당 특정 인스턴스에만 레이블을 지정하도록 요청하여 이 프로세스를 최적화합니다. 이 반복적인 루프를 통해 모델은 훨씬 적은 레이블이 지정된 샘플로 높은 accuracy를 달성할 수 있으므로 예산이 제한적이거나 시간이 부족한 프로젝트에 매우 효율적입니다.

능동적 학습 주기가 작동하는 방식#

Active learning의 핵심은 종종 human-in-the-loop이라고 불리는 피드백 루프입니다. 정적 데이터셋으로 한 번 학습하는 대신, 모델은 쿼리와 업데이트 주기를 통해 진화합니다.

1. Initialization: 프로세스는 Ultralytics YOLO26과 같은 초기 모델을 학습하는 데 사용되는 레이블이 지정된 소수의 training data 세트로 시작됩니다.

2. 질의 선택(Query Selection): 모델은 대규모의 레이블링되지 않은 데이터 풀을 평가합니다. 가장 일반적인 방법인 불확실성 샘플링(uncertainty sampling)과 같은 질의 전략을 사용하여 예측 확신도가 가장 낮은 이미지나 텍스트를 선택합니다.

3. Annotation: 이러한 우선순위가 높은 샘플은 active learning literature에서 종종 "오라클(oracle)"이라고 불리는 인간 전문가에게 data labeling을 위해 전달됩니다.

4. 재학습(Retraining): 새로 레이블링된 데이터가 학습 세트에 추가되고 모델이 재학습됩니다. 이렇게 업데이트된 모델은 다음 번의 모호한 샘플 배치를 더 잘 선택할 수 있는 능력을 갖추게 됩니다.

실제 애플리케이션 사례#

능동적 학습은 데이터는 풍부하지만 레이블링에 전문 지식이 필요하거나 비용이 많이 드는 산업 분야에서 없어서는 안 될 중요한 요소입니다.

• Medical Image Analysis: 방사선과 같은 분야에서 레이블 지정에는 시간이 매우 소중한 공인 전문가가 필요합니다. 의사에게 수천 개의 명확한 스캔에 주석을 달아달라고 요청하는 대신, active learning 시스템은 초기 단계 종양이나 희귀 이상 징후와 같은 모호한 케이스를 필터링하여 전문가가 모델의 진단 능력을 진정으로 향상시키는 이미지에만 집중할 수 있도록 합니다.
• Autonomous Vehicles: 자율주행차는 페타바이트 규모의 비디오 데이터를 생성합니다. 모든 프레임에 레이블을 지정하는 것은 불가능합니다. Active learning은 엔지니어가 표준 object detection 모델이 놓칠 수 있는 의상을 입은 보행자 또는 폭설 속 운전과 같은 edge cases를 식별하도록 돕습니다. 이러한 희귀 시나리오에 우선순위를 둠으로써 기업은 반복적인 고속도로 영상에 자원을 낭비하지 않고 안전성을 향상시킵니다.

Python 예제: 불확실한 예측 필터링#

다음 예제는 Ultralytics YOLO26을 사용한 간단한 "불확실성 샘플링(uncertainty sampling)" 로직을 보여줍니다. 모델을 로드하고, 이미지에 대해 추론을 실행하며, 수동 검토를 위해 confidence 점수가 특정 임계값 미만인 이미지를 플래그 지정합니다.

from ultralytics import YOLO

# Load the latest YOLO26 model
model = YOLO("yolo26n.pt")

# List of unlabeled image paths
unlabeled_images = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]

# Run inference
results = model(unlabeled_images)

# Identify samples with low confidence for active learning
uncertain_threshold = 0.6
for result in results:
    # Check if any detection confidence is below the threshold
    if result.boxes.conf.numel() > 0 and result.boxes.conf.min() < uncertain_threshold:
        print(f"Active Learning Query: {result.path} needs human labeling.")

관련 개념 구분#

능동적 학습을 유사한 학습 패러다임과 구분하는 것은 중요합니다.

• Semi-Supervised Learning: 두 방법 모두 레이블이 지정되지 않은 데이터를 활용하지만, semi-supervised learning은 모델의 고신뢰도 예측을 기반으로 데이터에 자동으로 pseudo-labels를 할당합니다. 대조적으로, active learning은 저신뢰도 예측에 대해 명시적으로 인간의 입력을 요청합니다.
• Transfer Learning: 사전 학습된 모델(ImageNet에서 학습된 모델 등)을 가져와 새 작업에 적응시키는 과정입니다. Active learning은 어떤 데이터를 레이블링할지에 초점을 맞추는 반면, transfer learning은 학습된 특징의 재사용에 초점을 맞춥니다.
• Reinforcement Learning: 여기서 에이전트는 환경과 상호 작용하고 보상을 받음으로써 학습합니다. Active learning은 보상을 위한 일련의 행동을 최적화하는 것이 아니라 오라클로부터 정적인 ground truth 레이블을 구한다는 점에서 다릅니다.

MLOps와의 통합#

Active learning을 효과적으로 구현하려면 강력한 Machine Learning Operations (MLOps) 파이프라인이 필요합니다. 데이터 버전 관리를 관리하고, 재학습 작업을 트리거하며, 인간에게 주석 인터페이스를 제공할 인프라가 필요합니다. Ultralytics ecosystem과 통합되는 도구를 사용하면 사용자는 추론, 데이터 큐레이션, 학습 사이를 원활하게 이동할 수 있습니다. 예를 들어, custom training scripts를 사용하면 개발자가 새로운 배치인 active learning 데이터를 YOLO 모델에 신속하게 통합할 수 있습니다.

샘플링 전략에 대한 추가 읽기를 위해 연구원들은 종종 active learning literature의 종합적인 조사를 참조합니다. 또한 model evaluation metrics을 이해하는 것은 active learning 루프가 실제로 성능을 향상시키고 있는지 확인하는 데 매우 중요합니다.