Continual Learning

지속적 학습(CL)은 평생 학습(lifelong learning)이라고도 불리며, 인공지능 모델이 이전에 학습한 정보를 잊지 않으면서 시간이 지남에 따라 새로운 작업을 순차적으로 학습하거나 새로운 지식을 습득하는 능력을 의미합니다. 모델을 고정된 데이터셋으로 한 번만 학습시킨 후 배포하는 전통적인 머신러닝 파이프라인과 달리, 지속적 학습은 새로운 환경에 적응하고 새로운 경험을 통해 지속적으로 학습하는 인간의 능력을 모방합니다. 이 분야의 주요 과제는 파괴적 망각(catastrophic forgetting)을 극복하는 것입니다. 이는 새로운 데이터로 신경망을 학습시킬 때, 이전 작업에 최적화된 가중치가 덮어쓰여져 이전 작업에 대한 성능이 급격히 저하되는 현상을 말합니다.

지속적 학습이 중요한 이유#

역동적인 현실 세계 환경에서 데이터 분포는 정적인 상태로 유지되는 경우가 드뭅니다. 예를 들어, 자율주행 차량의 시각적 인식 시스템은 초기 훈련 중에 학습한 기본 도로 표지판을 인식하는 능력을 잃지 않으면서 변화하는 계절, 새로운 교통 규정 또는 서로 다른 도시 레이아웃에 적응해야 합니다. 누적된 데이터셋을 바탕으로 처음부터 다시 새로 학습하는 방식은 저장 공간 제약이나 개인정보 보호 문제로 인해 종종 연산 비용이 많이 들고 비효율적입니다. 지속 학습(continual learning)은 모델이 점진적으로 업데이트될 수 있도록 하여 이러한 문제를 해결하며, 자원이 제한된 엣지 AI 애플리케이션에서 모델을 더욱 효율적이고 확장 가능하게 만듭니다.

실제 애플리케이션 사례#

• 로보틱스 및 자율 시스템: 비정형 환경에 배치된 로봇은 새로운 객체를 조작하거나 새로운 지형을 탐색해야 합니다. 지속 학습을 통해 로봇은 특정 제조 작업을 마스터하고 완전한 시스템 리셋 없이도 다른 제품 라인을 처리하는 방법을 학습할 수 있으며, 유연한 인더스트리 4.0 혁신 파이프라인을 효과적으로 지원합니다.
• 의료 영상 진단: 헬스케어 데이터는 새로운 질병이 발생하거나 영상 프로토콜이 변경됨에 따라 진화합니다. 방사선 전문의를 지원하는 AI 시스템은 지속 학습을 사용하여 엑스레이에서 발견된 새로운 바이러스 변종과 같은 새로운 병리를 통합하는 동시에, 폐렴이나 골절과 같은 일반적인 상태를 감지하는 데 있어 높은 정확도를 유지할 수 있습니다. 이 기능은 기존 프로토콜에 대한 환자의 안전을 저해하지 않으면서 최신 헬스케어 진단을 유지하는 데 필수적입니다.

지속적 학습의 핵심 전략#

파국적 망각(catastrophic forgetting)을 완화하기 위해 연구자들은 여러 전략을 활용합니다. **정규화 방법(Regularization methods)**은 이전 작업에서 식별된 중요한 가중치에 큰 변화가 생기는 것을 방지하기 위해 손실 함수에 제약 조건을 추가합니다. **리플레이 방법(Replay methods)**은 이전 데이터의 작은 하위 집합을 저장하거나(생성형 AI를 사용하여 합성 샘플 생성) 훈련 중에 새로운 데이터와 혼합합니다. 마지막으로, **파라미터 격리(parameter isolation)**는 모델 파라미터의 특정 하위 집합을 서로 다른 작업에 할당하여 새로운 작업에 대한 업데이트가 이전 작업에 대해 최적화된 파라미터를 방해하지 않도록 보장합니다. 2024년과 2025년의 최근 발전은 비전 언어 모델을 사용하여 어떤 피처가 일반적이고 어떤 피처가 작업 전용인지 더 잘 식별하는 데 초점을 맞추고 있습니다.

지속적 학습 대 전이 학습#

지속 학습을 전이 학습(transfer learning)과 구분하는 것은 중요합니다. 전이 학습에서는 사전 훈련된 모델이 새로운 특정 작업을 해결하기 위한 시작점 역할을 하며, 원래 작업에 대한 성능은 대개 중요하지 않습니다. 목표는 타겟 도메인에서의 성능을 극대화하는 것입니다. 반면 지속 학습의 목적은 새로운 작업과 이전 작업 모두에서 잘 수행되는 것입니다. 마찬가지로, 능동 학습(active learning)이 훈련을 위해 레이블을 지정할 가장 유익한 데이터 포인트를 선택하는 데 중점을 두는 반면, 지속 학습은 시간이 지남에 따라 모델 자체를 업데이트하는 프로세스에 중점을 둡니다.

YOLO 모델 업데이트#

진정한 지속 학습에는 특수한 아키텍처 조정이 필요하지만, 사용자는 오래된 데이터의 버퍼와 혼합된 새로운 데이터로 모델을 파인튜닝하여 이 워크플로를 시뮬레이션할 수 있습니다. Ultralytics Platform은 이러한 데이터셋 관리와 모델 버전 관리를 단순화합니다. 아래는 Python API를 사용하여 모델 업데이트에 접근하는 방법을 보여주는 예시입니다:

from ultralytics import YOLO

# Load a model previously trained on 'dataset_v1.yaml'
model = YOLO("yolo26n-v1.pt")

# Train the model on a new dataset containing new and old samples
# This helps mitigate catastrophic forgetting by "replaying" old data
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # Lower learning rate for fine-tuning
)

도전 과제 및 향후 방향#

진행 상황에도 불구하고 지속 학습은 여전히 활발한 연구 분야입니다. 새로운 것을 배우는 능력(가소성)과 오래된 것을 유지하는 능력(안정성)의 균형을 맞추는 최적의 가소성-안정성 딜레마(plasticity-stability dilemma)를 결정하는 것은 어렵습니다. 게다가 이러한 시스템을 평가하려면 순방향 전이(새로운 작업에 대한 학습 속도)와 역방향 전이(이전 작업에 미치는 영향)를 모두 고려하는 강력한 성능 지표가 필요합니다. 파운데이션 모델이 커짐에 따라, 저랭크 적응(LoRA)과 같은 효율적인 지속 적응 방법은 완전한 재학습 없이 대규모 시스템을 커스텀하는 데 점점 더 중요해지고 있습니다.