Continual Learning

평생 학습이라고도 하는 지속 학습(CL)은 인공지능 모델이 이전에 학습한 정보를 잊지 않으면서 새로운 작업이나 지식을 시간의 흐름에 따라 순차적으로 학습하는 능력을 의미합니다. 모델을 고정된 데이터셋으로 한 번 학습한 뒤 배포하는 기존 머신러닝 파이프라인과 달리, 지속 학습은 새로운 환경에 적응하고 새로운 경험을 통해 계속 학습하는 인간의 능력을 모방합니다. 이 분야의 주요 과제는 치명적 망각을 극복하는 것입니다. 치명적 망각은 신경망을 새로운 데이터로 학습할 때 기존 작업에 최적화된 가중치가 덮어써져 이전 작업의 성능이 크게 저하되는 현상입니다.

지속 학습이 중요한 이유#

변화가 많은 실제 환경에서 데이터 분포는 거의 고정되어 있지 않습니다. 예를 들어 자율 주행 차량의 시각 인식 시스템은 초기 학습에서 익힌 기본 도로 표지판 인식 능력을 잃지 않으면서 계절 변화, 새로운 교통 법규, 서로 다른 도시 구조에 적응해야 합니다. 누적 데이터셋을 사용한 기존의 처음부터 재학습은 저장 공간 제약이나 개인정보 보호 문제 때문에 컴퓨팅 비용이 많이 들고 실용적이지 않은 경우가 많습니다. 지속 학습은 모델을 점진적으로 업데이트해 이러한 문제를 해결하며, 리소스가 제한적인 엣지 AI 애플리케이션의 효율성과 확장성을 높입니다.

실제 적용 사례#

• 로보틱스 및 자율 시스템: 비정형 환경에 배치된 로봇은 새로운 객체를 다루거나 새로운 지형을 탐색해야 합니다. 지속 학습을 통해 로봇은 특정 제조 작업을 숙달한 뒤 전체 시스템을 초기화하지 않고도 다른 제품군을 처리하는 방법을 학습할 수 있어, 유연한 인더스트리 4.0 혁신 파이프라인을 효과적으로 지원합니다.
• 의료 영상 진단: 새로운 질병이 나타나거나 영상 프로토콜이 바뀌면서 의료 데이터도 변화합니다. 영상의학과 전문의를 지원하는 AI 시스템은 지속 학습을 활용해 엑스레이에서 발견되는 새로운 바이러스 변종과 같은 신규 병리를 학습하면서도 폐렴 또는 골절과 같은 흔한 질환을 높은 정확도로 감지하는 능력을 유지할 수 있습니다. 이 기능은 기존 프로토콜의 환자 안전을 저해하지 않으면서 최신 헬스케어 진단을 유지하는 데 중요합니다.

지속 학습의 주요 전략#

치명적 망각을 완화하기 위해 연구자들은 여러 전략을 사용합니다. 정규화 방법은 손실 함수에 제약 조건을 추가해 이전 작업에서 중요하다고 판단된 가중치가 크게 바뀌지 않도록 합니다. 재생 방법은 이전 데이터의 일부를 저장하거나 생성형 AI를 사용해 합성 샘플을 생성한 뒤, 학습 중 새 데이터와 혼합합니다. 마지막으로 파라미터 격리는 모델 파라미터의 특정 하위 집합을 서로 다른 작업에 할당해 새 작업을 위한 업데이트가 이전 작업에 최적화된 파라미터에 영향을 주지 않도록 합니다. 2024년과 2025년의 최근 발전은 어떤 특징이 범용이고 어떤 특징이 작업별인지 더 잘 식별하기 위해 비전 언어 모델을 활용하는 데 초점을 맞추고 있습니다.

지속 학습과 전이 학습 비교#

지속 학습은 전이 학습과 구분해야 합니다. 전이 학습에서는 사전 학습된 모델을 새로운 특정 작업을 해결하기 위한 출발점으로 사용하며, 일반적으로 원래 작업의 성능은 중요하지 않습니다. 목표는 대상 도메인에서의 성능을 극대화하는 것입니다. 반면 지속 학습의 목표는 새로운 작업과 모든 이전 작업에서 모두 우수한 성능을 내는 것입니다. 마찬가지로 능동 학습이 학습에 사용할 정보량이 가장 많은 데이터 포인트를 선택하는 데 집중한다면, 지속 학습은 시간의 흐름에 따라 모델 자체를 업데이트하는 과정에 집중합니다.

YOLO 모델 업데이트#

진정한 지속 학습에는 특수한 아키텍처 조정이 필요하지만, 기존 데이터 버퍼와 새 데이터를 혼합해 모델을 파인튜닝하면 이 워크플로를 모방할 수 있습니다. Ultralytics Platform은 이러한 데이터셋과 모델 버전 관리를 간소화합니다. 다음은 Python API를 사용해 모델을 업데이트하는 방법의 예입니다.

from ultralytics import YOLO

# 'dataset_v1.yaml'로 이전에 학습한 모델을 불러옵니다
model = YOLO("yolo26n-v1.pt")

# 새 데이터와 기존 샘플이 포함된 새 데이터셋으로 모델을 학습합니다
# 이전 데이터를 "재생"하여 치명적 망각을 완화하는 데 도움이 됩니다
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # 파인튜닝을 위해 학습률을 낮춥니다
)

과제와 향후 방향#

진전이 있었지만 지속 학습은 여전히 활발한 연구 분야입니다. 새로운 내용을 학습하는 능력(가소성)과 이전에 학습한 내용을 유지하는 능력(안정성)의 균형을 맞추는 최적의 가소성-안정성 딜레마를 찾기는 어렵습니다. 또한 이러한 시스템을 평가하려면 순방향 전이(새 작업의 학습 속도)와 역방향 전이(기존 작업에 미치는 영향)를 모두 고려하는 견고한 성능 지표가 필요합니다. 파운데이션 모델의 규모가 커짐에 따라 전체 재학습 없이 대규모 시스템을 맞춤화할 수 있는 저랭크 적응(LoRA)과 같은 효율적인 지속 적응 방법이 중요해지고 있습니다.