Machine Unlearning

머신 언러닝은 학습된 모델에서 특정 학습 데이터 하위 집합의 영향을 제거하는 데 중점을 두는 머신 러닝의 새로운 세부 분야입니다. 모델이 방대한 양의 정보를 받아들이면서 데이터를 선택적으로 "잊는" 능력이 중요해졌습니다. 이 프로세스를 사용하면 개발자가 전체 아키텍처를 처음부터 다시 학습하지 않고도 특정 데이터 포인트를 추출할 수 있어 상당한 시간과 계산 오버헤드를 절약할 수 있습니다.

이 기술의 주요 동인은 데이터 개인정보 보호입니다. 엄격한 데이터 보호 규정과 GDPR의 잊힐 권리와 같은 의무 사항이 등장하면서 사용자는 자신의 개인정보 삭제를 요청할 법적 권리를 갖게 되었습니다. 머신 언러닝은 딥 러닝 모델에서 이러한 데이터를 안전하게 삭제하여 전반적인 모델 유용성을 유지하면서 규정을 준수할 수 있는 방법을 제공합니다.

머신 언러닝 작동 방식#

기존 경사 하강 메커니즘은 네트워크의 가중치에 학습 데이터를 깊이 얽히게 합니다. 따라서 데이터베이스에서 원본 이미지나 텍스트 파일을 단순히 삭제하는 것만으로는 모델 자체에서 학습된 패턴이 제거되지 않습니다. 머신 언러닝 기술은 일반적으로 정확한 언러닝과 근사 언러닝이라는 두 가지 범주로 나뉩니다. 정확한 언러닝은 잊힌 데이터를 완전히 제외하고 학습한 모델과 최종 모델이 통계적으로 동일하도록 보장하며, 영리한 데이터셋 분할을 통해 구현되는 경우가 많습니다. 효율적인 언러닝 알고리즘에 관한 최근 연구에서 자주 논의되는 근사 언러닝은 수학적 개입을 사용하여 모델의 파라미터를 조정하고 대상 데이터의 영향을 소급하여 마스킹합니다.

머신 언러닝과 연속 학습을 구분하는 것이 중요합니다. 연속 학습은 치명적 망각 없이 새로운 지식을 순차적으로 추가하는 것을 목표로 하는 반면, 언러닝은 지식을 의도적으로 특정하여 제거하는 것입니다. 알고리즘 공정성에 중점을 두는 조직은 학습 후 유해하거나 편향된 데이터를 삭제하여 AI의 편향을 바로잡는 데에도 언러닝을 사용합니다.

실제 적용 사례#

언러닝 알고리즘은 이론적인 AI 안전성 연구에서 다양한 산업 분야의 실제 구현으로 빠르게 발전했습니다.

• 의료 및 의료 영상: 의료 영상 분석에서는 환자의 동의를 언제든지 철회할 수 있습니다. 환자가 자신의 X선 영상을 철회해 달라고 요청하면 병원은 언러닝을 사용하여 다른 환자의 질병을 감지하는 시스템의 기능을 저해하지 않고 진단 모델에서 해당 환자의 특정 생리학적 패턴을 추출할 수 있습니다.
• 감시 및 보안: 최신 스마트 감시 시스템에서는 카메라가 번호판이나 얼굴과 같은 개인 식별 정보 (PII)를 의도치 않게 포착할 수 있습니다. 언러닝을 사용하면 개발자가 배포된 컴퓨터 비전 모델에서 이러한 특정 PII를 소급하여 제거하고 개인정보 보호형 AI 기법을 준수할 수 있습니다.

언러닝 전략 구현#

직접적인 단일 단계 언러닝 API는 여전히 머신 언러닝 과제 내에서 활발히 연구되는 분야이지만, 실무자들은 정제된 데이터셋을 구성하고 신속한 재학습 주기를 시작하여 정확한 언러닝의 기준선을 달성하는 경우가 많습니다. 클라우드 기반 데이터 관리를 위해 Ultralytics Platform을 사용하면 철회된 데이터를 제외하도록 데이터셋의 버전을 쉽게 관리할 수 있습니다.

다음은 정제된 데이터셋으로 Ultralytics YOLO26을 다시 학습하여 언러닝을 구현하는 기본 접근 방식을 보여 주는 간단한 Python 예제입니다:

from ultralytics import YOLO

# Load an existing, pre-trained Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Naive exact unlearning: perform efficient retraining on a sanitized dataset.
# The 'sanitized_data.yaml' excludes the specific sensitive data to be "unlearned"
results = model.train(data="sanitized_data.yaml", epochs=50, device="cuda")

모델 최적화와 신경망의 견고성에 대한 요구가 증가함에 따라 언러닝은 표준 요구 사항이 되고 있습니다. 복잡한 이미지 분류 파이프라인을 관리하든 엣지에 모델을 배포하든, 데이터를 책임감 있게 잊도록 하는 메커니즘을 통합하면 AI 시스템의 규정 준수, 공정성 및 신뢰성을 유지할 수 있습니다.