Task Arithmetic

태스크 산술(Task Arithmetic)이 가중치 업데이트를 사용하여 모델 동작을 편집하는 방법을 알아보세요. 완전한 재학습 없이 Ultralytics YOLO26에서 태스크를 병합하거나 특징을 지우는 방법을 배우세요.

태스크 아스메틱(Task arithmetic)은 사전 학습된 신경망의 가중치 업데이트를 특정 방식으로 더하거나 빼서 그 동작을 수정하는 고급 기계 학습 기법입니다. 모델을 처음부터 완전히 재학습하는 대신, 실무자는 기본 모델과 파인튜닝된 모델 간의 학습된 차이점을 분리해 낼 수 있습니다. 이러한 차이점은 본질적으로 특정 기능이나 동작을 캡슐화하는 방향성 업데이트입니다. 개발자는 이러한 업데이트에 덧셈과 뺄셈 같은 기본 수학 연산을 적용하여 딥 러닝 시스템을 동적으로 편집할 수 있습니다. 이 패러다임은 최근 arXiv 연구의 태스크 아스메틱 관련 내용에서 큰 주목을 받고 있으며, 대규모 모델을 새로운 요구 사항에 맞게 조정할 수 있는 경량화되고 연산 효율적인 방법을 제공합니다.

개념 작동 원리#

이 기법의 기반은 사전 학습된 기본 모델과 특정 데이터셋으로 파인튜닝을 거친 버전 사이의 모델 가중치 차이를 계산하는 데 있습니다. 이처럼 격리된 차이는 새로운 기술의 국소적 표현이 됩니다. 엔지니어는 PyTorch 상태 딕셔너리 직접 조작을 수행하거나 TensorFlow 학습 방법론을 활용하여 이러한 가중치 차이를 스케일링하고 결합할 수 있습니다. 예를 들어, 특정 가중치 업데이트를 빼면 모델이 학습된 동작을 '잊도록' 강제할 수 있으며, 이는 모델 안전성에 관한 Anthropic 연구에서 깊이 탐구된 개념입니다.

실제 애플리케이션 사례#

태스크 아스메틱은 현대 컴퓨터 비전 및 자연어 처리 파이프라인에서 매우 효율적인 여러 워크플로를 가능하게 합니다:

멀티태스크 기능 병합: 엔지니어는 Ultralytics YOLO26 기본 모델을 서로 다른 두 개의 데이터셋—하나는 특화된 객체 검출용, 다른 하나는 이미지 분류용—으로 각각 독립적으로 학습시킬 수 있습니다. 두 작업에 대한 가중치 차이를 계산하고 이를 기본 모델에 다시 더해주면, 결과 네트워크는 치명적 망각(catastrophic forgetting) 현상 없이 두 작업을 동시에 수행할 수 있습니다.
AI 안전을 위한 타겟형 언학닝: 비전 모델이 학습 데이터로부터 편향된 특징을 의도치 않게 학습한 경우, 연구자는 편향된 데이터로 사본을 파인튜닝하고, 특정 가중치 차이를 추출한 다음, 이를 원래 모델에서 뺄 수 있습니다. 여러 Google DeepMind 발견에서 언급되었듯이, 이는 모델의 일반적인 인공지능 기능을 보존하면서 원치 않는 동작을 효과적으로 지워줍니다.

산술 연산 구현하기#

실무에서 이러한 모델 최적화 전략을 적용하려면 모델의 내부 상태를 신중하게 관리해야 합니다. 아래는 최근 컴퓨터 비전 논문에서 자주 논의되는 기법인 PyTorch를 사용하여 업데이트를 계산하고 적용하는 예시입니다.

import torch

# Load the state dictionaries of the pre-trained base and fine-tuned models
base_weights = torch.load("yolo26_base.pt")
tuned_weights = torch.load("yolo26_tuned.pt")

# Calculate the task vector and add it back to the base model with a scaling factor
scaling_factor = 0.5
for key in base_weights.keys():
    task_vector = tuned_weights[key] - base_weights[key]
    base_weights[key] += scaling_factor * task_vector

복잡한 데이터 어노테이션 파이프라인과 여러 파인튜닝된 모델 버전을 관리하는 팀에게 Ultralytics Platform은 클라우드 학습과 원활한 배포를 감독할 수 있는 간소화된 환경을 제공하여, 반복적인 모델 개선 관리를 훨씬 더 효율적으로 만들어 줍니다.