Model Editing

모델 편집은 완전한 재학습 없이 특정 동작을 학습, 수정 또는 제거할 수 있도록 훈련된 머신 러닝 모델을 타겟팅하여 수정하는 작업입니다. 편집자는 선택한 모델 가중치를 변경하거나, 작은 메모리 모듈을 부착하거나, 추론 시점에 출력을 리다이렉트할 수 있습니다. 이 용어는 주로 대형 언어 모델의 지식을 수정하는 것을 의미하지만, 멀티모달 및 비전 파운데이션 모델에도 점차 적용되고 있습니다. 이는 3D 객체나 생성된 이미지를 편집하는 것을 의미하지 않습니다.

Link to this section모델 편집의 작동 방식#

모델 편집 요청은 일반적으로 입력, 이전 응답, 그리고 원하는 응답을 지정합니다. 2024년 종합 지식 편집 연구에 기술된 방법들은 대체로 내부 파라미터 업데이트, 모델への 새로운 지식 통합, 또는 외부 지식 참조의 세 가지 그룹으로 나뉩니다. (arxiv.org)

모델 편집은 관련 기법들과 다음과 같은 차이가 있습니다:

• 파인튜닝: 데이터셋 전체의 동작을 업데이트하는 반면, 모델 편집은 좁고 국소적인 변경을 목표로 합니다.
• EasyEdit 지식 편집 프레임워크: 언어 모델을 위한 실용적인 파라미터, 메모리, 메타 학습 편집기를 시연합니다. (aclanthology.org)
• 검색 증강 생성: 기본 파라미터를 변경하지 않고 최신 정보를 제공합니다.
• 머신 언러닝: 지식을 대체하거나 추가하는 대신 학습된 정보를 제거하는 것을 목표로 합니다.
• 모델 머징: 하나의 정밀한 편집을 수행하는 대신 여러 훈련된 모델이나 업데이트를 결합합니다.

Link to this section평가 및 위험성#

성공적인 편집은 대상 요청에 대한 신뢰성, 재작성된 입력에 대한 일반성, 관련 없는 동작에 대한 국소성, 그리고 연결된 추론 작업에 대한 이식성을 충족해야 합니다. 지식 편집의 함정, 일반 능력 저하, 및 인접 지식 교란에 대한 연구에 따르면 겉보기에는 올바른 편집이라도 관련 없는 답변이나 추론 기술을 변경할 수 있습니다. (openreview.net)

반복적인 편집은 또한 파멸적 망각을 유발할 수 있습니다. 2025년 지식 편집기 평가 연구에서 강조된 바와 같이, 결과는 평가 지표와 배치 크기에 크게 의존할 수 있습니다. 비전-언어 편집을 위한 VLKEB 및 다양한 시각적 지식을 위한 MMKE-Bench를 통해 멀티모달 평가가 확장되고 있습니다. (aclanthology.org)

Link to this section실제 애플리케이션 사례#

• 생애 주기 비전-언어 모델 업데이트: 시각적 어시스턴트는 이전에 학습한 시각적 지식을 유지하면서 새로 도입된 제품이나 수정된 랜드마크 신원을 학습할 수 있습니다.
• 의료용 비전-언어 수정: 임상 시스템은 이미지 및 텍스트 변형 전반에 걸쳐 오래된 용어 또는 진단 지식을 업데이트한 후에 평가될 수 있습니다. (arxiv.org)
• 컴퓨터 비전 적응: 검사 모델은 전체 훈련 파이프라인을 다시 구축하지 않고도 새로운 결함 유형을 인식하도록 업데이트될 수 있습니다.

Link to this section현재 모범 사례#

원본 체크포인트를 보존하고, 가장 작은 효과적인 업데이트를 사용하며, 배포 전에 광범위한 모델 테스트를 실행하십시오. 최근 연구에 따르면 현실적인 조건에서 더 견고할 수 있는 컨텍스트 기반 접근 방식과 가중치 편집을 비교하고, 간섭에 대한 긴 편집 시퀀스를 테스트하는 것이 좋습니다. (arxiv.org) 프로덕션 팀은 편집 로그, 롤백 경로, 안전성 테스트, 그리고 지속적인 모델 모니터링을 유지해야 합니다.

Link to this sectionUltralytics 워크플로에서의 모델 편집#

Ultralytics YOLO26의 경우, 타겟팅된 훈련은 광범위한 모델 편집의 실질적인 대안입니다. 이 예제에서는 작은 데이터셋을 사용하여 사전 훈련된 검출기를 업데이트한 다음, 검증을 적용하여 의도하지 않은 성능 변화를 감지합니다:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=1)
metrics = model.val()
print(metrics.box.map)

PyTorch 모델 저장 가이드를 사용하여 버전이 지정된 체크포인트를 유지하고, Ultralytics 플랫폼을 활용하여 데이터를 주석 처리하고, 업데이트된 모델을 훈련하며, 리비전을 배포하고, 프로덕션 성능을 모니터링하십시오.