Parameter-Efficient Fine-Tuning (PEFT)

매개변수 효율적 미세 조정(PEFT)은 머신 러닝(ML)의 정교한 최적화 전략으로, 계산 비용을 최소화하면서 사전 학습된 대형 모델을 특정 작업에 맞게 사용자 지정할 수 있도록 합니다. 최신 파운데이션 모델은 수십억 개의 매개변수를 포함할 만큼 규모가 커졌으며, 네트워크의 모든 가중치를 업데이트하는 기존 학습 방식은 하드웨어와 에너지 측면에서 비용이 지나치게 높아졌습니다. PEFT는 사전 학습된 모델 가중치의 대부분을 고정하고, 매개변수의 작은 일부만 업데이트하거나 경량 어댑터 레이어를 추가하여 이 문제를 해결합니다. 이 접근 방식은 진입 장벽을 낮춰 개발자가 산업 규모의 데이터 센터 없이도 소비자용 GPU에서 최첨단 성능을 달성할 수 있도록 합니다.

효율성의 원리#

PEFT의 핵심 원리는 전이 학습에 있습니다. 이 방식에서는 ImageNet과 같은 대규모 공개 데이터 세트에서 학습한 특징 표현을 활용해 새로운 문제를 해결합니다. 표준 워크플로에서 모델을 조정하려면 역전파가 신경망의 모든 매개변수를 조정하는 '전체 미세 조정'이 필요할 수 있습니다.

LoRA(저랭크 적응)와 같은 PEFT 기법은 다른 접근 방식을 취합니다. 모델의 무거운 '백본'을 고정하여 일반 지식을 보존하고, 특정 레이어에 작고 학습 가능한 행렬을 삽입합니다. 이를 통해 모델이 새로운 정보를 학습하는 동안 기존 능력을 잃는 현상인 치명적 망각을 방지합니다. 학습 가능한 매개변수 수를 최대 99% 줄여 PEFT는 저장 공간 요구량을 크게 낮추며, 실시간 추론 중에도 작업별 어댑터 여러 개를 단일 기본 모델에 교체해 적용할 수 있도록 합니다.

실제 적용 사례#

PEFT는 엣지 컴퓨팅과 데이터 개인정보 보호가 중요한 산업에서 특히 유용합니다.

• 농업 분야의 AI: 애그리테크 스타트업은 배터리 수명과 처리 능력이 제한된 드론에 모델을 배포하는 경우가 많습니다. 엔지니어는 PEFT를 사용해 YOLO26과 같이 효율성이 높은 모델을 가져와, 작은 사용자 지정 데이터 세트를 사용해 가을거염벌레와 같은 특정 지역 해충을 감지하도록 미세 조정할 수 있습니다. 백본을 고정하면 노트북에서도 빠르게 학습할 수 있으며, 결과 모델은 온보드 처리에 충분히 가벼운 상태로 유지됩니다.
• 의료 분야의 AI: 의료 영상 분석에서는 주석이 달린 데이터를 확보하기 어렵고 비용도 많이 드는 경우가 많습니다. 병원은 PEFT를 사용해 범용 비전 모델을 MRI 스캔의 이상 징후를 식별하도록 조정합니다. 기본 매개변수가 고정되므로 소규모 데이터 세트에 과적합될 가능성이 낮아 환자 데이터의 개인정보를 보호하면서도 안정적인 진단 성능을 확보할 수 있습니다.

Ultralytics에서 고정 레이어 구현하기#

Ultralytics 생태계에서는 네트워크의 초기 레이어를 '고정'하여 매개변수 효율성을 확보하는 경우가 많습니다. 이렇게 하면 견고한 특징 추출기는 변경되지 않고, 헤드 또는 후반 레이어만 새로운 클래스에 맞게 조정됩니다. 이는 객체 감지에 PEFT 원칙을 실용적으로 적용한 방법입니다.

다음 예제에서는 계산 리소스를 절약하기 위해 백본의 처음 10개 레이어를 고정한 상태로 Ultralytics YOLO26 모델을 학습하는 방법을 보여 줍니다:

from ultralytics import YOLO

# YOLO26 모델 로드(최신 안정 버전)
model = YOLO("yolo26n.pt")

# 'freeze' 인수를 사용해 사용자 지정 데이터 세트로 학습
# freeze=10은 처음 10개 레이어를 고정하고 더 깊은 레이어만 업데이트합니다
results = model.train(data="coco8.yaml", epochs=5, freeze=10)

이 프로세스를 확장하려는 팀을 위해 Ultralytics Platform은 데이터 세트 관리, 주석 자동화, 클라우드에서 이러한 효율적인 학습 실행 모니터링을 위한 통합 인터페이스를 제공합니다.

PEFT와 관련 개념의 구분#

적절한 모델 적응 전략을 선택하려면 PEFT와 유사한 용어를 구별해 두는 것이 유용합니다:

• 미세 조정: 흔히 '전체 미세 조정'이라고 부르는 이 과정은 모델의 모든 매개변수를 업데이트합니다. 모델의 가소성을 최대화할 수 있지만 계산 비용이 높고 작업별로 모델 전체 사본을 저장해야 합니다. PEFT는 효율성에 중점을 둔 미세 조정의 하위 범주입니다.
• 프롬프트 엔지니어링: 내부 가중치를 변경하지 않고 텍스트 입력을 구성하여 모델의 출력을 유도하는 방법입니다. 반면 PEFT는 일부 가중치 또는 어댑터를 수학적으로 변경하여 모델이 데이터를 처리하는 방식을 지속적으로 바꿉니다.
• 지식 증류: 작은 학생 모델이 큰 교사 모델을 모방하도록 학습하는 기법입니다. 효율적인 모델을 만들어 내지만, 지식 증류는 압축 방법인 반면 PEFT는 기존 모델에 새로운 기능을 학습시키는 적응 방법입니다.

고성능 AI에 대한 접근성을 확대함으로써 PEFT를 활용하는 개발자는 슈퍼컴퓨터 인프라 없이도 자율 주행 차량과 스마트 제조를 위한 특화 도구를 구축할 수 있습니다.