Parameter-Efficient Fine-Tuning (PEFT)

매개변수 효율적 파인튜닝 (PEFT)은 머신러닝 (ML)에서 계산 비용을 최소화하면서 대규모 사전 학습 모델을 특정 작업에 맞게 사용자 지정할 수 있도록 하는 고급 최적화 전략입니다. 최신 파운데이션 모델은 수십억 개의 매개변수를 포함할 정도로 규모가 커졌기 때문에 네트워크의 모든 가중치를 업데이트하는 기존 학습 방법은 하드웨어와 에너지 측면에서 감당하기 어려운 비용이 되었습니다. PEFT는 사전 학습된 모델 가중치의 대부분을 고정하고 매개변수의 작은 일부만 업데이트하거나 경량 어댑터 레이어를 추가하여 이 문제를 해결합니다. 이 접근 방식은 진입 장벽을 낮춰 개발자가 산업 규모의 데이터센터 없이도 소비자용 GPU에서 최첨단 성능을 달성할 수 있도록 합니다.

효율성의 작동 원리#

PEFT의 핵심 원리는 전이 학습에 기반합니다. 전이 학습에서는 모델이 ImageNet과 같은 대규모 공개 데이터셋에서 학습한 특징 표현을 활용하여 새로운 문제를 해결합니다. 표준 워크플로에서는 모델을 조정할 때 역전파를 통해 신경망의 모든 매개변수를 조정하는 "전체 파인튜닝"이 포함될 수 있습니다.

LoRA (저랭크 적응)와 같은 PEFT 기법은 다른 방식을 사용합니다. 이러한 기법은 모델의 무거운 "백본"을 고정하여 일반 지식을 보존하고, 특정 레이어에 작고 학습 가능한 행렬을 삽입합니다. 이를 통해 새로운 정보를 학습하는 동안 모델이 기존 능력을 잃는 현상인 치명적 망각을 방지합니다. 학습 가능한 매개변수 수를 최대 99%까지 줄임으로써 PEFT는 스토리지 요구 사항을 크게 낮추며, 실시간 추론 중에 여러 작업별 어댑터를 하나의 기본 모델에 교체하여 적용할 수 있도록 합니다.

실제 적용 사례#

PEFT는 엣지 컴퓨팅과 데이터 개인정보 보호가 중요한 산업에서 특히 유용합니다.

• 농업 분야의 AI: 애그리테크 스타트업은 배터리 수명과 처리 성능이 제한된 드론에 모델을 배포하는 경우가 많습니다. 엔지니어는 PEFT를 사용하여 YOLO26과 같은 고효율 모델을 소규모 사용자 지정 데이터셋으로 파인튜닝하여 가을거세미나방과 같은 특정 지역의 해충을 탐지할 수 있습니다. 백본을 고정하면 노트북에서 학습을 신속하게 수행할 수 있으며, 결과 모델은 기내 처리를 수행할 수 있을 만큼 가벼운 상태로 유지됩니다.
• 의료 분야의 AI: 의료 영상 분석에서는 주석이 추가된 데이터를 확보하기가 어렵고 비용도 많이 드는 경우가 많습니다. 병원은 PEFT를 사용하여 범용 비전 모델을 조정하고 MRI 스캔에서 이상을 식별합니다. 기본 매개변수가 고정되어 있으므로 모델이 소규모 데이터셋에 과적합될 가능성이 낮아지며, 환자 데이터의 개인정보를 보호하면서도 안정적인 진단 성능을 확보할 수 있습니다.

Ultralytics를 사용한 레이어 고정 구현#

Ultralytics 생태계에서는 네트워크의 초기 레이어를 "고정"하여 매개변수 효율성을 확보하는 경우가 많습니다. 이를 통해 견고한 특징 추출기는 변경하지 않고 헤드 또는 이후 레이어만 새로운 클래스에 맞게 조정할 수 있습니다. 이는 객체 탐지를 위한 PEFT 원칙의 실용적인 구현입니다.

다음 예제에서는 컴퓨팅 리소스를 절약하기 위해 백본의 처음 10개 레이어를 고정한 상태에서 Ultralytics YOLO26 모델을 학습하는 방법을 보여 줍니다:

from ultralytics import YOLO

# Load the YOLO26 model (latest stable version)
model = YOLO("yolo26n.pt")

# Train on a custom dataset with the 'freeze' argument
# freeze=10 keeps the first 10 layers static, updating only deeper layers
results = model.train(data="coco8.yaml", epochs=5, freeze=10)

이 프로세스를 확장하려는 팀을 위해 Ultralytics Platform은 데이터셋을 관리하고, 주석 작업을 자동화하며, 클라우드에서 이러한 효율적인 학습 실행을 모니터링할 수 있는 통합 인터페이스를 제공합니다.

PEFT와 관련 개념의 구분#

적절한 모델 조정 전략을 선택하려면 PEFT를 유사한 용어와 구분하는 것이 도움이 됩니다:

• 파인튜닝: 흔히 "전체 파인튜닝"이라고도 하는 이 프로세스는 모델의 모든 매개변수를 업데이트합니다. 최대한의 가소성을 제공하지만 계산 비용이 높고 각 작업마다 모델의 전체 복사본을 저장해야 합니다. PEFT는 효율성에 중점을 둔 파인튜닝의 하위 범주입니다.
• 프롬프트 엔지니어링: 내부 가중치를 변경하지 않고 텍스트 입력을 구성하여 모델의 출력을 유도하는 방식입니다. 반면 PEFT는 가중치 또는 어댑터의 일부를 수학적으로 변경하여 모델이 데이터를 처리하는 방식을 영구적으로 바꿉니다.
• 지식 증류: 대형 교사 모델을 모방하도록 소형 학생 모델을 학습하는 기법입니다. 효율적인 모델을 생성하지만 압축 방법인 반면, PEFT는 기존 모델에 새로운 기술을 학습시키는 데 사용하는 적응 방법입니다.

고성능 AI에 대한 접근성을 확대함으로써 PEFT를 사용하면 개발자가 슈퍼컴퓨터 인프라 없이도 자율주행 차량과 스마트 제조를 위한 특화 도구를 구축할 수 있습니다.