미세 조정

미세 조정은 대규모의 일반 데이터 세트에서 사전 훈련된 모델을 가져와 더 작고 특화된 데이터 세트에서 추가로 훈련하는 것을 포함하는 머신 러닝(ML)의 핵심 기술입니다. 전이 학습의 한 형태인 이 프로세스는 모델을 처음부터 훈련하지 않고도 특정 작업에서 뛰어난 성능을 발휘할 수 있도록 모델의 학습된 지식을 조정합니다. 강력한 기반 모델로 시작함으로써 개발자는 훨씬 적은 데이터와 컴퓨팅 리소스로 높은 성능을 달성할 수 있으며, 이는 Stanford AI Lab과 같은 기관에서 탐구한 개념입니다.

Fine-Tuning은 어떻게 작동하나요?

이 과정은 비전의 경우 ImageNet 또는 대규모 언어 모델(LLM)의 경우 방대한 텍스트 말뭉치와 같은 광범위한 데이터 세트에서 가중치가 이미 최적화된 모델로 시작됩니다. 이 사전 훈련된 모델은 이미지의 가장자리 및 텍스처 또는 텍스트의 문법 및 의미와 같은 일반적인 특징을 이미 이해하고 있습니다. 그런 다음 미세 조정은 일반적으로 더 낮은 학습률을 사용하여 대상 애플리케이션에 맞게 조정된 맞춤형 데이터 세트에서 학습 과정을 계속합니다. 이를 통해 모델의 파라미터가 새로운 작업의 특정 뉘앙스에 특화되도록 조정됩니다. PyTorch 및 TensorFlow와 같은 프레임워크는 미세 조정 워크플로를 구현하기 위한 광범위한 도구를 제공합니다.

실제 애플리케이션

미세 조정(Fine-tuning)은 컴퓨터 비전(CV) 및 자연어 처리(NLP) 전반에 걸쳐 널리 사용됩니다.

• 의료 영상 분석: COCO 데이터 세트에서 일반적인 객체 감지를 위해 사전 학습된 Ultralytics YOLO11과 같은 모델은 MRI 스캔의 특수 컬렉션에서 미세 조정되어 종양을 정확하게 감지할 수 있습니다. 이러한 사용자 정의는 신뢰할 수 있는 헬스케어 AI 솔루션을 구축하는 데 매우 중요합니다.
• 맞춤형 챗봇: 기업은 내부 문서 및 고객 지원 로그에서 BERT와 같은 강력한 LLM을 미세 조정할 수 있습니다. 결과 모델은 회사 제품에 대한 전문가가 되어 웹사이트를 위한 매우 효과적이고 상황 인식적인 챗봇을 구현할 수 있습니다. 이러한 모델은 Hugging Face와 같은 플랫폼에서 많이 사용할 수 있습니다.

미세 조정(Fine-Tuning) vs. 관련 개념

미세 조정(fine-tuning)을 다른 모델 적응 기술과 구별하는 것이 중요합니다.

• 처음부터 학습: 여기에는 임의의 가중치로 신경망을 초기화하고 데이터세트에서 학습하는 과정이 포함됩니다. 막대한 양의 데이터와 컴퓨팅 성능(GPU 등)이 필요하며 일반적으로 사전 학습된 모델을 미세 조정하는 것보다 효율성이 떨어집니다.
• 파라미터 효율적인 미세 조정(Parameter-Efficient Fine-Tuning, PEFT): PEFT는 미세 조정의 보다 리소스 효율적인 진화를 나타내는 방법 모음입니다. 모델의 모든 가중치를 업데이트하는 대신 LoRA와 같은 PEFT 기술은 원래 모델을 고정하고 적은 수의 새 파라미터만 학습합니다. 이를 통해 메모리 및 스토리지 요구 사항이 크게 줄어들어 Meta AI 또는 Google과 같은 조직의 매우 큰 모델을 더 쉽게 조정할 수 있습니다.
• 프롬프트 튜닝(Prompt Tuning): 모든 원본 모델 가중치가 고정된 특정 PEFT 방법입니다. 모델 자체를 조정하는 대신 특정 작업에 대한 모델의 출력을 유도하기 위해 입력에 추가되는 특수한 "소프트 프롬프트"(학습 가능한 임베딩)를 학습합니다.
• 검색 증강 생성(RAG): 이 기술은 훈련을 통해 모델의 가중치를 변경하는 대신 추론 시 외부 지식을 제공하여 모델 출력을 향상시킵니다. RAG는 데이터베이스에서 관련 정보를 검색하여 프롬프트에 추가하여 더 정확하고 최신 응답을 생성합니다.

Ultralytics를 이용한 미세 조정(Fine-Tuning)

Ultralytics는 사용자 정의 애플리케이션을 위해 최첨단 YOLO 모델의 미세 조정을 간소화합니다. 사용자는 사전 훈련된 가중치를 쉽게 로드하고 자체 데이터 세트에서 훈련을 시작하여 이미지 분류, 감지 또는 분할과 같은 작업을 수행할 수 있습니다. Ultralytics HUB 플랫폼은 데이터 세트 관리, 모델 훈련 및 최종 배포를 위한 통합 솔루션을 제공하여 이 워크플로를 더욱 간소화합니다. 최상의 성능을 얻으려면 미세 조정이 신중한 하이퍼파라미터 튜닝과 함께 수행되는 경우가 많습니다.