Mixed Precision

혼합 정밀도(Mixed precision)는 딥러닝 모델의 학습 가속화와 메모리 소비 절감을 위해 사용되는 모델 최적화의 핵심 기법입니다. 주로 16비트와 32비트 부동소수점 형식을 비롯한 서로 다른 수치 형식을 전략적으로 결합함으로써, 이 방법은 모델의 최종 정확도를 희생하지 않고도 머신러닝 알고리즘이 연산을 더 빠르게 수행할 수 있도록 지원합니다. 이 기법은 대규모 데이터셋에서 YOLO26 아키텍처를 학습하는 것과 같이 리소스를 많이 소모하는 작업에서 특히 현대 AI 개발의 표준 관행이 되었습니다.

혼합 정밀도의 작동 원리#

전통적인 딥러닝 워크플로에서 모델은 대개 단일 정밀도 부동소수점 형식(FP32)을 사용하여 연산을 수행합니다. FP32의 각 숫자는 32비트의 메모리를 필요로 합니다. 정확도는 매우 높지만, 이 형식은 연산 비용이 많이 들고 메모리를 많이 소비할 수 있습니다.

혼합 정밀도는 16비트만 사용하는 반정밀도(FP16)의 도입을 알립니다. 그러나 FP16만 사용하면 더 작은 동적 범위로 인해 수치적 불안정성이 발생할 수 있습니다. 이를 해결하기 위해 혼합 정밀도 방법은 컨볼루션 및 행렬 곱셈과 같은 수학적 연산의 무거운 작업에는 FP16을 사용하는 동시에 안정성을 위해 모델 가중치의 "마스터 복사본"을 FP32로 유지합니다.

이 과정은 일반적으로 세 가지 주요 단계를 포함합니다:

1. 캐스팅(Casting): NVIDIA Tensor Cores와 같은 호환 가능한 하드웨어에서 실행 속도를 높이기 위해 모델의 입력과 활성화 함수를 FP16으로 변환합니다.

2. 손실 스케일링(Loss Scaling): 작은 그래디언트 업데이트가 FP16에서 0이 되는 "언더플로(underflow)"를 방지하기 위해 손실 함수 값을 증폭합니다.

3. 누적(Accumulation): 산술 연산은 FP16으로 수행하되, 마스터 가중치를 업데이트하기 전에 필요한 정보를 보존하기 위해 결과를 FP32로 누적합니다.

AI 학습에서의 이점#

혼합 정밀도를 채택하면 컴퓨팅 리소스를 효과적으로 활용하는 개발자와 연구자에게 상당한 이점이 제공됩니다.

• 더 빠른 학습 속도: FP16의 연산은 더 적은 메모리 대역폭을 필요로 하며 현대 GPU에서 더 빠르게 처리됩니다. 이를 통해 에폭에 소요되는 시간을 대폭 줄일 수 있습니다.
• 메모리 사용량 감소: FP16 텐서는 FP32 메모리의 절반을 차지하므로 개발자는 기본적으로 배치 크기를 두 배로 늘릴 수 있습니다. 더 큰 배치 크기는 종종 더 안정적인 그래디언트 추정치와 더 빠른 수렴으로 이어집니다.
• 에너지 효율성: 연산 부하가 감소하면 에너지 소비가 줄어들며, 이는 대규모 클라우드 학습 운영에 매우 중요합니다.

실제 애플리케이션 사례#

혼합 정밀도는 복잡한 모델과 대규모 데이터셋을 효율적으로 처리하기 위해 다양한 산업 전반에서 활용됩니다.

자율 주행#

자율주행차 개발에서 엔지니어는 수백만 개의 고해상도 비디오 프레임에서 객체 감지 모델을 학습해야 합니다. 혼합 정밀도를 사용하면 YOLO26과 같은 최첨단 모델을 효율적으로 학습할 수 있습니다. 메모리 사용량이 줄어들어 멀리 있는 교통표지판이나 보행자와 같은 작은 객체를 감지하는 데 필수적인 더 높은 해상도의 입력을 처리할 수 있습니다.

의료 영상 분석#

의료 영상 분석에는 주로 MRI 또는 CT 스캔의 3차원 볼륨 데이터가 포함되며, 이는 메모리를 매우 많이 소모합니다. 전체 FP32 정밀도로 이 데이터에 대해 분할 모델을 학습하면 종종 "메모리 부족(OOM)" 오류가 발생합니다. 혼합 정밀도를 통해 연구원은 이러한 무거운 모델을 GPU 메모리에 맞출 수 있으므로 의사가 질병을 더 일찍 진단하는 데 도움이 되는 AI 개발을 촉진할 수 있습니다.

Ultralytics와 함께하는 혼합 정밀도 구현#

PyTorch와 같은 최신 프레임워크는 일반적으로 자동 혼합 정밀도(AMP)라는 기능을 통해 혼합 정밀도의 복잡성을 자동으로 처리합니다. ultralytics 패키지는 최적의 성능을 보장하기 위해 학습 중에 기본적으로 AMP를 활성화합니다.

혼합 정밀도가 기본적으로 활성화되어 있으며 (amp 인수를 통해 제어 가능) Ultralytics YOLO26으로 학습을 시작하는 방법에 대한 간결한 예시는 다음과 같습니다:

from ultralytics import YOLO

# Load the latest YOLO26 model
model = YOLO("yolo26n.pt")

# Train the model on the COCO8 dataset
# amp=True is the default setting for mixed precision training
results = model.train(data="coco8.yaml", epochs=5, imgsz=640, amp=True)

혼합 정밀도 대 관련 개념#

혼동을 피하기 위해 용어집의 유사한 용어와 혼합 정밀도를 구분하는 것이 도움이 됩니다:

• 모델 양자화: 혼합 정밀도는 학습 중에 더 낮은 정밀도의 부동소수점 숫자(FP16)를 사용하는 반면, 양자화는 일반적으로 배포를 위해 학습 후에 가중치를 정수(예: INT8)로 변환합니다. 양자화는 주로 엣지 디바이스에서의 추론 지연 시간에 초점을 맞추는 반면, 혼합 정밀도는 학습 속도와 안정성에 초점을 맞춥니다.
• 반정밀도: 이는 구체적으로 FP16 데이터 형식 자체를 나타냅니다. 혼합 정밀도는 FP16과 FP32를 함께 사용하는 기법입니다. "혼합" FP32 마스터 복사본 없이 순수한 반정밀도만 사용하면 수치적 오류로 인해 모델이 수렴하지 못하는 경우가 종종 발생합니다.

결론#

혼합 정밀도는 신경망 학습 방식을 혁신하여 오늘날 우리가 볼 수 있는 대규모 기반 모델과 비전 시스템의 핵심 조력자 역할을 합니다. 수학적 정밀도의 필요성과 하드웨어 속도 및 메모리의 제약 사이의 균형을 유지함으로써 개발자가 더 빠르게 반복 작업을 수행하고 더 강력한 AI 솔루션을 구축할 수 있도록 지원합니다.

데이터셋을 관리하고 최적화된 모델을 원활하게 학습하려는 사용자를 위해 Ultralytics Platform은 이러한 현대적 최적화 기법을 자동으로 활용하는 포괄적인 환경을 제공합니다.