수량화 인식 교육(QAT)

정량화 인식 교육 작동 방식

모델이 완전히 학습된 후 양자화하는 방법과 달리, QAT는 양자화 효과의 시뮬레이션을 학습 프로세스에 직접 통합합니다. 이는 훈련 중에 모델 아키텍처 내에 '가짜 양자화' 노드라고 하는 연산을 도입합니다. 이러한 노드는 포워드 패스 동안 모델 가중치와 활성화에 대한 낮은 정밀도(예: INT8 정밀도)의 효과를 모방하여 실제 양자화된 모델에서와 같이 값을 반올림합니다. 그러나 백워드 패스(모델이 역전파를 통해 학습하는 경우) 동안에는 일반적으로 표준 고정밀 부동 소수점 숫자를 사용하여 그라데이션을 계산하고 업데이트를 적용합니다. 이를 통해 모델의 파라미터가 실제 양자화된 추론 중에 발생할 수 있는 정밀도 손실에 견고하게 적응하고 학습할 수 있습니다. 훈련 중에 양자화의 효과를 '확인'함으로써 모델은 모델 최적화 전략에서 논의되는 핵심 사항인 저정밀 형식의 모델 배포와 관련된 정확도 저하를 최소화합니다. TensorFlow Lite와 같은 프레임워크와 PyTorch 와 같은 프레임워크는 QAT를 구현하기 위한 도구를 제공합니다.

관련 개념과의 차이점

QAT의 실제 적용 사례

정량화 인식 훈련은 효율성이 중요한 리소스 제약 환경에서 정교한 AI 모델을 배포하는 데 필수적입니다.

1. 온디바이스 컴퓨터 비전: 다음과 같은 복잡한 컴퓨터 비전 모델 실행 Ultralytics YOLOv8 와 같은 복잡한 컴퓨터 비전 모델을 스마트폰에서 직접 실행하여 증강 현실 앱의 실시간 물체 감지 또는 사진 관리 도구 내 이미지 분류와 같은 애플리케이션을 구현할 수 있습니다. QAT를 사용하면 이러한 모델을 배터리 소모나 지연 시간 없이 효율적으로 실행할 수 있습니다.
2. 자동차 및 로보틱스 분야의 엣지 AI: 자율주행 차량의 보행자 감지 또는 차선 유지 지원이나 로봇 공학에서 물체 조작과 같은 작업을 위한 모델을 배포합니다. QAT를 사용하면 이러한 모델을 Google Edge TPU 또는 NVIDIA Jetson과 같은 특수 하드웨어에서 실행할 수 있으므로 중요한 실시간 의사 결정을 위한 짧은 추론 지연 시간을 보장할 수 있습니다. 이는 보안 경보 시스템이나 주차 관리와 같은 애플리케이션에 매우 중요합니다.

Ultralytics 다음과 같은 다양한 형식으로 모델 내보내기를 지원합니다. ONNX, TensorRT및 TFLite와 같은 다양한 포맷으로 모델을 내보낼 수 있어 다양한 하드웨어에 효율적으로 배포할 수 있습니다. Ultralytics HUB와 같은 플랫폼을 사용하여 QAT에 최적화된 모델을 관리하고 배포할 수 있습니다. 정확도 요구 사항을 충족하려면 QAT 후 관련 메트릭을 사용하여 모델 성능을 평가하는 것이 필수적입니다.