Ultralytics 벤치마크

학습 방법론

학습 중 초당 처리되는 이미지 수인 **학습 처리량(training throughput)**을 기준으로 삼으며, 이는 해결 시간과 직접적인 관련이 있습니다. 모든 결과는 Ultralytics Platform GPU에서 측정되었습니다. 이는 클라우드 학습을 위해 클릭 한 번으로 대여할 수 있는 것과 동일한 NVIDIA 하드웨어로, 엔트리 레벨 워크스테이션 카드부터 플래그십 데이터 센터 GPU까지 포함합니다. 모든 5가지 크기(n/s/m/l/x)의 YOLO26 모델을 학습시켜 하드웨어 예산에 맞는 모델을 찾을 수 있도록 했습니다.

설정. 640px 크기의 COCO 데이터셋 25%를 사용하여 2 에포크 학습, AMP 혼합 정밀도, 단일 GPU 환경이며, auto-batch(batch=-1)를 통해 메모리에 맞는 최대 배치 크기를 자동으로 선택합니다. 첫 번째 에포크의 워밍업(데이터셋 캐싱, CUDA 그래프 캡처)과 런 종료 시의 검증 과정을 제외한 안정 상태의 두 번째 에포크 결과를 보고합니다. 계산된 배치 크기, 피크 VRAM(CUDA 컨텍스트 포함), 피크 보드 전력은 각 GPU에서 직접 기록됩니다.

비용 효율성. 이미지당 비용 = 처리량 × 3600 ÷ 시간당 가격으로 계산하며, Ultralytics Platform의 온디맨드 가격을 사용합니다. 이는 가성비 카드가 플래그십 GPU보다 달러당 더 높은 효율을 보이는 경우가 많아 순위가 크게 바뀔 수 있습니다. ultralytics 8.4.68, torch 2.8, CUDA 12.8에서 측정되었습니다. 학습(Train) 및 벤치마크(Benchmark) 모드 문서를 참조하십시오.

추론 방법론

배치 크기 1에서의 이미지당 밀리초 단위인 **추론 지연 시간(inference latency)**을 기준으로 삼으며, 이는 실시간 배포(deployment) 환경에서 중요한 지표입니다. 각 YOLO26 모델 크기를 표시된 형식 및 정밀도로 내보낸 후, 배포 대상인 Ultralytics Platform GPU와 동일한 환경에서(워밍업 제외, 실행별 시간 시그마 클리핑 적용) 안정적인 상태의 예측 시간을 측정합니다.

형식 및 정밀도. NVIDIA GPU 환경: PyTorch FP16, ONNX FP16 및 TensorRT FP16/INT8(NVIDIA ModelOpt를 통한 TensorRT 11.1.0.106). INT8은 COCO128로 보정되었으며, 정확도(mAP50-95, COCO val2017 기준)는 형식/정밀도당 1회 측정하여 각 행에 표시하므로 속도와 정확도 간의 상충 관계를 명확히 알 수 있습니다. INT8은 연산 집약적인 대형 모델에서 가장 효과적이며, 가장 작은 모델에서는 양자화 오버헤드가 FP16과 비슷하거나 약간 뒤처질 수 있습니다. ONNX 추론은 Ada/Ampere/Hopper GPU에서 실행됩니다(onnxruntime은 아직 Blackwell 커널을 지원하지 않음).

Apple Silicon. Mac 장치(예: Apple M5 Pro)는 로컬에서 프로파일링되어 표에 병합되었습니다. 형식을 선택하여 클라우드 GPU와 직접 비교하거나 Apple Silicon 세대별로 필터링하십시오. CoreML은 Neural Engine(가장 빠른 Apple 경로, CPU 대비 약 3배)에서, PyTorch는 MPS GPU에서, ONNX는 CPU에서 실행됩니다. 각 행의 Backend 열에 런타임이 명시되어 있습니다. CoreML은 ANE에서 coremltools로 측정되었으며, 이는 iPhone 장치가 아닌 호스트 화면 기준의 상대적 값입니다. 소유 하드웨어는 대여 비용이 없으므로 비용 효율성(img/$)은 GPU 비용만 고려합니다.

비용 효율성. 추론당 비용 = FPS × 3600 ÷ 시간당 가격으로 계산하며, Ultralytics Platform의 온디맨드 가격을 사용합니다. ultralytics 8.4.71, torch 2.12, CUDA 13.2에서 측정되었습니다. 예측(Predict) 및 벤치마크(Benchmark) 모드 문서를 참조하십시오.