Điểm chuẩn Ultralytics
Hiệu suất của YOLO26 trên các NVIDIA GPU của Ultralytics Platform — thông lượng huấn luyện và độ trễ suy luận được đo lường, cùng với bộ nhớ, công suất, độ chính xác và hiệu quả chi phí, để bạn có thể chọn GPU phù hợp với ngân sách và tiến độ của mình.
Thông lượng huấn luyện GPU
Phát hiện YOLO26 được huấn luyện trên COCO tại 640px với auto-batch trên mọi NVIDIA GPU trên Platform. So sánh giữa các thiết bị hoặc theo kích thước model, chuyển đổi chỉ số biểu đồ hoặc lọc theo thế hệ; bảng có thể sắp xếp hoàn toàn.
H200 SXM | 141 GB | 490.6 | 221 | 40.2 GB | 361 W | $4.39 | 402.3K | |
B300 | 288 GB | 474.6 | 411 | 73.4 GB | 457 W | $7.39 | 231.2K | |
H200 NVL | 143 GB | 469.3 | 221 | 39.8 GB | 283 W | $3.39 | 498.4K | |
H100 NVL | 94 GB | 432.1 | 147 | 26.8 GB | 274 W | $3.19 | 487.6K | |
H100 SXM | 80 GB | 424.3 | 123 | 23.1 GB | 315 W | $3.29 | 464.3K | |
RTX PRO 6000 | 96 GB | 420.6 | 149 | 27.6 GB | 319 W | $2.09 | 724.5K | |
B200 | 180 GB | 404.9 | 281 | 50.4 GB | 419 W | $5.89 | 247.5K | |
RTX 5090 | 32 GB | 356 | 49 | 9.7 GB | 304 W | $0.99 | 1.3M | |
RTX PRO 5000 | 48 GB | 319.7 | 73 | 13.8 GB | 220 W | $0.96 | 1.2M | |
RTX 4090 | 24 GB | 306 | 35 | 13.5 GB | 235 W | $0.69 | 1.6M | |
H100 PCIe | 80 GB | 302.4 | 123 | 22.6 GB | 197 W | $2.89 | 376.7K | |
RTX 6000 Ada | 48 GB | 294.8 | 73 | 13.9 GB | 254 W | $0.77 | 1.4M | |
A100 SXM | 80 GB | 286.8 | 123 | 23.1 GB | 342 W | $1.49 | 692.9K | |
A100 PCIe | 80 GB | 283.2 | 123 | 23.2 GB | 328 W | $1.39 | 733.5K | |
L40S | 48 GB | 265.1 | 70 | 13.3 GB | 258 W | $0.86 | 1.1M | |
L40 | 48 GB | 255.5 | 68 | 13.1 GB | 255 W | $0.99 | 929.1K | |
RTX PRO 4500 | 32 GB | 249.7 | 49 | 11.0 GB | 161 W | $0.64 | 1.4M | |
RTX A6000 | 48 GB | 209.9 | 73 | 13.9 GB | 278 W | $0.49 | 1.5M | |
RTX PRO 4000 | 24 GB | 193.9 | 35 | 7.0 GB | 141 W | $0.57 | 1.2M | |
RTX 3090 | 24 GB | 184.8 | 35 | 13.3 GB | 312 W | $0.46 | 1.4M | |
RTX A5000 | 24 GB | 171.2 | 35 | 7.1 GB | 216 W | $0.27 | 2.3M | |
A40 | 48 GB | 161.2 | 70 | 13.4 GB | 262 W | $0.44 | 1.3M | |
RTX A4500 | 20 GB | 149.2 | 30 | 9.1 GB | 191 W | $0.25 | 2.1M | |
RTX 4000 Ada | 20 GB | 127.9 | 30 | 6.5 GB | 98 W | $0.26 | 1.8M | |
L4 | 24 GB | 116 | 33 | 10.2 GB | 78 W | $0.39 | 1.1M | |
RTX 2000 Ada | 16 GB | 88 | 22 | 4.7 GB | 60 W | $0.24 | 1.3M |
Phương pháp luận huấn luyện
Chúng tôi sử dụng thông lượng huấn luyện — số ảnh được xử lý mỗi giây trong quá trình huấn luyện — làm thước đo; nó tương quan trực tiếp với thời gian hoàn thành giải pháp. Mỗi kết quả được đo trên GPU của Ultralytics Platform — cùng loại phần cứng NVIDIA bạn thuê để huấn luyện trên đám mây chỉ với một cú nhấp chuột, từ card máy trạm phổ thông đến các GPU trung tâm dữ liệu hàng đầu. Chúng tôi huấn luyện YOLO26 ở tất cả năm kích thước (n/s/m/l/x) để bạn có thể khớp model với ngân sách phần cứng của mình.
Cài đặt. 2 epoch trên 25% dữ liệu COCO tại 640px, AMP mixed precision, GPU đơn, với auto-batch (batch=-1) chọn batch lớn nhất phù hợp với bộ nhớ. Chúng tôi báo cáo epoch thứ hai ở trạng thái ổn định, loại bỏ quá trình khởi động epoch đầu tiên (cache tập dữ liệu, nắm bắt CUDA graph) và lượt validation cuối chạy. Batch size đã giải quyết, VRAM đỉnh (bao gồm ngữ cảnh CUDA) và công suất bo mạch đỉnh được ghi lại trực tiếp từ mỗi GPU.
Hiệu quả chi phí. Ảnh mỗi đô la = thông lượng × 3600 ÷ giá mỗi giờ, sử dụng giá theo yêu cầu trên Ultralytics Platform — nó thường làm thay đổi đáng kể thứ hạng, vì các card giá trị mang lại hiệu quả trên mỗi đô la cao hơn các GPU hàng đầu. Được đo trên ultralytics 8.4.68, torch 2.8, CUDA 12.8. Xem thêm tài liệu về chế độ Train và Benchmark.
Tốc độ suy luận GPU
Suy luận phát hiện YOLO26 trên các định dạng (PyTorch, ONNX, TensorRT) và độ chính xác (FP16, INT8) trên mọi NVIDIA GPU trên Platform, được tính thời gian tại batch 1. So sánh giữa các thiết bị hoặc theo kích thước model, chuyển đổi định dạng/độ chính xác và chỉ số biểu đồ, hoặc lọc theo thế hệ; bảng có thể sắp xếp cũng hiển thị độ chính xác (mAP) và hiệu quả chi phí.
H200 NVL | — | 3.18 | 315 | 0.395 | 5.3 MB | 1.32 GB | $3.39 | 334.1K | |
H100 NVL | — | 4.40 | 227 | 0.395 | 5.3 MB | 1.21 GB | $3.19 | 256.5K | |
RTX 5090 | — | 4.41 | 227 | 0.395 | 5.3 MB | 1.16 GB | $0.99 | 824K | |
RTX PRO 6000 | — | 4.55 | 220 | 0.395 | 5.3 MB | 1.36 GB | $2.09 | 378.8K | |
L4 | — | 4.98 | 201 | 0.395 | 5.3 MB | 0.85 GB | $0.39 | 1.9M | |
H200 SXM | — | 5.01 | 200 | 0.395 | 5.3 MB | 1.30 GB | $4.39 | 163.8K | |
RTX PRO 5000 | — | 5.39 | 185 | 0.395 | 5.3 MB | 1.01 GB | $0.96 | 695.3K | |
B300 | — | 5.44 | 184 | 0.395 | 5.3 MB | 1.73 GB | $7.39 | 89.5K | |
Apple M5 Pro | MPS | 5.67 | 177 | 0.395 | 5.3 MB | — | — | — | |
L40S | — | 6.17 | 162 | 0.395 | 5.3 MB | 1.17 GB | $0.86 | 678.6K | |
H100 SXM | — | 6.36 | 157 | 0.395 | 5.3 MB | 1.18 GB | $3.29 | 172K | |
RTX 4090 | — | 6.67 | 150 | 0.395 | 5.3 MB | 1.00 GB | $0.69 | 781.6K | |
RTX 6000 Ada | — | 7.25 | 138 | 0.395 | 5.3 MB | 1.19 GB | $0.77 | 645.2K | |
RTX PRO 4500 | — | 7.40 | 135 | 0.395 | 5.3 MB | 0.88 GB | $0.64 | 760.5K | |
RTX A6000 | — | 7.74 | 129 | 0.395 | 5.3 MB | 0.87 GB | $0.49 | 948.5K | |
H100 PCIe | — | 7.92 | 126 | 0.395 | 5.3 MB | 1.10 GB | $2.89 | 157.2K | |
A40 | — | 7.96 | 126 | 0.395 | 5.3 MB | 0.96 GB | $0.44 | 1M | |
RTX A5000 | — | 8.25 | 121 | 0.395 | 5.3 MB | 0.78 GB | $0.27 | 1.6M | |
B200 | — | 8.38 | 119 | 0.395 | 5.3 MB | — | $5.89 | 72.9K | |
RTX 2000 Ada | — | 8.41 | 119 | 0.395 | 5.3 MB | 0.62 GB | $0.24 | 1.8M | |
RTX PRO 4000 | — | 8.57 | 117 | 0.395 | 5.3 MB | 0.83 GB | $0.57 | 737.1K | |
A100 SXM | — | 8.72 | 115 | 0.395 | 5.3 MB | 1.34 GB | $1.49 | 276.9K | |
L40 | — | 8.76 | 114 | 0.395 | 5.3 MB | 1.26 GB | $0.99 | 414.9K | |
RTX 4000 Ada | — | 8.87 | 113 | 0.395 | 5.3 MB | 0.61 GB | $0.26 | 1.6M | |
RTX 3090 | — | 8.92 | 112 | 0.395 | 5.3 MB | 0.84 GB | $0.46 | 877.3K | |
RTX A4500 | — | 10.13 | 99 | 0.395 | 5.3 MB | 0.61 GB | $0.25 | 1.4M | |
A100 PCIe | — | 11.04 | 91 | 0.395 | 5.3 MB | 1.34 GB | $1.39 | 234.6K |
Phương pháp luận suy luận
Chúng tôi sử dụng độ trễ suy luận — mili giây trên mỗi ảnh tại batch 1 — làm thước đo; đây là điều quan trọng đối với việc triển khai thời gian thực. Mỗi kích thước YOLO26 được xuất ra định dạng và độ chính xác hiển thị, sau đó chúng tôi tính thời gian dự đoán ở trạng thái ổn định (đã loại trừ khởi động, thời gian mỗi lượt được cắt sigma) trên cùng các GPU Ultralytics Platform mà bạn triển khai.
Định dạng & độ chính xác. Trên NVIDIA GPU: PyTorch FP16, ONNX FP16 và TensorRT FP16/INT8 (TensorRT 11.1.0.106 qua NVIDIA ModelOpt). INT8 được hiệu chuẩn trên COCO128; độ chính xác (mAP50-95 trên COCO val2017) được đo một lần cho mỗi định dạng/độ chính xác và hiển thị trên mỗi hàng, do đó sự cân bằng giữa tốc độ↔độ chính xác được thể hiện rõ ràng. INT8 mang lại hiệu quả cao nhất trên các model lớn, bị giới hạn bởi tính toán — trên các model nhỏ nhất, chi phí định lượng có thể bằng hoặc hơi thấp hơn FP16. Suy luận ONNX chạy trên các GPU Ada/Ampere/Hopper (onnxruntime chưa có nhân Blackwell).
Apple Silicon. Các thiết bị Mac (ví dụ Apple M5 Pro) được cấu hình cục bộ và hợp nhất vào bảng — chọn một định dạng để so sánh trực tiếp với các GPU đám mây, hoặc lọc theo thế hệ Apple Silicon. CoreML chạy trên Neural Engine (đường dẫn Apple nhanh nhất, ~3× CPU), PyTorch trên GPU MPS và ONNX trên CPU; cột Backend của mỗi hàng nêu tên runtime. CoreML được tính thời gian với coremltools trên ANE — màn hình host tương đối, không phải con số thiết bị iPhone. Phần cứng sở hữu không có giá thuê, vì vậy hiệu quả chi phí (img/$) chỉ tính cho GPU.
Hiệu quả chi phí. Số lần suy luận mỗi đô la = FPS × 3600 ÷ giá mỗi giờ, sử dụng giá theo yêu cầu trên Ultralytics Platform. Được đo trên ultralytics 8.4.71, torch 2.12, CUDA 13.2. Xem thêm tài liệu về chế độ Predict và Benchmark.
Train on the Best GPUs for Less
26 NVIDIA GPUs starting at $0.24/hr — from Ampere to Blackwell. No markup, no minimums, no commitment.
Ready to build your next vision AI project?
Built on Ultralytics open source with 134.4k+ GitHub stars. Start training models in minutes.