Cách benchmark các mô hình Ultralytics YOLO như YOLO11

Với số lượng model AI ngày càng tăng hiện nay, việc lựa chọn model phù hợp nhất cho ứng dụng AI cụ thể của bạn là yếu tố thiết yếu để đạt được kết quả chính xác và tin cậy. Mỗi model đều khác nhau về tốc độ, độ chính xác và hiệu suất tổng thể. Vậy làm thế nào để xác định model nào phù hợp nhất cho một tác vụ nhất định? Điều này đặc biệt quan trọng đối với các hệ thống thời gian thực như xe tự hành, các giải pháp an ninh và robot, nơi việc ra quyết định nhanh chóng và đáng tin cậy là rất quan trọng.

Benchmarking giúp giải đáp câu hỏi này bằng cách đánh giá model trong các điều kiện khác nhau. Nó cung cấp thông tin chi tiết về hiệu suất của model trên các thiết lập phần cứng và cấu hình đa dạng, cho phép đưa ra các quyết định sáng suốt hơn.

Ví dụ, Ultralytics YOLO11 là một model computer vision hỗ trợ nhiều tác vụ phân tích dữ liệu hình ảnh như object detection và instance segmentation. Để hiểu rõ năng lực của model, bạn có thể benchmark hiệu suất trên các thiết lập khác nhau để xem cách nó xử lý các kịch bản thực tế.

Trong bài viết này, chúng ta sẽ khám phá cách benchmark các Ultralytics YOLO models như YOLO11, so sánh hiệu suất trên nhiều phần cứng khác nhau và xem các định dạng export khác nhau ảnh hưởng thế nào đến tốc độ và hiệu quả. Hãy bắt đầu nhé!

Link to this sectionModel benchmarking là gì?#

Khi sử dụng một model vision AI trong ứng dụng thực tế, làm thế nào để bạn biết liệu nó có đủ nhanh, chính xác và đáng tin cậy không? Benchmarking model có thể cung cấp thông tin để giải đáp điều này. Model benchmarking là quá trình thử nghiệm và so sánh các model AI khác nhau để xem model nào hoạt động tốt nhất.

Quá trình này bao gồm thiết lập baseline để so sánh, chọn các thước đo hiệu suất phù hợp (như độ chính xác hoặc tốc độ) và thử nghiệm tất cả các model trong cùng điều kiện. Kết quả giúp xác định điểm mạnh và điểm yếu của từng model, giúp việc quyết định model nào phù hợp nhất cho AI solution của bạn trở nên dễ dàng hơn. Đặc biệt, một benchmark dataset thường được sử dụng để cung cấp sự so sánh công bằng và đánh giá mức độ hiệu quả của model trong các kịch bản thực tế khác nhau.

Hình 1. Tại sao cần benchmark các model computer vision? Hình ảnh bởi tác giả.

Một ví dụ rõ ràng về lý do tại sao benchmarking là thiết yếu là trong các ứng dụng thời gian thực như giám sát hoặc robot, nơi ngay cả những độ trễ nhỏ cũng có thể ảnh hưởng đến việc ra quyết định. Benchmarking giúp đánh giá xem liệu model có thể xử lý hình ảnh nhanh chóng trong khi vẫn đưa ra các dự đoán đáng tin cậy hay không.

Nó cũng đóng vai trò chính trong việc xác định các nút thắt cổ chai về hiệu suất. Nếu một model chạy chậm hoặc sử dụng tài nguyên quá mức, benchmarking có thể tiết lộ liệu vấn đề xuất phát từ giới hạn phần cứng, cấu hình model hay định dạng export. Những thông tin này rất quan trọng để chọn cấu hình hiệu quả nhất.

Link to this sectionSo sánh model benchmarking với model evaluation và testing#

Model benchmarking, evaluation và testing là những thuật ngữ AI phổ biến thường được sử dụng cùng nhau. Mặc dù tương tự, chúng không giống nhau và có các chức năng khác nhau. Model testing kiểm tra mức độ hiệu quả của một model đơn lẻ bằng cách chạy nó trên một tập dữ liệu test và đo lường các yếu tố như độ chính xác và tốc độ. Trong khi đó, model evaluation tiến thêm một bước bằng cách phân tích kết quả để hiểu điểm mạnh, điểm yếu của model và mức độ hoạt động của nó trong các tình huống thực tế. Cả hai đều tập trung vào chỉ một model tại một thời điểm.

Ngược lại, model benchmarking so sánh nhiều model cạnh nhau bằng cách sử dụng các bài kiểm tra và tập dữ liệu giống nhau. Nó giúp tìm ra model nào hoạt động tốt nhất cho một tác vụ cụ thể bằng cách nêu bật sự khác biệt về độ chính xác, tốc độ và hiệu quả giữa chúng. Trong khi testing và evaluation tập trung vào một model đơn lẻ, benchmarking giúp chọn model phù hợp (hoặc tốt nhất) bằng cách so sánh các tùy chọn khác nhau một cách công bằng.

Hình 2. Sự khác biệt giữa model benchmarking với evaluation và testing. Hình ảnh bởi tác giả.

Link to this sectionTổng quan về Ultralytics YOLO11#

Ultralytics YOLO11 là một model vision AI tin cậy được thiết kế để thực hiện các computer vision tasks một cách chính xác. Nó cải thiện dựa trên các phiên bản model YOLO trước đó và được tích hợp các tính năng giúp giải quyết các vấn đề thực tế. Ví dụ, nó có thể được sử dụng để phát hiện đối tượng, phân loại hình ảnh, phân vùng vùng, theo dõi chuyển động và nhiều hơn nữa. Nó cũng có thể được sử dụng trong các ứng dụng trên nhiều ngành công nghiệp, từ an ninh đến tự động hóa và phân tích.

Hình 3. Một ví dụ về việc sử dụng YOLO11 để phân vùng người trong hình ảnh.

Một trong những lợi ích chính liên quan đến Ultralytics YOLO11 là sự dễ dàng sử dụng. Chỉ với vài dòng code, bất kỳ ai cũng có thể tích hợp nó vào các dự án AI của mình mà không cần xử lý các thiết lập phức tạp hoặc đòi hỏi chuyên môn kỹ thuật cao.

Nó cũng hoạt động mượt mà trên các phần cứng khác nhau, chạy hiệu quả trên CPU (Central Processing Units), GPU (Graphics Processing Units) và các bộ tăng tốc AI chuyên dụng khác. Cho dù triển khai trên thiết bị edge hay server đám mây, nó đều mang lại hiệu suất mạnh mẽ.

YOLO11 có sẵn với nhiều kích thước model, mỗi kích thước được tối ưu hóa cho các tác vụ khác nhau. Benchmarking giúp xác định phiên bản nào phù hợp nhất với nhu cầu cụ thể của bạn. Ví dụ, một thông tin chi tiết chính mà benchmarking có thể tiết lộ là các model nhỏ hơn, như nano hoặc small, thường chạy nhanh hơn nhưng có thể phải đánh đổi một chút về độ chính xác.

Link to this sectionCách benchmark các model YOLO như YOLO11#

Bây giờ chúng ta đã hiểu benchmarking là gì và tầm quan trọng của nó. Hãy cùng tìm hiểu cách bạn có thể benchmark các model YOLO như YOLO11 và đánh giá hiệu quả của chúng để thu thập những thông tin giá trị.

Để bắt đầu, bạn có thể cài đặt Ultralytics Python package bằng cách chạy lệnh sau trong terminal hoặc command prompt: “pip install ultralytics”. Nếu bạn gặp bất kỳ vấn đề nào trong quá trình cài đặt, hãy kiểm tra Common Issues Guide để biết các mẹo khắc phục sự cố.

Sau khi gói được cài đặt, bạn có thể dễ dàng benchmark YOLO11 chỉ với vài dòng code Python:

from ultralytics.utils.benchmarks import benchmark

# Benchmark on GPU
benchmark(model="yolo11n.pt", data="coco8.yaml", imgsz=640, half=False, device=0)

Khi bạn chạy đoạn code được hiển thị ở trên, nó sẽ tính toán tốc độ xử lý hình ảnh của model, số lượng frame có thể xử lý trong một giây và độ chính xác trong việc phát hiện đối tượng.

Việc nhắc đến “coco8.yaml” trong code đề cập đến file cấu hình tập dữ liệu dựa trên COCO8 (Common Objects in Context) dataset - một phiên bản mẫu nhỏ của tập dữ liệu COCO đầy đủ, thường được sử dụng để kiểm tra và thử nghiệm.

Nếu bạn đang kiểm tra YOLO11 cho một ứng dụng cụ thể, như giám sát giao thông hoặc hình ảnh y tế, việc sử dụng tập dữ liệu phù hợp (ví dụ: tập dữ liệu giao thông hoặc tập dữ liệu y tế) sẽ mang lại thông tin chi tiết chính xác hơn. Benchmarking với COCO cung cấp cái nhìn tổng quan về hiệu suất, nhưng để có kết quả tốt nhất, bạn có thể chọn tập dữ liệu phản ánh chính xác trường hợp sử dụng thực tế của bạn.

Link to this sectionHiểu các kết quả benchmark của YOLO11#

Sau khi YOLO11 đã được benchmark, bước tiếp theo là diễn giải kết quả. Sau khi chạy benchmark, bạn sẽ thấy nhiều số liệu trong kết quả. Những chỉ số này giúp đánh giá mức độ hiệu quả của YOLO11 về mặt độ chính xác và tốc độ.

Dưới đây là một số chỉ số benchmark YOLO11 đáng chú ý cần theo dõi:

• mAP50-95: Chỉ số này đo lường độ chính xác của object detection. Giá trị cao hơn có nghĩa là model nhận diện đối tượng tốt hơn.
• accuracy_top5: Thường được sử dụng cho các tác vụ phân loại. Nó cho thấy nhãn đúng xuất hiện bao nhiêu lần trong năm dự đoán hàng đầu.
• Inference time: Thời gian xử lý một hình ảnh duy nhất, được đo bằng mili giây. Giá trị thấp hơn có nghĩa là xử lý nhanh hơn.

Hình 4. Một biểu đồ hiển thị hiệu suất benchmark của YOLO11.

Link to this sectionCác yếu tố khác cần xem xét khi benchmark YOLO11#

Chỉ nhìn vào kết quả benchmark thì chưa thể nói lên toàn bộ câu chuyện. Để hiểu rõ hơn về hiệu suất, việc so sánh các cài đặt và tùy chọn phần cứng khác nhau là rất hữu ích. Dưới đây là một vài điểm quan trọng cần xem xét:

• GPU so với CPU: GPU có thể xử lý hình ảnh nhanh hơn nhiều so với CPU. Benchmarking giúp bạn thấy liệu CPU có đủ nhanh cho nhu cầu của bạn không hay bạn sẽ được hưởng lợi từ việc sử dụng GPU.
• Cài đặt độ chính xác (FP32, FP16, INT8): Những cài đặt này kiểm soát cách model xử lý các con số. Độ chính xác thấp hơn (như FP16 hoặc INT8) làm cho model chạy nhanh hơn và sử dụng ít bộ nhớ hơn, nhưng có thể làm giảm một chút độ chính xác.
• Export formats: Chuyển đổi model sang một định dạng như TensorRT có thể làm nó chạy nhanh hơn nhiều trên một số phần cứng nhất định. Điều này hữu ích nếu bạn đang tối ưu hóa tốc độ trên các thiết bị cụ thể.

Link to this sectionCách benchmark YOLO11 trên phần cứng khác nhau#

Ultralytics Python package cho phép bạn chuyển đổi các model YOLO11 sang các định dạng khác nhau chạy hiệu quả hơn trên phần cứng cụ thể, cải thiện cả tốc độ và mức sử dụng bộ nhớ. Mỗi định dạng export được tối ưu hóa cho các thiết bị khác nhau.

Một mặt, ONNX format có thể tăng tốc hiệu suất trên nhiều môi trường khác nhau. Mặt khác, OpenVINO cải thiện hiệu quả trên phần cứng Intel, và các định dạng như CoreML hoặc TF SavedModel là lý tưởng cho các thiết bị Apple và ứng dụng di động.

Hãy cùng xem cách bạn có thể benchmark YOLO11 ở một định dạng cụ thể. Đoạn code dưới đây benchmark YOLO11 ở định dạng ONNX, được sử dụng rộng rãi để chạy các model AI trên cả CPU và GPU.

from ultralytics.utils.benchmarks import benchmark

# Benchmark a specific export format (e.g., ONNX)
benchmark(model="yolo11n.pt", data="coco8.yaml", imgsz=640, format="onnx")

Ngoài các kết quả benchmark, việc chọn định dạng phù hợp phụ thuộc vào thông số kỹ thuật hệ thống và nhu cầu triển khai của bạn. Ví dụ, self-driving cars cần khả năng phát hiện đối tượng nhanh. Nếu bạn dự định sử dụng GPU NVIDIA để tăng tốc hiệu suất, định dạng TensorRT là lựa chọn lý tưởng để chạy YOLO11 trên GPU NVIDIA.

Hình 5. Sử dụng YOLO11 cho object detection trên xe tự hành.

Link to this sectionCác điểm chính cần lưu ý#

Ultralytics Python package giúp việc benchmark YOLO11 trở nên dễ dàng bằng cách cung cấp các lệnh đơn giản có thể xử lý việc kiểm tra hiệu suất cho bạn. Chỉ với vài bước, bạn có thể thấy cách các thiết lập khác nhau ảnh hưởng đến tốc độ và độ chính xác của model, giúp bạn đưa ra những lựa chọn sáng suốt mà không cần đòi hỏi chuyên môn kỹ thuật sâu.

Phần cứng và cài đặt phù hợp cũng có thể tạo ra sự khác biệt lớn. Việc điều chỉnh các tham số như kích thước model và tập dữ liệu cho phép bạn tinh chỉnh YOLO11 để đạt hiệu suất tốt nhất, cho dù bạn đang chạy nó trên một GPU cao cấp hay cục bộ trên một thiết bị edge.

Kết nối với our community và khám phá các dự án AI tiên tiến trên our GitHub repository. Tìm hiểu về tác động của AI in agriculture và vai trò của computer vision in manufacturing thông qua các trang giải pháp của chúng tôi. Khám phá our licensing plans và bắt đầu hành trình AI của bạn ngay bây giờ!