Xuất và tối ưu hóa Ultralytics YOLOv8 để suy luận trên Intel OpenVINO
Tối ưu hóa mô hình Ultralytics YOLOv8 của bạn để suy luận bằng OpenVINO. Làm theo hướng dẫn của chúng tôi để chuyển đổi các mô hình PyTorch sang ONNX và tối ưu hóa chúng cho các ứng dụng thời gian thực.
Trong bài blog này, chúng ta sẽ cùng tìm hiểu cách xuất và tối ưu hóa mô hình Ultralytics YOLOv8 đã được huấn luyện trước hoặc tùy chỉnh của bạn để thực hiện inference bằng OpenVINO. Nếu bạn đang sử dụng hệ thống dựa trên Intel, dù là CPU hay GPU, hướng dẫn này sẽ chỉ cho bạn cách tăng tốc đáng kể mô hình của mình mà không tốn nhiều công sức.
Link to this sectionTại sao nên tối ưu hóa YOLOv8 bằng OpenVINO?#
Việc tối ưu hóa mô hình YOLOv8 của bạn với OpenVINO có thể tăng tốc độ inference lên tới 3 lần, đặc biệt là nếu bạn đang chạy trên CPU Intel. Sự cải thiện hiệu suất này có thể tạo ra khác biệt lớn trong các ứng dụng thời gian thực, từ object detection cho đến segmentation và các hệ thống an ninh.
Link to this sectionCác bước xuất và tối ưu hóa mô hình YOLOv8 của bạn#
Link to this sectionTìm hiểu về quy trình#
Đầu tiên, hãy phân tích quy trình này. Chúng ta sẽ chuyển đổi một mô hình PyTorch sang ONNX và sau đó tối ưu hóa nó bằng OpenVINO. Quy trình này bao gồm một vài bước đơn giản và có thể áp dụng cho nhiều mô hình cũng như định dạng khác nhau bao gồm TensorFlow, PyTorch, Caffe và ONNX.
Link to this sectionXuất mô hình#
Khi đi sâu vào tài liệu của Ultralytics, chúng ta thấy rằng việc xuất một mô hình YOLOv8 liên quan đến việc sử dụng phương thức export từ framework Ultralytics. Phương thức này cho phép chúng ta chuyển đổi mô hình từ PyTorch sang ONNX, và cuối cùng là tối ưu hóa nó cho OpenVINO. Kết quả là một mô hình chạy nhanh hơn đáng kể, tận dụng tối đa phần cứng mạnh mẽ của Intel.
Link to this sectionCài đặt các phần phụ thuộc#
Trước khi chạy tập lệnh xuất, bạn cần đảm bảo rằng tất cả các phần phụ thuộc cần thiết đã được cài đặt. Chúng bao gồm thư viện Ultralytics, ONNX và OpenVINO. Việc cài đặt các gói này là một quy trình đơn giản có thể được thực hiện thông qua pip, trình cài đặt gói Python.
Link to this sectionChạy tập lệnh xuất#
Sau khi thiết lập môi trường, bạn có thể chạy tập lệnh xuất của mình. Tập lệnh này sẽ chuyển đổi mô hình PyTorch của bạn sang ONNX và sau đó sang OpenVINO. Quy trình này rất đơn giản và chỉ cần gọi một hàm duy nhất để xử lý việc xuất. Framework Ultralytics giúp việc chuyển đổi và tối ưu hóa các mô hình của bạn trở nên dễ dàng, đảm bảo bạn đạt được hiệu suất tốt nhất mà không gặp rắc rối.
Hình 1. Nicolai Nielsen phác thảo cách chạy tập lệnh xuất.
Link to this sectionSo sánh hiệu suất#
Sau khi xuất, việc so sánh hiệu suất giữa mô hình gốc và mô hình đã tối ưu hóa là rất quan trọng. Bằng cách benchmark thời gian inference của cả hai mô hình, bạn có thể thấy rõ những cải thiện về hiệu suất. Thông thường, mô hình OpenVINO sẽ cho thấy thời gian inference giảm đáng kể so với mô hình PyTorch gốc. Điều này đặc biệt đúng với các mô hình lớn hơn, nơi mà sự cải thiện hiệu suất rõ rệt nhất.
Link to this sectionỨng dụng và lợi ích thực tế#
Việc tối ưu hóa các mô hình YOLOv8 với OpenVINO đặc biệt có lợi cho các ứng dụng yêu cầu xử lý thời gian thực. Dưới đây là một vài ví dụ:
- Hệ thống An ninh: Object detection thời gian thực có thể cảnh báo ngay lập tức cho nhân viên an ninh, tăng cường tính an toàn và khả năng phản ứng.
- Phương tiện Tự hành: Tốc độ inference nhanh hơn giúp cải thiện khả năng phản hồi của các hệ thống lái tự động, giúp chúng an toàn và đáng tin cậy hơn.
- Chăm sóc Sức khỏe: Xử lý hình ảnh nhanh cho các công cụ chẩn đoán có thể cứu sống người bệnh bằng cách cung cấp kết quả nhanh hơn, cho phép can thiệp kịp thời.
Bằng cách thực hiện các tối ưu hóa này, bạn không chỉ cải thiện hiệu suất mà còn nâng cao độ tin cậy và hiệu quả cho các ứng dụng của mình. Điều này có thể dẫn đến trải nghiệm người dùng tốt hơn, tăng năng suất và nhiều giải pháp sáng tạo hơn.
Link to this sectionTóm tắt#
Việc xuất và tối ưu hóa mô hình YOLOv8 cho OpenVINO là một cách mạnh mẽ để tận dụng phần cứng Intel cho các ứng dụng AI nhanh hơn và hiệu quả hơn. Chỉ với một vài bước đơn giản, bạn có thể thay đổi hiệu suất của mô hình và áp dụng nó vào các kịch bản thực tế một cách hiệu quả.
Hãy nhớ xem thêm các hướng dẫn từ Ultralytics để tiếp tục nâng cao các dự án AI của bạn. Truy cập GitHub repository của chúng tôi và tham gia cộng đồng Ultralytics để có thêm thông tin chi tiết và cập nhật. Hãy cùng đổi mới!
Hãy nhớ rằng, tối ưu hóa các mô hình của bạn không chỉ là về tốc độ—mà còn là về việc mở ra những khả năng mới và đảm bảo các giải pháp AI của bạn mạnh mẽ, hiệu quả và sẵn sàng cho tương lai.
