Bằng cách nhấp vào “Chấp nhận tất cả Cookie”, bạn đồng ý với việc lưu trữ cookie trên thiết bị của mình để tăng cường khả năng điều hướng trang web, phân tích việc sử dụng trang web và hỗ trợ các nỗ lực tiếp thị của chúng tôi. Thêm thông tin
Cài đặt Cookie
Bằng cách nhấp vào “Chấp nhận tất cả Cookie”, bạn đồng ý với việc lưu trữ cookie trên thiết bị của mình để tăng cường khả năng điều hướng trang web, phân tích việc sử dụng trang web và hỗ trợ các nỗ lực tiếp thị của chúng tôi. Thêm thông tin
Tìm hiểu cách xuất khẩu Ultralytics YOLO11 theo định dạng OpenVINO™ cho phép suy luận cực nhanh trên phần cứng Intel®, nâng cao tốc độ, khả năng mở rộng và độ chính xác.
Việc ứng dụng AI phụ thuộc vào khả năng tiếp cận các giải pháp AI, và một phần lớn trong đó là làm cho chúng dễ dàng triển khai trên phần cứng mà mọi người đã có. Chạy các mô hình AI trên GPU (bộ xử lý đồ họa) là một lựa chọn tuyệt vời về hiệu suất và sức mạnh xử lý song song.
Tuy nhiên, thực tế là không phải ai cũng có quyền truy cập vào GPU cao cấp, đặc biệt là trong môi trường biên hoặc trên máy tính xách tay hàng ngày. Đó là lý do tại sao việc tối ưu hóa các mô hình để chạy hiệu quả trên phần cứng có sẵn rộng rãi hơn như bộ xử lý trung tâm (CPU), GPU tích hợp và bộ xử lý thần kinh (NPU) lại rất quan trọng.
Ví dụ, thị giác máy tính là một nhánh của AI, cho phép máy móc phân tích và hiểu hình ảnh và luồng video theo thời gian thực. Các mô hình AI thị giác như Ultralytics YOLO11 hỗ trợ các tác vụ chính như phát hiện đối tượng và phân đoạn thực thể, giúp tăng cường sức mạnh cho các ứng dụng từ phân tích bán lẻ đến chẩn đoán y tế .
Hình 1. Sử dụng Ultralytics YOLO11 ĐẾN detect Và segment các đồ vật trong một cửa hàng bán lẻ.
Để làm cho tầm nhìn máy tính có thể tiếp cận rộng rãi hơn, Ultralytics đã phát hành một bản tích hợp được cập nhật với OpenVINO bộ công cụ, là một dự án nguồn mở để tối ưu hóa và chạy suy luận AI trên CPU, GPU và NPU.
Với sự tích hợp này, việc xuất và triển khai trở nên dễ dàng hơn YOLO11 các mô hình có tốc độ suy luận nhanh hơn tới 3 lần trên CPU và hiệu suất được tăng tốc trên Intel GPU và NPU. Trong bài viết này, chúng tôi sẽ hướng dẫn cách sử dụng Ultralytics Python gói hàng xuất khẩu YOLO11 mô hình sang định dạng OpenVINO và sử dụng nó để suy luận. Hãy bắt đầu thôi!
Tổng quan về Ultralytics YOLO11
Trước khi chúng ta đi sâu vào chi tiết của OpenVINO tích hợp được hỗ trợ bởi Ultralytics , chúng ta hãy xem xét kỹ hơn những gì làm cho YOLO11 một mô hình thị giác máy tính đáng tin cậy và có tác động mạnh mẽ. YOLO11 là mô hình mới nhất trong Ultralytics YOLO loạt sản phẩm này mang lại những cải tiến đáng kể về cả tốc độ và độ chính xác.
Một trong những điểm nổi bật chính của nó là hiệu quả. Ví dụ, Ultralytics YOLO11m có ít hơn 22% tham số so với Ultralytics YOLOv8m , nhưng nó đạt được độ chính xác trung bình cao hơn ( mAP ) trên COCO tập dữ liệu. Điều này có nghĩa là nó chạy nhanh hơn và cũng phát hiện các đối tượng chính xác hơn, khiến nó trở nên lý tưởng cho các ứng dụng thời gian thực mà hiệu suất và khả năng phản hồi là rất quan trọng.
Hình 2. Ultralytics YOLO11 Tiêu chuẩn hiệu suất của.
Ngoài khả năng phát hiện vật thể, YOLO11 hỗ trợ nhiều tác vụ thị giác máy tính nâng cao như phân đoạn trường hợp, ước tính tư thế, phân loại hình ảnh, theo dõi đối tượng và phát hiện hộp giới hạn định hướng. YOLO11 cũng thân thiện với nhà phát triển, với Ultralytics Python gói cung cấp giao diện đơn giản và nhất quán để đào tạo, đánh giá và triển khai các mô hình.
Ngoài ra, Ultralytics Python gói hỗ trợ nhiều tích hợp khác nhau và nhiều định dạng xuất, bao gồm OpenVINO , ONNX , TorchScript , cho phép bạn dễ dàng tích hợp YOLO11 vào nhiều quy trình triển khai khác nhau. Cho dù bạn đang nhắm mục tiêu đến cơ sở hạ tầng đám mây, thiết bị biên hay hệ thống nhúng, quy trình xuất dữ liệu đều đơn giản và có thể điều chỉnh theo nhu cầu phần cứng của bạn.
OpenVINO™ là gì?
OpenVINO™ (Open Visual Inference and Neural Network Optimization) là một bộ công cụ nguồn mở dùng để tối ưu hóa và triển khai suy luận AI trên nhiều loại phần cứng. Nó cho phép các nhà phát triển chạy các ứng dụng suy luận hiệu suất cao một cách hiệu quả trên nhiều nền tảng khác nhau. Intel nền tảng, bao gồm CPU, GPU tích hợp và rời rạc, NPU và mảng cổng lập trình được (FPGA).
OpenVINO cung cấp một giao diện thời gian chạy thống nhất, trừu tượng hóa sự khác biệt về phần cứng thông qua các plugin dành riêng cho thiết bị. Điều này có nghĩa là các nhà phát triển có thể viết mã một lần và triển khai trên nhiều nền tảng. Intel mục tiêu phần cứng sử dụng API nhất quán.
Dưới đây là một số tính năng chính làm nên OpenVINO một lựa chọn tuyệt vời cho việc triển khai:
Bộ chuyển đổi mô hình : Công cụ này chuyển đổi và chuẩn bị các mô hình từ các khuôn khổ phổ biến như PyTorch , ONNX , TensorFlow , PaddlePaddle và những thứ khác, để chúng có thể được tối ưu hóa cho suy luận hiệu quả về Intel phần cứng.
Thực thi không đồng nhất : Bạn không cần phải viết lại mã của mình cho các Intel phần cứng. OpenVINO giúp dễ dàng chạy cùng một mô hình trên bất kỳ phần cứng được hỗ trợ nào, từ CPU đến GPU.
Hỗ trợ lượng tử hóa (Quantization): Bộ công cụ hỗ trợ các định dạng giảm độ chính xác như FP16 (mặc định) và INT8, giúp giảm kích thước mô hình và tăng tốc suy luận mà không ảnh hưởng đáng kể đến độ chính xác.
Hình 3. OpenVINO cho phép nhiều tùy chọn triển khai khác nhau.
Khám phá Ultralytics x OpenVINO tích hợp
Bây giờ chúng ta đã khám phá những gì OpenVINO là gì và ý nghĩa của nó, chúng ta hãy thảo luận về cách xuất khẩu YOLO11 các mô hình cho OpenVINO định dạng và chạy suy luận hiệu quả trên Intel phần cứng.
Bước 1: Cài đặt Ultralytics Python bưu kiện
Để xuất một mô hình sang OpenVINO định dạng, trước tiên bạn cần cài đặt gói Ultralytics Python . Gói này cung cấp mọi thứ bạn cần để đào tạo, đánh giá và xuất YOLO các mô hình, bao gồm YOLO11 .
Bạn có thể cài đặt nó bằng cách chạy lệnh " pip install ultralytics " trong terminal hoặc dấu nhắc lệnh. Nếu bạn đang làm việc trong môi trường tương tác như Jupyter Notebook hoặc Google Colab, chỉ cần thêm dấu chấm than trước lệnh.
Ngoài ra, nếu bạn gặp bất kỳ sự cố nào trong quá trình cài đặt hoặc khi xuất, Ultralytics tài liệu hướng dẫn và khắc phục sự cố là những nguồn tài nguyên tuyệt vời giúp bạn quay lại track .
Bước 2: Xuất bản của bạn YOLO11 mô hình để OpenVINO định dạng
Một khi Ultralytics gói được thiết lập, bước tiếp theo là tải YOLO11 mô hình và chuyển đổi nó thành định dạng tương thích với OpenVINO .
Trong ví dụ dưới đây, chúng tôi đang sử dụng một YOLO11 mô hình (“yolo11n.pt”). Chức năng xuất được sử dụng để chuyển đổi nó thành OpenVINO định dạng. Sau khi chạy mã này, mô hình đã chuyển đổi sẽ được lưu trong một thư mục mới có tên “yolo11n_openvino_model”.
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="openvino")
Bước 3: Chạy inference (suy luận) với mô hình đã xuất
Một khi bạn YOLO11 mô hình được xuất sang OpenVINO định dạng, bạn có thể chạy suy luận theo hai cách: sử dụng Ultralytics Python gói hoặc bản địa OpenVINO Thời gian chạy.
Sử dụng Ultralytics Python bưu kiện
Xuất khẩu YOLO11 mô hình có thể dễ dàng triển khai bằng cách sử dụng Ultralytics Python gói, như được hiển thị trong đoạn mã bên dưới. Phương pháp này lý tưởng cho việc thử nghiệm nhanh chóng và triển khai hợp lý trên Intel phần cứng.
Bạn cũng có thể chỉ định thiết bị nào sẽ sử dụng để suy luận, chẳng hạn như " intel : cpu ", " intel : gpu ", hoặc " intel :npu", tùy thuộc vào Intel phần cứng có sẵn trên hệ thống của bạn.
Sau khi chạy đoạn mã trên, hình ảnh đầu ra sẽ được lưu trong thư mục "runs/ detect thư mục "/predict".
Hình 4. Sử dụng dữ liệu đã xuất YOLO11 mô hình để detect các đối tượng trong một hình ảnh.
Sử dụng bản địa OpenVINO Thời gian chạy
Nếu bạn đang tìm kiếm một cách tùy chỉnh để chạy suy luận, đặc biệt là trong môi trường sản xuất, OpenVINO Runtime cho phép bạn kiểm soát tốt hơn cách mô hình của mình được thực thi. Nó hỗ trợ các tính năng nâng cao như thực thi không đồng bộ (chạy nhiều yêu cầu suy luận song song) và cân bằng tải (phân phối khối lượng công việc suy luận hiệu quả trên toàn hệ thống). Intel phần cứng).
Để sử dụng native runtime, bạn sẽ cần các tệp mô hình đã xuất: tệp .xml (xác định kiến trúc mạng) và tệp .bin (lưu trữ trọng số đã huấn luyện của mô hình). Bạn cũng có thể định cấu hình các tham số bổ sung như kích thước đầu vào hoặc các bước tiền xử lý tùy thuộc vào ứng dụng của bạn.
Một luồng triển khai điển hình bao gồm việc khởi tạo OpenVINO lõi, tải và biên dịch mô hình cho thiết bị mục tiêu, chuẩn bị dữ liệu đầu vào và thực hiện suy luận. Để biết ví dụ chi tiết và hướng dẫn từng bước, hãy tham khảo tài liệu chính thức Ultralytics OpenVINO .
Tại sao chọn Ultralytics x OpenVINO tích hợp?
Trong khi khám phá Ultralytics tích hợp, bạn sẽ nhận thấy rằng Ultralytics Python gói hỗ trợ xuất khẩu YOLO11 các mô hình thành nhiều định dạng khác nhau như TorchScript , CoreML , TensorRT , Và ONNX . Vậy, tại sao lại chọn OpenVINO tích hợp?
Dưới đây là một số lý do tại sao OpenVINO định dạng xuất khẩu rất phù hợp để triển khai các mô hình trên Intel phần cứng:
Tăng hiệu suất: Bạn có thể trải nghiệm tốc độ suy luận nhanh hơn tới 3 lần trên Intel CPU, có khả năng tăng tốc bổ sung trên GPU và NPU tích hợp.
Không cần đào tạo lại : Bạn có thể xuất dữ liệu hiện có của mình YOLO11 mô hình trực tiếp đến OpenVINO định dạng mà không cần sửa đổi hoặc đào tạo lại chúng.
Được xây dựng để mở rộng quy mô (Built for scale): Cùng một mô hình đã xuất có thể được triển khai trên các thiết bị biên có công suất thấp và cơ sở hạ tầng đám mây quy mô lớn, đơn giản hóa việc triển khai AI có khả năng mở rộng.
Bạn cũng có thể đánh giá các tiêu chuẩn hiệu suất cho YOLO11 mô hình trên nhiều nền tảng Intel® trên OpenVINO™ Model Hub. OpenVINO Model Hub là một nguồn tài nguyên để các nhà phát triển đánh giá các mô hình AI trên Intel phần cứng và khám phá lợi thế về hiệu suất của OpenVINO sang Intel CPU, GPU tích hợp, NPU và đồ họa rời.
Hình 5. Trung tâm mô hình OpenVINO™: Điểm chuẩn hiệu suất cho YOLO11 Mô hình trên nhiều nền tảng Intel®.
Ứng dụng của YOLO11 và OpenVINO định dạng xuất khẩu
Với sự giúp đỡ của OpenVINO tích hợp, triển khai YOLO11 các mô hình trên khắp Intel phần cứng trong các tình huống thực tế trở nên đơn giản hơn nhiều.
Một ví dụ tuyệt vời là bán lẻ thông minh, nơi YOLO11 có thể giúp detect kệ hàng trống trong thời gian thực, track sản phẩm nào sắp hết hàng và phân tích cách khách hàng di chuyển trong cửa hàng. Điều này cho phép các nhà bán lẻ cải thiện việc quản lý hàng tồn kho và tối ưu hóa bố cục cửa hàng để thu hút khách hàng tốt hơn.
Tương tự như vậy, ở các thành phố thông minh, YOLO11 có thể được sử dụng để giám sát giao thông bằng cách đếm số lượng phương tiện, theo dõi người đi bộ và phát hiện vi phạm đèn đỏ theo thời gian thực. Những thông tin chi tiết này có thể hỗ trợ tối ưu hóa luồng giao thông, cải thiện an toàn đường bộ và hỗ trợ các hệ thống thực thi pháp luật tự động.
Một trường hợp sử dụng thú vị khác là kiểm tra công nghiệp, trong đó YOLO11 có thể được triển khai trên các dây chuyền sản xuất để tự động detect Các khuyết tật trực quan như thiếu linh kiện, sai lệch hoặc hư hỏng bề mặt. Điều này giúp tăng hiệu quả, giảm chi phí và hỗ trợ chất lượng sản phẩm tốt hơn.
Các yếu tố chính cần xem xét khi sử dụng OpenVINO bộ công cụ
Trong khi triển khai YOLO11 các mô hình với OpenVINO Dưới đây là một số điều quan trọng cần ghi nhớ để có được kết quả tốt nhất:
Kiểm tra khả năng tương thích của phần cứng : Đảm bảo Intel phần cứng, cho dù đó là CPU , tích hợp GPU , hoặc NPU, được hỗ trợ bởi OpenVINO để mô hình có thể chạy hiệu quả.
Cài đặt trình điều khiển phù hợp : Nếu bạn đang sử dụng Intel GPU hoặc NPU, hãy kiểm tra lại xem tất cả trình điều khiển cần thiết đã được cài đặt đúng cách và cập nhật chưa.
Hiểu đượcsự đánh đổivề độ chính xác : OpenVINO hỗ trợ độ chính xác của mô hình FP32, FP16 và INT8. Mỗi mô hình đều có sự đánh đổi giữa tốc độ và độ chính xác, vì vậy điều quan trọng là phải chọn đúng tùy chọn dựa trên mục tiêu hiệu suất và phần cứng hiện có của bạn.
Những điều cần nhớ
Xuất khẩu Ultralytics YOLO11 đến OpenVINO định dạng giúp dễ dàng chạy các mô hình Vision AI nhanh chóng và hiệu quả trên Intel phần cứng. Bạn có thể triển khai trên CPU, GPU và NPU mà không cần phải đào tạo lại hoặc thay đổi mã. Đây là một cách tuyệt vời để tăng hiệu suất trong khi vẫn giữ mọi thứ đơn giản và có khả năng mở rộng.
Với sự hỗ trợ được xây dựng vào Ultralytics Python gói, xuất và chạy suy luận với OpenVINO rất đơn giản. Chỉ trong vài bước, bạn có thể tối ưu hóa mô hình của mình và chạy nó trên nhiều Intel nền tảng. Cho dù bạn đang làm việc về bán lẻ thông minh, giám sát giao thông hay kiểm tra công nghiệp, quy trình làm việc này sẽ giúp bạn chuyển từ phát triển sang triển khai một cách nhanh chóng và tự tin.
Đăng ký tham dự hội thảo trực tuyến sắp tới của chúng tôi để xem Ultralytics × OpenVINO tích hợp trong thực tế và truy cập trang web OpenVINO để khám phá các công cụ tối ưu hóa và triển khai AI ở quy mô lớn.
.webp)