Đạt tốc độ suy luận nhanh hơn với Ultralytics YOLOv8 & OpenVINO của Intel

Tốc độ và hiệu quả là yếu tố then chốt khi triển khai model trí tuệ nhân tạo. Ultralytics vui mừng chia sẻ tích hợp mới nhất với bộ công cụ OpenVINO™ của Intel, giúp triển khai model AI đã tối ưu trên phần cứng Intel dễ dàng hơn. Sự hợp tác với Intel này kết hợp sức mạnh của các model Ultralytics YOLOv8 với hiệu quả của OpenVINO™ của Intel, tăng tốc tới 3 lần trên CPU và cải thiện hiệu năng trên hệ sinh thái phần cứng rộng lớn của Intel, bao gồm GPU tích hợp, GPU rời và VPU.

Điều gì làm nên sự đặc biệt của tích hợp này?#

Bộ công cụ OpenVINO™ của Intel được thiết kế để tối đa hóa hiệu năng model AI trên phần cứng Intel. Ngoài thị giác, OpenVINO™ hỗ trợ nhiều tác vụ, từ xử lý ngôn ngữ đến phân tích âm thanh. Bằng cách tối ưu hóa model YOLOv8 cho OpenVINO™, Ultralytics giúp người dùng suy luận AI nhanh hơn và hiệu quả hơn, dù họ đang phát triển ứng dụng phân tích video, thành phố thông minh hay bán lẻ thế hệ mới.

Để xem hướng dẫn chi tiết về cách xuất và tối ưu model Ultralytics YOLOv8 cho suy luận bằng OpenVINO™, hãy tham khảo hướng dẫn từng bước xuất YOLOv8 sang OpenVINO.

Tìm hiểu sơ lược về quy trình#

Hãy tưởng tượng bạn có thể xuất trực tiếp model Ultralytics YOLOv8 sang một định dạng được tối ưu riêng cho tốc độ và hiệu quả. Đó chính là điều mà tích hợp này mang lại. Chỉ với vài dòng code, nhà phát triển có thể chuyển model YOLOv8 thành phiên bản tương thích với OpenVINO™, sẵn sàng tận dụng khả năng tăng tốc phần cứng do Intel cung cấp. Nhờ đó, việc chạy các ứng dụng AI trước đây bị giới hạn bởi năng lực tính toán trở nên khả thi.

Ưu thế của OpenVINO: Đơn giản hóa quá trình phát triển AI#

Tích hợp giữa Ultralytics và Intel là một bước tiến thiết thực trong quy trình phát triển AI. Bằng cách kết hợp YOLOv8 với OpenVINO™, nhà phát triển có được phương thức hiệu quả để sử dụng CPU Intel®, vốn đóng vai trò trung tâm trong hoạt động điện toán ở nhiều lĩnh vực. Điều này giúp AI dễ tiếp cận và hiệu quả hơn trong các ứng dụng thực tế.

Sử dụng OpenVINO™ giúp tối ưu hóa quy trình suy luận để model Ultralytics YOLOv8 chạy hiệu quả trong điều kiện thực tế. Nhờ đó, có thể nhanh chóng triển khai giải pháp AI trên nhiều loại thiết bị mà không cần cấu hình GPU tốn kém, mở rộng khả năng ứng dụng trong các lĩnh vực như sáng kiến thành phố thông minh và trải nghiệm khách hàng bán lẻ.

Lợi ích trong thực tế#

• Hiệu năng nâng cao: Trải nghiệm suy luận AI trên CPU nhanh hơn đến 3 lần, với mức tăng tốc còn cao hơn trên nhiều dòng phần cứng Intel.
• Triển khai linh hoạt: Chỉ cần viết ứng dụng một lần rồi triển khai ở bất cứ đâu trong hệ sinh thái phần cứng Intel, từ CPU đến VPU, mà không cần thay đổi thêm code.
• Dễ sử dụng: Truy cập hơn 80 hướng dẫn giúp bạn tối ưu hóa model AI, ngay cả khi bạn không phải là chuyên gia học sâu.

Câu chuyện thành công: Các benchmark nói lên tất cả#

Ultralytics và Intel đã thử nghiệm tích hợp bằng cách đánh giá hiệu năng của các model YOLOv8 trên nhiều nền tảng phần cứng Intel. Kết quả cho thấy các model được tối ưu bằng OpenVINO™ luôn chạy nhanh hơn phiên bản tương ứng không làm giảm độ chính xác, từ dòng Intel Data Center GPU Flex đến các CPU Xeon mới nhất.

Hình 1. Thời gian suy luận trên mỗi ảnh theo kích thước và định dạng model (CPU Xeon)

Đưa AI vào ứng dụng thực tế#

Tích hợp này không chỉ là những con số và kết quả đánh giá hiệu năng; mục tiêu là giúp nhà phát triển đưa AI vào ứng dụng thực tế dễ dàng và hiệu quả hơn. Dù là tăng cường hệ thống bảo mật bằng khả năng phát hiện đối tượng nhanh hơn hay tạo trải nghiệm bán lẻ hấp dẫn hơn thông qua phân tích thông minh, tích hợp Ultralytics YOLOv8 và Intel OpenVINO™ đều góp phần vận hành thế hệ ứng dụng AI mới.

Bắt đầu ngay hôm nay!#

Để tự trải nghiệm tích hợp này, hãy xuất model YOLOv8 sang OpenVINO™ và đánh giá hiệu năng trên phần cứng Intel của bạn. Để biết thêm thông tin và xem hướng dẫn từng bước, hãy truy cập trang tài liệu tích hợp OpenVINO.