Đạt tốc độ suy luận nhanh hơn với Ultralytics YOLOv8 & Intel OpenVINO

Trong thế giới trí tuệ nhân tạo đang phát triển nhanh chóng, tốc độ và hiệu suất là yếu tố tối quan trọng. Ultralytics rất hào hứng chia sẻ bản tích hợp mới nhất với bộ công cụ OpenVINO™ của Intel, hứa hẹn sẽ cách mạng hóa việc triển khai các AI model. Sự hợp tác này kết hợp sức mạnh của các model Ultralytics YOLOv8 với hiệu suất của OpenVINO™ của Intel, mang lại tốc độ nhanh hơn gấp 3 lần trên CPU và hiệu năng được nâng cao trên toàn bộ hệ sinh thái phần cứng mở rộng của Intel, bao gồm GPU tích hợp, GPU chuyên dụng và VPU.

Link to this sectionĐiều gì làm cho bản tích hợp này trở nên đặc biệt?#

Bộ công cụ OpenVINO™ của Intel được thiết kế để tối đa hóa hiệu năng AI model trên phần cứng Intel. Đây không chỉ là về hình ảnh; OpenVINO™ xuất sắc trong việc xử lý nhiều tác vụ khác nhau, từ xử lý ngôn ngữ đến phân tích âm thanh. Bằng cách tối ưu hóa các model YOLOv8 cho OpenVINO™, Ultralytics đảm bảo người dùng có thể tận hưởng khả năng suy luận AI không chỉ nhanh hơn mà còn hiệu quả hơn, cho dù họ đang phát triển ứng dụng cho phân tích video, thành phố thông minh hay bán lẻ thế hệ mới.

Để xem hướng dẫn chi tiết về cách xuất và tối ưu hóa model Ultralytics YOLOv8 của bạn để suy luận với OpenVINO™, hãy xem video hướng dẫn của chúng tôi:

Link to this sectionCái nhìn sơ lược về quy trình#

Hãy tưởng tượng bạn có thể xuất trực tiếp các model YOLOv8 của mình sang định dạng được thiết kế riêng cho tốc độ và hiệu quả. Đó chính xác là những gì bản tích hợp này mang lại. Chỉ với vài dòng code, các nhà phát triển có thể chuyển đổi model YOLOv8 của họ thành các phiên bản tương thích với OpenVINO™, sẵn sàng tận dụng khả năng tăng tốc phần cứng do Intel cung cấp. Quy trình này không chỉ mang lại tốc độ; nó còn mở ra những khả năng mới cho các ứng dụng AI vốn trước đây bị giới hạn bởi các ràng buộc tính toán.

Link to this sectionLợi thế của OpenVINO: Đơn giản hóa quá trình phát triển AI#

Bản tích hợp giữa Ultralytics và Intel là một bước tiến mang tính chuyển đổi trong quá trình phát triển AI. Thông qua sự kết hợp giữa YOLOv8 và OpenVINO™, các nhà phát triển có được lộ trình hiệu quả để tận dụng CPU Intel®—thành phần cốt lõi trong tính toán ở nhiều lĩnh vực khác nhau. Sự kết hợp này thúc đẩy đáng kể khả năng tiếp cận và hiệu quả của AI cho các ứng dụng thực tế.

Việc tận dụng OpenVINO™ giúp tối ưu hóa quy trình suy luận, đảm bảo các model YOLOv8 không chỉ hiện đại mà còn được tối ưu hóa cho hiệu quả thực tế. Điều này cho phép triển khai nhanh chóng các giải pháp AI phức tạp trên nhiều loại thiết bị, loại bỏ nhu cầu thiết lập GPU đắt tiền. Kết quả là, điều này mở rộng phạm vi cho các ứng dụng từng bị giới hạn bởi các rào cản tính toán, mở đường cho những tiến bộ trong các sáng kiến thành phố thông minh và nâng cao trải nghiệm khách hàng trong bán lẻ.

Link to this sectionLợi ích thực tế#

• Hiệu năng nâng cao: Trải nghiệm suy luận AI nhanh hơn tới 3 lần trên CPU, với mức tăng tốc thậm chí còn lớn hơn trên toàn bộ dòng phần cứng của Intel.
• Triển khai đa năng: Viết ứng dụng của bạn một lần và triển khai ở bất cứ đâu trong hệ sinh thái phần cứng của Intel, từ CPU đến VPU, mà không cần thay đổi thêm code.
• Dễ sử dụng: Truy cập hơn 80 hướng dẫn giúp bạn tối ưu hóa các AI model, ngay cả khi bạn không phải là chuyên gia về deep learning.

Link to this sectionCác câu chuyện thành công: Những điểm chuẩn biết nói#

Ultralytics và Intel đã đưa bản tích hợp vào thử nghiệm, đo điểm chuẩn cho các model YOLOv8 trên nhiều nền tảng phần cứng Intel khác nhau. Kết quả rất ấn tượng, các model được tối ưu hóa bằng OpenVINO™ liên tục vượt trội hơn các phiên bản tương đương về tốc độ mà không ảnh hưởng đến độ chính xác. Từ Intel Data Center GPU Flex Series đến các CPU Xeon mới nhất, các điểm chuẩn nhấn mạnh tác động mang tính chuyển đổi của bản tích hợp này đối với việc triển khai AI.

Hình 1. Thời gian suy luận trên mỗi ảnh theo kích thước model và định dạng (CPU Xeon)

Link to this sectionĐưa AI vào thế giới thực#

Bản tích hợp này không chỉ là những con số và điểm chuẩn; nó giúp các nhà đổi mới và nhà phát triển đưa AI vào các ứng dụng thực tế với sự dễ dàng và hiệu quả chưa từng có. Cho dù đó là tăng cường hệ thống bảo mật với khả năng phát hiện vật thể nhanh hơn hay tạo ra trải nghiệm bán lẻ hấp dẫn hơn thông qua phân tích thông minh, bản tích hợp Ultralytics YOLOv8 và Intel OpenVINO™ được thiết lập để trao quyền cho một kỷ nguyên ứng dụng AI mới.

Link to this sectionBắt đầu ngay hôm nay!#

Hãy nắm bắt tương lai của AI với Ultralytics và Intel. Đi sâu vào bản tích hợp toàn diện các model YOLOv8 với OpenVINO™ của chúng tôi để đạt được hiệu năng và hiệu quả vượt trội. Để biết thêm thông tin và hướng dẫn từng bước về việc tối đa hóa sự hợp tác mạnh mẽ này, hãy truy cập trang Tài liệu Tích hợp OpenVINO của chúng tôi.