Đạt tốc độ suy luận nhanh hơn với Ultralytics YOLOv8 & OpenVINO của Intel

Trong thế giới trí tuệ nhân tạo không ngừng phát triển, tốc độ và hiệu quả là yếu tố tối quan trọng. Ultralytics rất vui mừng chia sẻ sự tích hợp mới nhất với bộ công cụ OpenVINO™ của Intel, hứa hẹn sẽ tạo nên cuộc cách mạng trong việc triển khai các model AI. Sự hợp tác này kết hợp sức mạnh của các model Ultralytics YOLOv8 với hiệu quả của OpenVINO™ của Intel, mang lại tốc độ tăng lên đến 3 lần trên CPU và hiệu năng được cải thiện trên hệ sinh thái phần cứng đa dạng của Intel, bao gồm GPU tích hợp, GPU chuyên dụng và VPU.

Điều gì khiến sự tích hợp này trở nên đặc biệt?#

Bộ công cụ OpenVINO™ của Intel được thiết kế để tối đa hóa hiệu năng của model AI trên phần cứng Intel. OpenVINO™ không chỉ dành cho hình ảnh; công cụ này còn xử lý xuất sắc nhiều loại tác vụ, từ xử lý ngôn ngữ đến phân tích âm thanh. Bằng cách tối ưu hóa các model YOLOv8 cho OpenVINO™, Ultralytics đảm bảo người dùng có thể tận hưởng khả năng suy luận AI không chỉ nhanh hơn mà còn hiệu quả hơn, dù đang phát triển ứng dụng cho phân tích video, thành phố thông minh hay lĩnh vực bán lẻ thế hệ mới.

Để xem hướng dẫn chi tiết về cách export và tối ưu hóa model Ultralytics YOLOv8 cho việc suy luận với OpenVINO™, hãy xem video hướng dẫn của chúng tôi:

Tìm hiểu quy trình#

Hãy tưởng tượng bạn có thể export trực tiếp các model Ultralytics YOLOv8 sang một định dạng được thiết kế riêng cho tốc độ và hiệu quả. Đó chính xác là những gì sự tích hợp này cung cấp. Chỉ với vài dòng code, các developer có thể chuyển đổi model YOLOv8 thành các phiên bản tương thích với OpenVINO™, sẵn sàng tận dụng khả năng tăng tốc phần cứng do Intel cung cấp. Quy trình này không chỉ là về tốc độ; nó còn mở ra những khả năng mới cho các ứng dụng AI trước đây bị giới hạn bởi các ràng buộc về năng lực tính toán.

Lợi thế của OpenVINO: Đơn giản hóa quá trình phát triển AI#

Sự tích hợp giữa Ultralytics và Intel là một bước tiến mang tính chuyển đổi trong quá trình phát triển AI. Thông qua sự kết hợp giữa YOLOv8 và OpenVINO™, các developer có được một phương thức hiệu quả để sử dụng CPU Intel®—nền tảng tính toán cốt lõi trong nhiều lĩnh vực. Sự kết hợp này nâng cao đáng kể khả năng tiếp cận và hiệu quả của AI trong các ứng dụng thực tế.

Việc tận dụng OpenVINO™ giúp tối ưu hóa quy trình suy luận, đảm bảo các model Ultralytics YOLOv8 không chỉ tiên tiến mà còn được tối ưu cho hiệu quả trong thực tế. Điều này cho phép triển khai nhanh chóng các giải pháp AI tinh vi trên nhiều loại thiết bị, tránh nhu cầu thiết lập GPU tốn kém. Nhờ đó, phạm vi của các ứng dụng từng bị giới hạn bởi rào cản tính toán được mở rộng, mở đường cho những tiến bộ trong các sáng kiến thành phố thông minh và nâng cao trải nghiệm của khách hàng bán lẻ.

Lợi ích trong thực tế#

• Hiệu năng nâng cao: Trải nghiệm khả năng suy luận AI nhanh hơn đến 3 lần trên CPU, cùng mức tăng tốc còn lớn hơn trên toàn bộ hệ phần cứng của Intel.
• Triển khai linh hoạt: Viết ứng dụng một lần và triển khai ở bất kỳ đâu trong hệ sinh thái phần cứng của Intel, từ CPU đến VPU, mà không cần thay đổi thêm code.
• Dễ sử dụng: Truy cập hơn 80 hướng dẫn giúp bạn tối ưu hóa các model AI, ngay cả khi bạn không phải là chuyên gia deep learning.

Câu chuyện thành công: Những benchmark nói lên tất cả#

Ultralytics và Intel đã kiểm thử sự tích hợp này bằng cách benchmark các model YOLOv8 trên nhiều nền tảng phần cứng Intel khác nhau. Kết quả thực sự ấn tượng, khi các model được tối ưu hóa bằng OpenVINO™ liên tục vượt trội so với các model tương ứng về tốc độ mà không ảnh hưởng đến độ chính xác. Từ Intel Data Center GPU Flex Series đến các CPU Xeon mới nhất, các benchmark nhấn mạnh tác động mang tính chuyển đổi của sự tích hợp này đối với việc triển khai AI.

Hình 1. Thời gian suy luận trên mỗi ảnh theo kích thước và định dạng model (CPU Xeon)

Đưa AI vào thực tế#

Sự tích hợp này không chỉ xoay quanh các con số và benchmark; mục tiêu là giúp các nhà đổi mới và developer đưa AI vào các ứng dụng thực tế với mức độ dễ dàng và hiệu quả chưa từng có. Dù là nâng cao hệ thống bảo mật bằng khả năng phát hiện đối tượng nhanh hơn hay tạo ra trải nghiệm bán lẻ hấp dẫn hơn thông qua phân tích thông minh, sự tích hợp giữa Ultralytics YOLOv8 và Intel OpenVINO™ sẽ mở ra một kỷ nguyên mới cho các ứng dụng AI.

Bắt đầu ngay hôm nay!#

Hãy đón nhận tương lai của AI cùng Ultralytics và Intel. Khám phá sự tích hợp toàn diện giữa các model YOLOv8 và OpenVINO™ để đạt hiệu năng và hiệu quả vượt trội. Để biết thêm thông tin và xem hướng dẫn từng bước về cách tối đa hóa sức mạnh của sự hợp tác này, hãy truy cập trang Tài liệu tích hợp OpenVINO.