Đạt tốc độ suy luận nhanh hơn với Ultralytics YOLOv8 & Intel OpenVINO

Trong thế giới trí tuệ nhân tạo phát triển nhanh chóng, tốc độ và hiệu quả là yếu tố tối quan trọng. Ultralytics rất vui mừng được chia sẻ bản tích hợp mới nhất với bộ công cụ OpenVINO™ của Intel, hứa hẹn sẽ cách mạng hóa việc triển khai các model AI. Sự hợp tác này kết hợp sức mạnh của các model Ultralytics YOLOv8 với hiệu suất của Intel's OpenVINO™, mang lại tốc độ xử lý nhanh hơn tới 3 lần trên CPU và nâng cao hiệu năng trên hệ sinh thái phần cứng rộng lớn của Intel, bao gồm GPU tích hợp, GPU chuyên dụng và VPU.

Điều gì làm cho bản tích hợp này trở nên đặc biệt?#

Bộ công cụ OpenVINO™ của Intel được thiết kế để tối đa hóa hiệu suất model AI trên phần cứng Intel. Không chỉ dừng lại ở thị giác máy tính, OpenVINO™ còn xuất sắc trong việc xử lý các tác vụ đa dạng, từ xử lý ngôn ngữ đến phân tích âm thanh. Bằng cách tối ưu hóa các model YOLOv8 cho OpenVINO™, Ultralytics đảm bảo người dùng có thể tận hưởng khả năng suy luận AI không chỉ nhanh hơn mà còn hiệu quả hơn, cho dù họ đang phát triển ứng dụng cho phân tích video, thành phố thông minh hay bán lẻ thế hệ mới.

Để xem hướng dẫn chi tiết về cách xuất và tối ưu hóa model Ultralytics YOLOv8 của bạn để suy luận với OpenVINO™, hãy xem video hướng dẫn của chúng tôi:

Cái nhìn sơ lược về quy trình#

Hãy tưởng tượng bạn có thể xuất các model Ultralytics YOLOv8 của mình trực tiếp sang một định dạng được thiết kế riêng cho tốc độ và hiệu suất. Đó chính là những gì tích hợp này mang lại. Chỉ với một vài dòng code, các nhà phát triển có thể chuyển đổi các model YOLOv8 của họ thành các phiên bản tương thích với OpenVINO™, sẵn sàng tận dụng khả năng tăng tốc phần cứng do Intel cung cấp. Quá trình này không chỉ mang lại tốc độ; mà còn giúp mở ra những khả năng mới cho các ứng dụng AI trước đây bị giới hạn bởi các ràng buộc tính toán.

Lợi thế của OpenVINO: Đơn giản hóa quá trình phát triển AI#

Bản tích hợp giữa Ultralytics và Intel là một bước tiến mang tính chuyển đổi trong quá trình phát triển AI. Thông qua sự kết hợp giữa YOLOv8 và OpenVINO™, các nhà phát triển có được lộ trình hiệu quả để tận dụng CPU Intel®—thành phần cốt lõi trong tính toán ở nhiều lĩnh vực khác nhau. Sự kết hợp này thúc đẩy đáng kể khả năng tiếp cận và hiệu quả của AI cho các ứng dụng thực tế.

Việc tận dụng OpenVINO™ giúp tối ưu hóa quá trình inference, đảm bảo các model Ultralytics YOLOv8 không chỉ tiên tiến mà còn được tối ưu hóa cho hiệu suất thực tế. Điều này cho phép triển khai nhanh chóng các giải pháp AI phức tạp trên nhiều loại thiết bị, loại bỏ nhu cầu thiết lập GPU tốn kém. Do đó, điều này mở rộng phạm vi cho các ứng dụng vốn từng bị giới hạn bởi các rào cản tính toán, mở đường cho những tiến bộ trong các sáng kiến thành phố thông minh và nâng cao trải nghiệm của khách hàng bán lẻ.

Lợi ích thực tế#

• Hiệu năng nâng cao: Trải nghiệm suy luận AI nhanh hơn tới 3 lần trên CPU, với mức tăng tốc thậm chí còn lớn hơn trên toàn bộ dòng phần cứng của Intel.
• Triển khai đa năng: Viết ứng dụng của bạn một lần và triển khai ở bất cứ đâu trong hệ sinh thái phần cứng của Intel, từ CPU đến VPU, mà không cần thay đổi thêm code.
• Dễ sử dụng: Truy cập hơn 80 hướng dẫn giúp bạn tối ưu hóa các AI model, ngay cả khi bạn không phải là chuyên gia về deep learning.

Các câu chuyện thành công: Những điểm chuẩn biết nói#

Ultralytics và Intel đã đưa bản tích hợp vào thử nghiệm thực tế, benchmarking các model YOLOv8 trên nhiều nền tảng phần cứng Intel khác nhau. Kết quả thực sự ấn tượng, với các model được tối ưu hóa bằng OpenVINO™ luôn vượt trội về tốc độ so với các phiên bản thông thường mà không làm giảm độ chính xác. Từ dòng Intel Data Center GPU Flex Series cho đến các CPU Xeon mới nhất, các kết quả benchmark nhấn mạnh tác động chuyển đổi mang tính bước ngoặt của sự tích hợp này đối với việc triển khai AI.

Fig 1. Thời gian suy luận trên mỗi ảnh theo kích thước model và định dạng (trên CPU Xeon)

Đưa AI vào thế giới thực#

Bản tích hợp này không chỉ là những con số và điểm chuẩn; nó giúp các nhà đổi mới và nhà phát triển đưa AI vào các ứng dụng thực tế với sự dễ dàng và hiệu quả chưa từng có. Cho dù đó là tăng cường hệ thống bảo mật với khả năng phát hiện vật thể nhanh hơn hay tạo ra trải nghiệm bán lẻ hấp dẫn hơn thông qua phân tích thông minh, bản tích hợp Ultralytics YOLOv8 và Intel OpenVINO™ được thiết lập để trao quyền cho một kỷ nguyên ứng dụng AI mới.

Bắt đầu ngay hôm nay!#

Hãy đón đầu tương lai của AI cùng Ultralytics và Intel. Khám phá ngay bản tích hợp toàn diện giữa các model YOLOv8 và OpenVINO™ để đạt được hiệu năng và hiệu quả vượt trội. Để biết thêm thông tin và hướng dẫn chi tiết từng bước nhằm tận dụng tối đa sự hợp tác mạnh mẽ này, hãy truy cập Trang tài liệu tích hợp OpenVINO của chúng tôi.