Yolo Tầm nhìn Thâm Quyến
Thâm Quyến
Tham gia ngay

Đạt được tốc độ suy luận nhanh hơn với Ultralytics YOLOv8 & Intel 'S OpenVINO

Paula Derrenger

3 phút đọc

11 tháng 2, 2024

Mở khóa suy luận AI nhanh hơn gấp 3 lần với Ultralytics YOLOv8 Và Intel OpenVINO™. Chuyển đổi việc triển khai AI trên CPU và GPU cho phân tích video, thành phố thông minh và bán lẻ. Khám phá hướng dẫn của chúng tôi về cách tối ưu hóa các mô hình AI với OpenVINO™.

Trong thế giới trí tuệ nhân tạo đang phát triển nhanh chóng, tốc độ và hiệu quả là tối quan trọng. Ultralytics rất vui mừng được chia sẻ sự tích hợp mới nhất với Intel Bộ công cụ OpenVINO™ của Intel hứa hẹn sẽ cách mạng hóa việc triển khai các mô hình AI. Sự hợp tác này kết hợp sức mạnh của các mô hình YOLOv8 Ultralytics với hiệu suất của OpenVINO™ của Intel , mang lại tốc độ CPU tăng gấp 3 lần và hiệu suất được cải thiện trên toàn bộ hệ thống. Intel Hệ sinh thái phần cứng rộng lớn, bao gồm GPU tích hợp, GPU chuyên dụng và VPU.

Điều gì làm cho sự tích hợp này trở nên đặc biệt?

Intel Bộ công cụ OpenVINO™ của được thiết kế để tối đa hóa hiệu suất mô hình AI trên Intel phần cứng. Không chỉ là về hình ảnh; OpenVINO™ còn vượt trội trong việc xử lý nhiều tác vụ khác nhau, từ xử lý ngôn ngữ đến phân tích âm thanh. Bằng cách tối ưu hóa YOLOv8 các mô hình cho OpenVINO™, Ultralytics đảm bảo rằng người dùng có thể tận hưởng khả năng suy luận AI không chỉ nhanh hơn mà còn hiệu quả hơn, cho dù họ đang phát triển ứng dụng phân tích video, thành phố thông minh hay bán lẻ thế hệ tiếp theo.

Để biết hướng dẫn chi tiết về cách xuất và tối ưu hóa Ultralytics YOLOv8 mô hình suy luận với OpenVINO™, hãy xem video hướng dẫn của chúng tôi:

Một cái nhìn thoáng qua về quy trình

Hãy tưởng tượng bạn có thể xuất khẩu YOLOv8 mô hình trực tiếp thành một định dạng được thiết kế riêng để đạt được tốc độ và hiệu quả. Đó chính xác là những gì tích hợp này mang lại. Chỉ với một vài dòng mã, các nhà phát triển có thể chuyển đổi YOLOv8 các mô hình thành các phiên bản tương thích với OpenVINO™, sẵn sàng tận dụng khả năng tăng tốc phần cứng được cung cấp bởi Intel Quá trình này không chỉ liên quan đến tốc độ; mà còn liên quan đến việc mở ra những khả năng mới cho các ứng dụng AI vốn trước đây bị hạn chế bởi các ràng buộc về mặt tính toán.

Các OpenVINO Ưu điểm: Đơn giản hóa quá trình phát triển AI

Các Ultralytics Và Intel tích hợp là một bước chuyển đổi trong quá trình phát triển AI. Thông qua sự hợp nhất của YOLOv8 và OpenVINO™, các nhà phát triển có được một lộ trình hiệu quả để sử dụng CPU Intel® - yếu tố cốt lõi của điện toán trong nhiều lĩnh vực. Sự kết hợp này nâng cao đáng kể khả năng tiếp cận và hiệu quả của AI cho các ứng dụng thực tế.

Tận dụng OpenVINO™ tối ưu hóa quá trình suy luận, đảm bảo YOLOv8 Các mô hình không chỉ tiên tiến mà còn được tối ưu hóa cho hiệu quả thực tế. Điều này cho phép triển khai nhanh chóng các giải pháp AI tinh vi trên nhiều loại thiết bị, tránh được nhu cầu đầu tư tốn kém. GPU thiết lập. Do đó, điều này mở rộng phạm vi cho các ứng dụng từng bị giới hạn bởi rào cản tính toán, mở đường cho những tiến bộ trong các sáng kiến thành phố thông minh và nâng cao trải nghiệm của khách hàng bán lẻ.

Lợi ích thực tế

  • Hiệu suất được cải thiện: Trải nghiệm khả năng suy luận AI nhanh hơn tới 3 lần trên CPU, với khả năng tăng tốc thậm chí còn lớn hơn trên Intel phổ phần cứng của.
  • Triển khai linh hoạt: Viết ứng dụng của bạn một lần và triển khai nó ở bất kỳ đâu trong Intel Hệ sinh thái phần cứng, từ CPU đến VPU, mà không cần thay đổi thêm mã.
  • Dễ sử dụng: Truy cập hơn 80 hướng dẫn hướng dẫn bạn tối ưu hóa các mô hình AI, ngay cả khi bạn không phải là chuyên gia về deep learning.

Những câu chuyện thành công: Các chuẩn mực nói lên nhiều điều

Ultralytics Và Intel đã đưa sự tích hợp vào thử nghiệm, đánh giá chuẩn YOLOv8 các mô hình trên nhiều Intel Nền tảng phần cứng. Kết quả thật ấn tượng, với các mô hình được tối ưu hóa bằng OpenVINO™ luôn vượt trội hơn các đối thủ về tốc độ mà không ảnh hưởng đến độ chính xác. Từ Intel Trung tâm dữ liệu GPU Từ dòng Flex đến CPU Xeon mới nhất, các điểm chuẩn nhấn mạnh tác động mang tính chuyển đổi của sự tích hợp này đối với việc triển khai AI.

Hình 1. Thời gian suy luận trên mỗi hình ảnh theo kích thước và định dạng mô hình (Xeon CPU )

Đưa AI vào thế giới thực

Sự tích hợp này không chỉ đơn thuần là những con số và chuẩn mực; mà còn cho phép các nhà đổi mới và nhà phát triển đưa AI vào các ứng dụng thực tế một cách dễ dàng và hiệu quả chưa từng có. Cho dù đó là việc nâng cao hệ thống an ninh với khả năng phát hiện đối tượng nhanh hơn hay tạo ra trải nghiệm bán lẻ hấp dẫn hơn thông qua phân tích thông minh, Ultralytics YOLOv8 Và Intel Tích hợp OpenVINO™ được thiết lập để mở ra kỷ nguyên mới cho các ứng dụng AI.

Bắt đầu ngay hôm nay!

Nắm bắt tương lai của AI với Ultralytics Và Intel . Khám phá sự tích hợp toàn diện của chúng tôi YOLOv8 Các mô hình tích hợp OpenVINO™ cho hiệu suất và hiệu quả vượt trội. Để biết thêm thông tin và hướng dẫn từng bước về cách tối đa hóa khả năng cộng tác mạnh mẽ này, hãy truy cập trang Tài liệu Tích hợp OpenVINO của chúng tôi.

Hãy cùng nhau xây dựng tương lai
của AI!

Bắt đầu hành trình của bạn với tương lai của học máy

Bắt đầu miễn phí