9 tháng 1, 2025
Khám phá cách triển khai Ultralytics YOLO11 TRÊN NVIDIA Jetson Orin Nano Super mang lại điểm chuẩn ấn tượng và GPU - tăng tốc hiệu suất cho các ứng dụng AI tiên tiến.
Bộ công cụ NVIDIA Jetson Orin Nano Super Developer Kit, ra mắt ngày 17 tháng 12 năm 2024, là một siêu máy tính AI tạo sinh nhỏ gọn nhưng mạnh mẽ, được thiết kế để mang lại khả năng tiên tiến cho điện toán biên . Nó hỗ trợ xử lý thời gian thực và loại bỏ nhu cầu điện toán đám mây. NVIDIA Jetson Orin Nano Super cho phép các nhà phát triển xây dựng các hệ thống thông minh giá cả phải chăng, hoạt động hiệu quả trong môi trường cục bộ.
Khi được kết hợp với các mô hình Ultralytics YOLO như Ultralytics YOLO11 , Jetson Orin Nano Super có thể xử lý một loạt các ứng dụng Vision AI tại biên. Cụ thể, YOLO11 là một mô hình thị giác máy tính được biết đến với tốc độ và độ chính xác trong các nhiệm vụ như phát hiện đối tượng , theo dõi đối tượng và phân đoạn trường hợp.
Kết hợp YOLO11 khả năng của với GPU (Bộ xử lý đồ họa) mạnh mẽ của bộ công cụ và hỗ trợ cho các khuôn khổ như PyTorch , ONNX , Và NVIDIA TensorRT cho phép triển khai hiệu suất cao. Sự kết hợp này cung cấp cho các nhà phát triển một giải pháp hiệu quả để tạo ra các ứng dụng AI, từ phát hiện vật thể trong robot đến theo dõi vật thể theo thời gian thực trong không gian thông minh và hệ thống bán lẻ.
Trong bài viết này, chúng ta sẽ xem xét NVIDIA Bộ phát triển Jetson Orin Nano Super, cách thức hoạt động với Ultralytics YOLO11 về AI biên , các tiêu chuẩn hiệu suất, ứng dụng thực tế và cách nó có thể giúp các nhà phát triển xây dựng các dự án Vision AI. Hãy bắt đầu thôi!
Các NVIDIA Jetson Orin Nano Super Developer Kit là một máy tính nhỏ gọn nhưng mạnh mẽ, định nghĩa lại AI tạo sinh cho các thiết bị biên nhỏ gọn. Nó cung cấp hiệu suất AI lên đến 67 TOPS (nghìn tỷ phép tính mỗi giây), lý tưởng cho các nhà phát triển, sinh viên và những người đam mê làm việc trên các dự án AI nâng cao.
Dưới đây là một số tính năng chính của nó:
Nếu bạn quen thuộc với NVIDIA công việc của, bạn có thể tự hỏi bản phát hành mới này so sánh như thế nào với bản hiện tại NVIDIA Jetson Orin NX 16GB (không có chế độ siêu cấp). Trong khi Jetson Orin NX cung cấp khả năng tổng thể cao hơn, thì Jetson Orin Nano Super Developer Kit lại mang đến hiệu năng ấn tượng với mức giá chỉ bằng một phần nhỏ.
Dưới đây là tổng quan nhanh:
Bây giờ chúng ta đã hiểu rõ hơn về Jetson Orin Nano Super, hãy cùng xem xét cách YOLO11 có thể can thiệp để đưa khả năng của Vision AI đến gần hơn. Ultralytics YOLO các mô hình, bao gồm YOLO11 , đi kèm với các chế độ linh hoạt như đào tạo, dự đoán và xuất, giúp chúng có thể thích ứng với nhiều quy trình làm việc AI khác nhau.
Ví dụ, trong chế độ đào tạo, Ultralytics YOLO các mô hình có thể được tinh chỉnh và đào tạo trên các tập dữ liệu tùy chỉnh cho các ứng dụng cụ thể, chẳng hạn như phát hiện các đối tượng duy nhất hoặc tối ưu hóa cho các môi trường cụ thể. Tương tự như vậy, Chế độ dự đoán được thiết kế cho suy luận, cho phép thực hiện các tác vụ thị giác máy tính theo thời gian thực. Cuối cùng, chế độ xuất có thể được sử dụng để chuyển đổi mô hình sang các định dạng được tối ưu hóa cho việc triển khai.
YOLO11 ở chế độ xuất hỗ trợ một loạt các tùy chọn triển khai mô hình, bao gồm:
Sử dụng các định dạng triển khai này, các nhà phát triển có thể tận dụng tối đa phần cứng của Jetson Orin Nano Super để chạy YOLO11 cho các ứng dụng thời gian thực như không gian thông minh, robot và tự động hóa bán lẻ.
Tiếp theo, để có ý tưởng tốt hơn về tốc độ YOLO11 có thể chạy trên NVIDIA Jetson Orin Nano Super, hãy cùng khám phá hiệu suất ấn tượng và điểm chuẩn của nó bằng cách sử dụng GPU -các định dạng xuất khẩu được tăng tốc như PyTorch , ONNX , Và TensorRT . Các thử nghiệm này cho thấy Jetson Orin Nano Super đạt được thời gian suy luận với YOLO11 các mẫu máy có thể so sánh được - và đôi khi vượt trội hơn - Jetson Orin NX 16GB hiện có (không có chế độ siêu cấp).
Điều làm cho sản phẩm này trở nên đáng chú ý hơn nữa chính là giá cả phải chăng của Jetson Orin Nano Super. Với hiệu năng mạnh mẽ nhưng giá thành chỉ bằng một nửa Jetson Orin NX 16GB, sản phẩm mang lại giá trị vượt trội cho các nhà phát triển đang xây dựng các hệ thống hiệu suất cao. YOLO11 ứng dụng. Sự kết hợp giữa chi phí và hiệu suất này khiến Jetson Orin Nano Super trở thành lựa chọn tuyệt vời cho các tác vụ AI thị giác thời gian thực ở biên.
Nếu bạn hào hứng bắt đầu triển khai YOLO11 Trên Jetson Orin Nano Super, có một tin tốt - đó là một quá trình đơn giản. Sau khi flash thiết bị của bạn bằng NVIDIA JetPack SDK, bạn có thể sử dụng hình ảnh Docker dựng sẵn để thiết lập nhanh hoặc cài đặt thủ công các gói cần thiết.
Đối với những người tìm kiếm một tích hợp nhanh hơn và liền mạch hơn, container JetPack 6 Docker được cập nhật là một giải pháp lý tưởng. Docker container là một môi trường di động, gọn nhẹ, bao gồm tất cả các công cụ và dependencies cần thiết để chạy một phần mềm cụ thể.
Các Ultralytics container, được tối ưu hóa cho JetPack 6.1, được tải sẵn CUDA 12.6, TensorRT 10.3 và các công cụ thiết yếu như PyTorch và TorchVision, tất cả đều được thiết kế riêng cho kiến trúc ARM64 của Jetson. Bằng cách sử dụng container này, các nhà phát triển có thể tiết kiệm thời gian thiết lập và tập trung vào việc xây dựng và tối ưu hóa các ứng dụng Vision AI của họ với YOLO11 .
Đối với những người đang tìm kiếm nguồn cảm hứng cho dự án AI tiếp theo của bạn, có rất nhiều tiềm năng cho các ứng dụng computer vision dựa trên edge xung quanh chúng ta.
Trong cuộc sống hàng ngày, AI biên đang định nghĩa lại không gian thông minh bằng cách cho phép các hệ thống detect Và track các đối tượng theo thời gian thực, tất cả đều không cần dựa vào xử lý đám mây. Cho dù đó là giám sát giao thông trong một thành phố đông đúc hay xác định hoạt động bất thường ở nơi công cộng, Edge Vision AI đều đang nâng cao tính bảo mật và hiệu quả.
Các nhà bán lẻ cũng đang khai thác AI biên và thị giác máy tính. Từ việc kiểm tra hàng tồn kho tự động đến phòng chống trộm cắp , các mô hình như YOLO11 giúp doanh nghiệp có thể triển khai các giải pháp thời gian thực trực tiếp tại các cửa hàng.
Tương tự, khi nói đến AI trong chăm sóc sức khỏe , giám sát dựa trên biên đảm bảo an toàn cho bệnh nhân, phát hiện bất thường và duy trì sự tuân thủ - tất cả đều không bị chậm trễ do phụ thuộc vào đám mây. Với các công cụ như Jetson Orin Nano Super và YOLO11 , tương lai của Vision AI đang diễn ra ngay tại ranh giới, nơi cần đến nó nhất.
Triển khai Ultralytics YOLO các mô hình như YOLO11 trên NVIDIA Bộ công cụ phát triển Jetson Orin Nano Super cung cấp giải pháp đáng tin cậy và hiệu quả cho các ứng dụng AI biên. Với GPU hiệu suất, hỗ trợ liền mạch cho PyTorch , ONNX , Và TensorRT và các điểm chuẩn ấn tượng, nó rất phù hợp cho các tác vụ thị giác máy tính thời gian thực như phát hiện và theo dõi đối tượng.
Những đổi mới và hợp tác trong các công nghệ tiên tiến như Vision AI và tăng tốc phần cứng đang chuyển đổi cách chúng ta làm việc, trao quyền cho các nhà phát triển xây dựng các giải pháp hiệu suất cao, có khả năng mở rộng tại các biên. Khi AI phát triển, các công cụ như YOLO11 và Jetson Orin Nano Super đang giúp việc hiện thực hóa các giải pháp thông minh, thời gian thực trở nên dễ dàng hơn bao giờ hết.
Bạn tò mò về AI? Hãy truy cập kho lưu trữ GitHub của chúng tôi để khám phá những đóng góp của chúng tôi và tham gia với cộng đồng của chúng tôi. Xem cách chúng tôi đang sử dụng AI để tạo ra tác động trong các ngành như nông nghiệp và chăm sóc sức khỏe.
.webp)