9 tháng 1, 2025
Khám phá cách triển khai Ultralytics YOLO11 trên NVIDIA Jetson Orin Nano Super mang lại các điểm chuẩn ấn tượng và hiệu suất tăng tốc GPU cho các ứng dụng AI tiên tiến.
NVIDIA Jetson Orin Nano Super Developer Kit, ra mắt vào ngày 17 tháng 12 năm 2024, là một siêu máy tính AI tạo sinh nhỏ gọn nhưng mạnh mẽ được thiết kế để mang lại các khả năng tiên tiến cho điện toán biên. Nó tạo điều kiện xử lý thời gian thực và loại bỏ nhu cầu về điện toán đám mây. NVIDIA Jetson Orin Nano Super cho phép các nhà phát triển xây dựng các hệ thống thông minh giá cả phải chăng hoạt động hiệu quả trong môi trường cục bộ.
Khi được kết hợp với các mô hình Ultralytics YOLO như Ultralytics YOLO11, Jetson Orin Nano Super có thể xử lý một loạt các ứng dụng Vision AI trên biên. Đặc biệt, YOLO11 là một mô hình thị giác máy tính nổi tiếng về tốc độ và độ chính xác trong các tác vụ như phát hiện đối tượng, theo dõi đối tượng và phân đoạn thể hiện.
Việc kết hợp khả năng của YOLO11 với GPU (Bộ xử lý đồ họa) mạnh mẽ của bộ công cụ và hỗ trợ cho các framework như PyTorch, ONNX và NVIDIA TensorRT cho phép triển khai hiệu suất cao. Sự kết hợp này cung cấp cho các nhà phát triển một giải pháp hiệu quả để tạo các ứng dụng AI, từ phát hiện đối tượng trong robot đến theo dõi đối tượng thời gian thực trong không gian thông minh và hệ thống bán lẻ.
Trong bài viết này, chúng ta sẽ xem xét NVIDIA Jetson Orin Nano Super Developer Kit, cách nó hoạt động với Ultralytics YOLO11 cho AI biên, các điểm chuẩn hiệu suất, ứng dụng thực tế và cách nó có thể giúp các nhà phát triển xây dựng các dự án Vision AI. Hãy bắt đầu nào!
NVIDIA Jetson Orin Nano Super Developer Kit là một máy tính nhỏ gọn nhưng mạnh mẽ, định nghĩa lại AI tạo sinh cho các thiết bị biên nhỏ. Nó cung cấp hiệu năng AI lên đến 67 TOPS (nghìn tỷ hoạt động mỗi giây), khiến nó trở nên lý tưởng cho các nhà phát triển, sinh viên và những người có sở thích làm việc trên các dự án AI tiên tiến.
Dưới đây là một số tính năng chính của nó:
Nếu bạn đã quen thuộc với công việc của NVIDIA, bạn có thể tự hỏi bản phát hành mới này so với NVIDIA Jetson Orin NX 16GB hiện có (không có chế độ super) như thế nào. Mặc dù Jetson Orin NX cung cấp khả năng tổng thể cao hơn, nhưng Jetson Orin Nano Super Developer Kit mang lại hiệu suất ấn tượng với chi phí thấp hơn.
Dưới đây là tổng quan nhanh:
Bây giờ chúng ta đã hiểu rõ hơn về Jetson Orin Nano Super, hãy xem YOLO11 có thể tham gia như thế nào để mang các khả năng Vision AI đến biên. Các mô hình Ultralytics YOLO, bao gồm YOLO11, đi kèm với các chế độ linh hoạt như train, predict và export, giúp chúng có thể thích ứng với nhiều quy trình làm việc AI khác nhau.
Ví dụ: ở chế độ training, các mô hình Ultralytics YOLO có thể được tinh chỉnh và huấn luyện trên các tập dữ liệu tùy chỉnh cho các ứng dụng cụ thể, chẳng hạn như phát hiện các đối tượng duy nhất hoặc tối ưu hóa cho các môi trường cụ thể. Tương tự, chế độ prediction được thiết kế để suy luận, cho phép các tác vụ thị giác máy tính theo thời gian thực. Cuối cùng, chế độ export có thể được sử dụng để chuyển đổi các mô hình thành các định dạng được tối ưu hóa để triển khai.
YOLO11 ở chế độ export hỗ trợ một loạt các tùy chọn triển khai mô hình, bao gồm:
Sử dụng các định dạng triển khai này, các nhà phát triển có thể tận dụng tối đa phần cứng của Jetson Orin Nano Super để chạy YOLO11 cho các ứng dụng thời gian thực như không gian thông minh, robot và tự động hóa bán lẻ.
Tiếp theo, để hiểu rõ hơn về tốc độ chạy YOLO11 trên NVIDIA Jetson Orin Nano Super, hãy cùng khám phá hiệu năng và các điểm chuẩn ấn tượng của nó bằng cách sử dụng các định dạng xuất được tăng tốc GPU như PyTorch, ONNX và TensorRT. Các thử nghiệm này cho thấy Jetson Orin Nano Super đạt được thời gian suy luận với các mô hình YOLO11 tương đương với - và đôi khi vượt trội hơn - Jetson Orin NX 16GB hiện có (không có chế độ super).
Điều khiến điều này trở nên đặc biệt hơn nữa là khả năng chi trả của Jetson Orin Nano Super. Với hiệu năng như vậy mà giá chưa bằng một nửa so với Jetson Orin NX 16GB, nó mang lại giá trị vượt trội cho các nhà phát triển xây dựng các ứng dụng YOLO11 hiệu năng cao. Sự kết hợp giữa chi phí và hiệu năng này làm cho Jetson Orin Nano Super trở thành một lựa chọn tuyệt vời cho các tác vụ Vision AI thời gian thực ở biên.
Nếu bạn hào hứng bắt đầu triển khai YOLO11 trên Jetson Orin Nano Super, thì có một tin tốt - đó là một quy trình đơn giản. Sau khi flash thiết bị của bạn bằng NVIDIA JetPack SDK, bạn có thể sử dụng image Docker dựng sẵn để thiết lập nhanh chóng hoặc cài đặt thủ công các gói cần thiết.
Đối với những người tìm kiếm một tích hợp nhanh hơn và liền mạch hơn, container JetPack 6 Docker được cập nhật là một giải pháp lý tưởng. Docker container là một môi trường di động, gọn nhẹ, bao gồm tất cả các công cụ và dependencies cần thiết để chạy một phần mềm cụ thể.
Ultralytics container, được tối ưu hóa cho JetPack 6.1, được cài đặt sẵn CUDA 12.6, TensorRT 10.3 và các công cụ thiết yếu như PyTorch và TorchVision, tất cả đều được điều chỉnh cho kiến trúc ARM64 của Jetson. Bằng cách sử dụng container này, các nhà phát triển có thể tiết kiệm thời gian thiết lập và tập trung vào việc xây dựng và tối ưu hóa các ứng dụng Vision AI của họ với YOLO11.
Đối với những người đang tìm kiếm nguồn cảm hứng cho dự án AI tiếp theo của bạn, có rất nhiều tiềm năng cho các ứng dụng computer vision dựa trên edge xung quanh chúng ta.
Trong cuộc sống hàng ngày, edge AI đang định nghĩa lại các không gian thông minh bằng cách cho phép các hệ thống phát hiện và theo dõi các đối tượng trong thời gian thực, tất cả đều không cần dựa vào xử lý trên cloud. Cho dù đó là giám sát giao thông ở một thành phố nhộn nhịp hay xác định các hoạt động bất thường ở những nơi công cộng, edge Vision AI đang tăng cường bảo mật và hiệu quả.
Các nhà bán lẻ cũng đang khai thác edge AI và computer vision. Từ kiểm tra hàng tồn kho tự động đến ngăn chặn trộm cắp, các mô hình như YOLO11 giúp các doanh nghiệp có thể triển khai các giải pháp thời gian thực trực tiếp tại các cửa hàng.
Tương tự, khi nói đến AI trong lĩnh vực chăm sóc sức khỏe, giám sát dựa trên edge đảm bảo an toàn cho bệnh nhân, phát hiện các bất thường và duy trì tuân thủ - tất cả đều không có sự chậm trễ do phụ thuộc vào cloud. Với các công cụ như Jetson Orin Nano Super và YOLO11, tương lai của Vision AI đang mở ra ngay tại edge, nơi nó cần thiết nhất.
Triển khai các mô hình Ultralytics YOLO như YOLO11 trên NVIDIA Jetson Orin Nano Super Developer Kit cung cấp một giải pháp đáng tin cậy và hiệu quả cho các ứng dụng edge AI. Với hiệu năng GPU mạnh mẽ, hỗ trợ liền mạch cho PyTorch, ONNX và TensorRT, cùng với các điểm chuẩn ấn tượng, nó rất phù hợp cho các tác vụ computer vision thời gian thực như phát hiện và theo dõi đối tượng.
Những đổi mới và hợp tác trong các công nghệ tiên tiến như Vision AI và tăng tốc phần cứng đang thay đổi cách chúng ta làm việc, trao quyền cho các nhà phát triển xây dựng các giải pháp hiệu năng cao, có khả năng mở rộng ở biên. Khi AI tiến bộ, các công cụ như YOLO11 và Jetson Orin Nano Super giúp việc đưa các giải pháp thông minh, thời gian thực vào cuộc sống trở nên dễ dàng hơn bao giờ hết.
Bạn tò mò về AI? Hãy truy cập kho lưu trữ GitHub của chúng tôi để khám phá những đóng góp của chúng tôi và tham gia với cộng đồng của chúng tôi. Xem cách chúng tôi đang sử dụng AI để tạo ra tác động trong các ngành như nông nghiệp và chăm sóc sức khỏe.
.webp)
