Xuất khẩu Ultralytics YOLO11 các mô hình cho NCNN định dạng mô hình để chạy các suy luận AI hiệu quả, độ trễ thấp trên các thiết bị biên có nguồn điện và tài nguyên tính toán hạn chế.
Các giải pháp AI đang trở nên phổ biến hơn, ngay cả trong các lĩnh vực có rủi ro cao như quản lý thảm họa, quản lý chất thải và chữa cháy. Khi việc áp dụng tiếp tục tăng lên, các mô hình AI đang được triển khai trong nhiều môi trường khác nhau - không chỉ trên máy chủ hoặc trên đám mây mà còn trực tiếp trên các thiết bị hoạt động tại hiện trường.
Ví dụ: máy bay không người lái và thiết bị có các thành phần edge được cung cấp bởi các bộ xử lý nhỏ có thể đóng một vai trò quan trọng trong các khu vực thảm họa. Được trang bị camera nhiệt, các thiết bị này có thể thu thập và phân tích dữ liệu tại chỗ để xác định vị trí những người bị mắc kẹt dưới đống đổ nát. Điều này có thể thực hiện được thông qua computer vision, một nhánh của trí tuệ nhân tạo diễn giải thông tin trực quan từ hình ảnh và video.
Tuy nhiên, việc triển khai các mô hình AI Vision trên các thiết bị biên không hề đơn giản như vẻ bề ngoài. Các mô hình AI cần được tối ưu hóa để chạy hiệu quả trên phần cứng có sức mạnh tính toán và bộ nhớ hạn chế. Đó là lý do tại sao các nền tảng AI như NCNN là rất cần thiết. Chúng giúp chuyển đổi và tối ưu hóa các mô hình để đạt hiệu suất thời gian thực trên các thiết bị công suất thấp mà không làm giảm độ chính xác.
Đặc biệt, Ultralytics YOLO các mô hình như Ultralytics YOLO11 có thể dễ dàng được xuất sang NCNN định dạng mô hình sử dụng NCNN tích hợp được hỗ trợ bởi Ultralytics . Chuyển đổi YOLO11 ĐẾN NCNN Định dạng mô hình cho phép mô hình chạy nhanh hơn, sử dụng ít bộ nhớ hơn và hoạt động trơn tru trên nhiều thiết bị khác nhau mà không làm giảm độ chính xác.
Trong bài viết này, chúng ta sẽ khám phá sự tích hợp NCNN được hỗ trợ bởi Ultralytics và hướng dẫn cách bạn có thể xuất khẩu YOLO11 mô hình để NCNN định dạng mô hình. Hãy bắt đầu thôi!
NCNN là một nền tảng suy luận mạng nơ-ron nguồn mở do Tencent phát triển. Nền tảng này được thiết kế đặc biệt cho môi trường di động và biên, cung cấp khả năng suy luận hiệu suất cao với dung lượng tối thiểu. Điều này làm cho nền tảng này lý tưởng để triển khai trên các thiết bị hạn chế về tài nguyên như điện thoại thông minh, máy bay không người lái và thiết bị IoT (Internet vạn vật).
Các NCNN Nền tảng này đã trở nên phổ biến trong cộng đồng AI và học sâu nhờ tính hiệu quả, tính di động và khả năng tối ưu hóa cho CPU di động (Bộ xử lý trung tâm). Nó cho phép các nhà phát triển chạy các mô hình mạng nơ-ron trên các thiết bị giá cả phải chăng với bộ nhớ và sức mạnh xử lý hạn chế. Được thiết kế để đơn giản và linh hoạt, NCNN hỗ trợ nhiều mô hình thị giác máy tính và chạy trên nhiều nền tảng, bao gồm Android , Linux, iOS và macOS.
Dưới đây là một số tính năng chính làm nên NCNN một khuôn khổ suy luận mạng nơ-ron có tác động mạnh mẽ và được sử dụng rộng rãi:
Bây giờ chúng ta đã thảo luận về những gì NCNN là, chúng ta hãy xem xét kỹ hơn cách xuất khẩu YOLO11 các mô hình cho NCNN định dạng.
Trước khi xuất mô hình, bước đầu tiên là cài đặt gói Ultralytics Python bằng trình cài đặt gói pip. Bạn có thể thực hiện việc này bằng cách chạy lệnh "pip install" ultralytics " trong terminal hoặc dấu nhắc lệnh của bạn. Nếu bạn đang làm việc trong Jupyter Notebook hoặc Google Colab, thêm dấu chấm than trước lệnh, như thế này: "!pip install ultralytics ".
Các Ultralytics Gói này cung cấp các công cụ để đào tạo, kiểm tra, tinh chỉnh và xuất các mô hình Vision AI cho nhiều tác vụ thị giác máy tính. Nếu bạn gặp bất kỳ sự cố nào trong quá trình cài đặt hoặc xuất mô hình, hãy truy cập trang web chính thức. Ultralytics tài liệu hướng dẫn và các vấn đề thường gặp là nguồn tài nguyên tuyệt vời để khắc phục sự cố.
Sau khi cài đặt Ultralytics gói, bạn có thể tải YOLO11 mô hình và xuất nó sang NCNN định dạng. Ví dụ dưới đây sử dụng một mô hình được đào tạo trước ("yolo11n.pt") và xuất nó ở dạng NCNN định dạng, lưu đầu ra vào thư mục có tên "/yolo11n_ncnn_model".
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="ncnn") Xuất khẩu YOLO11 Mô hình sau đó có thể được triển khai trên nhiều thiết bị nhẹ khác nhau như điện thoại thông minh, hệ thống nhúng hoặc nền tảng IoT. Quy trình triển khai cũng rất đơn giản.
Ví dụ: hãy xem xét đoạn mã dưới đây, đoạn mã này cho thấy cách tải mô hình đã xuất và chạy suy luận. Suy luận đề cập đến quá trình sử dụng mô hình đã huấn luyện để đưa ra dự đoán trên dữ liệu mới, chưa từng thấy. Trong ví dụ này, mô hình được kiểm tra trên một hình ảnh một người đàn ông đi xe đạp, được lấy từ một URL có sẵn công khai.
ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)Sau khi bạn chạy mã, bạn sẽ tìm thấy hình ảnh đầu ra trong "runs/ detect thư mục "/predict".
Khi bạn khám phá những tích hợp khác nhau Ultralytics hỗ trợ, bạn có thể nhận thấy rằng có một số tùy chọn xuất có sẵn. Vì vậy, khi nào bạn nên chọn NCNN định dạng?
Các NCNN định dạng xuất là một lựa chọn đáng tin cậy khi bạn cần triển khai YOLO11 Mô hình hóa trên các thiết bị có tài nguyên hạn chế. Điều này đặc biệt hữu ích cho các ứng dụng thời gian thực chạy trực tiếp trên thiết bị, chẳng hạn như thiết bị biên, mà không cần kết nối với đám mây. Điều này có nghĩa là mô hình có thể xử lý các tác vụ như phát hiện đối tượng ngay tại chỗ.
Dưới đây là một số tình huống phổ biến mà NCNN là một sự phù hợp tuyệt vời:
Tiếp theo, chúng ta hãy đi sâu vào một số trường hợp sử dụng thực tế khi xuất YOLO11 các mô hình để NCNN có thể tạo ra sự khác biệt thực sự.
Mũ bảo hiểm an toàn được trang bị camera và máy tính siêu nhỏ nhúng có thể được sử dụng trong các lĩnh vực như xây dựng và chữa cháy để cải thiện an toàn và nhận thức. Các mô hình AI thị giác thời gian thực, chẳng hạn như YOLO11 , có thể chạy trên các thiết bị này để detect nhiều loại đồ vật và thiết bị khác nhau. Ví dụ, những chiếc mũ bảo hiểm như vậy có thể giúp lính cứu hỏa detect người, chướng ngại vật hoặc mối nguy hiểm trong điều kiện tầm nhìn hạn chế.
Tuy nhiên, việc chạy các mô hình kích thước đầy đủ trực tiếp trên các thiết bị đeo có thể khiến hiệu suất chậm lại và làm hao pin nhanh chóng. Trong trường hợp này, hãy sử dụng NCNN Tích hợp là một lựa chọn thông minh. Nó cho phép suy luận với độ trễ thấp và tiết kiệm năng lượng.
Tương tự như vậy, thùng rác thông minh có thể được tích hợp với camera và bộ xử lý AI nhỏ gọn để nhận dạng và phân loại vật liệu khi chúng bị loại bỏ. Các mô hình AI tầm nhìn như YOLO11 có thể được đào tạo tùy chỉnh để detect các loại vật liệu phế thải khác nhau như giấy, nhựa, cao su, v.v.
Sau khi rác thải được xác định, nó có thể được tự động phân loại thành các ngăn riêng biệt dựa trên khả năng tái sử dụng. Bằng cách sử dụng AI biên cùng với dữ liệu xuất khẩu YOLO11 các mô hình trong NCNN Định dạng này cho phép các thùng chứa dữ liệu này xử lý dữ liệu cục bộ - mà không cần kết nối internet. Điều này cho phép chúng hoạt động tự động và đưa ra quyết định phân loại theo thời gian thực với độ trễ tối thiểu.
Đôi khi, các khu vực nông nghiệp ở vùng sâu vùng xa thiếu kết nối internet ổn định hoặc thậm chí nguồn điện liên tục, điều này hạn chế khả năng chạy các ứng dụng AI trực tuyến của họ. Trong những trường hợp như vậy, các thiết bị biên và máy bay không người lái có thể được sử dụng để xử lý nhiều tác vụ khác nhau.
Một ví dụ điển hình là giám sát vật nuôi như bò, cừu và gia cầm. Việc này có thể được thực hiện bằng cách sử dụng các mô hình Vision AI như YOLO11 , có thể được sử dụng để track chuyển động của động vật, detect dấu hiệu của thương tích, bệnh tật hoặc hành vi bất thường và cảnh báo cho nông dân khi động vật bị mất tích. NCNN Việc tích hợp cũng giúp chạy và xử lý dữ liệu này trực tiếp trên các thiết bị biên, rất phù hợp để phân tích hình ảnh và video tại các trang trại ở vùng sâu vùng xa hoặc không có lưới điện.
Xuất khẩu YOLO11 các mô hình sử dụng NCNN tích hợp được hỗ trợ bởi Ultralytics là một cách đơn giản để đưa Vision AI vào các môi trường công suất thấp. Cho dù đó là máy bay không người lái trong vùng thiên tai, thùng phân loại rác thông minh hay giám sát chăn nuôi ở các trang trại xa xôi, YOLO Và NCNN cho phép suy luận AI theo thời gian thực nhanh chóng, hiệu quả và linh hoạt. Cách tiếp cận này giúp các hệ thống AI dễ tiếp cận và đáng tin cậy hơn khi cần thiết nhất.
Bạn muốn tìm hiểu thêm về AI? Khám phá kho lưu trữ GitHub của chúng tôi, kết nối với cộng đồng của chúng tôi và xem các tùy chọn cấp phép của chúng tôi để khởi động dự án thị giác máy tính của bạn. Tìm hiểu cách các đổi mới như AI trong bán lẻ và thị giác máy tính trong chăm sóc sức khỏe đang định hình tương lai trên các trang giải pháp của chúng tôi.
.webp)