Phát hiện đối tượng trên Raspberry Pi: YOLO26 trên CPU Pi 5, không cần bộ tăng tốc
YOLO26n chạy mất 67.03 ms mỗi ảnh với NCNN trên CPU Raspberry Pi 5, còn runtime mã nguồn mở của Arm đo được 36.60 ms trong bài kiểm tra riêng. Sau đây là cách chạy cả hai.
Onuralp Sezer15 phút đọc
Raspberry Pi 5 có thể chạy phát hiện đối tượng chỉ bằng CPU, không cần AI HAT hay bộ tăng tốc USB không? Có. Trong benchmark của chúng tôi, Ultralytics YOLO26n được export sang NCNN mất 67.03 ms suy luận mỗi ảnh trên bốn lõi Arm Cortex-A76 của Pi 5, tương đương khoảng 15 khung hình suy luận mỗi giây. Arm cũng đã phát hành runtime mã nguồn mở dành riêng cho model và bo mạch này; trong bài kiểm tra riêng, Arm đo được 36.60 ms mỗi ảnh, tương đương khoảng 27 FPS suy luận.
Bài viết này phân tích các điều kiện đằng sau từng con số và giải thích ý nghĩa của chúng. Tiếp theo, bài viết hướng dẫn từng bước cách chạy YOLO26n trên CPU Raspberry Pi 5, từ cài đặt đến camera trực tiếp, chỉ cách chạy runtime của Arm trên cùng bo mạch và đề cập khi nào vẫn nên bổ sung bộ tăng tốc.
Nếu bạn mới làm quen với chính tác vụ này, hãy bắt đầu với tìm hiểu phát hiện đối tượng là gì. Trang này hướng dẫn cách chạy tác vụ đó trên Pi.
Runtime của Arm chạy YOLO26n trên CPU Raspberry Pi 5 với thời gian 36.60 ms mỗi ảnh#
Kho lưu trữ Optimized-Runtimes của Arm tập hợp các runtime suy luận được tối ưu hóa cho Arm, dành cho các model và nền tảng cụ thể. Runtime hiện được liệt kê là phát hiện đối tượng YOLO26n trên Raspberry Pi 5. Mỗi runtime nằm trong một thư mục riêng, bao gồm quy trình build, chuyển đổi, ví dụ, benchmark, kiểm thử và tài liệu phát hành.
Lộ trình học tập của Arm so sánh runtime của Arm với NCNN trong một bài kiểm tra: runtime Arm đạt 36.60 ms mỗi ảnh, so với 67.20 ms của NCNN; cả hai chạy YOLO26n ở độ phân giải 640 x 640, batch 1, trên tập dữ liệu coco-128-by-sa gồm 128 ảnh của Arm. Độ chính xác khá sát nhau: runtime Arm đạt 0.4863 mAP50-95 và NCNN đạt 0.4902. Các thời gian này tương đương khoảng 27 FPS suy luận so với khoảng 15, tức thông lượng của runtime Arm trong bài kiểm tra đó cao hơn khoảng 84%. Arm lưu ý rằng model NCNN của họ dùng trọng số FP32, bật phép tính FP16.
Với đội ngũ phát triển trên bo mạch bị giới hạn về chi phí và điện năng, giảm gần một nửa thời gian suy luận giúp dành thêm ngân sách thời gian cho mỗi khung hình để thu nhận ảnh, theo dõi và xử lý phần còn lại của ứng dụng. Đây chỉ là thời gian suy luận; khâu thu nhận ảnh, tiền xử lý, vẽ và hiển thị đều làm tăng thời gian cho mỗi khung hình, vì vậy hãy đo toàn bộ pipeline camera trên thiết bị. Runtime này cũng tiếp nối sự hợp tác mà chúng tôi đã đề cập từ Arm Create 2026, nơi Ultralytics YOLO trở thành model được tối ưu hóa sẵn trên Arm AI Portal ngay khi ra mắt.
Benchmark NCNN của chúng tôi ghi nhận YOLO26n đạt 67.03 ms mỗi ảnh trên Raspberry Pi 5#
Đội ngũ Ultralytics đã benchmark YOLO26 trên Raspberry Pi 5 với tám định dạng export cho hướng dẫn Raspberry Pi. Các điều kiện: model được export ở độ chính xác FP32, đầu vào mặc định 640 pixel, Ultralytics 8.4.108, độ chính xác được đánh giá trên COCO128 và chỉ đo thời gian suy luận, không tính tiền xử lý và hậu xử lý. Benchmark của chúng tôi dùng bản export FP32. Bài kiểm tra NCNN riêng của Arm bật phép tính FP16. Hai kết quả NCNN, 67.03 ms và 67.20 ms, không thể so sánh trực tiếp.
NCNN là định dạng export của Ultralytics nhanh nhất với cách biệt rõ rệt:
| Định dạng YOLO26n | Thời gian suy luận (ms/ảnh) | mAP50-95(B), COCO128 |
|---|---|---|
| PyTorch | 299.09 | 0.4760 |
| ONNX | 125.99 | 0.4734 |
| LiteRT | 123.30 | 0.4730 |
| OpenVINO | 104.55 | 0.4734 |
| MNN | 91.87 | 0.4749 |
| NCNN | 67.03 | 0.4784 |
NCNN chạy nhanh hơn khoảng 4.5 lần so với trọng số PyTorch (67.03 ms so với 299.09 ms); trên COCO128, model đạt 0.4784 mAP50-95, so với 0.4760 của PyTorch. Model YOLO26s lớn hơn mất 172.88 ms với NCNN, vì vậy nếu muốn đạt tốc độ khung hình cao nhất trên CPU Pi, hãy bắt đầu với model nano.
YOLO26 cũng vượt trội hơn phiên bản tiền nhiệm trên bo mạch này. Trong benchmark ONNX riêng ở độ phân giải 640 pixel, YOLO26n đạt 7.79 FPS, so với 6.79 FPS của YOLO11n, nhanh hơn khoảng 15%, đồng thời đạt 40.1% mAP50-95 trên tập validation COCO, so với 39.5% (Ultralytics 8.4.14). YOLO26 cũng có thể chạy mà không cần non-maximum suppression khi được export bằng nms=False sang các định dạng hỗ trợ tính năng này, chẳng hạn ONNX và OpenVINO; NCNN quay về head tiêu chuẩn có NMS, như được giải thích trong hướng dẫn phát hiện end-to-end.
Chỉ so sánh số liệu Raspberry Pi khi các điều kiện tương đương#
Bài kiểm tra của Arm hữu ích vì giữ cố định model, kích thước đầu vào, batch và tập dữ liệu khi so sánh các runtime. Hầu hết benchmark Pi bạn tìm thấy trên mạng không làm như vậy. Ba thiết lập tác động đến kết quả nhiều nhất là độ chính xác (FP32, FP16 hoặc INT8), kích thước đầu vào và phạm vi thời gian được đo: chỉ riêng lượt forward của model hay toàn bộ quy trình từ ảnh đến các bounding box cuối cùng.
Độ chính xác cũng cần được đánh giá cẩn thận tương tự. mAP của chúng tôi được tính trên COCO128, một mẫu gồm 128 ảnh, vì vậy hãy kiểm tra độ chính xác trên ảnh validation của riêng bạn trước khi triển khai bất kỳ model nào, đặc biệt là model đã lượng tử hóa.
Chạy YOLO26n trên CPU Raspberry Pi 5 qua năm bước#
Sau đây là cách nhanh nhất được hỗ trợ bằng package Ultralytics Python. Hướng dẫn này giả định bạn có Raspberry Pi 5 chạy Raspberry Pi OS 64-bit; hướng dẫn Raspberry Pi trình bày cách flash OS và thiết lập Docker.
- Cài đặt Ultralytics trong môi trường ảo. Raspberry Pi OS hiện tại chặn cài đặt
pipvào Python hệ thống, vì vậy hãy tạo một môi trường vẫn có thể truy cập thư viện camera của hệ thống:
sudo apt update
sudo apt install -y python3-venv python3-picamera2 rpicam-apps
python3 -m venv --system-site-packages ~/yolo
source ~/yolo/bin/activate
pip install ultralytics- Export YOLO26n sang NCNN và kiểm thử. Chế độ export tạo thư mục
yolo26n_ncnn_modelmà bạn tải như mọi model khác:
from ultralytics import YOLO
# # Export một lần trên Pi; tạo thư mục 'yolo26n_ncnn_model'
model = YOLO("yolo26n.pt")
model.export(format="ncnn")
# # Tải model NCNN và chạy trên CPU
ncnn_model = YOLO("yolo26n_ncnn_model")
results = ncnn_model("https://ultralytics.com/images/bus.jpg")
print(results[0].speed) # # thời gian tiền xử lý, suy luận và hậu xử lý tính bằng ms
YOLO26n được export sang NCNN, chạy trên ảnh kiểm thử bus.jpg từ bước 2: phát hiện một xe buýt và bốn người. Kết quả được ghi nhận trên CPU máy tính để bàn; bounding box và điểm số trên Pi có thể khác đôi chút.
- Kết nối camera. Kiểm tra luồng hình ảnh bằng
rpicam-hello. Pi 5 có hai đầu nối camera/màn hình 22 chân, vì vậy module camera 15 chân cần cáp chuyển đổi. - Chạy phát hiện trực tiếp.
picamera2chuyển thẳng các khung hình đến model. Cửa sổcv2.imshowcần phiên làm việc trên máy tính để bàn; trên Pi không màn hình, hãy bỏ các dòng hiển thị và thay vào đó sử dụng kết quả trong code:
import cv2
from picamera2 import Picamera2
from ultralytics import YOLO
picam2 = Picamera2()
picam2.preview_configuration.main.size = (1280, 720)
picam2.preview_configuration.main.format = "RGB888"
picam2.preview_configuration.align()
picam2.configure("preview")
picam2.start()
model = YOLO("yolo26n_ncnn_model")
while True:
frame = picam2.capture_array()
results = model(frame)
cv2.imshow("Camera", results[0].plot())
if cv2.waitKey(1) == ord("q"):
break
cv2.destroyAllWindows()- Benchmark trên bo mạch của bạn.
yolo benchmark model=yolo26n.pt data=coco128.yaml imgsz=640thử từng định dạng export trên chính Pi của bạn, để bạn thấy hiệu quả của hệ thống tản nhiệt, image OS và nguồn điện. Không thể export một số định dạng ngay trên Pi: chẳng hạn LiteRT chỉ export được trên Linux x86_64 hoặc macOS, vì vậy hãy export ở đó, sao chép file sang Pi rồi xác thực riêng. Để có số liệu độ chính xác ổn định hơn, hãy dùng tập validation lớn hơn nhưdata=coco.yaml.
Chạy runtime của Arm cùng NCNN trên cùng Pi#
Runtime của Arm là một dự án riêng, không phải định dạng export của Ultralytics; các bước thiết lập hướng đến Raspberry Pi OS Trixie 64-bit với Python 3.13. Để dùng thử và so sánh với NCNN:
- Clone arm/Optimized-Runtimes, mở thư mục
yolo26-raspberry-pi-5, làm theo các bước chuẩn bị và build runtime bằngmake runtime. - Chạy
make example-videođể xem kết quả phát hiện trên video mẫu. - Chạy
make ultralytics-benchmarkđể benchmark runtime Arm trên bo mạch của bạn. - Export YOLO26n sang NCNN như ở bước 2 bên trên, rồi xác thực model trên cùng tập dữ liệu
coco-128-by-sađã tạo. Dùng môi trường, checkpoint và các lệnh trên trang so sánh của Arm để cả hai runtime xử lý cùng hình ảnh ở cùng kích thước đầu vào. - Với model của riêng bạn, hãy chuyển đổi checkpoint YOLO26n đã fine-tune tương thích bằng
make model CHECKPOINT=/path/to/checkpoint.pt, như được mô tả trong model card của runtime, rồi so sánh cả độ chính xác trên tập validation của riêng bạn lẫn tốc độ.
Trong phần so sánh của Arm, runtime của Arm là cách chạy CPU nhanh hơn để phát hiện bằng YOLO26n. Bản export NCNN của Ultralytics đáp ứng các nhu cầu còn lại: những kích thước và tác vụ YOLO26 khác, bao gồm segmentation và pose, từ cùng hai dòng code, trong phạm vi các giới hạn được liệt kê trong hướng dẫn NCNN.
Tản nhiệt, ép xung và OS nhẹ hơn giúp tăng số khung hình#
Khi model đã chạy, bo mạch sẽ quyết định giới hạn hiệu năng. Các phương pháp tốt nhất trong hướng dẫn Raspberry Pi liệt kê những cách cải thiện:
- Làm mát bo mạch. Suy luận liên tục làm CPU nóng lên, còn cơ chế giảm xung do nhiệt sẽ hạ tốc độ xung mà benchmark của bạn giả định. Tản nhiệt và quạt giúp thời gian xử lý mỗi khung hình ổn định.
- Ép xung nếu có thể làm mát. Một số bo mạch Pi 5 có thể chạy CPU ở 3.0 GHz thay vì mức cơ bản 2.4 GHz bằng
arm_freq=3000vàforce_turbo=1trong/boot/firmware/config.txt, sau đó khởi động lại. Độ ổn định khác nhau tùy bo mạch, vì vậy nếu hệ thống mất ổn định, hãy giảm 100 MHz. - Không dùng giao diện máy tính để bàn. Raspberry Pi OS Lite dành nhiều RAM hơn cho tác vụ thị giác máy tính.
- Dùng SSD cho tác vụ chạy 24/7. Thẻ SD có thể bị hao mòn khi ghi liên tục; đầu nối PCIe của Pi 5 hỗ trợ adapter NVMe.
- Giảm kích thước đầu vào khi đối tượng lớn.
imgsznhỏ hơn đồng nghĩa với ít pixel hơn trên mỗi khung hình. Hãy đo mức thay đổi về tốc độ và độ chính xác trên video của riêng bạn, vì đối tượng nhỏ hoặc ở xa sẽ bị ảnh hưởng trước. Hướng dẫn của chúng tôi về FPS trong thị giác máy tính giải thích cách lập ngân sách tốc độ khung hình.
Bổ sung bộ tăng tốc khi một CPU Pi không đủ#
Pi 5 chỉ dùng CPU phù hợp với một camera ở tốc độ khung hình vừa phải. Với nhiều luồng hình ảnh, model lớn hơn hoặc cần thêm tài nguyên cho phần mềm khác, bộ tăng tốc sẽ chuyển model ra khỏi CPU. Thời gian suy luận YOLO26n mà chúng tôi đo được trên Raspberry Pi 5 (chỉ tính suy luận, COCO128), từ các bài kiểm tra riêng với model đã lượng tử hóa và các phiên bản Ultralytics khác nhau:
- Hailo-8 trên AI HAT+: 21.7 ms với 0.455 mAP50-95, Ultralytics 8.4.174.
- Module M.2 DEEPX DX-M1: 34.6 ms với 0.4660 mAP50-95, Ultralytics 8.4.48.
- Coral Edge TPU: lựa chọn USB có quy trình export riêng; thời gian trong hướng dẫn đó được đo bằng các model YOLOv8.
Mỗi lựa chọn đều cần thêm phần cứng, điện năng và một bước biên dịch model; các model được tăng tốc cũng chạy ở dạng lượng tử hóa, vì vậy hãy kiểm tra độ chính xác sau khi export. Để có cái nhìn rộng hơn, hãy xem cách chọn thiết bị edge phù hợp và hướng dẫn NVIDIA Jetson nếu bạn cần năng lực tính toán vượt quá khả năng của Pi.
Huấn luyện detector tùy chỉnh rồi triển khai theo cùng cách#
80 lớp của COCO là điểm khởi đầu. Hầu hết dự án Pi cần nhận diện đối tượng riêng: một bộ phận trên dây chuyền, một sản phẩm trên kệ hay một loài gây hại trên lá. Ultralytics Platform xử lý toàn bộ quy trình: tải lên và gán nhãn tập dữ liệu, huấn luyện trên cloud từ checkpoint YOLO26n, sau đó export sang NCNN và sao chép thư mục sang Pi.
Bắt đầu với model nano, sau đó xác thực độ chính xác và đo tốc độ bằng model tùy chỉnh trên video đại diện từ camera bạn sẽ triển khai. Mẹo huấn luyện model của chúng tôi và bài học Academy về chọn mục tiêu triển khai sẽ hướng dẫn các bước còn lại.
Ai nên chạy YOLO26 trên CPU Raspberry Pi 5#
Hãy chạy YOLO26n trên CPU Pi 5 nếu bạn có một camera, có thể đáp ứng tốc độ khung hình đo được trên thiết bị từ đầu đến cuối và muốn danh sách vật tư tối giản: Raspberry Pi, camera, quạt và nguồn điện. Các trường hợp phù hợp gồm quầy bán lẻ, camera trong nhà và camera quan sát động vật hoang dã, đếm sản phẩm trên băng chuyền và nguyên mẫu robot.
Hãy dùng runtime của Arm khi phát hiện bằng YOLO26n là toàn bộ khối lượng công việc của bạn và mỗi mili giây đều quan trọng. Bổ sung bộ tăng tốc khi cần nhiều camera, model lớn hơn hoặc muốn dành CPU cho phần còn lại của ứng dụng.
Ultralytics YOLO được cung cấp theo AGPL-3.0 hoặc Giấy phép Ultralytics Enterprise. Xem các tùy chọn cấp phép của Ultralytics để xác định nhu cầu triển khai của bạn.
Câu hỏi thường gặp
Có, với tác vụ một camera ở tốc độ khung hình vừa phải. Trong benchmark Ultralytics, YOLO26n được export sang NCNN mất 67.03 ms suy luận mỗi ảnh trên CPU Raspberry Pi 5 (bản export FP32, đầu vào 640 pixel), tương đương khoảng 15 FPS suy luận. Trong một bài so sánh riêng, Arm đo được 36.60 ms cho YOLO26n với runtime mã nguồn mở của họ; đây là một bài kiểm tra khác, không phải mức tăng tốc so với kết quả 67.03 ms của chúng tôi. Thu nhận hình ảnh từ camera và vẽ làm tăng thời gian, vì vậy hãy đo toàn bộ pipeline.
Trong bài kiểm tra so sánh của Arm, runtime YOLO26n Optimized-Runtimes của họ nhanh nhất, đạt 36.60 ms mỗi ảnh, so với 67.20 ms của NCNN. Trong benchmark riêng về các định dạng export Ultralytics, NCNN nhanh nhất với 67.03 ms, trước MNN ở mức 91.87 ms và OpenVINO ở mức 104.55 ms. Đây là các benchmark riêng sử dụng những tập dữ liệu khác nhau, COCO128 và coco-128-by-sa của Arm, nên thời gian không chứng minh mức tăng tốc giữa hai bài kiểm tra.
Có. Trong benchmark ONNX riêng ở độ phân giải 640 pixel trên Raspberry Pi 5, YOLO26n đạt 7.79 FPS, so với 6.79 FPS của YOLO11n, nhanh hơn khoảng 15%, đồng thời đạt 40.1% mAP50-95 trên tập validation COCO, so với 39.5%.
Không cần nếu chỉ dùng một camera ở tốc độ khung hình vừa phải. Bộ tăng tốc có lợi khi xử lý nhiều luồng hình ảnh hoặc model lớn hơn: trong các bài kiểm tra của chúng tôi, YOLO26n lượng tử hóa trên Hailo-8 AI HAT+ mất 21.7 ms suy luận mỗi ảnh, so với 67.03 ms của bản export NCNN FP32 chạy trên CPU. Các kết quả này đến từ những bài kiểm tra riêng với phiên bản và độ chính xác khác nhau.
Có. Huấn luyện model bằng Python hoặc trên Ultralytics Platform, export model bằng
format="ncnn", sao chép thư mục_ncnn_modelsang Pi rồi tải model bằngYOLO("your_model_ncnn_model"). Cập nhật đường dẫn model trong code camera và benchmark model với YAML tập dữ liệu cùng các lớp của bạn. Runtime của Arm cũng chuyển đổi được các checkpoint YOLO26n đã fine-tune tương thích.
Được viết bởi
Bình luận
Đặt câu hỏi, chia sẻ kết quả hoặc giúp đỡ người khác.










