CPU

Bộ xử lý trung tâm ( CPU (Bộ xử lý) là thành phần chính của máy tính, đóng vai trò như "bộ não" của nó, chịu trách nhiệm diễn giải và thực thi các lệnh từ phần cứng và phần mềm. Trong bối cảnh trí tuệ nhân tạo (AI) , CPU Đóng vai trò nền tảng trong việc xử lý dữ liệu, điều phối hệ thống và thực hiện suy luận, đặc biệt là trên các thiết bị biên nơi hiệu quả năng lượng là rất quan trọng. Trong khi phần cứng chuyên dụng như GPU thường được liên kết với các tác vụ nặng nhọc như huấn luyện các mô hình học sâu, thì... CPU vẫn là yếu tố không thể thiếu đối với toàn bộ quy trình học máy (ML) .

Vai trò của CPU trong quy trình làm việc AI

Mặc dù GPU được ca ngợi vì khả năng xử lý song song mạnh mẽ trong quá trình huấn luyện, nhưng CPU là "ngựa chiến" cho nhiều giai đoạn thiết yếu của vòng đời thị giác máy tính (CV) . Kiến trúc của nó, thường dựa trên x86 ( Intel Các thiết kế của AMD (hoặc ARM ) được tối ưu hóa cho xử lý tuần tự và điều khiển logic phức tạp.

• Xử lý sơ bộ dữ liệu: Trước khi mạng nơ-ron có thể học, dữ liệu cần được chuẩn bị. CPU rất giỏi trong các tác vụ như tải tập tin, làm sạch dữ liệu và các phép biến đổi phức tạp bằng cách sử dụng các thư viện như NumPy và OpenCV .
• Suy luận trên thiết bị biên: Đối với việc triển khai thực tế, việc chạy các mô hình trên các máy chủ lớn không phải lúc nào cũng khả thi. CPU cho phép triển khai mô hình hiệu quả trên phần cứng tiêu dùng, chẳng hạn như chạy Ultralytics YOLO26 trên máy tính xách tay hoặc Raspberry Pi .
• Xử lý hậu kỳ: Sau khi mô hình đưa ra các xác suất thô, CPU Thường xử lý các logic cuối cùng, chẳng hạn như Loại bỏ cực đại không tương đồng (Non-Maximum Suppression - NMS ) trong phát hiện đối tượng, để lọc ra các dự đoán trùng lặp và tinh chỉnh kết quả.

CPU so với GPU so với TPU

Hiểu rõ về cấu trúc phần cứng là rất quan trọng để tối ưu hóa các hoạt động học máy (MLOps) . Các bộ xử lý này khác nhau đáng kể về kiến trúc và trường hợp sử dụng lý tưởng.

• CPU : Được thiết kế cho tính linh hoạt và khả năng xử lý logic phức tạp. Nó sở hữu một số lõi mạnh mẽ xử lý các tác vụ theo trình tự. CPU này phù hợp nhất cho việc tăng cường dữ liệu , quản lý quy trình xử lý và suy luận độ trễ thấp trên các lô dữ liệu nhỏ.
• GPU (Bộ xử lý đồ họa) : Ban đầu được thiết kế cho đồ họa, GPU có hàng nghìn lõi nhỏ hơn được thiết kế để xử lý song song. Chúng là tiêu chuẩn cho việc huấn luyện mô hình vì chúng có thể thực hiện phép nhân ma trận nhanh hơn nhiều so với bộ xử lý đồ họa thông thường. CPU .
• TPU ( Tensor Processing Unit) : Một mạch chuyên dụng (ASIC) được Google Cloud phát triển dành riêng cho... tensor Toán học. Mặc dù rất hiệu quả đối với các khối lượng công việc cụ thể, nhưng nó thiếu tính linh hoạt đa năng của một... CPU .

Các Ứng dụng Thực tế

CPU thường là lựa chọn phần cứng ưu tiên cho các ứng dụng mà chi phí, tính sẵn có và mức tiêu thụ năng lượng quan trọng hơn nhu cầu về thông lượng thô lớn.

1. Camera an ninh thông minh: Trong các hệ thống báo động an ninh , camera thường xử lý nguồn cấp video cục bộ. CPU Mô hình phát hiện đối tượng dựa trên video có thể nhận dạng người hoặc phương tiện và kích hoạt cảnh báo mà không cần gửi video lên đám mây, giúp tiết kiệm băng thông và bảo vệ quyền riêng tư của người dùng.
2. Tự động hóa công nghiệp: Trong các nhà máy, hệ thống bảo trì dự đoán sử dụng CPU để giám sát dữ liệu cảm biến từ máy móc. Các hệ thống này phân tích độ rung hoặc sự tăng đột biến nhiệt độ trong thời gian thực để dự đoán sự cố, đảm bảo quá trình sản xuất tự động diễn ra suôn sẻ mà không cần đến các thiết bị đắt tiền. GPU các cụm.

Đang thực hiện suy luận trên CPU với Ultralytics

Các nhà phát triển thường thử nghiệm các mô hình trên CPU để xác minh khả năng tương thích với môi trường điện toán phi máy chủ hoặc các thiết bị tiêu thụ điện năng thấp. Ultralytics API cho phép bạn dễ dàng nhắm mục tiêu vào CPU , đảm bảo ứng dụng của bạn có thể chạy ở mọi nơi.

Ví dụ sau đây minh họa cách tải một mô hình nhẹ và chạy suy luận cụ thể trên... CPU :

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

Để cải thiện hơn nữa hiệu suất trên Intel Với CPU, các nhà phát triển có thể xuất mô hình của họ sang định dạng OpenVINO , định dạng này tối ưu hóa cấu trúc mạng nơ-ron dành riêng cho kiến ​​trúc x86. Để quản lý tập dữ liệu và điều phối việc triển khai, các công cụ như Nền tảng Ultralytics giúp đơn giản hóa quy trình làm việc từ khâu chú thích đến thực thi ở biên.