CPU
Khám phá CPU Vai trò quan trọng của nó trong AI và Học máy. Tìm hiểu về ứng dụng của nó trong chuẩn bị dữ liệu, suy luận và so sánh với GPU/TPU.
Một đơn vị xử lý trung tâm ( CPU ) đóng vai trò là thành phần chính của máy tính, hoạt động như một trung tâm điều khiển, thực thi các lệnh và điều phối luồng dữ liệu trong toàn hệ thống. Thường được gọi là "bộ não" của thiết bị, CPU xử lý các tác vụ tính toán đa năng, chẳng hạn như chạy hệ điều hành và quản lý các hoạt động đầu vào/đầu ra. Trong bối cảnh trí tuệ nhân tạo (AI) và học máy (ML) , CPU đóng vai trò nền tảng. Mặc dù nó có thể không cung cấp khả năng song song lớn cần thiết cho việc huấn luyện mô hình nặng, nhưng nó rất quan trọng cho việc xử lý dữ liệu trước, quản lý logic hệ thống và thực hiện suy luận trên các thiết bị biên, nơi mức tiêu thụ điện năng và chi phí phần cứng bị hạn chế.
CPU so với GPU Và TPU
Hiểu được bối cảnh phần cứng là điều cần thiết để tối ưu hóa hoạt động học máy (MLOps) . CPU khác biệt đáng kể so với các bộ tăng tốc như GPU và TPU về kiến trúc và mục đích sử dụng:
Vai trò trong quy trình làm việc AI
Trong khi GPU thường là trọng tâm cho việc đào tạo, CPU vẫn không thể thiếu trong suốt vòng đời của AI.
-
Tiền xử lý dữ liệu: Trước khi mô hình có thể "nhìn thấy" dữ liệu, hình ảnh hoặc văn bản phải được tải và chuyển đổi. Các thao tác như thay đổi kích thước, chuẩn hóa và tăng cường dữ liệu thường được xử lý bởi CPU sử dụng các thư viện như NumPy và OpenCV . Hiệu quả CPU xử lý ngăn chặn GPU từ việc ngồi không trong khi chờ dữ liệu.
-
Hậu xử lý: Sau khi mô hình tạo ra các dự đoán thô, CPU thường thực hiện các tính toán cuối cùng. Ví dụ, trong phát hiện đối tượng , CPU thực hiện NMS (Non-Maximum Suppression) để lọc ra các hộp giới hạn chồng lấn và giữ lại các phát hiện đáng tin cậy nhất.
-
Suy luận biên: Trong nhiều tình huống thực tế, việc triển khai GPU đắt tiền là không khả thi. Trí tuệ nhân tạo biên phụ thuộc rất nhiều vào CPU để chạy các mô hình nhẹ trên các thiết bị như Raspberry Pi hoặc điện thoại di động.
Các Ứng dụng Thực tế
CPU hỗ trợ nhiều ứng dụng khác nhau, trong đó tính linh hoạt và hiệu quả năng lượng được ưu tiên hơn thông lượng thô.
-
Hệ thống Giám sát Thông minh: Nhiều hệ thống an ninh sử dụng thuật toán phát hiện chuyển động chạy trên CPU tiêu chuẩn. Bằng cách xử lý nguồn cấp dữ liệu video cục bộ trên thiết bị ghi hình, hệ thống có thể kích hoạt cảnh báo hoặc chỉ bắt đầu ghi hình khi phát hiện chuyển động, giúp tiết kiệm dung lượng lưu trữ và băng thông mà không cần bộ xử lý chuyên dụng. GPU .
-
IoT Công nghiệp (IIoT): Trong sản xuất, các hệ thống bảo trì dự đoán thường chạy trên CPU nhúng của bộ điều khiển công nghiệp. Các hệ thống này giám sát dữ liệu cảm biến (độ rung, nhiệt độ) theo thời gian thực để dự đoán sự cố máy móc bằng các mô hình hồi quy hoặc phân loại nhẹ, đảm bảo tự động hóa sản xuất vận hành trơn tru.
Chạy suy luận trên CPU
Các nhà phát triển thường xuyên sử dụng CPU để gỡ lỗi, thử nghiệm hoặc triển khai các mô hình trong môi trường thiếu phần cứng chuyên dụng. Các nền tảng như PyTorch cho phép người dùng nhắm mục tiêu rõ ràng CPU . Hơn nữa, việc chuyển đổi các mô hình sang các định dạng như ONNX hoặc sử dụng bộ công cụ OpenVINO có thể tối ưu hóa đáng kể tốc độ suy luận trên Intel CPU.
Ví dụ sau đây minh họa cách buộc mô hình Ultralytics YOLO11 chạy suy luận trên CPU . Điều này đặc biệt hữu ích cho việc đánh giá hiệu suất trên phần cứng tiêu chuẩn.
from ultralytics import YOLO
# Load the official YOLO11 nano model
model = YOLO("yolo11n.pt")
# Run inference on an image, explicitly setting the device to CPU
# This bypasses any available GPU to simulate an edge deployment environment
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")
# Display the detection results
results[0].show()
Sử dụng device="cpu" lập luận đảm bảo rằng phép tính vẫn nằm trên bộ xử lý trung tâm, cho phép các nhà phát triển xác minh khả năng tương thích của mô hình với
điện toán không máy chủ môi trường hoặc thiết bị biên công suất thấp.
.webp)
