CPU

Una Central Processing Unit (CPU) è il componente principale di un computer che funge da "cervello", responsabile dell'interpretazione e dell'esecuzione delle istruzioni da parte di hardware e software. Nel contesto dell'intelligenza artificiale (AI), la CPU svolge un ruolo fondamentale nella gestione dei dati, nell'orchestrazione del sistema e nell'esecuzione dell'inferenza, in particolare sui dispositivi edge in cui l'efficienza energetica è critica. Sebbene l'hardware specializzato come le GPU sia spesso associato al lavoro pesante dell'addestramento di modelli di deep learning, la CPU rimane indispensabile per l'intero flusso di lavoro di machine learning (ML).

Il ruolo delle CPU nei flussi di lavoro AI#

Sebbene le GPU siano celebrate per il loro massiccio parallelismo durante l'addestramento, la CPU è il cavallo di battaglia per molte fasi essenziali del ciclo di vita della computer vision (CV). La sua architettura, basata tipicamente su design x86 (Intel, AMD) o ARM, è ottimizzata per l'elaborazione sequenziale e il controllo logico complesso.

• Preelaborazione dei dati: Prima che una rete neurale possa apprendere, i dati devono essere preparati. Le CPU eccellono in attività come il caricamento dei file, la pulizia dei dati e le trasformazioni complesse utilizzando librerie come NumPy e OpenCV.
• Inferenza Edge: Per il deployment nel mondo reale, l'esecuzione di modelli su server massicci non è sempre fattibile. Le CPU consentono un deployment dei modelli efficiente su hardware di consumo, come l'esecuzione di Ultralytics YOLO26 su un laptop o un Raspberry Pi.
• Post-elaborazione: Dopo che un modello restituisce probabilità grezze, la CPU gestisce spesso la logica finale, come la Non-Maximum Suppression (NMS) nel rilevamento di oggetti, per filtrare le predizioni duplicate e perfezionare i risultati.

CPU vs. GPU vs. TPU#

Comprendere il panorama dell'hardware è fondamentale per ottimizzare le operazioni di machine learning (MLOps). Questi processori differiscono significativamente nella loro architettura e nei casi d'uso ideali.

• CPU: Progettata per la versatilità e la logica complessa. Presenta pochi core potenti che elaborano le attività in modo sequenziale. È ideale per l'aumentazione dei dati, la gestione della pipeline e l'inferenza a bassa latenza su piccoli batch.
• GPU (Graphics Processing Unit): Nate originariamente per la grafica, le GPU dispongono di migliaia di core più piccoli progettati per l'elaborazione parallela. Sono lo standard per l'addestramento dei modelli perché possono eseguire moltiplicazioni di matrici molto più velocemente di una CPU.
• TPU (Tensor Processing Unit): Un circuito specializzato (ASIC) sviluppato da Google Cloud specificamente per la matematica dei tensor. Sebbene altamente efficiente per carichi di lavoro specifici, manca della flessibilità per usi generali di una CPU.

Applicazioni nel mondo reale#

Le CPU sono spesso l'hardware preferito per le applicazioni in cui il costo, la disponibilità e il consumo energetico superano la necessità di un enorme throughput grezzo.

1. Telecamere di sicurezza intelligenti: Nei sistemi di allarme di sicurezza, le telecamere elaborano spesso i flussi video localmente. Un modello di rilevamento di oggetti basato su CPU può identificare una persona o un veicolo e attivare un avviso senza inviare video al cloud, preservando la larghezza di banda e la privacy dell'utente.

2. Automazione industriale: Negli stabilimenti industriali, i sistemi di manutenzione predittiva utilizzano le CPU per monitorare i dati dei sensori dai macchinari. Questi sistemi analizzano vibrazioni o picchi di temperatura in tempo reale per prevedere i guasti, garantendo un'agevole automazione della produzione senza la necessità di costosi cluster GPU.

Esecuzione dell'inferenza su CPU con Ultralytics#

Gli sviluppatori spesso testano i modelli sulle CPU per verificare la compatibilità con ambienti di serverless computing o dispositivi a basso consumo. L'API di Ultralytics ti consente di puntare facilmente alla CPU, assicurando che la tua applicazione funzioni ovunque.

Il seguente esempio dimostra come caricare un modello leggero ed eseguire l'inferenza specificamente sulla CPU:

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

Per migliorare ulteriormente le prestazioni sulle CPU Intel, gli sviluppatori possono esportare i propri modelli nel formato OpenVINO, che ottimizza la struttura della rete neurale specificamente per l'architettura x86. Per la gestione dei dataset e l'orchestrazione di questi deployment, strumenti come la Ultralytics Platform semplificano il flusso di lavoro dall'annotazione all'esecuzione edge.