Naive Bayes

Naive Bayes è una famiglia di algoritmi probabilistici ampiamente utilizzati nel machine learning per le attività di classificazione. Basato su principi statistici, applica il Teorema di Bayes con una forte assunzione di indipendenza (o "ingenua") tra le caratteristiche. Nonostante la sua semplicità, questo metodo è altamente efficace per categorizzare i dati, in particolare in scenari che coinvolgono dataset ad alta dimensionalità, come il testo. Rappresenta un elemento fondamentale nel campo dell'apprendimento supervisionato, offrendo un equilibrio tra efficienza computazionale e prestazioni predittive.

Il concetto fondamentale: l'assunzione "ingenua"#

L'algoritmo prevede la probabilità che un determinato punto dati appartenga a una classe specifica. L'aspetto "ingenuo" deriva dall'assunzione che la presenza di una caratteristica specifica in una classe non sia correlata alla presenza di qualsiasi altra caratteristica. Ad esempio, un frutto potrebbe essere considerato una mela se è rosso, rotondo e ha un diametro di circa 3 pollici. Un classificatore Naive Bayes considera ciascuno di questi punti di estrazione delle caratteristiche in modo indipendente per calcolare la probabilità che il frutto sia una mela, indipendentemente da eventuali correlazioni tra colore, forma rotonda e dimensioni.

Questa semplificazione riduce drasticamente la potenza di calcolo necessaria per l'addestramento del modello, rendendo l'algoritmo eccezionalmente veloce. Tuttavia, poiché i dati del mondo reale spesso contengono variabili dipendenti e relazioni complesse, questa assunzione può talvolta limitare le prestazioni del modello rispetto ad architetture più complesse.

Applicazioni nel mondo reale#

Naive Bayes eccelle nelle applicazioni in cui la velocità è fondamentale e l'assunzione di indipendenza è ragionevolmente valida.

• Filtraggio dello spam: uno degli usi più famosi di Naive Bayes è nell'elaborazione del linguaggio naturale (NLP) per il filtraggio delle email. Il classificatore analizza la frequenza delle parole (token) in un'email per determinare se si tratta di "spam" o "ham" (legittima). Calcola la probabilità che un messaggio sia spam data la presenza di parole come "gratis", "vincitore" o "urgente". Questa applicazione si basa ampiamente sulle tecniche di classificazione del testo per mantenere pulite le caselle di posta.
• Analisi del sentiment: le aziende utilizzano questo algoritmo per valutare l'opinione pubblica analizzando le recensioni dei clienti o i post sui social media. Associando parole specifiche a sentimenti positivi o negativi, il modello può categorizzare rapidamente grandi quantità di feedback. Ciò consente alle aziende di eseguire un'analisi del sentiment su larga scala per comprendere la percezione del brand senza leggere manualmente ogni commento.

Naive Bayes e deep learning nella computer vision#

Sebbene Naive Bayes sia robusto per il testo, spesso incontra difficoltà con attività percettive come la computer vision (CV). In un'immagine, il valore di un pixel è solitamente fortemente dipendente da quelli vicini (ad esempio, un gruppo di pixel che forma un bordo o una texture). In questo caso, l'assunzione di indipendenza viene meno.

Per attività visive complesse come la rilevazione degli oggetti, sono preferiti i moderni modelli di deep learning (DL). Architetture come YOLO26 utilizzano strati convoluzionali per catturare gerarchie spaziali e interazioni tra caratteristiche che Naive Bayes ignora. Mentre Naive Bayes fornisce una baseline probabilistica, modelli come YOLO26 offrono l'elevata accuratezza richiesta dalla guida autonoma o dalla diagnostica medica. Per gestire i dataset necessari a questi complessi modelli di computer vision, strumenti come la Ultralytics Platform offrono workflow semplificati per l'annotazione e l'addestramento che vanno ben oltre la semplice gestione di dati tabellari.

Confronto con le reti bayesiane#

È utile distinguere Naive Bayes dal concetto più ampio di rete bayesiana.

• Naive Bayes: una forma specializzata e semplificata di rete bayesiana in cui tutti i nodi predittori puntano direttamente al nodo della classe e non esistono connessioni tra i predittori.
• Reti bayesiane: utilizzano un grafo aciclico diretto (DAG) per modellare dipendenze condizionali complesse tra le variabili. Possono rappresentare relazioni causali che l'approccio "ingenuo" semplifica eliminandole.

Esempio di implementazione#

Mentre il pacchetto ultralytics si concentra sul deep learning, Naive Bayes viene generalmente implementato utilizzando la libreria scikit-learn standard. L'esempio seguente mostra come addestrare un modello Gaussian Naive Bayes, utile per i dati continui.

import numpy as np
from sklearn.naive_bayes import GaussianNB

# Sample training data: [height (cm), weight (kg)] and Labels (0: Cat A, 1: Cat B)
X = np.array([[175, 70], [180, 80], [160, 50], [155, 45]])
y = np.array([0, 0, 1, 1])

# Initialize and train the classifier
model = GaussianNB()
model.fit(X, y)

# Predict class for a new individual [172 cm, 75 kg]
# Returns the predicted class label (0 or 1)
print(f"Predicted Class: {model.predict([[172, 75]])[0]}")

Vantaggi e limitazioni#

Il principale vantaggio di Naive Bayes è la sua latenza di inferenza estremamente bassa e i requisiti hardware minimi. Può interpretare dataset enormi che potrebbero rallentare altri algoritmi come le macchine a vettori di supporto (SVM). Inoltre, offre prestazioni sorprendentemente buone anche quando l'assunzione di indipendenza non è rispettata.

Tuttavia, la sua dipendenza da caratteristiche indipendenti significa che non è in grado di catturare le interazioni tra gli attributi. Se una previsione dipende dalla combinazione di parole (ad esempio, "non buono"), Naive Bayes potrebbe incontrare difficoltà rispetto ai modelli che utilizzano meccanismi di attenzione o Transformer. Inoltre, se una categoria nei dati di test non era presente nel set di addestramento, il modello le assegna una probabilità pari a zero, un problema spesso risolto con lo smoothing di Laplace.