Logistic Regression

La Regressione logistica è un metodo statistico fondamentale e un algoritmo di machine learning utilizzato principalmente per attività di classificazione binaria. Nonostante il suo nome contenga "regressione", che tipicamente implica la previsione di valori continui (come la temperatura o i prezzi delle azioni), la Regressione logistica è progettata per prevedere la probabilità che un determinato input appartenga a una categoria specifica. Questo la rende uno strumento cruciale per i problemi in cui il risultato è dicotomico, come determinare se un'email è "spam" o "non spam", o se un tumore medico è "benigno" o "maligno". Serve da ponte tra la statistica tradizionale e il moderno apprendimento supervisionato, offrendo un equilibrio tra semplicità e interpretabilità che viene spesso usato come base prima di implementare modelli più complessi come le reti neurali.

Link to this sectionMeccanismi fondamentali e probabilità#

A differenza della Regressione lineare, che adatta una linea retta ai punti dati per prevedere un output continuo, la Regressione logistica adatta una curva a "S" ai dati. Questa curva viene generata utilizzando la funzione Sigmoide, una trasformazione matematica che mappa qualsiasi numero reale in un valore compreso tra 0 e 1. Questo output rappresenta un punteggio di probabilità, che indica la fiducia che un'istanza appartenga alla classe positiva.

Durante il processo di addestramento, l'algoritmo apprende pesi e bias ottimali per minimizzare l'errore. Questo si ottiene solitamente utilizzando un algoritmo di ottimizzazione come la discesa del gradiente, che regola iterativamente i parametri del modello per ridurre la differenza tra le probabilità previste e le effettive etichette di classe. Le prestazioni vengono spesso valutate utilizzando una specifica funzione di perdita chiamata Log Loss o Binary Cross-Entropy. Una volta che il modello emette una probabilità, un confine decisionale (spesso fissato a 0,5) classifica l'input: i valori sopra la soglia diventano la classe positiva, mentre i valori sotto diventano la classe negativa.

Link to this sectionDistinzione da termini correlati#

È importante distinguere la Regressione logistica da concetti simili per evitare confusione:

• Regressione lineare vs. Regressione logistica: Mentre la Regressione lineare prevede output numerici continui (es. prezzi delle case), la Regressione logistica prevede risultati categorici tramite probabilità.
• Classificazione vs. Regressione: Nel machine learning, le attività di classificazione implicano la previsione di etichette discrete, mentre le attività di regressione prevedono quantità continue. La Regressione logistica è un algoritmo di classificazione nonostante il suo nome.
• Perceptron: Un semplice Perceptron usa una funzione a gradino per emettere direttamente un 0 o 1 binario, mentre la Regressione logistica usa la funzione Sigmoide uniforme per restituire una probabilità, offrendo maggiore sfumatura.

Link to this sectionApplicazioni nel mondo reale#

La Regressione logistica rimane ampiamente utilizzata in diversi settori grazie alla sua efficienza e alla facilità con cui i suoi risultati possono essere interpretati.

• Assistenza sanitaria e diagnosi medica: I professionisti medici utilizzano questi modelli per prevedere la probabilità che un paziente sviluppi una malattia specifica, come il diabete o malattie cardiache, in base a fattori come età, BMI e pressione sanguigna. Ciò aiuta nell'analisi delle immagini mediche precoce e nel processo decisionale.
• Credit Scoring e finanza: Le banche impiegano la Regressione logistica per valutare il rischio di prestito a un cliente. Analizzando caratteristiche come la storia creditizia e il reddito, il modello prevede la probabilità che un mutuatario sia inadempiente su un prestito, automatizzando la modellazione predittiva per la sicurezza finanziaria.
• Marketing e previsione dell'abbandono (Churn): Le aziende analizzano il comportamento dei clienti per prevedere se un utente si abbonerà a un servizio o smetterà di usare un prodotto (abbandono). Questa intuizione aiuta a perfezionare le strategie di fidelizzazione del cliente e a indirizzare le campagne di marketing in modo efficace.

Link to this sectionImplementazione moderna#

Sebbene modelli di deep learning come YOLO26 siano preferiti per attività complesse come il rilevamento di oggetti, la Regressione logistica è spesso il livello finale nelle reti di classificazione binaria delle immagini. Ad esempio, una rete neurale convoluzionale potrebbe estrarre caratteristiche e il livello finale agisce come un classificatore di Regressione logistica per determinare se un'immagine contiene un "gatto" o un "cane".

Strumenti come la Piattaforma Ultralytics semplificano il flusso di lavoro per l'addestramento di modelli di classificazione complessi che utilizzano questi principi sottostanti. Tuttavia, per comprendere il concetto grezzo, semplici librerie possono dimostrarne la meccanica.

Ecco un esempio di base che utilizza torch per definire una struttura di modello di Regressione logistica a strato singolo:

import torch
import torch.nn as nn


# Define a simple Logistic Regression model class
class LogisticRegression(nn.Module):
    def __init__(self, input_dim):
        super().__init__()
        # A single linear layer maps input features to a single output
        self.linear = nn.Linear(input_dim, 1)

    def forward(self, x):
        # The sigmoid function transforms the linear output to a probability (0 to 1)
        return torch.sigmoid(self.linear(x))


# Example usage: Initialize model for 10 input features
model = LogisticRegression(input_dim=10)
print(model)

Link to this sectionVantaggi e Limitazioni#

Comprendere i punti di forza e di debolezza di questo algoritmo aiuta a selezionare lo strumento giusto per il lavoro.

• Interpretabilità: I coefficienti del modello (pesi) indicano direttamente la relazione tra le caratteristiche di input e la variabile target. Un peso positivo implica che all'aumentare della caratteristica, aumenta la probabilità dell'esito positivo. Questa trasparenza è vitale per l'etica dell'AI e per spiegare le decisioni alle parti interessate.
• Efficienza: Richiede meno potenza di calcolo rispetto a complesse architetture di Deep Learning, rendendola adatta per applicazioni con requisiti di bassa latenza o hardware limitato.
• Linearità dei dati: Una limitazione chiave è che presuppone una relazione lineare tra le variabili di input e gli log-odds del risultato. Potrebbe avere difficoltà con modelli di dati altamente complessi e non lineari in cui tecniche avanzate come Macchine a Vettori di Supporto (SVM) o Random Forests potrebbero eccellere.
• Overfitting: Su dataset ad alta dimensionalità con pochi esempi di addestramento, la Regressione logistica può essere soggetta a overfitting, sebbene questo possa essere mitigato utilizzando tecniche di regolarizzazione.