Dimensionality Reduction

La riduzione della dimensionalità è una tecnica trasformativa nel machine learning (ML) e nella scienza dei dati, utilizzata per ridurre il numero di variabili di input (spesso chiamate feature o dimensioni) in un dataset, conservando al contempo le informazioni più critiche. Nell'era dei big data, i dataset contengono spesso migliaia di variabili, portando a un fenomeno noto come maledizione della dimensionalità. Questo fenomeno può rendere l'addestramento del modello computazionalmente costoso, incline all'overfitting e difficile da interpretare. Proiettando dati ad alta dimensione in uno spazio a dimensione inferiore, i professionisti possono migliorare l'efficienza, la visualizzazione e le prestazioni predittive.

Link to this sectionPrincipali vantaggi nello sviluppo dell'AI#

Ridurre la complessità dei dati è un passaggio fondamentale nelle pipeline di pre-elaborazione dei dati. Offre diversi vantaggi tangibili per la creazione di robusti sistemi di intelligenza artificiale (AI):

• Efficienza computazionale migliorata: meno feature significano meno dati da elaborare. Questo accelera i tempi di addestramento per algoritmi come YOLO26, rendendoli più adatti all'inferenza in tempo reale e al deployment su dispositivi edge AI con risorse limitate.
• Visualizzazione dei dati migliorata: l'intuizione umana fatica a comprendere dati oltre le tre dimensioni. La riduzione della dimensionalità comprime dataset complessi in spazi 2D o 3D, consentendo un'efficace visualizzazione dei dati per individuare cluster, pattern e outlier utilizzando strumenti come il TensorFlow Embedding Projector.
• Riduzione del rumore: concentrandosi sulla varianza più rilevante nei dati, questa tecnica filtra il rumore e le feature ridondanti. Il risultato sono dati di addestramento più puliti, aiutando i modelli a generalizzare meglio su esempi non visti.
• Ottimizzazione dello storage: memorizzare enormi dataset sul cloud, come quelli gestiti tramite la Ultralytics Platform, può essere costoso. Comprimere lo spazio delle feature riduce significativamente i requisiti di archiviazione senza sacrificare l'integrità essenziale dei dati.

Link to this sectionTecniche chiave: lineari vs. non lineari#

I metodi per ridurre le dimensioni sono generalmente classificati in base al fatto che preservino la struttura lineare globale o la varietà non lineare locale dei dati.

Link to this sectionMetodi lineari#

La tecnica lineare più consolidata è l'Analisi delle Componenti Principali (PCA). La PCA funziona identificando le "componenti principali", assi ortogonali che catturano la massima varianza nei dati. Proietta i dati originali su questi nuovi assi, eliminando efficacemente le dimensioni che contribuiscono con poche informazioni. È un elemento fondamentale nei flussi di lavoro di apprendimento non supervisionato.

Link to this sectionMetodi non lineari#

Per strutture dati complesse, come immagini o embedding testuali, sono spesso richiesti metodi non lineari. Tecniche come t-SNE (t-Distributed Stochastic Neighbor Embedding) e UMAP (Uniform Manifold Approximation and Projection) eccellono nel preservare i vicinati locali, rendendole ideali per visualizzare cluster ad alta dimensione. Inoltre, gli autoencoder sono reti neurali addestrate per comprimere gli input in una rappresentazione nello spazio latente e ricostruirli, imparando efficacemente una codifica compatta dei dati.

Link to this sectionApplicazioni nel mondo reale#

La riduzione della dimensionalità è fondamentale in vari ambiti del deep learning (DL):

1. Computer Vision: moderni rilevatori di oggetti come YOLO26 elaborano immagini contenenti migliaia di pixel. Gli strati interni utilizzano tecniche come pooling e convoluzioni strided per ridurre progressivamente le dimensioni spaziali delle feature map, distillando i pixel grezzi in concetti semantici di alto livello (es. "bordo", "occhio", "auto").

2. Genomica e sanità: nell'analisi delle immagini mediche e nella bioinformatica, i ricercatori analizzano dati di espressione genica con decine di migliaia di variabili. La riduzione della dimensionalità aiuta a identificare biomarcatori chiave per la classificazione delle malattie, come osservato negli studi sulla genomica del cancro.

3. Sistemi di raccomandazione: piattaforme come Netflix o Spotify utilizzano la fattorizzazione di matrici (una tecnica di riduzione) per prevedere le preferenze degli utenti. Riducendo la matrice sparsa delle interazioni utente-elemento, possono consigliare in modo efficiente contenuti basati su feature latenti.

Link to this sectionRiduzione della dimensionalità vs. selezione delle feature#

È importante distinguere questo concetto dalla selezione delle feature, poiché raggiungono obiettivi simili tramite meccanismi diversi:

• Selezione delle feature: comporta la selezione di un sottoinsieme delle feature originali (es. mantenere "Età" e scartare "Nome"). Non altera i valori delle feature scelte.
• Riduzione della dimensionalità (nello specifico l'estrazione di feature) crea nuove feature che sono combinazioni di quelle originali. Ad esempio, la PCA potrebbe combinare "Altezza" e "Peso" in una singola nuova componente che rappresenta la "Dimensione corporea".

Link to this sectionEsempio Python: riduzione degli embedding di immagini#

Il seguente esempio illustra come prendere un output ad alta dimensione (simulando un vettore di embedding di un'immagine) e ridurlo utilizzando la PCA. Questo è un flusso di lavoro comune quando si visualizza come un modello come YOLO26 raggruppa classi simili.

import numpy as np
from sklearn.decomposition import PCA

# Simulate high-dimensional embeddings (e.g., 10 images, 512 features each)
# In a real workflow, these would come from a model like YOLO26n
embeddings = np.random.rand(10, 512)

# Initialize PCA to reduce from 512 dimensions to 2
pca = PCA(n_components=2)
reduced_data = pca.fit_transform(embeddings)

# Output shape is now (10, 2), ready for 2D plotting
print(f"Original shape: {embeddings.shape}")  # (10, 512)
print(f"Reduced shape: {reduced_data.shape}")  # (10, 2)