Feature Engineering

Il feature engineering è il processo di trasformazione dei dati grezzi in input significativi che migliorano le prestazioni dei modelli di machine learning. Comporta lo sfruttamento della conoscenza del dominio per selezionare, modificare o creare nuove variabili, note come feature, che aiutano gli algoritmi a comprendere meglio i pattern nei dati. Sebbene le moderne architetture di deep learning come le Convolutional Neural Networks (CNNs) siano in grado di apprendere le feature automaticamente, l'ingegnerizzazione esplicita delle feature rimane un passaggio fondamentale in molti flussi di lavoro, specialmente quando si lavora con dati strutturati o quando si cerca di ottimizzare l'efficienza del modello su dispositivi edge. Affinando i dati di input, gli sviluppatori possono spesso ottenere una maggiore precisione con modelli più semplici, riducendo la necessità di enormi risorse computazionali.

Link to this sectionIl ruolo del feature engineering nell'AI#

Nel contesto dell'intelligenza artificiale (AI), i dati grezzi sono raramente pronti per l'elaborazione immediata. Le immagini potrebbero richiedere un ridimensionamento, il testo potrebbe necessitare di tokenizzazione e i dati tabulari contengono spesso valori mancanti o colonne irrilevanti. Il feature engineering colma il divario tra le informazioni grezze e le rappresentazioni matematiche richieste dagli algoritmi. Un'ingegnerizzazione efficace può evidenziare relazioni critiche che un modello potrebbe altrimenti perdere, come la combinazione di "distanza" e "tempo" per creare una feature di "velocità". Questo processo è strettamente legato al data preprocessing, ma mentre il preprocessing si concentra sulla pulizia e sulla formattazione, il feature engineering riguarda il miglioramento creativo per aumentare il potere predittivo.

Per le attività di computer vision, il feature engineering si è evoluto in modo significativo. I metodi tradizionali prevedevano la creazione manuale di descrittori come la Scale-Invariant Feature Transform (SIFT) per identificare bordi e angoli. Oggi, modelli di deep learning come YOLO26 eseguono l'estrazione automatizzata delle feature all'interno dei loro layer nascosti. Tuttavia, l'ingegnerizzazione gioca ancora un ruolo vitale nella preparazione dei dataset, come la generazione di dati sintetici o l'applicazione di tecniche di data augmentation come mosaic e mixup per esporre i modelli a variazioni di feature più robuste durante l'addestramento.

Link to this sectionTecniche comuni e applicazioni#

Il feature engineering comprende una vasta gamma di strategie su misura per lo specifico problema e tipo di dati.

• Riduzione della dimensionalità: Tecniche come la Principal Component Analysis (PCA) riducono il numero di variabili pur mantenendo le informazioni essenziali, prevenendo l'overfitting in dataset ad alta dimensionalità.
• Codifica delle variabili categoriche: Gli algoritmi richiedono solitamente un input numerico. Metodi come la one-hot encoding trasformano le etichette categoriche (es. "Rosso", "Blu") in vettori binari che i modelli possono elaborare.
• Normalizzazione e ridimensionamento: Scalare le feature su un intervallo standard assicura che le variabili con grandezze maggiori (come i prezzi delle case) non dominino quelle con intervalli minori (come il numero di stanze), il che è cruciale per l'ottimizzazione basata sul gradiente nelle reti neurali.
• Binning e discretizzazione: Raggruppare valori continui in bin (es. fasce d'età) può aiutare i modelli a gestire gli outlier in modo più efficace e a catturare relazioni non lineari.

Link to this sectionEsempi dal mondo reale#

Il feature engineering viene applicato in vari settori per risolvere problemi complessi.

1. Manutenzione predittiva nella produzione: Nella smart manufacturing, i sensori raccolgono dati grezzi su vibrazioni e temperatura dai macchinari. Gli ingegneri potrebbero creare feature che rappresentano il "tasso di variazione" della temperatura o la "media mobile" dell'intensità delle vibrazioni. Queste feature ingegnerizzate consentono ai modelli di anomaly detection di prevedere i guasti alle apparecchiature con giorni di anticipo, invece di limitarsi a reagire alle letture attuali dei sensori.

2. Valutazione del rischio di credito: Le istituzioni finanziarie utilizzano il feature engineering per valutare l'idoneità al prestito. Invece di guardare solo a un dato grezzo di "reddito", potrebbero ingegnerizzare un "rapporto debito-reddito" o una "percentuale di utilizzo del credito". Queste feature derivate forniscono una visione più sfumata della salute finanziaria di un mutuatario, consentendo una classificazione del rischio più accurata.

Link to this sectionEsempio di codice: Aumento personalizzato delle feature#

Nella computer vision, possiamo "ingegnerizzare" le feature aumentando le immagini per simulare diverse condizioni ambientali. Questo aiuta modelli come YOLO26 a generalizzare meglio. Il seguente esempio mostra come applicare una semplice trasformazione in scala di grigi utilizzando gli strumenti di ultralytics, il che forza il modello ad apprendere feature strutturali invece di fare affidamento esclusivamente sul colore.

import cv2
from ultralytics.data.augment import Albumentations

# Load an example image using OpenCV
img = cv2.imread("path/to/image.jpg")

# Define a transformation pipeline to engineer new visual features
# Here, we convert images to grayscale with a 50% probability
transform = Albumentations(p=1.0)
transform.transform = A.Compose([A.ToGray(p=0.5)])

# Apply the transformation to create a new input variation
augmented_img = transform(img)

# This process helps models focus on edges and shapes, improving robustness

Link to this sectionDistinzione da termini correlati#

È utile distinguere il feature engineering da concetti simili per evitare confusione nelle discussioni sui flussi di lavoro.

• Feature Engineering vs. Feature Extraction: Sebbene spesso usati in modo intercambiabile, esiste una sfumatura. Il feature engineering implica un processo manuale e creativo di costruzione di nuovi input basato sulla conoscenza del dominio. Al contrario, la feature extraction si riferisce spesso a metodi automatizzati o proiezioni matematiche (come la PCA) che distillano dati ad alta dimensionalità in una rappresentazione densa. Nel deep learning (DL), i layer nelle Convolutional Neural Networks (CNNs) eseguono l'estrazione automatizzata delle feature apprendendo filtri per bordi e texture.
• Feature Engineering vs. Embeddings: Nel moderno natural language processing (NLP), la creazione manuale di feature (come il conteggio della frequenza delle parole) è stata in gran parte sostituita dagli embeddings. Gli embeddings sono rappresentazioni vettoriali dense apprese dal modello stesso per catturare il significato semantico. Sebbene gli embeddings siano una forma di feature, essi vengono appresi tramite processi di automated machine learning (AutoML) anziché essere esplicitamente "ingegnerizzati" a mano.

Padroneggiando il feature engineering, gli sviluppatori possono costruire modelli che non sono solo più accurati ma anche più efficienti, richiedendo meno potenza computazionale per ottenere alte prestazioni. Strumenti come la Ultralytics Platform facilitano questo processo offrendo interfacce intuitive per la gestione dei dataset e l'addestramento dei modelli, consentendo agli utenti di iterare rapidamente sulle proprie strategie di feature.