Residual Networks (ResNet)

Le Reti Neurali Residue, comunemente note come ResNet, sono uno specifico tipo di architettura di reti neurali artificiali (ANN) progettate per consentire l'addestramento di reti estremamente profonde. Introdotte dai ricercatori di Microsoft nel 2015, le ResNet hanno risolto un collo di bottiglia critico nel deep learning noto come problema del gradiente evanescente. Nelle reti tradizionali, impilare più strati portava spesso a una saturazione o a un degrado delle prestazioni perché il segnale necessario per aggiornare i pesi del modello svaniva man mano che si propagava all'indietro attraverso gli strati. Le ResNet hanno introdotto le "connessioni skip" (o connessioni residue), che consentono ai dati di bypassare uno o più strati e fluire direttamente verso le successive fasi di elaborazione. Questa innovazione ha dimostrato che le reti più profonde potevano essere addestrate in modo efficace, portando a scoperte significative nella computer vision (CV) e diventando un concetto fondamentale per le architetture moderne.

Link to this sectionIl concetto chiave: apprendimento residuo#

La caratteristica distintiva di una ResNet è il "blocco residuo". In una rete neurale convoluzionale (CNN) standard, ogni strato tenta di apprendere una mappatura diretta dall'input all'output. Man mano che le reti diventano più profonde, apprendere questa mappatura diretta diventa sempre più difficile.

Le ResNet cambiano questo approccio formulando l'obiettivo di apprendimento in modo diverso. Invece di sperare che ogni pila di strati impari l'intera mappatura sottostante, il blocco residuo forza gli strati ad apprendere il "residuo", ovvero la differenza tra l'input e l'output desiderato. L'input originale viene quindi riaggiunto al residuo appreso tramite una connessione skip. Questo cambiamento strutturale implica che, se una mappatura di identità (passare l'input invariato) è ottimale, la rete può facilmente imparare a spingere i residui a zero. Questo rende i modelli di deep learning (DL) molto più facili da ottimizzare, consentendo loro di scalare da dozzine a centinaia o persino migliaia di strati.

Link to this sectionVarianti chiave dell'architettura#

Fin dalla loro introduzione, diverse variazioni di ResNet sono diventate benchmark standard nella comunità AI.

• ResNet-50: Una versione a 50 strati che utilizza un design "bottleneck". Questo design utilizza convoluzioni 1x1 per ridurre e poi ripristinare le dimensioni, rendendo la rete computazionalmente efficiente pur mantenendo un'elevata accuratezza.
• ResNet-101 e ResNet-152: Varianti più profonde con 101 e 152 strati, rispettivamente. Sono spesso utilizzate quando le risorse computazionali consentono una maggiore complessità per catturare mappe di caratteristiche più intricate.
• ResNeXt: Un'evoluzione di ResNet che introduce una dimensione di "cardinalità", suddividendo il blocco residuo in più percorsi paralleli, il che migliora l'efficienza e le prestazioni.

Link to this sectionApplicazioni nel mondo reale#

La robustezza delle architetture ResNet le ha rese una scelta ideale per un'ampia gamma di attività visive.

• Analisi di immagini mediche: In ambito sanitario, identificare anomalie sottili in scansioni ad alta risoluzione è fondamentale. I modelli basati su ResNet vengono frequentemente impiegati per rilevare condizioni come il rilevamento di tumori in imaging medico, dove la profondità della rete aiuta a discernere pattern finemente dettagliati nei dati MRI o CT.
• Veicoli autonomi: Le auto a guida autonoma richiedono un'estrazione affidabile delle caratteristiche dai flussi video delle telecamere per identificare pedoni, segnali e ostacoli. Le ResNet fungono spesso da backbone per i sistemi di rilevamento oggetti nelle applicazioni di AI nell'automotive, fornendo le ricche caratteristiche visive necessarie per una navigazione sicura.

Link to this sectionResNet vs. altre architetture#

È utile distinguere ResNet da altre architetture popolari per comprenderne l'utilità specifica.

• ResNet vs. VGG: Le reti VGG (Visual Geometry Group) sono anch'esse CNN profonde ma mancano di connessioni residue. Di conseguenza, sono molto più difficili da addestrare a profondità paragonabili a ResNet e sono generalmente più costose dal punto di vista computazionale a causa dei loro grandi strati completamente connessi.
• ResNet vs. Inception: Le reti Inception si concentrano sulla larghezza, utilizzando filtri di dimensioni multiple all'interno dello stesso strato per catturare caratteristiche a scale diverse. ResNet si concentra sulla profondità. Le architetture moderne come Inception-ResNet combinano entrambi i concetti.
• ResNet vs. Vision Transformer (ViT): Mentre i ViT utilizzano meccanismi di auto-attenzione per elaborare le immagini globalmente, le ResNet si basano su convoluzioni locali. Tuttavia, le ResNet rimangono una solida base e sono spesso più veloci per dataset più piccoli o per l'inferenza in tempo reale.

Link to this sectionEsempio di Implementazione#

Le moderne librerie di deep learning come PyTorch rendono semplice accedere a modelli ResNet pre-addestrati. Questi modelli sono inestimabili per il transfer learning, dove un modello addestrato su un ampio dataset come ImageNet viene ottimizzato per un compito specifico.

Il seguente snippet Python dimostra come caricare un modello ResNet-50 pre-addestrato utilizzando torchvision (parte dell'ecosistema PyTorch) ed eseguire un semplice forward pass. Sebbene gli utenti della Ultralytics Platform possano spesso utilizzare YOLO26 per il rilevamento, comprendere i concetti di backbone sottostanti come ResNet è cruciale per una personalizzazione avanzata.

import torch
import torchvision.models as models

# Load a pre-trained ResNet-50 model
resnet50 = models.resnet50(weights=models.ResNet50_Weights.DEFAULT)
resnet50.eval()  # Set model to evaluation mode

# Create a dummy input tensor (batch_size, channels, height, width)
input_tensor = torch.randn(1, 3, 224, 224)

# Perform a forward pass to get predictions
with torch.no_grad():
    output = resnet50(input_tensor)

print(f"Output shape: {output.shape}")  # Expect [1, 1000] for ImageNet classes

Link to this sectionSignificato nell'AI moderna#

Sebbene architetture più recenti come YOLO26 impieghino strutture altamente ottimizzate per la massima velocità e accuratezza, i principi dell'apprendimento residuo rimangono onnipresenti. Il concetto di connessioni skip è ora una componente standard in molte reti avanzate, inclusi i transformer utilizzati nell'elaborazione del linguaggio naturale (NLP) e nei più recenti modelli di rilevamento oggetti. Consentendo alle informazioni di fluire più liberamente attraverso la rete, ResNet ha aperto la strada ai modelli profondi e complessi che alimentano l'intelligenza artificiale di oggi.