Long Short-Term Memory (LSTM)

La memoria a lungo e breve termine (LSTM) è un tipo specializzato di architettura di rete neurale ricorrente (RNN) in grado di apprendere le dipendenze dall'ordine nei problemi di previsione delle sequenze. A differenza delle reti neurali feedforward standard, le LSTM dispongono di connessioni di retroazione che consentono loro di elaborare non solo singoli punti dati (come le immagini), ma intere sequenze di dati (come il parlato o i video). Questa capacità le rende particolarmente adatte alle attività in cui il contesto degli input precedenti è fondamentale per comprendere i dati correnti, affrontando i limiti della «memoria a breve termine» delle RNN tradizionali.

Il problema delle RNN standard#

Per comprendere l'innovazione delle LSTM, è utile esaminare le difficoltà affrontate dalle reti neurali ricorrenti di base. Sebbene le RNN siano progettate per gestire informazioni sequenziali, hanno difficoltà con sequenze di dati lunghe a causa del problema del gradiente evanescente. Quando la rete esegue la propagazione all'indietro nel tempo, i gradienti, ovvero i valori utilizzati per aggiornare i pesi della rete, possono diventare esponenzialmente più piccoli, impedendo di fatto alla rete di apprendere le connessioni tra eventi distanti. Ciò significa che una RNN standard potrebbe ricordare una parola della frase precedente, ma dimenticare il contesto stabilito tre paragrafi prima. Le LSTM sono state progettate esplicitamente per risolvere questo problema introducendo una struttura interna più complessa, in grado di mantenere una finestra di contesto per periodi molto più lunghi.

Come funzionano le LSTM#

Il concetto fondamentale alla base di una LSTM è lo stato della cella, spesso descritto come un nastro trasportatore che attraversa l'intera catena della rete. Questo stato consente alle informazioni di fluire lungo di esso senza modifiche, preservando le dipendenze a lungo termine. La rete decide quali informazioni conservare, aggiornare o eliminare da questo stato della cella utilizzando strutture chiamate gate.

• Gate di dimenticanza: questo meccanismo decide quali informazioni non sono più rilevanti e devono essere rimosse dallo stato della cella. Ad esempio, se un modello linguistico incontra un nuovo soggetto, potrebbe «dimenticare» il genere del soggetto precedente.
• Gate di ingresso: questo gate determina quali nuove informazioni sono abbastanza significative da essere memorizzate nello stato della cella.
• Gate di uscita: infine, questo gate controlla quali parti dello stato interno devono essere trasmesse al successivo stato nascosto e utilizzate per la previsione immediata.

Regolando questo flusso di informazioni, le LSTM possono colmare intervalli temporali di oltre 1.000 passaggi, superando di gran lunga le RNN convenzionali nelle attività che richiedono l'analisi delle serie temporali.

Applicazioni nel mondo reale#

Le LSTM hanno contribuito a molte delle principali innovazioni nel deep learning dell'ultimo decennio. Ecco due esempi importanti delle loro applicazioni:

• Modellazione sequenza-sequenza nella traduzione: le LSTM sono fondamentali nei sistemi di traduzione automatica. In questa architettura, una LSTM (l'encoder) elabora una frase di input in una lingua (ad esempio, l'inglese) e la comprime in un vettore di contesto. Una seconda LSTM (il decoder) utilizza quindi questo vettore per generare la traduzione in un'altra lingua (ad esempio, il francese). Questa capacità di gestire sequenze di input e output di lunghezza diversa è fondamentale per l'elaborazione del linguaggio naturale (NLP).
• Analisi video e riconoscimento delle attività: sebbene le reti neurali convoluzionali (CNNs) come ResNet-50 eccellano nell'identificazione di oggetti in immagini statiche, non hanno il senso del tempo. Combinando le CNNs con le LSTM, i sistemi di intelligenza artificiale possono eseguire il riconoscimento delle azioni nei flussi video. La CNN estrae le caratteristiche da ogni fotogramma, mentre la LSTM analizza la sequenza di queste caratteristiche per determinare se una persona sta camminando, correndo o cadendo.

Integrazione delle LSTM con la computer vision#

Nella moderna computer vision, le LSTM vengono spesso utilizzate insieme a potenti estrattori di caratteristiche. Ad esempio, potresti usare un modello YOLO per rilevare oggetti nei singoli fotogrammi e una LSTM per tracciare le loro traiettorie o prevedere i movimenti futuri.

Ecco un esempio concettuale che utilizza torch per definire una LSTM semplice in grado di elaborare una sequenza di vettori di caratteristiche estratti da un flusso video:

import torch
import torch.nn as nn

# Define an LSTM model for processing sequential video features
# Input size: 512 (e.g., features from a CNN), Hidden size: 128
lstm_model = nn.LSTM(input_size=512, hidden_size=128, num_layers=2, batch_first=True)

# Simulate a batch of video sequences: 8 videos, 10 frames each, 512 features per frame
video_features = torch.randn(8, 10, 512)

# Pass the sequence through the LSTM
output, (hidden_state, cell_state) = lstm_model(video_features)

print(f"Output shape: {output.shape}")  # Shape: [8, 10, 128]
print("LSTM successfully processed the temporal sequence.")

Concetti correlati e distinzioni#

È utile distinguere le LSTM dalle altre architetture per l'elaborazione delle sequenze:

• LSTM vs. GRU: la Gated Recurrent Unit (GRU) è una variante semplificata della LSTM. Le GRU combinano i gate di dimenticanza e di ingresso in un unico «gate di aggiornamento» e uniscono lo stato della cella e lo stato nascosto. Questo rende le GRU più efficienti dal punto di vista computazionale e più rapide da addestrare, sebbene le LSTM possano ancora superarle su set di dati più grandi e complessi.
• LSTM vs. Transformer: l'architettura Transformer, che si basa sui meccanismi di autoattenzione anziché sulla ricorrenza, ha ampiamente soppiantato le LSTM nelle attività di NLP come quelle eseguite da GPT-4. I Transformer possono elaborare intere sequenze in parallelo anziché in modo sequenziale, consentendo un addestramento molto più rapido su set di dati enormi. Tuttavia, le LSTM restano rilevanti negli scenari con dati limitati o vincoli specifici delle serie temporali, in cui l'overhead dei meccanismi di attenzione non è necessario.

Evoluzione e futuro#

Sebbene il meccanismo di attenzione sia diventato centrale nell'IA generativa, le LSTM continuano a essere una scelta solida per le applicazioni più leggere, in particolare negli ambienti di IA edge, dove le risorse computazionali sono limitate. I ricercatori continuano a esplorare architetture ibride che combinano l'efficienza della memoria delle LSTM con la capacità rappresentativa dei moderni sistemi di rilevamento degli oggetti.

Per chi desidera gestire set di dati per l'addestramento di modelli sequenziali o attività complesse di computer vision, la Ultralytics Platform offre strumenti completi per l'annotazione e la gestione dei set di dati. Inoltre, comprendere il funzionamento delle LSTM fornisce una solida base per assimilare modelli temporali più avanzati utilizzati nei veicoli autonomi e nella robotica.