Modelli da sequenza a sequenza

Architettura del codificatore-decodificatore

La struttura fondamentale della maggior parte dei modelli Seq2Seq è l'architettura encoder-decoder:

1. Codificatore: Questa parte elabora l'intera sequenza di input (ad esempio, una frase in francese) passo dopo passo, in genere utilizzando una rete neurale ricorrente (RNN) come LSTM (Long Short-Term Memory) o GRU (Gated Recurrent Unit). Il suo obiettivo è comprimere le informazioni della sequenza di ingresso in una rappresentazione interna di dimensioni fisse, spesso chiamata "vettore di contesto" o "vettore di pensiero". Questo vettore mira a catturare l'essenza o il significato della sequenza in ingresso.
2. Decodificatore: Questa parte prende il vettore di contesto generato dall'encoder e produce passo dopo passo la sequenza di output (ad esempio, la frase tradotta in inglese). Si tratta tipicamente di una RNN che genera un elemento (come una parola o un carattere) a ogni passo temporale, condizionato dal vettore di contesto e dagli elementi generati nei passi precedenti.

Un miglioramento significativo di questa struttura di base è stata l'introduzione del meccanismo di attenzione, descritto in dettaglio nell'articolo di Bahdanau et al."Neural Machine Translation by Jointly Learning to Align and Translate". L'attenzione consente al decodificatore di concentrarsi selettivamente su diverse parti della sequenza di ingresso quando genera ogni elemento della sequenza di uscita, invece di affidarsi esclusivamente al singolo vettore di contesto di dimensioni fisse. Ciò ha migliorato notevolmente le prestazioni, soprattutto per le sequenze lunghe. Questo concetto ha aperto la strada ad architetture come il Transformer, che si basa interamente su meccanismi di attenzione, rinunciando completamente alla ricorrenza e diventando la base per modelli come BERT e GPT.

Applicazioni del mondo reale

I modelli Seq2Seq eccellono nelle attività in cui l'input e l'output sono sequenziali ma possono non avere una corrispondenza uno-a-uno in termini di lunghezza o struttura. Le applicazioni principali includono:

• Traduzione automatica: Traduzione di testi da una lingua all'altra (ad esempio, servizi come Google Translate o DeepL Translator). Questo è stato uno dei primi grandi successi dei modelli Seq2Seq.
• Riassunto del testo: Generazione di un riassunto conciso da un documento o articolo più lungo. L'input è la sequenza di testo lunga e l'output è la sequenza di riassunto più breve.
• IA conversazionale / Chatbot: Generazione di risposte in un sistema di dialogo. L'input è la domanda o l'affermazione dell'utente e l'output è la risposta del chatbot. Piattaforme come Google Dialogflow utilizzano queste tecnologie.
• Riconoscimento vocale: Conversione dell'audio parlato (una sequenza di caratteristiche audio) in testo (una sequenza di parole).
• Didascalie di immagini: Generazione di una descrizione testuale (sequenza di output) per un'immagine (sequenza di input, spesso rappresentata come caratteristiche estratte da una CNN). Anche se l'input non è strettamente sequenziale, il processo di generazione dell'output si adatta al paradigma Seq2Seq.
• Generazione di codice: Generazione di codice di programmazione basato su descrizioni in linguaggio naturale.

Concetti e considerazioni chiave

La costruzione e l'addestramento dei modelli Seq2Seq implicano diversi concetti importanti:

• Embeddings: Le parole o i token in ingresso sono tipicamente convertiti in rappresentazioni vettoriali dense prima di essere inseriti nel codificatore.
• Backpropagation Through Time (BPTT): Metodo standard per l'addestramento delle RNN, che prevede lo svolgimento della rete sulla lunghezza della sequenza.
• Gestione di sequenze lunghe: Le RNN di base hanno difficoltà con le dipendenze lunghe a causa di problemi come il problema del gradiente che svanisce. Le LSTM e le GRU sono state progettate per attenuare questo problema e i meccanismi di attenzione migliorano ulteriormente le prestazioni sulle sequenze lunghe. I modelli trasformatori eccellono in questo campo.
• Metriche di valutazione: A seconda del compito, si utilizzano metriche come BLEU (per la traduzione), ROUGE (per la sintesi) o accuratezza/F1-score (per l'etichettatura delle sequenze). Ultralytics fornisce indicazioni sulle metriche di prestazione.

Seq2Seq rispetto ad altre architetture

Sebbene i modelli Seq2Seq basati sulle RNN siano stati innovativi, il campo si è evoluto:

• RNN standard: In genere mappano sequenze a sequenze della stessa lunghezza o classificano intere sequenze, senza la flessibilità della struttura codificatore-decodificatore per lunghezze di uscita variabili.
• Trasformatori: Ora dominano molte attività di NLP precedentemente gestite da modelli Seq2Seq basati su RNN. Utilizzano l'autoattenzione e le codifiche posizionali invece della ricorrenza, consentendo una migliore parallelizzazione e catturando più efficacemente le dipendenze a lungo raggio. Modelli come RT-DETR di Baidu, supportato da Ultralytics, incorporano componenti Transformer per il rilevamento degli oggetti.
• CNN: Utilizzate principalmente per dati di tipo reticolare come le immagini (ad esempio, nei modelli Ultralytics YOLO per il rilevamento e la segmentazione), anche se a volte vengono adattate per compiti di sequenza.

Sebbene Seq2Seq si riferisca spesso alla struttura encoder-decoder basata su RNN, il principio generale di mappare le sequenze in ingresso a quelle in uscita utilizzando una rappresentazione intermedia rimane centrale per molte architetture moderne, compresi i trasformatori utilizzati nella traduzione e nella sintesi. Strumenti come PyTorch e TensorFlow forniscono blocchi per l'implementazione di modelli di sequenze sia tradizionali che moderni. La gestione del processo di formazione può essere semplificata utilizzando piattaforme come Ultralytics HUB.