Retrieval Augmented Generation (RAG)

La Retrieval Augmented Generation (RAG) è una tecnica avanzata nel campo dell'intelligenza artificiale che ottimizza l'output di un Large Language Model (LLM) facendo riferimento a una base di conoscenza autorevole esterna ai suoi dati di addestramento. I modelli generativi tradizionali si affidano unicamente a informazioni statiche apprese durante il loro addestramento iniziale, il che può portare a risposte obsolete o a imprecisioni sicure note come allucinazioni. La RAG colma questo divario recuperando informazioni pertinenti e aggiornate da fonti esterne — come database aziendali, notizie correnti o manuali tecnici — e fornendole al modello come contesto prima che venga generata una risposta. Questo processo garantisce che gli output dell'IA non siano solo coerenti dal punto di vista linguistico, ma anche fattualmente accurati e basati su dati specifici.

Come funzionano i sistemi RAG#

L'architettura di un sistema RAG prevede tipicamente due fasi principali: recupero e generazione. Questo flusso di lavoro consente agli sviluppatori di mantenere un foundation model senza la costosa necessità di frequenti riaddestramenti.

1. Recupero: Quando un utente invia una query, il sistema esegue prima una semantic search all'interno di un sistema di archiviazione specializzato chiamato vector database. Questo database contiene dati convertiti in rappresentazioni numeriche note come embeddings, consentendo al sistema di trovare informazioni concettualmente simili anziché limitarsi a confrontare le parole chiave.

2. Generazione: I documenti pertinenti o i frammenti di dati trovati durante il recupero vengono combinati con la domanda originale dell'utente. Questo prompt arricchito viene quindi inviato al modello generativo. Il modello utilizza questo contesto fornito per sintetizzare una risposta, assicurando che la risposta si basi sui fatti recuperati. Per un'analisi più approfondita della meccanica, IBM provides a comprehensive guide on RAG workflows.

Visual RAG: integrazione della Computer Vision#

Sebbene la RAG sia tradizionalmente basata sul testo, l'ascesa del multi-modal learning ha introdotto la "Visual RAG". In questo scenario, i modelli di computer vision fungono da meccanismo di recupero. Analizzano immagini o flussi video per estrarre dati testuali strutturati — come nomi di oggetti, conteggi o attività — che vengono poi inseriti in un LLM per rispondere a domande sulla scena visiva.

Ad esempio, uno sviluppatore può utilizzare YOLO26 per rilevare oggetti in un'immagine e passare quell'elenco di oggetti a un modello di testo per generare un report descrittivo.

from ultralytics import YOLO

# Load the YOLO26 model for state-of-the-art detection
model = YOLO("yolo26n.pt")

# Perform inference to 'retrieve' visual facts from an image
results = model("https://ultralytics.com/images/bus.jpg")

# Extract class names to build a text context for an LLM
detected_classes = [model.names[int(c)] for c in results[0].boxes.cls]
context_string = f"The scene contains: {', '.join(detected_classes)}."

print(context_string)
# Output example: "The scene contains: bus, person, person, person."

Applicazioni nel mondo reale#

La RAG sta trasformando le industrie consentendo agli AI agents di accedere in modo sicuro a dati proprietari o in tempo reale.

• Basi di conoscenza aziendali: Le aziende utilizzano la RAG per creare chatbot interni che rispondono alle domande dei dipendenti su politiche HR o documentazione tecnica. Collegando un LLM a un repository di documenti live, il sistema evita di fornire informazioni obsolete sulle policy. Per ulteriori informazioni sulle implementazioni aziendali, consulta Google Cloud's overview of RAG in Vertex AI.
• Supporto alle decisioni cliniche: Nell'AI in healthcare, i sistemi RAG possono recuperare la storia del paziente e recenti articoli di ricerca medica per assistere i medici nella diagnosi, assicurando che il parere tenga conto degli studi clinici più recenti.
• Assistenti retail intelligenti: Le applicazioni che utilizzano l'AI in retail sfruttano la RAG per controllare i database dell'inventario in tempo reale. Se un cliente chiede a un chatbot: "Avete queste scarpe da corsa della misura 10?", il modello recupera i livelli di scorte in tempo reale prima di rispondere, prevenendo la frustrazione per gli articoli esauriti.

RAG vs. Fine-Tuning#

È fondamentale distinguere la RAG dal fine-tuning, poiché risolvono problemi differenti.

• RAG (Retrieval Augmented Generation): Ideale per accedere a dati dinamici e che cambiano frequentemente (es. prezzi delle azioni, notizie) o dati privati non presenti nel set di addestramento pubblico. Si concentra sulla fornitura di nuove informazioni al momento dell'esecuzione.
• Fine-Tuning: Ideale per adattare il comportamento, lo stile o la terminologia del modello. Comporta l'aggiornamento dei model weights su un dataset specifico. Sebbene il fine-tuning aiuti un modello ad apprendere un pattern linguistico specifico (come il gergo medico), non garantisce l'accesso a fatti in tempo reale. Consulta OpenAI's guide on fine-tuning vs. RAG per i framework decisionali.

Concetti correlati#

• LangChain: Un popolare framework open-source progettato specificamente per semplificare la creazione di applicazioni RAG concatenando retriever e LLM.
• Knowledge Graph: Un modo strutturato di rappresentare i dati che può essere utilizzato come fonte di recupero, offrendo relazioni più ricche di contesto rispetto alla semplice somiglianza vettoriale.
• Prompt Engineering: L'arte di creare input per guidare il modello. La RAG è essenzialmente una forma automatizzata di prompt engineering in cui il "prompt" viene arricchito con dati recuperati programmaticamente.
• Ultralytics Platform: Mentre la RAG gestisce il lato della generazione di testo, piattaforme come questa sono essenziali per la gestione del data preprocessing e dell'addestramento dei modelli di visione che alimentano le pipeline RAG multimodali.