Arricchimento dei promemoria

L'arricchimento del prompt è il processo automatizzato di aggiunta programmatica di informazioni o contesti rilevanti alla richiesta iniziale dell'utente prima che questa venga inviata a un modello di intelligenza artificiale, in particolare a un Large Language Model (LLM). L'obiettivo è trasformare una richiesta semplice o ambigua dell'utente in un'istruzione dettagliata, specifica e consapevole del contesto. Questa fase di pre-elaborazione aiuta il modello di intelligenza artificiale a comprendere meglio l'intento dell'utente, portando a risposte significativamente più accurate, personalizzate e utili senza alterare il modello stesso.

Come funziona l'arricchimento su richiesta

L'arricchimento dei prompt agisce come un livello di middleware intelligente. Quando un utente invia una richiesta, un sistema automatico la intercetta. Questo sistema raccoglie quindi i dati contestuali da varie fonti, come i profili degli utenti, la cronologia delle conversazioni, i dati della sessione (come il tipo di dispositivo o la posizione) o i database esterni. Quindi inietta dinamicamente queste informazioni nel messaggio originale. Il prompt "arricchito" che ne risulta, contenente sia la domanda dell'utente sia il contesto aggiunto, viene infine passato all'LLM per l'elaborazione. Questo migliora la capacità del modello di eseguire compiti complessi di comprensione del linguaggio naturale (NLU).

Applicazioni del mondo reale

1. Assistenza clienti personalizzata: Un utente interagisce con un chatbot di e-commerce e digita: "Dov'è il mio pacco?". Il sistema di arricchimento dei prompt può recuperare automaticamente i dettagli dell'account dell'utente e il suo numero d'ordine più recente da un database CRM. Il prompt inviato al modello diventa: "Il cliente ID 98765 chiede informazioni sullo stato del suo ultimo ordine, #ABC-12345". Domanda originale dell'utente: 'Dov'è il mio pacco? In questo modo l'agente del servizio clienti guidato dall'intelligenza artificiale può fornire un aggiornamento immediato e specifico, invece di chiedere informazioni di chiarimento.
2. Raccomandazione di contenuti più intelligente: Un utente di un servizio di streaming dice: "Consiglia un film". È un'affermazione troppo vaga per una buona raccomandazione. Il processo di arricchimento può aumentare questa richiesta con dati come la cronologia di visione dell'utente, le sue preferenze di genere e l'ora del giorno. Il suggerimento finale potrebbe essere del tipo "L'utente ha recentemente apprezzato thriller fantascientifici e drammi storici. È sabato sera. Consiglia un film che si adatti a questi criteri". Questo porta a un suggerimento più pertinente da parte del sistema di raccomandazione e migliora l'esperienza dell'utente attraverso la personalizzazione.

Arricchimento del prompt vs. concetti correlati

È importante distinguere l'arricchimento immediato da termini simili:

• Ingegneria tempestiva: Si tratta dell'ampia disciplina di progettazione di prompt efficaci. L'arricchimento dei prompt è una tecnica specifica e automatizzata nell'ambito dell'ingegneria dei prompt, che si concentra sull'aggiunta di un contesto dinamico all'input dell'utente.
• Generazione aumentata dal recupero (RAG): RAG è un tipo potente e specifico di arricchimento del prompt. È specializzato nel recupero di informazioni fattuali da una base di conoscenza esterna per fondare l'output del modello e prevenire le allucinazioni. Sebbene la RAG sia una forma di arricchimento, l'arricchimento può anche utilizzare altre fonti di contesto, come i dati delle sessioni dell'utente, che non fanno parte di una base di conoscenza statica.
• Prompt di concatenamento: Questa tecnica suddivide un compito in una sequenza di prompt multipli e interconnessi, in cui l'output di un prompt alimenta il successivo. L'arricchimento, invece, modifica un singolo prompt prima che venga elaborato. Una fase di arricchimento del prompt può far parte di una catena più ampia, spesso come fase iniziale. Altre tecniche come il Chain-of-Thought (CoT) Prompting si concentrano sul miglioramento del ragionamento all'interno di una singola interazione.
• Sintonizzazione del prompt: È un metodo di formazione del modello. Come tecnica di fine-tuning efficiente dei parametri (PEFT), adatta il comportamento di un modello addestrando un piccolo insieme di nuovi parametri. Il Prompt enrichment è una tecnica di inferenza che manipola la domanda in ingresso senza modificare i pesi del modello.

Sebbene sia più comune nell'elaborazione del linguaggio naturale (NLP), l'idea di base è applicabile a tutto l'apprendimento automatico. Nella computer vision, un concetto simile potrebbe comportare l'aggiunta di metadati (ad esempio, posizione, ora) a un'immagine per migliorare le prestazioni di un modello come Ultralytics YOLO11 in un'attività di rilevamento di oggetti. Le piattaforme MLOps come Ultralytics HUB forniscono l'infrastruttura necessaria per una distribuzione robusta dei modelli, dove è possibile implementare pipeline di input sofisticate che utilizzano arricchimenti e framework come LangChain o LlamaIndex.