Concatenazione di Prompt (Prompt Chaining)

Il concatenamento di prompt è una tecnica sofisticata utilizzata per eseguire flussi di lavoro complessi suddividendoli in una sequenza di input interconnessi per di input interconnessi per i modelli di modelli di intelligenza artificiale (AI). Invece di affidarsi a un'unica istruzione monolitica per eseguire un'attività sfaccettata, questo metodo struttura il processo in modo che l'output di una fase serva da input per i modelli di intelligenza artificiale (AI). processo in modo che l'output di una fase serva da input per la successiva. Questo approccio modulare migliora significativamente l'affidabilità e l'interpretabilità dei modelli linguistici di grandi dimensioni (LLM), consentendo agli sviluppatori di costruire di sviluppare applicazioni robuste in grado di ragionare, pianificare ed eseguire operazioni di ragionare, pianificare ed eseguire operazioni in più fasi.

Come funziona il Prompt Chaining

Il principio fondamentale del prompt chaining è decomposizione dei compiti, in cui un obiettivo complicato viene suddiviso in sottocompiti gestibili. Ogni anello della catena si concentra su una funzione specifica, ad esempio la pulizia dei dati, l'estrazione delle informazioni o la come la pulizia dei dati, l'estrazione delle informazioni o il processo decisionale. prima di trasmettere i risultati. Questo processo iterativo consente una convalida intermedia, assicurando che gli errori vengano colti tempestivamente errori vengano colti tempestivamente, anziché propagarsi attraverso una risposta complessa.

Questa metodologia è fondamentale per creare Agenti di intelligenza artificiale in grado di interagire con strumenti o API esterne. Per facilitare questa orchestrazione sono nati framework specializzati come LangChain sono nati per facilitare questa orchestrazione, gestendo il flusso di dati tra il modello di IA, database vettoriali e altri componenti software. Mantenendo mantenendo lo stato in tutte queste interazioni, il prompt chaining consente di creare sistemi dinamici in grado di adattarsi agli input dell'utente e ai dati che cambiano. agli input dell'utente e ai dati che cambiano.

Applicazioni nel mondo reale

Il concatenamento dei prompt è particolarmente efficace quando si combina l'elaborazione del linguaggio naturale (NLP) con altre modalità o fonti di dati specializzate.

1. Servizio clienti intelligente: Un sistema di assistenza potrebbe utilizzare una classificazione del testo iniziale per classificare la richiesta di un utente. Se il problema viene identificato come "tecnico", il flusso di lavoro attiva un processo di Generazione aumentata di recupero (RAG) (RAG). Il sistema cerca articoli pertinenti in una base di conoscenze tecniche e un successivo prompt istruisce il LLM a sintetizzare gli articoli recuperati. LLM di sintetizzare le informazioni recuperate in una risposta di facile comprensione per l'utente.
2. Controllo della qualità visiva: Nella produzione produzione, un flusso di lavoro può concatenare testo e modelli di visione. Un utente può fornire una descrizione testuale di un difetto (ad esempio, "graffio sulla superficie"). Questa descrizione descrizione viene analizzata per configurare un modello di visione computerizzata (CV) come Ultralytics YOLO11. Il modello di visione esegue il rilevamento degli oggetti sulla linea di assemblaggio e i risultati del rilevamento vengono inseriti in un prompt finale per generare un'ispezione di qualità automatizzata. ispezione di qualità qualità automatizzata.

Esempio di codice

Il seguente Python mostra un semplice collegamento a catena. Utilizza il di un modello di rilevamento di oggetti YOLO11 per costruire un messaggio in linguaggio naturale per un ipotetico passo successivo.

from ultralytics import YOLO

# Load the YOLO11 model for object detection
model = YOLO("yolo11n.pt")

# Step 1: Run inference on an image
# The output contains detected objects which will fuel the next link in the chain
results = model("https://ultralytics.com/images/bus.jpg")

# Step 2: Process results to create input for the next link
# We extract class names to form a descriptive sentence
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]
next_prompt = f"I found these objects: {', '.join(detected_objects)}. Describe the scene."

# The 'next_prompt' variable is now ready to be sent to an LLM
print(next_prompt)

Concatenazione di Prompt vs. Concetti Correlati

È utile distinguere il prompt chaining da altri termini presenti nel panorama del apprendimento automatico:

• Ingegneria tempestiva: Si tratta della disciplina più ampia della progettazione di input ottimali per guidare il comportamento del modello. Il concatenamento dei prompt è un modello modello architettonico specifico dell' ingegneria dei prompt che si concentra sull'esecuzione sequenziale.
• Prompting a catena di pensieri: Questa tecnica incoraggia il modello a ragionare "passo dopo passo" all'interno di un singolo ciclo risposta. Al contrario, il concatenamento di prompt comporta più chiamate distinte, spesso con passaggio di dati tra diversi modelli o strumenti software. modelli o strumenti software diversi.
• Sintonizzazione del prompt: A metodo di ottimizzazione del modello che aggiorna i "soft prompt" (parametri apprendibili) durante l'addestramento. Il concatenamento dei prompt è una strategia di inferenza che utilizza input standard linguaggio naturale senza alterare i pesi del modello. pesi del modello.

Sfruttando il concatenamento dei prompt, gli sviluppatori possono superare i limiti del contesto e i colli di bottiglia del ragionamento dei modelli standalone. modelli indipendenti. Questa tecnica è indispensabile per costruire IA agenziale che integrano visione, linguaggio e logica per risolvere problemi complessi e dinamici nella robotica e nell'automazione. robotica e automazione.