Incatenamento di prompt

Come funziona il concatenamento dei prompt

L'idea alla base del prompt chaining è la decomposizione dei compiti. Un problema complesso, che potrebbe essere difficile da risolvere per un'intelligenza artificiale in un'unica fase, viene suddiviso in sotto-compiti più piccoli e gestibili. Ogni sottocompito viene affrontato da un prompt specifico all'interno della catena. L'IA elabora il primo prompt, genera un output e questo output (o una sua versione elaborata) diventa parte dell'input per il secondo prompt e così via. Questo processo graduale guida l'intelligenza artificiale attraverso il compito, assicurando che ogni fase si basi logicamente su quella precedente. Questo metodo contrasta con il tentativo di risolvere l'intero problema utilizzando un singolo prompt, spesso complesso e meno affidabile. Framework come LangChain sono comunemente utilizzati per implementare tali catene, semplificando l'orchestrazione di questi processi a più fasi. Il flusso di informazioni tra i prompt è fondamentale per il successo della catena.

Vantaggi e applicazioni

Il concatenamento dei prompt offre diversi vantaggi per lo sviluppo di sofisticati sistemi di intelligenza artificiale:

• Maggiore precisione e affidabilità: La suddivisione dei compiti riduce la complessità in ogni fase, portando a risultati intermedi e finali più accurati. Questo perfezionamento graduale riduce al minimo la possibilità di errori o allucinazioni dell'intelligenza artificiale.
• Controllo e debug migliorati: Ogni fase della catena può essere monitorata, valutata e sottoposta a debug individualmente, rendendo più facile individuare e risolvere i problemi rispetto alla risoluzione di un singolo prompt monolitico. Questo è in linea con le migliori pratiche di MLOps.
• Gestione della complessità: Permette all'IA di affrontare compiti che richiedono più fasi di ragionamento, recupero di informazioni o trasformazione che sarebbero troppo complesse per un singolo prompt. Questo aspetto è fondamentale per la creazione di agenti AI avanzati.
• Modularità e riutilizzabilità: I singoli prompt o le sotto-catene possono essere riutilizzati in diversi flussi di lavoro, favorendo l'efficienza dello sviluppo. La modularità è un principio fondamentale dell'ingegneria del software.

Esempi del mondo reale:

1. Automazione dell'assistenza clienti: A chatbot utilizza il concatenamento dei prompt per gestire una richiesta dell'utente.
   • Prompt 1: analizza la richiesta dell'utente per identificare l'intento e le entità chiave (ad esempio, il nome del prodotto, il tipo di problema).
   • Prompt 2: Utilizza le entità estratte per cercare in una base di conoscenza gli articoli di risoluzione dei problemi o le FAQ pertinenti.
   • Prompt 3: Riassumi le informazioni recuperate in base al problema specifico dell'utente.
   • Prompt 4: genera una risposta chiara ed empatica all'utente che incorpora il riassunto.
2. Integrazione di visione e linguaggio per il reporting: Generazione di un rapporto descrittivo da un'immagine catturata da un sistema di sicurezza.
   • Prompt 1 (Input: Immagine): Utilizza un Ultralytics YOLO di Ulralytics per il rilevamento degli oggetti per identificare gli oggetti e la loro posizione(bounding box).
   • Prompt 2 (input: elenco di oggetti): Alimenta l'elenco degli oggetti e delle posizioni rilevate a un LLM per generare un testo descrittivo della scena.
   • Prompt 3 (Input: Riassunto della scena + Contesto): Utilizza la descrizione della scena e il contesto aggiuntivo (ad esempio, ora, luogo) per generare un rapporto strutturato sull'incidente utilizzando le funzionalità di generazione del testo. Questo combina la visione artificiale e l'elaborazione del linguaggio naturale (NLP).

Concetti di concatenamento di prompt e concetti correlati

È utile distinguere il prompt chaining da tecniche simili:

• Ingegneria dei prompt: Si tratta dell'ampia pratica di progettazione di prompt efficaci per i modelli di intelligenza artificiale. Il concatenamento dei prompt è una tecnica specifica dell'ingegneria dei prompt, che si concentra sulla strutturazione di più prompt in sequenza.
• Prompting Chain-of-Thought (CoT): Il CoT mira a migliorare la capacità di ragionamento di un LLM all'interno di un singolo prompt chiedendogli di "pensare passo dopo passo". Il concatenamento dei prompt, invece, suddivide il compito in più fasi distinte, coinvolgendo potenzialmente modelli o strumenti diversi in ogni fase.
• Generazione Aumentata dal Recupero (RAG): La RAG è una tecnica in cui un modello di intelligenza artificiale recupera informazioni rilevanti da una fonte di conoscenza esterna prima di generare una risposta. Il RAG è spesso utilizzato come un passo specifico all'interno di una catena di richieste più ampia (ad esempio, la ricerca nella base di conoscenza nell'esempio dell'assistenza clienti). Per saperne di più sui sistemi RAG.
• Arricchimento del prompt: Si tratta di aggiungere automaticamente un contesto o dei dettagli al prompt iniziale dell'utente prima che venga inviato all'intelligenza artificiale. Sebbene migliori una singola richiesta, non comporta l'elaborazione sequenziale di più richieste interconnesse come il concatenamento.
• Sintonizzazione dei prompt: Un metodo di messa a punto efficiente dei parametri (PEFT) che prevede l'apprendimento di specifici "prompt morbidi"(embeddings) piuttosto che la creazione di prompt testuali. Si tratta di una tecnica di formazione del modello, distinta dalla struttura di esecuzione runtime del concatenamento dei prompt.

Il concatenamento dei prompt è un metodo potente per strutturare le interazioni con modelli di IA avanzati come gli LLM e per integrarli con altri sistemi di IA come quelli utilizzati per la classificazione delle immagini o la segmentazione delle istanze. Rende i compiti complessi più praticabili e migliora l'affidabilità dei risultati in varie applicazioni di apprendimento automatico, dall'analisi dei dati di base a sofisticati sistemi di IA multimodali. Piattaforme come Ultralytics HUB facilitano l'addestramento e l'implementazione di modelli che potrebbero costituire componenti di tali catene.