Chain-of-Thought Prompting

Il prompt Chain-of-Thought (CoT) è una tecnica avanzata nell'ingegneria dei prompt che consente ai modelli linguistici di grandi dimensioni (LLM) di risolvere problemi di ragionamento complessi suddividendoli in passaggi logici intermedi. Anziché chiedere a un modello di fornire una risposta finale immediata, il CoT incoraggia il sistema a generare un "filo logico" che imita la risoluzione dei problemi umana. Questo ragionamento passo dopo passo migliora significativamente le prestazioni su attività che coinvolgono aritmetica, logica simbolica e ragionamento di senso comune, trasformando il modo in cui interagiamo con i sistemi di Intelligenza Artificiale (AI).

Il meccanismo del ragionamento#

I modelli linguistici standard spesso hanno difficoltà con problemi a più fasi perché tentano di mappare l'input direttamente sull'output in un unico passaggio. Questo approccio a "scatola nera" può portare a errori, specialmente quando il salto logico è troppo ampio. Il Chain-of-Thought prompting risolve questo problema inserendo passaggi di ragionamento tra la domanda in input e l'output finale.

Questo processo funziona generalmente in due modi:

• Zero-Shot CoT: L'utente aggiunge al prompt una semplice frase di attivazione come "Pensiamo passo dopo passo". Questo attiva le capacità di ragionamento latenti del modello senza richiedere esempi specifici.
• Few-Shot CoT: Il prompt include alcuni esempi (esemplari) di domande abbinate alle relative soluzioni passo dopo passo. Questo sfrutta il few-shot learning per mostrare esattamente al modello come strutturare la sua logica prima di affrontare un nuovo problema.

Generando esplicitamente un ragionamento intermedio, il modello ha più opportunità di correggersi e offre trasparenza su come sia giunto a una conclusione. Questo è fondamentale per ridurre le allucinazioni negli LLM, dove altrimenti i modelli potrebbero dichiarare con sicurezza fatti errati.

Applicazioni nel mondo reale#

Sebbene inizialmente sviluppato per la logica basata su testo, il Chain-of-Thought prompting ha potenti applicazioni quando combinato con altri domini dell'AI, come la computer vision e la generazione di codice.

1. Migliorare la generazione di codice per la computer vision#

Gli sviluppatori usano il CoT per guidare gli LLM nella scrittura di script software complessi per attività come il rilevamento di oggetti. Invece di una richiesta vaga come "scrivi del codice per trovare auto", un prompt CoT potrebbe strutturare la richiesta in questo modo: "Primo, importa le librerie necessarie. Secondo, carica il modello pre-addestrato. Terzo, definisci la sorgente dell'immagine. Infine, esegui il ciclo di predizione." Questo approccio strutturato garantisce che il codice generato per modelli come YOLO26 sia sintatticamente corretto e logicamente valido.

2. Processo decisionale autonomo#

Nel campo dei veicoli autonomi, i sistemi devono elaborare dati visivi e prendere decisioni critiche per la sicurezza. Un approccio Chain-of-Thought consente al sistema di articolare la propria logica: "Rilevo un pedone vicino alle strisce pedonali. Il pedone è rivolto verso la strada. Il semaforo è verde per me, ma il pedone potrebbe attraversare. Di conseguenza, rallenterò e mi preparerò a fermarmi." Questo rende le decisioni dell'AI interpretabili e si allinea con i principi di AI spiegabile (XAI).

Chain-of-Thought in azione#

Sebbene il CoT sia principalmente una tecnica di linguaggio naturale, può essere implementato programmaticamente per garantire interazioni coerenti con i modelli di visione. Il seguente esempio in Python mostra come uno sviluppatore potrebbe strutturare un prompt per guidare un LLM (qui simulato) nella generazione di codice di inferenza valido per la Ultralytics Platform.

# Example of structuring a Chain-of-Thought prompt for an LLM
# This prompt guides the model to write a valid YOLO26 inference script

cot_prompt = """
Task: Write a Python script to detect objects using YOLO26.

Chain of Thought:
1. Import the YOLO class from the 'ultralytics' library.
2. Load the 'yolo26n.pt' model weights (the latest nano model).
3. Load a sample image using a URL or local path.
4. Run the predict() function and save the results.

Based on these steps, generate the Python code below:
"""

# In a real application, you would send 'cot_prompt' to an LLM API
print(f"Structured Prompt for LLM:\n{cot_prompt}")

Distinguere concetti correlati#

È importante differenziare il prompt Chain-of-Thought da termini simili nel panorama del Machine Learning (ML):

• Prompt Chaining: Questo comporta la connessione di più chiamate di modelli separate, in cui l'output di un passaggio diventa l'input di quello successivo. Il CoT avviene all'interno di un singolo prompt per sollecitare il ragionamento interno, mentre il prompt chaining orchestra un flusso di lavoro attraverso più interazioni.
• Retrieval-Augmented Generation (RAG): Il RAG si concentra sul recupero di dati esterni (come documenti o database) per fondare la conoscenza del modello. Il CoT si concentra sul processo di ragionamento stesso. Spesso questi aspetti vengono combinati, usando il RAG per ottenere i fatti e il CoT per ragionare su di essi.
• Prompt Tuning: Questo è un metodo di fine-tuning efficiente in termini di parametri che ottimizza i prompt continui morbidi (vettori) durante l'addestramento. Il CoT è una strategia discreta in linguaggio naturale applicata all'inferenza in tempo reale senza alterare i pesi del modello.

Prospettive future#

Mentre i modelli di fondazione continuano a evolversi, il prompt Chain-of-Thought sta diventando una best practice standard per sbloccare il loro pieno potenziale. La ricerca di gruppi come Google DeepMind suggerisce che man mano che i modelli crescono di dimensioni, la loro capacità di eseguire il ragionamento CoT migliora drasticamente. Questa evoluzione sta aprendo la strada ad agenti più affidabili e autonomi in grado di gestire flussi di lavoro complessi in settori che vanno dalla sanità alla produzione intelligente.