Esercizi di aritmetica

L'aritmetica dei compiti è una tecnica avanzata di apprendimento automatico che consiste nel modificare il comportamento di reti neurali pre-addestrate aggiungendo o sottraendo specifici aggiornamenti dei pesi. Anziché riaddestrare completamente un modello da zero, gli esperti possono isolare le differenze apprese tra un modello di base e un modello ottimizzato. Queste differenze sono essenzialmente aggiornamenti direzionali che racchiudono una specifica capacità o comportamento. Applicando operazioni matematiche di base come l'addizione e la sottrazione a questi aggiornamenti, gli sviluppatori possono modificare dinamicamente i sistemi di deep learning. Questo paradigma ha acquisito notevole popolarità nelle recenti ricerche su arXiv relative all'aritmetica dei compiti, offrendo un metodo leggero ed efficiente in termini di calcolo per adattare modelli su larga scala a nuovi requisiti.

Come funziona il concetto

Il fondamento di questa tecnica si basa sul calcolo della differenza nei pesi del modello tra un modello di base pre-addestrato e una versione che è stata sottoposta a fine-tuning su uno specifico set di dati. Questa differenza isolata diventa una rappresentazione localizzata della nuova competenza. Manipolandodirettamente i dizionari PyTorch o utilizzando le metodologieTensorFlow , gli ingegneri possono scalare e combinare queste differenze di peso. Ad esempio, sottrarre un aggiornamento di peso specifico può costringere un modello a "dimenticare" un comportamento appreso, un concetto ampiamente esplorato nella Anthropic sulla sicurezza dei modelli.

Applicazioni nel mondo reale

L'aritmetica delle attività consente di implementare diversi flussi di lavoro altamente efficienti nelle moderne pipeline di visione artificiale e di elaborazione del linguaggio naturale :

• Capacità multitasking: Gli ingegneri possono addestrare un modello base Ultralytics su due set di dati distinti in modo indipendente: uno per il rilevamento di oggetti specifici e un altro per la classificazione delle immagini. Calcolando le differenze di peso per entrambe le attività e reintegrandole nel modello base, la rete risultante è in grado di eseguire entrambe le attività contemporaneamente senza incorrere nel fenomeno del "dimenticare catastrofico".
• Disapprendimento mirato per la sicurezza dell'IA: Se un modello di visione apprende inavvertitamente caratteristiche distorte dai propri dati di addestramento, i ricercatori possono mettere a punto una copia sui dati distorti, estrarre le differenze di peso specifiche e sottrarle dal modello originale. Come osservato in varie scoperteGoogle , ciò cancella efficacemente il comportamento indesiderato preservando al contempo le capacità generali di intelligenza artificiale del modello.

Differenziare i concetti correlati

Quando si consultano gli archivi di IEEE Xplore o la biblioteca digitale dell'ACM, è facile confondere l'aritmetica delle attività con le metodologie correlate:

• Vettori di attività: Si tratta dei tensori matematici effettivi (le differenze di peso calcolate) utilizzati durante il processo aritmetico . L'aritmetica delle attività costituisce il quadro generale di riferimento per l'addizione o la sottrazione di questi vettori.
• Unione di modelli: Si tratta di un termine generico che indica la combinazione di più modelli. Sebbene l'aritmetica sia un modo per unire i modelli, l'unione può anche comportare reti di routing complesse o l'ensembling.
• Apprendimento per trasferimento: Secondo i concetti di apprendimento trasferito riportati su Wikipedia, ciò comporta l'utilizzo delle conoscenze acquisite in un compito come punto di partenza per un altro, il che richiede in genere ulteriori cicli di addestramento. L'aritmetica dei compiti modifica i comportamenti esclusivamente attraverso calcoli diretti dei pesi senza ulteriori cicli di addestramento.

Esecuzione delle operazioni aritmetiche

L'applicazione pratica di queste strategie di ottimizzazione dei modelli richiede una gestione accurata dello stato interno del modello. Di seguito è riportato un esempio di calcolo e applicazione di un aggiornamento utilizzando PyTorch, una tecnica spesso trattata nei recenti articoli di ricerca sulla visione artificiale.

import torch

# Load the state dictionaries of the pre-trained base and fine-tuned models
base_weights = torch.load("yolo26_base.pt")
tuned_weights = torch.load("yolo26_tuned.pt")

# Calculate the task vector and add it back to the base model with a scaling factor
scaling_factor = 0.5
for key in base_weights.keys():
    task_vector = tuned_weights[key] - base_weights[key]
    base_weights[key] += scaling_factor * task_vector

Per i team che gestiscono complesse pipeline di annotazione dei dati e diverse versioni ottimizzate dei modelli, la Ultralytics offre un ambiente semplificato per supervisionare l'addestramento nel cloud e l'implementazione senza interruzioni, rendendo la gestione dei miglioramenti iterativi dei modelli molto più efficiente.