Task Vectors

I vettori di task rappresentano i cambiamenti specifici apportati ai pesi di una rete neurale durante il fine-tuning per ottenere una nuova funzionalità. Sottraendo i parametri di un modello base fondamentale da quelli di un modello sottoposto a fine-tuning, i ricercatori possono isolare un vettore direzionale nello spazio dei pesi che incapsula il comportamento appreso per quello specifico task. Questo approccio consente agli sviluppatori di applicare semplici operazioni aritmetiche sui parametri del modello per indirizzare, modificare o unire i comportamenti del modello senza richiedere ulteriore potenza di calcolo per l'addestramento.

In che modo i vettori di task si differenziano dal transfer learning

Mentre il concetto di transfer learning prevede l'addestramento sequenziale di un modello su un nuovo dataset per adattarne le conoscenze esistenti, i vettori di task operano direttamente sui pesi strutturali del modello dopo l'addestramento. Invece di riaddestrare i gradienti per apprendere un nuovo dominio, l'interpolazione dello spazio dei pesi tramite i vettori di task consente ai professionisti di combinare linearmente le differenze di peso derivanti da molteplici modelli addestrati in modo indipendente. Ciò abilita il model merging zero-shot, permettendo a un singolo modello di ereditare molteplici funzionalità simultaneamente senza il tipico sovraccarico computazionale durante l'addestramento.

Applicazioni nel mondo reale

La capacità di manipolare algebricamente i modelli di deep learning ha portato a diverse applicazioni di impatto all'interno dei moderni workflow di AI:

• Multi-Task Model Merging: Gli ingegneri possono combinare un vettore di task ottimizzato per l'object detection con un altro addestrato per l'image segmentation. Se applicato a un modello base Ultralytics YOLO26, questo crea un'architettura a duplice scopo che eccelle in entrambi i task simultaneamente, preservando i punti di forza di ciascun fine-tuning originale.
• Machine Unlearning e sicurezza dell'AI: Se un modello presenta output distorti o pericolosi, i ricercatori possono calcolare un vettore di task che rappresenti quello specifico comportamento indesiderato. Sottraendo questo vettore dai pesi del modello, possono efficacemente "cancellare" tale comportamento, contribuendo significativamente al miglioramento della sicurezza dell'AI e a solidi standard di etica dell'AI.
• Adattamento al dominio nella Computer Vision: Quando si adattano i modelli per ambienti specifici — come il passaggio dall' inferenza in tempo reale diurna a quella notturna — i vettori di task consentono agli utenti di regolare l'entità dell'adattamento. Applicare una frazione del vettore (ad esempio, un fattore di scala di 0,5) può produrre un modello bilanciato che offre ottime prestazioni in entrambi i domini.

Lavorare con i vettori di task in PyTorch

Creare e applicare un vettore di task richiede l'accesso e la manipolazione del dizionario di stato di PyTorch. L'esempio seguente mostra come estrarre un vettore di task da un modello YOLO26 sottoposto a fine-tuning e riapplicarlo al modello base con uno specifico fattore di scala.

from ultralytics import YOLO

# Load the state dictionaries for the base and fine-tuned models
base_weights = YOLO("yolo26n.pt").model.state_dict()
tuned_weights = YOLO("yolo26n-custom.pt").model.state_dict()

# Calculate the task vector (tuned weights minus base weights)
task_vector = {k: tuned_weights[k] - base_weights[k] for k in base_weights.keys()}

# Apply the task vector to the base model using a 0.5 scaling factor
for k in base_weights.keys():
    base_weights[k] += 0.5 * task_vector[k]

Il futuro della manipolazione dei pesi

Man mano che architetture come i modelli linguistici di grandi dimensioni e i massicci vision transformer crescono nel numero di parametri, riaddestrarli per ogni minimo aggiustamento diventa economicamente insostenibile. I vettori di task offrono un'alternativa matematicamente elegante per l'ottimizzazione del modello post-addestramento. Condividendo vettori di task leggeri invece di interi modelli da svariati gigabyte, la community dell'AI può accelerare la collaborazione open-source nell'AI. Una volta perfezionati i tuoi vettori di task personalizzati, utilizzare la Ultralytics Platform semplifica i successivi processi di distribuzione del modello e monitoraggio, garantendo che i tuoi pesi ottimizzati si traducano direttamente in endpoint pronti per la produzione.