Model Editing

La modifica del modello consiste nella modifica mirata di un modello di machine learning addestrato, affinché apprenda, corregga o rimuova comportamenti specifici senza un riaddestramento completo. Un editor può modificare determinati pesi del modello, collegare un piccolo modulo di memoria o reindirizzare gli output al momento dell'inferenza. Il termine si riferisce comunemente alla correzione delle conoscenze in un modello linguistico di grandi dimensioni, sebbene si applichi sempre più anche ai modelli foundation multimodali e di visione. Non significa modificare un oggetto 3D o un'immagine generata.

Come funziona la modifica del modello#

Una richiesta di modifica del modello specifica solitamente un input, la risposta precedente e quella desiderata. I metodi descritti in uno studio completo del 2024 sulla modifica delle conoscenze rientrano generalmente in tre gruppi: aggiornamento dei parametri interni, integrazione di nuove conoscenze nel modello o consultazione di conoscenze esterne. (arxiv.org)

La modifica del modello si differenzia dalle tecniche correlate:

• Fine-Tuning: aggiorna il comportamento su un dataset, mentre la modifica del modello mira a un cambiamento circoscritto e localizzato.
• EasyEdit Knowledge-Editing Framework: dimostra l'uso pratico di editor basati su parametri, memoria e meta-learning per i modelli linguistici. (aclanthology.org)
• Retrieval-Augmented Generation: fornisce informazioni aggiornate senza modificare i parametri sottostanti.
• Machine Unlearning: mira a rimuovere le informazioni apprese anziché sostituire o aggiungere conoscenze.
• Model Merging: combina più modelli addestrati o aggiornamenti invece di eseguire una singola modifica precisa.

Valutazione e rischi#

Una modifica efficace dovrebbe garantire affidabilità per la richiesta target, generalità tra input riformulati, località rispetto ai comportamenti non correlati e portabilità alle attività di ragionamento connesse. Le ricerche sulle insidie della modifica delle conoscenze, sul degrado delle capacità generali e sulle perturbazioni delle conoscenze adiacenti mostrano che una modifica apparentemente corretta può alterare risposte o capacità di ragionamento non correlate. (openreview.net)

Modifiche ripetute possono inoltre causare il dimenticare catastrofico. I risultati possono dipendere fortemente dalle metriche di valutazione e dalle dimensioni del batch, come evidenziato da uno studio del 2025 sulla valutazione degli editor di conoscenze. La valutazione multimodale si sta ampliando attraverso VLKEB per la modifica vision-language e MMKE-Bench per conoscenze visive diversificate. (aclanthology.org)

Applicazioni nel mondo reale#

• Aggiornamenti permanenti dei modelli vision-language: un assistente visivo può apprendere un prodotto appena introdotto o l'identità corretta di un punto di riferimento, mantenendo al contempo le conoscenze visive precedenti.
• Correzioni vision-language in ambito medico: i sistemi clinici possono essere valutati dopo l'aggiornamento di terminologia obsoleta o di conoscenze diagnostiche in diverse varianti di immagini e testo. (arxiv.org)
• Adattamento della Computer Vision: un modello di ispezione può essere aggiornato per riconoscere un nuovo tipo di difetto senza ricostruire l'intera pipeline di addestramento.

Best practice attuali#

Conserva il checkpoint originale, usa l'aggiornamento efficace più piccolo possibile ed esegui test approfonditi del modello prima della distribuzione. Lavori recenti suggeriscono di confrontare le modifiche ai pesi con approcci basati sul contesto, che possono essere più robusti in condizioni realistiche, e di testare lunghe sequenze di modifiche per individuare interferenze. (arxiv.org) I team di produzione dovrebbero mantenere registri delle modifiche, procedure di rollback, test di sicurezza e il monitoraggio continuo del modello.

La modifica del modello nei flussi di lavoro Ultralytics#

Per Ultralytics YOLO26, l'addestramento mirato è l'equivalente pratico di un'ampia modifica del modello. Questo esempio aggiorna un rilevatore preaddestrato utilizzando un dataset di piccole dimensioni, quindi applica la validazione per rilevare variazioni indesiderate delle prestazioni:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=1)
metrics = model.val()
print(metrics.box.map)

Mantieni checkpoint con controllo delle versioni usando le indicazioni di PyTorch per il salvataggio dei modelli e usa Ultralytics Platform per annotare i dati, addestrare modelli aggiornati, distribuire revisioni e monitorare le prestazioni in produzione.