Model Editing

A edição de modelos é a modificação direcionada de um machine learning model treinado para que ele aprenda, corrija ou remova um comportamento específico sem um retreinamento completo. Um editor pode alterar model weights selecionados, anexar um pequeno módulo de memória ou redirecionar saídas no momento da inferência. O termo refere-se comumente à correção de conhecimento em um large language model, embora se aplique cada vez mais a foundation models multimodais e de visão. Isso não significa editar um objeto 3D ou uma imagem gerada.

Link to this sectionComo Funciona a Edição de Modelos#

Uma solicitação de edição de modelo geralmente especifica uma entrada, a resposta antiga e a resposta desejada. Os métodos descritos em um estudo abrangente de edição de conhecimento de 2024 geralmente se enquadram em três grupos: atualização de parâmetros internos, integração de novo conhecimento ao modelo ou consulta a conhecimento externo. (arxiv.org)

A edição de modelos difere de técnicas relacionadas:

• Fine-Tuning: Atualiza o comportamento em um conjunto de dados, enquanto a edição de modelos visa a uma alteração restrita e localizada.
• EasyEdit Knowledge-Editing Framework: Demonstra editores práticos de parâmetros, memória e meta-aprendizado para modelos de linguagem. (aclanthology.org)
• Retrieval-Augmented Generation: Fornece informações atuais sem alterar os parâmetros subjacentes.
• Machine Unlearning: Busca remover informações aprendidas em vez de substituir ou adicionar conhecimento.
• Model Merging: Combina vários modelos treinados ou atualizações em vez de realizar uma edição precisa.

Link to this sectionAvaliação e Riscos#

Uma edição bem-sucedida deve satisfazer a confiabilidade para a solicitação de destino, a generalidade em entradas reformuladas, a localidade em comportamentos não relacionados e a portabilidade para tarefas de raciocínio conectadas. Pesquisas sobre armadilhas de edição de conhecimento, degradação da capacidade geral e perturbações de conhecimento vizinho mostram que uma edição aparentemente correta pode alterar respostas ou habilidades de raciocínio não relacionadas. (openreview.net)

Edições repetidas também podem causar catastrophic forgetting. Os resultados podem depender fortemente de métricas de avaliação e do tamanho do lote, conforme destacado por um estudo de 2025 sobre a avaliação de editores de conhecimento. A avaliação multimodal está se expandindo por meio do VLKEB para edição de visão-linguagem e do MMKE-Bench para diversos conhecimentos visuais. (aclanthology.org)

Link to this sectionAplicações no Mundo Real#

• Lifelong Vision-Language Model Updates: Um assistente visual pode aprender um produto recém-introduzido ou a identidade corrigida de um marco mantendo o conhecimento visual anterior.
• Medical Vision-Language Corrections: Sistemas clínicos podem ser avaliados após a atualização de terminologia desatualizada ou conhecimento diagnóstico em variações de imagem e texto. (arxiv.org)
• Adaptação de Computer Vision: Um modelo de inspeção pode ser atualizado para reconhecer um novo tipo de defeito sem reconstruir o pipeline de treinamento completo.

Link to this sectionMelhores Práticas Atuais#

Preserva o ponto de verificação original, usa a menor atualização efetiva e executa testes abrangentes de model testing antes da implantação. Trabalhos recentes sugerem comparar edições de peso com abordagens baseadas em contexto, que podem ser mais robustas sob condições realistas, e testar longas sequências de edições quanto a interferências. (arxiv.org) As equipes de produção devem manter registros de edição, caminhos de reversão, testes de segurança e monitoramento contínuo de model monitoring.

Link to this sectionEdição de Modelos em Fluxos de Trabalho do Ultralytics#

Para o Ultralytics YOLO26, o training direcionado é o equivalente prático de uma ampla edição de modelo. Este exemplo atualiza um detector pré-treinado usando um conjunto de dados pequeno e, em seguida, aplica a validation para detectar alterações de desempenho não intencionais:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=1)
metrics = model.val()
print(metrics.box.map)

Mantenha pontos de verificação versionados usando a orientação de salvamento de modelos do PyTorch e use a Ultralytics Platform para anotar dados, treinar modelos atualizados, implantar revisões e monitorar o desempenho em produção.