Model Editing

Die Bearbeitung eines Modells ist die gezielte Änderung eines trainierten Machine-Learning-Modells, sodass es ein bestimmtes Verhalten erlernt, korrigiert oder entfernt, ohne vollständig neu trainiert zu werden. Ein Editor kann ausgewählte Modellgewichte ändern, ein kleines Speichermodul anbinden oder Ausgaben zum Zeitpunkt der Inferenz umleiten. Der Begriff bezeichnet üblicherweise die Korrektur von Wissen in einem großen Sprachmodell, wird aber zunehmend auch auf multimodale Grundlagenmodelle und Bildverarbeitungsmodelle angewendet. Damit ist nicht die Bearbeitung eines 3D-Objekts oder eines erzeugten Bildes gemeint.

Funktionsweise der Modellbearbeitung#

Bei einer Anfrage zur Modellbearbeitung werden normalerweise eine Eingabe, die bisherige Antwort und die gewünschte Antwort angegeben. Die in einer umfassenden Studie zur Wissensbearbeitung aus dem Jahr 2024 beschriebenen Methoden lassen sich im Allgemeinen in drei Gruppen einteilen: interne Parameter aktualisieren, neues Wissen in das Modell integrieren oder externes Wissen abfragen. (arxiv.org)

Die Modellbearbeitung unterscheidet sich von verwandten Techniken:

• Feinabstimmung: Aktualisiert das Verhalten über einen Datensatz hinweg, während die Modellbearbeitung auf eine eng begrenzte, lokale Änderung abzielt.
• EasyEdit-Framework zur Wissensbearbeitung: Zeigt praktische Editoren für Sprachmodelle, die auf Parametern, Speicher und Meta-Lernen basieren. (aclanthology.org)
• Abrufgestützte Generierung: Stellt aktuelle Informationen bereit, ohne die zugrunde liegenden Parameter zu ändern.
• Maschinelles Vergessen: Zielt darauf ab, erlernte Informationen zu entfernen, statt Wissen zu ersetzen oder hinzuzufügen.
• Zusammenführen von Modellen: Kombiniert mehrere trainierte Modelle oder Aktualisierungen, statt eine einzelne präzise Änderung vorzunehmen.

Bewertung und Risiken#

Eine erfolgreiche Änderung sollte Zuverlässigkeit für die Zielanfrage, Allgemeingültigkeit bei umformulierten Eingaben, Lokalität im Hinblick auf nicht verwandtes Verhalten und Übertragbarkeit auf zusammenhängende Schlussfolgerungsaufgaben gewährleisten. Untersuchungen zu Fallstricken der Wissensbearbeitung, zur Verschlechterung allgemeiner Fähigkeiten und zu Störungen benachbarter Wissensinhalte zeigen, dass eine scheinbar korrekte Änderung nicht verwandte Antworten oder Schlussfolgerungsfähigkeiten beeinträchtigen kann. (openreview.net)

Wiederholte Änderungen können außerdem zu katastrophalem Vergessen führen. Die Ergebnisse können stark von Bewertungsmetriken und der Batchgröße abhängen, wie eine Studie zur Bewertung von Wissenseditoren aus dem Jahr 2025 hervorhebt. Die multimodale Bewertung wird durch VLKEB für die Bearbeitung von Bild-Text-Modellen und MMKE-Bench für vielfältiges visuelles Wissen erweitert. (aclanthology.org)

Anwendungen in der Praxis#

• Lebenslange Aktualisierung von Bild-Sprach-Modellen: Ein visueller Assistent kann ein neu eingeführtes Produkt oder die korrigierte Identität eines Wahrzeichens erlernen und dabei sein bisheriges visuelles Wissen behalten.
• Medizinische Korrekturen an Bild-Sprach-Modellen: Klinische Systeme können nach der Aktualisierung veralteter Terminologie oder diagnostischer Kenntnisse anhand verschiedener Bild- und Textvarianten bewertet werden. (arxiv.org)
• Anpassung für Computer Vision: Ein Inspektionsmodell kann aktualisiert werden, damit es einen neuen Fehlertyp erkennt, ohne die gesamte Trainingspipeline neu aufzubauen.

Aktuelle Best Practices#

Bewahre den ursprünglichen Checkpoint auf, verwende die kleinste wirksame Aktualisierung und führe vor der Bereitstellung umfassende Modelltests durch. Aktuelle Arbeiten legen nahe, Änderungen an Gewichten mit kontextbasierten Ansätzen zu vergleichen, die unter realistischen Bedingungen robuster sein können, und lange Sequenzen von Änderungen auf gegenseitige Beeinflussung zu testen. (arxiv.org) Produktionsteams sollten Änderungsprotokolle, Wege zum Zurücksetzen, Sicherheitstests und eine kontinuierliche Modellüberwachung aufrechterhalten.

Modellbearbeitung in Ultralytics-Workflows#

Für Ultralytics YOLO26 entspricht gezieltes Training praktisch einer umfassenden Modellbearbeitung. Dieses Beispiel aktualisiert einen vortrainierten Detektor mit einem kleinen Datensatz und verwendet anschließend eine Validierung, um unbeabsichtigte Leistungsänderungen zu erkennen:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=1)
metrics = model.val()
print(metrics.box.map)

Verwende versionierte Checkpoints gemäß den Richtlinien zum Speichern von PyTorch-Modellen und nutze die Ultralytics Platform, um Daten zu annotieren, aktualisierte Modelle zu trainieren, Überarbeitungen bereitzustellen und die Leistung im Produktivbetrieb zu überwachen.