Task Vectors

Task-Vektoren repräsentieren die spezifischen Änderungen an den Gewichten eines neuronalen Netzwerks während des Fine-Tunings, um eine neue Fähigkeit zu erreichen. Indem Forscher die Parameter eines fundamentalen Basismodells von denen eines feinabgestimmten Modells subtrahieren, können sie einen Richtungsvektor im Gewichtsraum isolieren, der das erlernte Verhalten für diese spezifische Aufgabe verkörpert. Dieser Ansatz ermöglicht es Entwicklern, einfache arithmetische Operationen auf Modellparameter anzuwenden, um Modellverhalten zu steuern, zu modifizieren oder zusammenzuführen, ohne dass zusätzliche Rechenleistung für das Training erforderlich ist.

Wie sich Task-Vektoren von Transfer Learning unterscheiden

Während das Konzept des Transfer Learnings beinhaltet, ein Modell sequenziell auf einem neuen Datensatz zu trainieren, um sein bestehendes Wissen anzupassen, operieren Task-Vektoren nach dem Training direkt auf den strukturellen Gewichten des Modells. Anstatt Gradienten neu zu trainieren, um eine neue Domäne zu erlernen, ermöglicht die Interpolation im Gewichtsraum mittels Task-Vektoren, die Gewichtsunterschiede aus mehreren unabhängig trainierten Modellen linear zu kombinieren. Dies ermöglicht Zero-Shot-Modellzusammenführung und erlaubt es einem einzelnen Modell, gleichzeitig mehrere Fähigkeiten zu erben, ohne den typischen Rechenaufwand während des Trainings.

Anwendungen in der Praxis

Die Fähigkeit, Deep Learning-Modelle algebraisch zu manipulieren, hat zu mehreren wirkungsvollen Anwendungen in modernen KI-Pipelines geführt:

• Multi-Task-Modellzusammenführung: Ingenieure können einen für Objekterkennung optimierten Task-Vektor mit einem anderen für Bildsegmentierung trainierten Vektor kombinieren. Wenn dies auf ein Ultralytics YOLO26-Basismodell angewendet wird, entsteht eine Architektur für zwei Zwecke, die beide Aufgaben gleichzeitig exzellent bewältigt und die Stärken jeder ursprünglichen Feinabstimmung bewahrt.
• Machine Unlearning und KI-Sicherheit: Wenn ein Modell voreingenommene oder gefährliche Ausgaben zeigt, können Forscher einen Task-Vektor berechnen, der dieses spezifische unerwünschte Verhalten repräsentiert. Durch die Subtraktion dieses Vektors von den Modellgewichten können sie das Verhalten effektiv „löschen“, was maßgeblich zur Verbesserung von KI-Sicherheits- und robusten KI-Ethik-Standards beiträgt.
• Domänenanpassung im Computer Vision: Bei der Anpassung von Modellen an spezifische Umgebungen – wie beispielsweise dem Wechsel von Tag- zu Nacht-Echtzeit-Inferenz – ermöglichen Task-Vektoren Benutzern, die Stärke der Anpassung zu skalieren. Die Anwendung eines Bruchteils des Vektors (z. B. ein Skalierungsfaktor von 0,5) kann ein ausbalanciertes Modell ergeben, das in beiden Domänen gut funktioniert.

Arbeiten mit Task-Vektoren in PyTorch

Das Erstellen und Anwenden eines Task-Vektors erfordert den Zugriff auf das PyTorch State Dictionary und dessen Manipulation. Das folgende Beispiel demonstriert, wie man einen Task-Vektor aus einem feinabgestimmten YOLO26-Modell extrahiert und ihn mit einem spezifischen Skalierungsfaktor auf das Basismodell zurück anwendet.

from ultralytics import YOLO

# Load the state dictionaries for the base and fine-tuned models
base_weights = YOLO("yolo26n.pt").model.state_dict()
tuned_weights = YOLO("yolo26n-custom.pt").model.state_dict()

# Calculate the task vector (tuned weights minus base weights)
task_vector = {k: tuned_weights[k] - base_weights[k] for k in base_weights.keys()}

# Apply the task vector to the base model using a 0.5 scaling factor
for k in base_weights.keys():
    base_weights[k] += 0.5 * task_vector[k]

Die Zukunft der Gewichtsmanipulation

Da Architekturen wie Large Language Models und massive Vision Transformer bei der Parameteranzahl wachsen, wird das Retraining für jede kleine Anpassung wirtschaftlich nicht machbar. Task-Vektoren bieten eine mathematisch elegante Alternative für die Modelloptimierung nach dem Training. Durch das Teilen leichtgewichtiger Task-Vektoren anstelle ganzer Multi-Gigabyte-Modelle kann die KI-Community die Open-Source-Zusammenarbeit in der KI beschleunigen. Sobald deine benutzerdefinierten Task-Vektoren verfeinert sind, vereinfacht die Nutzung der Ultralytics Platform die anschließenden Prozesse für Modellbereitstellung und Überwachung, wodurch sichergestellt wird, dass deine optimierten Gewichte direkt in produktionsreife Endpunkte überführt werden.