Vecteurs de tâches

Les vecteurs de tâches représentent les modifications spécifiques apportées aux poids d'un réseau neuronal lors du réglage fin afin d' obtenir une nouvelle capacité. En soustrayant les paramètres d'un modèle de base de ceux d'un modèle ajusté, les chercheurs peuvent isoler un vecteur directionnel dans l'espace des poids qui encapsule le comportement appris pour cette tâche spécifique. Cette approche permet aux développeurs d'appliquer desimples opérations arithmétiques aux paramètres du modèle pour orienter, modifier ou fusionner les comportements du modèle sans nécessiter de calculs d'entraînement supplémentaires.

En quoi les vecteurs de tâches se distinguent-ils de l'apprentissage par transfert ?

Alors que le concept d'apprentissage par transfert consiste à entraîner un modèle de manière séquentielle sur un nouvel ensemble de données afin d'adapter ses connaissances existantes, les vecteurs de tâche agissent directement sur les poids structurels du modèle après l'entraînement. Au lieu de réentraîner les gradients pour apprendre un nouveau domaine, l'interpolation de l'espace des poids à l'aide de vecteurs de tâches permet aux praticiens de combiner linéairement les différences de poids provenant de plusieurs modèles entraînés indépendamment. Cela permet une fusion de modèles « zero-shot », permettant à un seul modèle d'hériter de multiples capacités simultanément sans la charge de calcul habituelle lors de l'entraînement.

Applications concrètes

La possibilité de manipuler les modèles d'apprentissage profond de manière algébrique a donné lieu à plusieurs applications majeures dans les pipelines d'IA modernes :

• Fusion de modèles multitâches: les ingénieurs peuvent combiner un vecteur de tâches optimisé pour la détection d'objets avec un autre vecteur entraîné pour la segmentation d'images. Lorsqu'elle est appliquée à un modèle de base Ultralytics , cette approche crée une architecture à double fonction qui excelle simultanément dans les deux tâches, tout en conservant les atouts de chaque réglage fin d'origine.
• « Désapprentissage » des machines et sécurité de l'IA: si un modèle produit des résultats biaisés ou dangereux, les chercheurs peuvent calculer un vecteur de tâche représentant ce comportement indésirable spécifique. En soustrayant ce vecteur des poids du modèle, ils peuvent ainsi « effacer » efficacement ce comportement, ce qui contribue grandement à améliorer la sécurité de l'IA et à renforcer les normes éthiques en matière d'IA.
• Adaptation au domaine en vision par ordinateur: Lorsqu'il s'agit d'adapter des modèles à des environnements spécifiques — comme le passage de l'inférence en temps réelde jour à celle de nuit —, les vecteurs de tâche permettent aux utilisateurs de moduler l'ampleur de l'adaptation. L'application d'une fraction du vecteur (par exemple, un facteur d'échelle de 0,5) peut donner un modèle équilibré qui fonctionne bien dans les deux domaines.

Utilisation des vecteurs de tâches dans PyTorch

La création et l'application d'un vecteur de tâches nécessitent d'accéder au dictionnairePyTorch et de le manipuler. L' exemple suivant montre comment extraire un vecteur de tâches d'un modèle YOLO26 finement ajusté et le réappliquer au modèle de base avec un facteur d'échelle spécifique.

from ultralytics import YOLO

# Load the state dictionaries for the base and fine-tuned models
base_weights = YOLO("yolo26n.pt").model.state_dict()
tuned_weights = YOLO("yolo26n-custom.pt").model.state_dict()

# Calculate the task vector (tuned weights minus base weights)
task_vector = {k: tuned_weights[k] - base_weights[k] for k in base_weights.keys()}

# Apply the task vector to the base model using a 0.5 scaling factor
for k in base_weights.keys():
    base_weights[k] += 0.5 * task_vector[k]

L'avenir de la manipulation du poids

À mesure que les architectures telles que les grands modèles linguistiques et les transformateurs de vision à grande échelle voient leur nombre de paramètres augmenter, leur réentraînement à chaque ajustement mineur devient économiquement irréalisable. Les vecteurs de tâches offrent une alternative mathématiquement élégante pour l'optimisation des modèles après l'entraînement . En partageant des vecteurs de tâches légers plutôt que des modèles entiers de plusieurs gigaoctets, la communauté de l'IA peut accélérer la collaboration open source dans le domaine de l'IA. Une fois que vos vecteurs de tâches personnalisés sont affinés, l'utilisation de la Ultralytics simplifie les processus ultérieurs de déploiement et de surveillance des modèles, garantissant que vos poids optimisés se traduisent directement en terminaux prêts pour la production.