Distributed Training

L'entraînement distribué est une méthode d'apprentissage automatique où la charge de travail de l'entraînement d'un modèle est répartie entre plusieurs processeurs ou machines. Cette approche est essentielle pour gérer des ensembles de données à grande échelle et des architectures de réseaux de neurones complexes qui, autrement, prendraient un temps prohibitif à être entraînés sur un seul appareil. En tirant parti de la puissance de calcul combinée de plusieurs Graphics Processing Units (GPUs) ou de Tensor Processing Units (TPUs), l'entraînement distribué accélère considérablement le cycle de développement, permettant aux chercheurs et aux ingénieurs d'itérer plus rapidement et d'atteindre une précision accrue dans leurs modèles.

Comment fonctionne l'entraînement distribué#

L'idée centrale derrière l'entraînement distribué est la parallélisation. Au lieu de traiter les données de manière séquentielle sur une seule puce, la tâche est divisée en plus petits morceaux qui sont traités simultanément. Il existe deux stratégies principales pour y parvenir :

• Data Parallelism: Il s'agit de l'approche la plus courante pour des tâches telles que la détection d'objets. Dans cette configuration, une copie du modèle entier est placée sur chaque appareil. Les données d'entraînement globales sont divisées en lots plus petits, et chaque appareil traite un lot différent en même temps. Après chaque étape, les gradients (mises à jour du modèle) sont synchronisés sur tous les appareils pour garantir que les poids du modèle restent cohérents.
• Model Parallelism: Lorsqu'un réseau de neurones (NN) est trop grand pour tenir dans la mémoire d'un seul GPU, le modèle lui-même est réparti sur plusieurs appareils. Différentes couches ou composants du modèle résident sur des puces différentes, et les données circulent entre elles. C'est souvent nécessaire pour entraîner des modèles de fondation massifs et des grands modèles de langage (LLMs).

Applications concrètes#

L'entraînement distribué a transformé les industries en rendant possible la résolution de problèmes qui étaient auparavant informatiquement irréalisables.

• Conduite autonome: Le développement de véhicules autonomes sûrs nécessite l'analyse de pétaoctets de données vidéo et de capteurs. Les ingénieurs automobiles utilisent de grands clusters distribués pour entraîner des modèles de vision pour la segmentation sémantique en temps réel et la détection de voies. Cette échelle massive garantit que les systèmes d'IA dans l'automobile peuvent réagir de manière fiable à diverses conditions routières.
• Imagerie médicale: Dans le secteur de la santé, l'analyse de scans 3D à haute résolution tels que les IRM nécessite une mémoire et une puissance de traitement importantes. L'entraînement distribué permet aux chercheurs de construire des outils de diagnostic haute performance pour la détection de tumeurs et d'autres tâches critiques. En utilisant des frameworks tels que NVIDIA MONAI, les hôpitaux peuvent entraîner des modèles sur divers ensembles de données sans rencontrer de goulots d'étranglement de mémoire, améliorant ainsi les résultats de l'IA dans la santé.

Utiliser l'entraînement distribué avec Ultralytics#

La bibliothèque ultralytics permet de mettre en œuvre facilement l'entraînement Distributed Data Parallel (DDP). Tu peux mettre à l'échelle ton entraînement de modèles YOLO26 de pointe sur plusieurs GPUs en spécifiant simplement les indices des appareils dans tes arguments d'entraînement.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Train the model using two GPUs (device 0 and 1)
# The library automatically handles the DDP communication backend
results = model.train(data="coco8.yaml", epochs=100, device=[0, 1])

Concepts associés et comparaisons#

Il est utile de distinguer l'entraînement distribué de termes similaires dans l'écosystème de l'apprentissage automatique pour comprendre leurs rôles spécifiques :

• Vs. Apprentissage fédéré: Bien que tous deux impliquent plusieurs appareils, leurs objectifs diffèrent. L'entraînement distribué centralise généralement les données dans un cluster haute performance pour maximiser la vitesse. En revanche, l'apprentissage fédéré maintient les données décentralisées sur les appareils des utilisateurs (comme les smartphones) pour donner la priorité à la confidentialité des données, mettant à jour le modèle global sans que les données brutes ne quittent jamais la source.
• Vs. Calcul haute performance (HPC): Le HPC est un vaste domaine qui comprend le supercalcul pour les simulations scientifiques comme la prévision météorologique. L'entraînement distribué est une application spécifique du HPC appliquée aux algorithmes d'optimisation en deep learning. Il s'appuie souvent sur des bibliothèques de communication spécialisées telles que NVIDIA NCCL pour minimiser la latence entre les GPUs.

Mise à l'échelle avec les plateformes cloud#

La gestion de l'infrastructure pour l'entraînement distribué peut être complexe. Les plateformes modernes simplifient cela en offrant des environnements gérés. Par exemple, la Ultralytics Platform permet aux utilisateurs de gérer des ensembles de données et de lancer des exécutions d'entraînement qui peuvent être déployées dans des environnements cloud ou des clusters locaux. Cette intégration rationalise le flux de travail de l'annotation des données au déploiement final du modèle, garantissant que le passage à l'échelle sur plusieurs GPUs est aussi fluide que possible. De même, les fournisseurs de cloud tels que Google Cloud Vertex AI et Amazon SageMaker fournissent une infrastructure robuste pour exécuter des tâches d'entraînement distribué à l'échelle de l'entreprise.