Distributed Training

El entrenamiento distribuido es un método en aprendizaje automático en el que la carga de trabajo de entrenar un modelo se divide entre múltiples procesadores o máquinas. Este enfoque es fundamental para gestionar conjuntos de datos a gran escala y arquitecturas de redes neuronales complejas que de otro modo tardarían un tiempo poco práctico en entrenarse en un solo dispositivo. Al aprovechar la potencia de cálculo combinada de múltiples Graphics Processing Units (GPUs) o Tensor Processing Units (TPUs), el entrenamiento distribuido acelera significativamente el ciclo de desarrollo, permitiendo a investigadores e ingenieros iterar más rápido y alcanzar una mayor precisión en sus modelos.

Cómo funciona el entrenamiento distribuido#

La idea central detrás del entrenamiento distribuido es la paralelización. En lugar de procesar los datos secuencialmente en un solo chip, la tarea se divide en fragmentos más pequeños que se procesan simultáneamente. Existen dos estrategias principales para lograr esto:

• Data Parallelism: Este es el enfoque más común para tareas como la detección de objetos. En esta configuración, se coloca una copia de todo el modelo en cada dispositivo. Los datos de entrenamiento globales se dividen en lotes más pequeños, y cada dispositivo procesa un lote diferente al mismo tiempo. Después de cada paso, los gradientes (actualizaciones del modelo) se sincronizan en todos los dispositivos para garantizar que los pesos del modelo permanezcan coherentes.
• Model Parallelism: Cuando una red neuronal (NN) es demasiado grande para caber en la memoria de una sola GPU, el propio modelo se divide entre múltiples dispositivos. Diferentes capas o componentes del modelo residen en diferentes chips, y los datos fluyen entre ellos. Esto suele ser necesario para entrenar modelos fundamentales masivos y Large Language Models (LLMs).

Aplicaciones en el mundo real#

El entrenamiento distribuido ha transformado industrias al hacer posible la resolución de problemas que antes eran computacionalmente inviables.

• Conducción autónoma: Desarrollar vehículos autónomos seguros requiere analizar petabytes de datos de vídeo y sensores. Los ingenieros de automoción utilizan grandes clústeres distribuidos para entrenar modelos de visión para la segmentación semántica en tiempo real y la detección de carriles. Esta escala masiva garantiza que los sistemas de IA en la automoción puedan reaccionar de forma fiable ante diversas condiciones de la carretera.
• Imagen médica: En el sector sanitario, analizar exploraciones 3D de alta resolución como las resonancias magnéticas requiere una memoria y una potencia de procesamiento significativas. El entrenamiento distribuido permite a los investigadores construir herramientas de diagnóstico de alto rendimiento para la detección de tumores y otras tareas críticas. Al utilizar marcos como NVIDIA MONAI, los hospitales pueden entrenar modelos en diversos conjuntos de datos sin alcanzar cuellos de botella de memoria, mejorando los resultados de la IA en la sanidad.

Uso del entrenamiento distribuido con Ultralytics#

La biblioteca ultralytics facilita la implementación del entrenamiento Distributed Data Parallel (DDP). Puedes escalar tu entrenamiento de modelos YOLO26 de última generación en múltiples GPUs simplemente especificando los índices de los dispositivos en tus argumentos de entrenamiento.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Train the model using two GPUs (device 0 and 1)
# The library automatically handles the DDP communication backend
results = model.train(data="coco8.yaml", epochs=100, device=[0, 1])

Conceptos relacionados y comparaciones#

Es útil distinguir el entrenamiento distribuido de términos similares en el ecosistema del aprendizaje automático para comprender sus roles específicos:

• Vs. Aprendizaje federado: Aunque ambos involucran múltiples dispositivos, sus objetivos difieren. El entrenamiento distribuido suele centralizar los datos en un clúster de alto rendimiento para maximizar la velocidad. En contraste, el aprendizaje federado mantiene los datos descentralizados en los dispositivos de los usuarios (como los teléfonos inteligentes) para priorizar la privacidad de los datos, actualizando el modelo global sin que los datos sin procesar salgan nunca de la fuente.
• Vs. Informática de alto rendimiento (HPC): La HPC es un campo amplio que incluye la supercomputación para simulaciones científicas como la previsión meteorológica. El entrenamiento distribuido es una aplicación específica de la HPC aplicada a algoritmos de optimización en el aprendizaje profundo. A menudo se basa en bibliotecas de comunicación especializadas como NVIDIA NCCL para minimizar la latencia entre GPUs.

Escalado con plataformas en la nube#

Gestionar la infraestructura para el entrenamiento distribuido puede ser complejo. Las plataformas modernas simplifican esto ofreciendo entornos gestionados. Por ejemplo, la Ultralytics Platform permite a los usuarios gestionar conjuntos de datos e iniciar ejecuciones de entrenamiento que se pueden implementar en entornos de nube o clústeres locales. Esta integración optimiza el flujo de trabajo desde la anotación de datos hasta la implementación final del modelo, asegurando que escalar a múltiples GPUs sea lo más fluido posible. Del mismo modo, los proveedores de la nube como Google Cloud Vertex AI y Amazon SageMaker proporcionan una infraestructura robusta para ejecutar trabajos de entrenamiento distribuido a escala empresarial.