MixUp
MixUp combina ejemplos de entrenamiento y sus etiquetas para reducir el sobreajuste. Genera etiquetas de clase suaves para la clasificación y conserva las cajas para la detección.
MixUp es una técnica de aumento de datos que combina dos ejemplos de entrenamiento en uno y combina sus etiquetas. En la clasificación de imágenes, la misma proporción controla ambas mezclas: si una imagen aporta el 70 % de la mezcla de píxeles, su clase recibe el 70 % del peso de la etiqueta. Entrenar con estos ejemplos intermedios anima al modelo a cambiar gradualmente sus predicciones entre muestras.
Cómo funciona MixUp#
El MixUp estándar obtiene un peso entre cero y uno a partir de una distribución beta simétrica parametrizada por alpha. Por debajo de 1, los valores obtenidos tienden a concentrarse en los extremos, por lo que normalmente predomina una imagen. En 1, todos los intervalos del mismo ancho tienen la misma probabilidad. Por encima de 1, los valores se concentran cerca de 0,5 y producen mezclas más equilibradas. La proporción de mezcla determina cuánto aporta cada muestra; una probabilidad de aplicación independiente, cuando está disponible, determina con qué frecuencia se ejecuta la transformación.
Hongyi Zhang, Moustapha Cissé, Yann N. Dauphin y David Lopez-Paz presentaron la técnica en mixup: más allá de la minimización del riesgo empírico, publicado inicialmente en 2017 y presentado en ICLR 2018. En su experimento de 200 épocas con CIFAR-10, una ResNet-18 con preactivación y un decaimiento de pesos de 0.0001, MixUp con alpha=1 redujo el error mediano de prueba de las 10 épocas finales del 5.53 % al 4.24 %.
MixUp para la clasificación de imágenes#
Una etiqueta de clasificación de imágenes suele almacenarse como un ID de clase entero. MixUp combina vectores de clase: cuando las imágenes pertenecen a clases distintas, el resultado es un objetivo suave con dos pesos que suman uno. Cuando ambas imágenes pertenecen a la misma clase, esa clase conserva todo su peso. Con la pérdida de entropía cruzada, usar el objetivo suave equivale a calcular la pérdida con cada etiqueta original a partir de la misma predicción de la imagen combinada y, después, obtener la suma ponderada de ambas pérdidas.
La transformación MixUp por lotes de Torchvision aplica un peso de mezcla compartido a todo un lote. El ejemplo utiliza las imágenes del gato y del café de la colección de ejemplos de scikit-image.
import torch
from skimage import data
from torchvision.transforms import v2
resize = v2.Resize((128, 128))
to_image = v2.ToImage()
cat = resize(to_image(data.chelsea()))
coffee = resize(to_image(data.coffee()))
images = torch.stack((cat, coffee)).float() / 255
labels = torch.tensor([0, 1])
mixup = v2.MixUp(alpha=1.0, num_classes=2)
mixed_images, mixed_targets = mixup(images, labels)
print(mixed_targets)Cada fila impresa muestra los pesos del gato y del café para una imagen combinada. Los pesos se intercambian entre filas porque la transformación invierte los papeles de las dos imágenes de este lote.
Cómo gestiona la detección de objetos las etiquetas combinadas#
Un objetivo de detección de objetos contiene una caja delimitadora y una clase para cada objeto. Promediar dos cajas podría situar la caja resultante entre los objetos. La transformación MixUp de Ultralytics YOLO combina las imágenes y conserva ambos conjuntos de cajas e ID de clase como objetivos independientes. El ajuste mixup controla con qué frecuencia se ejecuta la transformación y, de forma predeterminada, tiene el valor 0.0; la proporción de píxeles se obtiene por separado de Beta(32, 32), lo que produce mezclas casi equilibradas, y el límite de entrenamiento close_mosaic también desactiva MixUp cuando entra en vigor.
Comparación de MixUp con otros aumentos de datos#
MixUp actúa como regularización al entrenar el modelo con combinaciones de ejemplos que, de otro modo, podría memorizar. La mezcla de imágenes completas también puede crear patrones que se parezcan a una tercera clase. En un experimento con MNIST, una mezcla de los dígitos manuscritos 1 y 5 se parecía a un 8, aunque el objetivo asignaba un 53 % al 1 y un 47 % al 5. Por tanto, la imagen aportaba indicios visuales de una clase a la que se asignaba un peso objetivo de cero.
- CutMix sustituye una región rectangular por un fragmento de otra imagen. En la clasificación, los pesos del objetivo siguen el área que aporta cada imagen.
- Mosaic coloca varias imágenes en un único lienzo y adapta sus anotaciones a la nueva disposición.
- El suavizado de etiquetas redistribuye parte del peso objetivo entre las clases y deja la entrada sin cambios.
Manifold Mixup traslada la interpolación de las entradas sin procesar a una capa oculta de la red. Sigue utilizando el mismo peso de mezcla para las activaciones ocultas y las etiquetas de clase.














