Лицензия YOLO
Назад к глоссарию Ultralytics

MixUp

MixUp смешивает обучающие примеры и соответствующие им целевые значения, чтобы снизить переобучение. Для классификации метод создает мягкие метки классов, а для детекции сохраняет боксы.

MixUp — это метод аугментации данных, который объединяет два обучающих примера в один и смешивает соответствующие им целевые значения. При классификации изображений один и тот же коэффициент определяет долю каждого изображения в обоих смешиваниях: если одно изображение составляет 70% смеси пикселей, его класс получает 70% веса целевого значения. Обучение на таких промежуточных примерах побуждает модель постепенно менять предсказания при переходе от одного примера к другому.

Как работает MixUp#

В стандартном MixUp вес выбирается из симметричного бета-распределения, заданного параметром alpha, и лежит между нулем и единицей. При значениях параметра ниже 1 выборки чаще приходятся на края диапазона, поэтому обычно преобладает одно изображение. При значении 1 все интервалы одинаковой ширины равновероятны. При значениях выше 1 выборки концентрируются около 0,5, что дает более равномерные смеси. Коэффициент смешивания определяет вклад каждого примера; отдельная вероятность применения, если она задана, определяет, как часто запускается преобразование.

Хонги Чжан, Мустафа Сиссе, Ян Н. Дофен и Дэвид Лопес-Пас представили этот метод в работе mixup: за пределами эмпирической минимизации риска, впервые опубликованной в 2017 году и представленной на ICLR 2018. В эксперименте на CIFAR-10 с обучением в течение 200 эпох, предварительной активацией ResNet-18 и затуханием весов 0.0001 применение MixUp с alpha=1 снизило медианную ошибку на тестовых данных за последние 10 эпох с 5.53% до 4.24%.

CIFAR-10 preview 1
CIFAR-10 preview 2
CIFAR-10 preview 3
CIFAR-10 preview 4
60 000
CIFAR-10
ultralytics
ПубличныйКлассификация

Tiny 32x32 color photos of common vehicles and animals, the classic small-image classification benchmark from the University of Toronto. Collected by Alex Krizhevsky, Vinod Nair, and Geoffrey Hinton as a hand-labeled subset of the 80 Million Tiny Images collection, with balanced, mutually exclusive classes. Source: Krizhevsky, "Learning Multiple Layers of Features from Tiny Images," University of Toronto tech report 2009; cs.toronto.edu/~kriz/cifar.html.

110 классов66 MB23 окт. 2026 г.
airplaneautomobilebirdcat+6
image-classificationcifar10object-recognition+1

MixUp для классификации изображений#

Метка классификации изображений часто хранится как целочисленный идентификатор класса. MixUp вместо этого смешивает векторы классов: если изображения относятся к разным классам, результатом становится мягкая целевая метка с двумя весами, сумма которых равна единице. Если оба изображения принадлежат одному классу, этот класс сохраняет полный вес. При использовании кросс-энтропийной функции потерь мягкая целевая метка эквивалентна вычислению потерь отдельно для каждой исходной метки на основе одного и того же предсказания для смешанного изображения с последующим взвешенным суммированием двух потерь.

Пакетное преобразование MixUp в Torchvision применяет общий коэффициент смешивания ко всему пакету. В примере используются изображения кота и кофе из коллекции образцов scikit-image.

import torch
from skimage import data
from torchvision.transforms import v2

resize = v2.Resize((128, 128))
to_image = v2.ToImage()
cat = resize(to_image(data.chelsea()))
coffee = resize(to_image(data.coffee()))
images = torch.stack((cat, coffee)).float() / 255
labels = torch.tensor([0, 1])

mixup = v2.MixUp(alpha=1.0, num_classes=2)
mixed_images, mixed_targets = mixup(images, labels)
print(mixed_targets)

В каждой выведенной строке указаны веса кота и кофе для одного смешанного изображения. В разных строках веса меняются местами, потому что преобразование меняет порядок двух изображений в этом пакете.

Как обрабатываются смешанные метки при детекции объектов#

Целевая разметка для детекции объектов содержит ограничивающий бокс и класс для каждого объекта. Усреднение двух боксов может поместить полученный бокс между объектами. Преобразование MixUp в Ultralytics YOLO смешивает изображения, сохраняя оба набора боксов и идентификаторов классов в виде отдельных целевых значений. Параметр mixup определяет, как часто запускается преобразование; по умолчанию он равен 0.0. Доля пикселей выбирается отдельно из Beta(32, 32), что дает почти равномерные смеси; кроме того, при достижении заданного порога close_mosaic также отключает MixUp во время обучения.

Сравнение MixUp с другими аугментациями#

MixUp действует как регуляризация: модель обучается на сочетаниях примеров, которые иначе могла бы запомнить. Смешивание изображений целиком также может создавать узоры, похожие на третий класс. В одном эксперименте с MNIST смесь рукописных цифр 1 и 5 напоминала цифру 8, хотя целевая метка назначала 53% цифре 1 и 47% цифре 5. Таким образом, изображение содержало визуальные признаки класса, которому был назначен нулевой вес.

  • CutMix заменяет прямоугольную область фрагментом другого изображения. При классификации веса целевых меток соответствуют площади, которую занимает каждое изображение.
  • Mosaic размещает несколько изображений на одном холсте и переносит их аннотации в соответствии с новым расположением.
  • Сглаживание меток перераспределяет часть веса целевой метки между классами, не изменяя входные данные.

Manifold Mixup переносит интерполяцию с исходных входных данных на скрытый слой сети. При этом используется один и тот же коэффициент смешивания для скрытых активаций и целевых меток классов.

Изучи решения

Компьютерное зрение в спорте

Компьютерное зрение в спорте

Узнай, как Ultralytics YOLO обеспечивает компьютерное зрение в спорте: отслеживание игроков и мяча, аналитика результатов, полезные выводы для тренеров и реабилитация спортсменов.
Подробнее
Компьютерное зрение для аэросъёмки

Компьютерное зрение для аэросъёмки

Превращай снимки с дронов и аэрофотоснимки в полезные данные в реальном времени для сельского хозяйства, аквакультуры, охраны природы и геопространственного анализа с Ultralytics YOLO.
Подробнее
Компьютерное зрение в аэрокосмической отрасли

Компьютерное зрение в аэрокосмической отрасли

Применяй компьютерное зрение в аэрокосмической отрасли с Ultralytics YOLO: для осмотра самолётов, обнаружения посторонних предметов на взлётно-посадочных полосах, наземного обслуживания аэропортов и выявления дефектов композитных материалов.
Подробнее
Компьютерное зрение в сфере безопасности

Компьютерное зрение в сфере безопасности

Защити любой объект с помощью моделей Ultralytics YOLO. ИИ на базе компьютерного зрения обеспечивает мониторинг периметра, обнаружение угроз, распознавание номерных знаков и безопасность на рабочем месте.
Подробнее
Компьютерное зрение в робототехнике

Компьютерное зрение в робототехнике

Создавай более интеллектуальные машины с моделями Ultralytics YOLO. ИИ на базе компьютерного зрения в робототехнике обеспечивает автономную навигацию, восприятие, отслеживание объектов и управление в реальном времени.
Подробнее
Компьютерное зрение в логистике

Компьютерное зрение в логистике

Оптимизируй логистику с моделями Ultralytics YOLO. Визуальный AI обеспечивает проверку посылок, сортировку, отслеживание транспорта и мониторинг безопасности на складе в реальном времени.
Подробнее
Компьютерное зрение в розничной торговле

Компьютерное зрение в розничной торговле

Переосмысли розничную торговлю с моделями Ultralytics YOLO. Визуальный AI обеспечивает отслеживание запасов, мониторинг полок, управление очередями и более глубокое понимание поведения покупателей.
Подробнее
Компьютерное зрение в здравоохранении

Компьютерное зрение в здравоохранении

Создавай решения для здравоохранения с моделями Ultralytics YOLO. Визуальный AI в здравоохранении ускоряет медицинскую визуализацию, улучшает диагностику и мониторинг пациентов.
Подробнее
Компьютерное зрение в производстве

Компьютерное зрение в производстве

Оптимизируй производство с моделями Ultralytics YOLO. Компьютерное зрение на базе ИИ обеспечивает контроль качества, обнаружение дефектов, контроль использования СИЗ и автоматизацию сборочных линий.
Подробнее
Компьютерное зрение в автомобильной отрасли

Компьютерное зрение в автомобильной отрасли

Применяй компьютерное зрение в автомобильной отрасли с моделями Ultralytics YOLO. Компьютерное зрение на базе ИИ повышает безопасность дорожного движения, улучшает помощь водителю и автоматизацию автомобилей, делая дороги умнее.
Подробнее
Компьютерное зрение в сельском хозяйстве

Компьютерное зрение в сельском хозяйстве

Внедряй ИИ для компьютерного зрения в умное сельское хозяйство с моделями Ultralytics YOLO. Используй их для мониторинга посевов, отслеживания скота и точного земледелия, чтобы повысить урожайность и эффективность.
Подробнее

Давай вместе строить будущее ИИ!

Начни свой путь в будущее машинного обучения