Model Weights

Веса модели — это обучаемые параметры внутри модели машинного обучения, которые преобразуют входные данные в прогнозируемые выходные данные. В нейронной сети эти веса отражают силу связей между нейронами в разных слоях. При инициализации модели этим весам обычно присваиваются случайные небольшие значения, то есть модель «ничего не знает». В процессе, называемом обучением, модель итеративно корректирует эти веса на основе допущенных ошибок и постепенно учится распознавать закономерности, признаки и взаимосвязи в данных. Веса модели можно представить как «память» или «знания» ИИ: в них хранится то, чему система научилась на основе своих обучающих данных.

Роль весов в обучении#

Основная цель обучения нейронной сети — найти оптимальный набор весов модели, который минимизирует ошибку между прогнозами модели и фактическими эталонными значениями. Этот процесс включает передачу данных через сеть — этап, известный как прямой проход, — а затем вычисление значения функции потерь с помощью определённой функции потерь. Если прогноз неверен, алгоритм оптимизации, например стохастический градиентный спуск (SGD), или более новый оптимизатор Muon, используемый в YOLO26, вычисляет, насколько каждый вес повлиял на ошибку.

С помощью метода, называемого обратным распространением ошибки, алгоритм немного обновляет веса, чтобы уменьшить ошибку в следующий раз. Этот цикл повторяется тысячи или миллионы раз, пока веса модели не стабилизируются и система не достигнет высокой точности. После завершения обучения веса «замораживаются» и сохраняются, что позволяет развернуть модель для инференса на новых, ранее не встречавшихся данных.

Веса модели и смещения#

Важно различать веса и смещения, поскольку они работают вместе, но выполняют разные функции. Веса модели определяют силу и направление связи между нейронами, управляя наклоном функции активации, а смещения позволяют сдвигать функцию активации влево или вправо. Это смещение помогает модели лучше соответствовать данным, даже если все входные признаки равны нулю. Вместе веса и смещения образуют обучаемые параметры, определяющие поведение таких архитектур, как сверточные нейронные сети (CNNs).

Практические применения#

Веса модели — это основной компонент, благодаря которому системы ИИ могут работать в различных отраслях. Вот два конкретных примера их применения:

• Компьютерное зрение в розничной торговле: В системе умного супермаркета такая модель, как YOLO26, использует обученные веса для распознавания товаров на полке. Веса «научились» распознавать визуальные признаки — например, форму коробки с хлопьями или цвет банки с газировкой, — что позволяет системе обнаруживать товары, управлять запасами и даже эффективно поддерживать процессы автоматизированной оплаты.
• Анализ медицинских изображений: В здравоохранении модели глубокого обучения используют специализированные веса для анализа рентгеновских снимков или МРТ. Например, модель, обученная для обнаружения опухолей, использует свои веса, чтобы отличать здоровые ткани от потенциальных аномалий. Эти веса улавливают сложные нелинейные закономерности в данных о пикселях, которые могут быть незаметны человеческому глазу, помогая рентгенологам быстрее ставить диагнозы.

Сохранение и загрузка весов#

На практике работа с весами модели включает сохранение обученных параметров в файл и их последующую загрузку для прогнозирования или дообучения. В экосистеме Ultralytics они обычно хранятся в файлах .pt (PyTorch).

Вот простой пример загрузки предварительно обученных весов в модель YOLO и выполнения прогноза:

from ultralytics import YOLO

# Load a model with pre-trained weights (e.g., YOLO26n)
model = YOLO("yolo26n.pt")

# Run inference on an image using the loaded weights
results = model("https://ultralytics.com/images/bus.jpg")

# Print the number of detected objects
print(f"Detected {len(results[0].boxes)} objects.")

Перенос обучения и дообучение#

Одно из главных преимуществ весов модели — их переносимость. Вместо обучения модели с нуля, что требует огромных наборов данных и значительных вычислительных ресурсов, разработчики часто используют перенос обучения. Он заключается в том, что берётся модель с весами, предварительно обученными на большом наборе данных, таком как COCO или ImageNet, и адаптируется к конкретной задаче.

Например, можно взять веса универсального детектора объектов и дообучить их на небольшом наборе данных о солнечных панелях. Поскольку предварительно обученные веса уже распознают границы, формы и текстуры, модель сходится гораздо быстрее и требует меньше размеченных данных. Такие инструменты, как Ultralytics Platform, упрощают этот процесс, позволяя командам управлять наборами данных, обучать модели в облаке и без лишних сложностей развёртывать оптимизированные веса на периферийных устройствах.

Сжатие и оптимизация#

Современные исследования в области ИИ часто направлены на уменьшение размера файлов с весами модели без потери производительности — этот процесс называется квантизацией модели. Снижение точности представления весов, например с 32-разрядных чисел с плавающей запятой до 8-разрядных целых чисел, позволяет разработчикам значительно уменьшить потребление памяти и повысить скорость инференса. Это особенно важно при развёртывании моделей на устройствах с ограниченными ресурсами, таких как мобильные телефоны или устройства Raspberry Pi. Кроме того, такие методы, как разреживание, удаляют веса, которые почти не влияют на выходные данные, ещё больше оптимизируя модель для приложений реального времени.