Fine-tuning

Дообучение — это фундаментальный процесс в области машинного обучения (ML), который включает адаптацию предварительно обученной модели к конкретной задаче или набору данных. Вместо обучения с нуля, требующего огромных объемов данных, времени и вычислительных ресурсов, разработчики начинают с «базовой модели», которая уже изучила общие признаки на обширном наборе данных, таком как ImageNet. Этот подход представляет собой практическую реализацию переноса обучения, позволяя системам ИИ достигать высокой производительности в узкоспециализированных задачах при значительно меньших затратах ресурсов.

Механика адаптации#

Основная идея дообучения заключается в использовании «знаний», которые модель уже приобрела. Базовая модель обычно хорошо распознает фундаментальные визуальные элементы, такие как контуры, текстуры и формы. В процессе дообучения параметры модели (веса) слегка корректируются, чтобы учитывать особенности новых специализированных данных.

Эта корректировка обычно выполняется с помощью градиентного спуска с использованием меньшей скорости обучения. Консервативная скорость обучения гарантирует, что ценные признаки, усвоенные во время первоначального предварительного обучения, будут уточнены, а не утрачены. Во многих рабочих процессах, связанных с компьютерным зрением (CV), инженеры могут заморозить начальные слои бэкбона, которые выявляют универсальные признаки, и обновлять только более глубокие слои и голову детектора, отвечающую за финальные предсказания классов.

Практические применения#

Дообучение устраняет разрыв между общими возможностями ИИ и конкретными требованиями отрасли. Оно позволяет универсальным моделям превращаться в специализированных экспертов.

• ИИ в здравоохранении: Стандартная модель компьютерного зрения может отличать кошек от собак, но не обладает медицинским контекстом. Дообучив эту модель на наборах данных для анализа медицинских изображений, содержащих размеченные рентгеновские снимки, исследователи могут создавать диагностические инструменты, выявляющие пневмонию или переломы с высокой точностью. Это помогает радиологам в условиях высокой нагрузки, позволяя в первую очередь обрабатывать критические случаи.
• ИИ в производстве: В промышленных условиях готовые модели могут не распознавать компоненты, разработанные специально для конкретного производителя. Производители используют дообучение, чтобы адаптировать передовые архитектуры, такие как YOLO26, к своим производственным линиям. Это позволяет автоматизированным системам контроля качества обнаруживать мельчайшие дефекты, такие как микротрещины или недостатки лакокрасочного покрытия, повышая надежность продукции и сокращая отходы.

Дообучение и обучение с нуля#

Чтобы понять, когда использовать каждый из подходов, полезно различать дообучение и полное обучение модели.

• Обучение с нуля: В этом случае модель инициализируется случайными весами и обучается на наборе данных до сходимости. Для этого требуется очень большой размеченный набор данных и значительные ресурсы GPU. Такой подход обычно используют для создания новых архитектур или когда предметная область совершенно уникальна (например, для анализа туманностей в дальнем космосе, а не повседневных объектов).
• Дообучение: Этот процесс начинается с оптимизированных весов. Он требует значительно меньшего объема данных (часто всего нескольких тысяч изображений), а обучение проходит существенно быстрее. Для большинства бизнес-приложений, таких как управление запасами в розничной торговле или мониторинг безопасности, дообучение — наиболее эффективный путь к развертыванию.

Реализация дообучения с помощью Ultralytics#

Современные фреймворки делают этот процесс доступным. Например, платформа Ultralytics упрощает рабочий процесс, автоматически управляя наборами данных и обучением в облаке. Однако разработчики также могут дообучать модели локально с помощью Python.

В следующем примере показано, как дообучить предварительно обученную модель YOLO26 на пользовательском наборе данных. Обрати внимание, что мы загружаем yolo26n.pt (предварительно обученные веса), а не упрощенный файл конфигурации, что указывает библиотеке на необходимость запустить перенос обучения.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model (n=nano size)
# This automatically loads weights trained on COCO
model = YOLO("yolo26n.pt")

# Fine-tune the model on a custom dataset (e.g., 'coco8.yaml')
# The 'epochs' argument determines how many passes over the data occur
results = model.train(data="coco8.yaml", epochs=100, imgsz=640)

# The model is now fine-tuned and ready for specific inference tasks

Ключевые факторы успеха#

Для достижения наилучших результатов первостепенное значение имеет качество нового набора данных. Инструменты для аугментации данных могут искусственно расширить небольшой набор данных за счет поворота, отражения или изменения яркости изображений, предотвращая переобучение. Кроме того, отслеживание таких метрик, как ошибка на валидационной выборке и средняя точность (mAP), помогает убедиться, что модель хорошо обобщается на ранее не встречавшиеся данные.

Для тех, кто управляет сложными рабочими процессами, применение стратегий MLOps и таких инструментов, как отслеживание экспериментов, помогает контролировать версии различных итераций дообученной модели. Будь то обнаружение объектов или сегментация экземпляров, дообучение остается отраслевым стандартом развертывания эффективных решений на основе ИИ.