Continual Learning

Непрерывное обучение (CL), также называемое обучением на протяжении всей жизни, — это способность модели искусственного интеллекта последовательно осваивать новые задачи или получать новые знания с течением времени, не забывая ранее усвоенную информацию. В отличие от традиционных конвейеров машинного обучения, где модель один раз обучается на статичном наборе данных, а затем развёртывается, непрерывное обучение имитирует способность человека постоянно адаптироваться к новой среде и учиться на новом опыте. Главная сложность этой области — преодолеть катастрофическое забывание: при обучении нейронной сети на новых данных её качество решения прежних задач может резко снизиться, поскольку веса, оптимизированные для этих задач, перезаписываются.

Почему важно непрерывное обучение#

В динамичной реальной среде распределения данных редко остаются неизменными. Например, системе визуального восприятия автономного автомобиля нужно адаптироваться к смене сезонов, новым правилам дорожного движения или планировке других городов, не утратив способность распознавать основные дорожные знаки, усвоенную при первоначальном обучении. Традиционное переобучение с нуля на совокупном наборе данных часто требует слишком больших вычислительных ресурсов и непрактично из-за ограниченного места для хранения или проблем с конфиденциальностью. Непрерывное обучение позволяет постепенно обновлять модели, делая их эффективнее и масштабируемее для приложений периферийного ИИ с ограниченными ресурсами.

Примеры применения в реальных условиях#

• Робототехника и автономные системы: роботам, работающим в неструктурированных средах, нужно манипулировать незнакомыми объектами и передвигаться по новой местности. Благодаря непрерывному обучению робот может освоить конкретную производственную задачу, а затем научиться работать с другой линейкой продукции без полного перезапуска системы, эффективно поддерживая гибкие конвейеры инноваций Индустрии 4.0.
• Диагностика по медицинским изображениям: медицинские данные меняются по мере появления новых заболеваний и изменения протоколов визуализации. Система ИИ, помогающая рентгенологам, может с помощью непрерывного обучения учитывать новые патологии, например новый штамм вируса, выявленный на рентгеновских снимках, и при этом сохранять высокую точность обнаружения распространённых состояний, таких как пневмония или переломы. Эта возможность важна для поддержания актуальности медицинской диагностики без ущерба для безопасности пациентов при использовании проверенных протоколов.

Основные стратегии непрерывного обучения#

Чтобы смягчить катастрофическое забывание, исследователи применяют несколько стратегий. Методы регуляризации добавляют ограничения к функции потерь, чтобы не допустить значительного изменения важных весов, выявленных при решении предыдущих задач. Методы воспроизведения сохраняют небольшую часть прежних данных (или создают синтетические примеры с помощью генеративного ИИ) и смешивают их с новыми данными при обучении. Наконец, изоляция параметров выделяет отдельные подмножества параметров модели для разных задач, чтобы обновления для новой задачи не затрагивали параметры, оптимизированные для прежних. Последние достижения 2024 и 2025 годов связаны с использованием визуально-языковых моделей для более точного определения универсальных и специфичных для конкретных задач признаков.

Непрерывное обучение и трансферное обучение#

Важно отличать непрерывное обучение от трансферного обучения. При трансферном обучении предварительно обученная модель служит отправной точкой для решения новой конкретной задачи, а качество решения исходной задачи обычно не имеет значения. Цель — добиться наилучших результатов в целевом домене. Непрерывное обучение, напротив, направлено на то, чтобы модель хорошо справлялась и с новой, и со всеми прежними задачами. А если активное обучение помогает выбирать наиболее информативные данные для разметки и обучения, то непрерывное обучение сосредоточено на самом процессе обновления модели с течением времени.

Обновление модели YOLO#

Для настоящего непрерывного обучения нужны специальные изменения архитектуры, но пользователи могут имитировать этот рабочий процесс, дообучая модели на новых данных, смешанных с буфером старых. Платформа Ultralytics упрощает управление такими наборами данных и версионирование моделей. Ниже показан пример обновления модели с помощью API Python:

from ultralytics import YOLO

# Загрузи модель, ранее обученную на 'dataset_v1.yaml'
model = YOLO("yolo26n-v1.pt")

# Обучи модель на новом наборе данных, содержащем новые и старые примеры
# Это помогает смягчить катастрофическое забывание, «повторно проигрывая» старые данные
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # Понизь скорость обучения для дообучения
)

Проблемы и направления дальнейших исследований#

Несмотря на прогресс, непрерывное обучение остаётся активной областью исследований. Найти оптимальный баланс в дилемме пластичности и стабильности — между способностью осваивать новое (пластичностью) и сохранять старое (стабильностью) — непросто. Кроме того, для оценки таких систем нужны надёжные метрики производительности, учитывающие как прямой перенос (скорость обучения новым задачам), так и обратный перенос (влияние на прежние задачи). По мере увеличения размера базовых моделей эффективные методы непрерывной адаптации, например адаптация низкого ранга (LoRA), становятся важны для настройки крупных систем без полного переобучения.