Continual Learning

Непрерывное обучение (CL), которое часто называют пожизненным обучением, описывает способность модели искусственного интеллекта последовательно изучать новые задачи или приобретать новые знания с течением времени, не забывая при этом ранее усвоенную информацию. В отличие от традиционных конвейеров машинного обучения, где модели обучаются один раз на статическом наборе данных, а затем развертываются, непрерывное обучение имитирует способность человека адаптироваться к новым условиям и постоянно учиться на новом опыте. Основная проблема в этой области заключается в преодолении катастрофического забывания — явления, при котором обучение нейронной сети на новых данных приводит к резкому ухудшению её производительности на старых задачах, поскольку веса, оптимизированные для предыдущих задач, перезаписываются.

Почему непрерывное обучение важно#

В динамичных реальных условиях распределения данных редко остаются статичными. Например, система визуального восприятия на автономном транспортном средстве должна адаптироваться к меняющимся временам года, новым правилам дорожного движения или различным городским планировкам без потери способности распознавать базовые дорожные знаки, изученные во время ее первоначального обучения. Традиционное обучение с нуля на кумулятивном наборе данных часто оказывается вычислительно затратным и непрактичным из-за ограничений хранилища или вопросов конфиденциальности. Непрерывное обучение решает эти проблемы, позволяя моделям обновляться инкрементально, что делает их более эффективными и масштабируемыми для периферийных ИИ-приложений с ограниченными ресурсами.

Реальные приложения#

• Робототехника и автономные системы: Роботы, развертываемые в неструктурированных средах, должны манипулировать новыми объектами или перемещаться по новым местностям. Благодаря непрерывному обучению робот может освоить конкретную производственную задачу, а затем научиться работать с другой линией продуктов без необходимости полного сброса системы, эффективно поддерживая гибкие инновационные конвейеры индустрии 4.0.
• Диагностика на основе медицинских изображений: Данные здравоохранения развиваются по мере появления новых заболеваний или изменения протоколов визуализации. Система искусственного интеллекта, помогающая рентгенологам, может использовать непрерывное обучение для включения новых патологий, таких как новый штамм вируса, обнаруженный на рентгенограммах, при сохранении высокой точности обнаружения распространенных состояний, таких как пневмония или переломы. Эта способность жизненно важна для поддержания актуальности диагностики в здравоохранении без ущерба для безопасности пациентов при использовании устоявшихся протоколов.

Основные стратегии непрерывного обучения#

Для снижения катастрофического забывания исследователи используют несколько стратегий. Методы регуляризации добавляют ограничения к функции потерь для предотвращения значительных изменений важных весов, выявленных в предыдущих задачах. Методы воспроизведения сохраняют небольшую подвыборку предыдущих данных (или генерируют синтетические образцы с помощью генеративного ИИ) и смешивают их с новыми данными во время обучения. Наконец, изоляция параметров выделяет определенные подмножества параметров модели для различных задач, гарантируя, что обновления для новой задачи не мешают параметрам, оптимизированным для предыдущих. Недавние достижения в 2024 и 2025 годах были сосредоточены на использовании моделей зрительного языка для более точного определения того, какие признаки являются общими, а какие специфичными для задач.

Непрерывное обучение против трансферного обучения#

Важно отличать непрерывное обучение от трансфертного обучения. При трансфертном обучении предварительно обученная модель служит отправной точкой для решения новой конкретной задачи, а производительность при решении исходной задачи обычно не имеет значения. Цель состоит в том, чтобы максимизировать производительность в целевом домене. В отличие от этого, целью непрерывного обучения является успешное выполнение как новой задачи, так и всех предыдущих. Аналогичным образом, в то время как активное обучение сосредоточено на выборе наиболее информативных точек данных для разметки при обучении, непрерывное обучение сосредоточено на самом процессе обновления модели с течением времени.

Обновление модели YOLO#

Хотя истинное непрерывное обучение требует специализированных архитектурных корректировок, ты можешь смоделировать этот рабочий процесс путем дообучения моделей на новых данных, смешанных с буфером старых данных. Платформа Ultralytics упрощает управление этими наборами данных и версионирование моделей. Ниже приведен пример того, как можно подойти к обновлению модели с использованием Python API:

from ultralytics import YOLO

# Load a model previously trained on 'dataset_v1.yaml'
model = YOLO("yolo26n-v1.pt")

# Train the model on a new dataset containing new and old samples
# This helps mitigate catastrophic forgetting by "replaying" old data
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # Lower learning rate for fine-tuning
)

Проблемы и будущие направления#

Несмотря на прогресс, непрерывное обучение остается активной областью исследований. Определение оптимальной дилеммы пластичности и стабильности — баланса между способностью изучать новое (пластичность) и способностью сохранять старое (стабильность) — представляет собой сложную задачу. Кроме того, оценка этих систем требует надежных показателей производительности, которые учитывают как прямой перенос (скорость обучения новым задачам), так и обратный перенос (влияние на старые задачи). По мере того как базовые модели становятся все больше, эффективные методы непрерывной адаптации, такие как низкоранговая адаптация (LoRA), приобретают решающее значение для кастомизации крупномасштабных систем без полного переобучения.