Continual Learning

Непрерывное обучение (CL), которое часто называют пожизненным обучением, описывает способность модели искусственного интеллекта последовательно изучать новые задачи или приобретать новые знания с течением времени, не забывая при этом ранее усвоенную информацию. В отличие от традиционных конвейеров машинного обучения, где модели обучаются один раз на статическом наборе данных, а затем развертываются, непрерывное обучение имитирует способность человека адаптироваться к новым условиям и постоянно учиться на новом опыте. Основная проблема в этой области заключается в преодолении катастрофического забывания — явления, при котором обучение нейронной сети на новых данных приводит к резкому ухудшению её производительности на старых задачах, поскольку веса, оптимизированные для предыдущих задач, перезаписываются.

Link to this sectionПочему непрерывное обучение важно#

В динамичных реальных условиях распределения данных редко остаются статичными. Например, система визуального восприятия автономного транспортного средства должна адаптироваться к смене сезонов, новым правилам дорожного движения или изменившейся планировке города, не теряя при этом способности распознавать базовые дорожные знаки, изученные во время первоначального обучения. Традиционное повторное обучение с нуля на накопительном наборе данных часто требует больших вычислительных затрат и непрактично из-за ограничений хранилища или проблем конфиденциальности. Непрерывное обучение решает эти проблемы, позволяя моделям обновляться постепенно, делая их более эффективными и масштабируемыми для приложений граничного ИИ, где ресурсы ограничены.

Link to this sectionРеальные приложения#

• Робототехника и автономные системы: Роботы, развертываемые в неструктурированных средах, должны уметь манипулировать новыми объектами или перемещаться по незнакомым участкам. Благодаря непрерывному обучению робот может освоить конкретную производственную задачу, а затем научиться работать с другой линейкой продуктов без необходимости полной перезагрузки системы, эффективно поддерживая гибкие инновационные конвейеры индустрии 4.0.
• Медицинская визуализация и диагностика: Данные в здравоохранении развиваются по мере появления новых заболеваний или изменения протоколов визуализации. Система ИИ, помогающая радиологам, может использовать непрерывное обучение для включения новых патологий, таких как новый штамм вируса, обнаруженный на рентгеновских снимках, сохраняя при этом высокую точность при выявлении распространенных состояний, например пневмонии или переломов. Эта возможность жизненно важна для поддержания актуальности диагностики в здравоохранении без ущерба для безопасности пациентов при использовании уже установленных протоколов.

Link to this sectionОсновные стратегии непрерывного обучения#

Чтобы смягчить катастрофическое забывание, исследователи применяют несколько стратегий. Методы регуляризации добавляют ограничения к функции потерь, чтобы предотвратить значительные изменения важных весов, выявленных в предыдущих задачах. Методы воспроизведения сохраняют небольшое подмножество предыдущих данных (или создают синтетические выборки с помощью генеративного ИИ) и смешивают их с новыми данными во время обучения. Наконец, изоляция параметров выделяет специфические подмножества параметров модели для разных задач, гарантируя, что обновления для новой задачи не повлияют на параметры, оптимизированные для предыдущих. Последние достижения 2024 и 2025 годов сосредоточены на использовании визуально-языковых моделей для более точного определения того, какие признаки являются общими, а какие специфичными для конкретной задачи.

Link to this sectionНепрерывное обучение против трансферного обучения#

Важно отличать непрерывное обучение от трансферного обучения. При трансферном обучении предварительно обученная модель служит отправной точкой для решения новой конкретной задачи, а производительность на исходной задаче обычно не имеет значения. Цель состоит в том, чтобы максимизировать производительность в целевой области. Напротив, цель непрерывного обучения — хорошо справляться как с новой задачей, так и со всеми предыдущими. Аналогично, в то время как активное обучение фокусируется на выборе наиболее информативных точек данных для разметки при обучении, непрерывное обучение фокусируется на самом процессе обновления модели с течением времени.

Link to this sectionОбновление модели YOLO#

Хотя настоящее непрерывное обучение требует специальных архитектурных изменений, ты можешь имитировать этот рабочий процесс, дообучая модели на новых данных, смешанных с буфером старых данных. Ultralytics Platform упрощает управление этими наборами данных и версионирование моделей. Ниже приведен пример того, как можно подойти к обновлению модели с использованием Python API:

from ultralytics import YOLO

# Load a model previously trained on 'dataset_v1.yaml'
model = YOLO("yolo26n-v1.pt")

# Train the model on a new dataset containing new and old samples
# This helps mitigate catastrophic forgetting by "replaying" old data
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # Lower learning rate for fine-tuning
)

Link to this sectionПроблемы и будущие направления#

Несмотря на прогресс, непрерывное обучение остается активной областью исследований. Определить оптимальную дилемму пластичности-стабильности — баланс между способностью изучать новое (пластичность) и способностью сохранять старое (стабильность) — сложно. Кроме того, оценка этих систем требует надежных метрик производительности, которые учитывают как прямое обучение (скорость изучения новых задач), так и обратное обучение (влияние на старые задачи). По мере того как фундаментальные модели становятся больше, эффективные методы непрерывной адаптации, такие как низкоранговая адаптация (LoRA), становятся критически важными для настройки крупномасштабных систем без полной перетренировки.