Catastrophic Forgetting

El olvido catastrófico, conocido frecuentemente como interferencia catastrófica, es un fenómeno ampliamente estudiado en el aprendizaje automático por el que una red neuronal artificial pierde abruptamente la información aprendida anteriormente al aprender tareas nuevas. Cuando un modelo se entrena secuencialmente para adaptarse a un conjunto de datos nuevo, los algoritmos de optimización que utilizan retropropagación actualizan los pesos del modelo. Este proceso sobrescribe a menudo, de forma involuntaria, las representaciones matemáticas necesarias para las tareas anteriores. En consecuencia, un sistema de IA altamente optimizado para su propósito original puede experimentar una grave degradación del rendimiento en esas tareas iniciales si se entrena exclusivamente con datos nuevos sin contramedidas específicas.

Por qué ocurre el olvido catastrófico#

En el aprendizaje profundo, el conocimiento de un modelo se almacena en una red distribuida de neuronas interconectadas. Durante el ajuste fino, las funciones de optimización, como el descenso de gradiente estocástico, ajustan estas conexiones para minimizar el error en los datos nuevos. Si el nuevo conjunto de datos de entrenamiento no contiene ejemplos de las clases originales, el proceso de optimización desplaza los pesos hacia la distribución de los datos nuevos, borrando de forma efectiva la «memoria» de la distribución anterior. Estudios recientes sobre el desplazamiento estructural indican que este colapso interno limita fundamentalmente la capacidad de las redes neuronales modernas para lograr un aprendizaje continuo similar al humano desde el primer momento.

Diferenciación de conceptos relacionados#

Es crucial distinguir el olvido catastrófico de otros conceptos de IA:

• Olvido catastrófico frente a colapso del modelo: Mientras que el olvido se produce al aprender nuevas tareas de forma incremental, el colapso del modelo es una degradación gradual del rendimiento en la misma tarea cuando un modelo se entrena recursivamente con datos sintéticos generados por otros modelos de IA.
• Olvido catastrófico frente a aprendizaje continuo: El aprendizaje continuo es la metodología de investigación general destinada a resolver el olvido catastrófico. Los algoritmos de aprendizaje continuo intentan permitir que los modelos adquieran nuevos conocimientos secuencialmente sin olvidar los anteriores.

Ejemplos del mundo real#

El olvido catastrófico plantea un desafío importante en diversos ámbitos de la IA que operan en entornos dinámicos del mundo real:

• Sistemas autónomos: En los sistemas de percepción de los vehículos autónomos, un sistema de visión por ordenador entrenado inicialmente para reconocer peatones y señales de tráfico convencionales podría ajustarse para reconocer nuevas señales de obras específicas de una región. Sin medidas de protección, el sistema podría tener de repente dificultades para detectar peatones de forma fiable, lo que crearía un grave riesgo para la seguridad.
• IA lingüística y cognitiva: Al personalizar modelos de lenguaje grandes para tareas específicas de un dominio, como el diagnóstico médico, el modelo podría olvidar su alineación conversacional o sus capacidades generales de razonamiento. Un análisis comparativo reciente sobre LLMs muestra que el ajuste fino estándar con textos muy especializados suele erosionar la alineación de seguridad previa, lo que hace que los modelos pierdan sus capacidades principales de seguir instrucciones.

Cómo superar el olvido catastrófico#

Los ingenieros de IA utilizan varias estrategias para mitigar este problema y mantener un dilema óptimo entre plasticidad y estabilidad:

• Repetición y combinación de conjuntos de datos: El método más fiable consiste en mezclar un subconjunto de los datos de entrenamiento originales con los datos nuevos. Herramientas como Ultralytics Platform agilizan la gestión y el control de versiones de conjuntos de datos combinados para garantizar que las clases originales se repitan eficazmente durante el entrenamiento.
• Consolidación elástica de pesos (EWC): Esta técnica de regularización limita las actualizaciones de los parámetros que eran cruciales para las tareas anteriores. Al identificar y conservar estos pesos clave, los modelos reducen el olvido, como se destaca en experimentos recientes para superar el olvido de las redes.
• Ajuste fino eficiente en parámetros (PEFT): Métodos como la adaptación de bajo rango (LoRA) congelan los pesos preentrenados principales e introducen matrices pequeñas y entrenables en la red, evitando que se sobrescriba el conocimiento base.
• Congelación de capas: En entrenamientos más cortos, congelar las capas de backbone y neck garantiza que los extractores de características principales permanezcan intactos.
• Optimización sin gradiente: Recientemente, nuevos marcos de trabajo han demostrado que los métodos basados en el paso hacia delante también pueden mitigar el olvido de forma eficiente en entornos donde las actualizaciones de gradiente están limitadas.

Ejemplo de implementación en IA de visión#

Al adaptar Ultralytics YOLO para una nueva tarea de detección de objetos, congelar capas es un enfoque eficaz y accesible. El siguiente ejemplo muestra cómo entrenar un modelo Ultralytics YOLO26 con un conjunto de datos nuevo evitando el olvido catastrófico mediante la congelación de las 10 primeras capas.

from ultralytics import YOLO

# Load a pretrained Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Train on a combined dataset while freezing core backbone layers
# The 'freeze=10' argument prevents catastrophic forgetting of foundational visual features
results = model.train(data="combined_dataset.yaml", epochs=20, freeze=10, lr0=0.001)

# Evaluate the model to ensure it retains performance on old and new tasks
metrics = model.val()