Active Learning

El aprendizaje activo es un enfoque de aprendizaje automático en el que el modelo elige qué ejemplos sin etiquetar debería etiquetar una persona a continuación. En vez de etiquetar una muestra aleatoria de los datos, un equipo entrena un modelo con un pequeño conjunto etiquetado, lo usa para puntuar un gran conjunto de ejemplos sin etiquetar, envía los más informativos a los anotadores, vuelve a entrenar con el conjunto ampliado y repite el proceso. La persona que proporciona las etiquetas se denomina oráculo. El objetivo es alcanzar una exactitud determinada con el menor número posible de etiquetas, algo especialmente importante cuando el etiquetado requiere especialistas, como radiólogos que interpretan imágenes, o cuando el conjunto es demasiado grande para etiquetarlo por completo, como el vídeo que graba cada día una flota de vehículos autónomos.

Cómo funciona el ciclo de aprendizaje activo#

Los proyectos de visión por ordenador suelen utilizar el aprendizaje activo basado en conjuntos, en el que una colección fija de imágenes sin etiquetar espera a que se puntúe. Cada ronda consta de cuatro pasos:

1. Entrenar: Ajusta un modelo, como uno de detección de objetos, con los ejemplos etiquetados recopilados hasta el momento.
2. Puntuar: Ejecuta el modelo sobre el conjunto sin etiquetar y asigna a cada ejemplo una puntuación de valor informativo.
3. Consultar: Envía el lote con las puntuaciones más altas a los anotadores para el etiquetado de datos.
4. Actualizar: Añade las nuevas etiquetas a los datos de entrenamiento y vuelve a entrenar.

El ciclo termina cuando se agota el presupuesto de etiquetado o deja de mejorar la exactitud en un conjunto de validación fijo. Compara cada ronda con un modelo entrenado con el mismo número de etiquetas elegidas al azar para saber si la selección está dando resultado.

Estrategias de consulta#

La estrategia de consulta determina qué se considera informativo:

• Muestreo por incertidumbre: Selecciona los ejemplos sobre los que el modelo tiene menos certeza, medida por la menor confianza de la clase principal, la menor diferencia entre las dos clases principales o la mayor entropía de la distribución de clases predicha.
• Consulta por comité: Entrena varios modelos y selecciona los ejemplos en los que más discrepan. El dropout de Monte Carlo permite crear un comité económico a partir de una sola red.
• Muestreo por diversidad: Selecciona ejemplos que cubran el espacio de embeddings, para evitar que un lote se llene de casi duplicados, como fotogramas consecutivos de un vídeo. El método de conjunto central plantea así la selección de lotes tras comprobar que muchas heurísticas de incertidumbre no eran eficaces con CNN en ese contexto.
• Estrategias híbridas: Combinan ambas señales. BADGE selecciona ejemplos que son a la vez inciertos y diversos en un espacio de embeddings de gradiente, sin pesos ajustados manualmente.

Los detectores generan muchas cajas por imagen, por lo que hay que combinar las puntuaciones de las cajas en una sola puntuación por imagen; por ejemplo, calculando la confianza media de todas las detecciones. El siguiente script ordena un conjunto pequeño según la confianza media de las detecciones con un modelo YOLO26 preentrenado y consulta primero la imagen con menos confianza:

from ultralytics import YOLO

# Model trained on the current labeled set
model = YOLO("yolo26n.pt")

# Unlabeled pool, usually thousands of images
pool = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]
results = model(pool, conf=0.1)

# Least-confidence sampling: score each image by its mean detection confidence
scores = {}
for image, result in zip(pool, results):
    if len(result.boxes):
        scores[image] = result.boxes.conf.mean().item()

# Query the lowest-scoring images first, within a labeling budget of one image
query = sorted(scores, key=scores.get)[:1]
print(f"Label next: {query}")

El umbral bajo conf=0.1 mantiene las detecciones débiles en la puntuación, ya que son las cajas sobre las que el modelo tiene dudas. El editor de anotaciones de la plataforma Ultralytics completa el resto del ciclo: su modo Smart carga tus propios modelos YOLO ajustados, de modo que cada modelo reentrenado preetiqueta el siguiente lote consultado para que los anotadores lo corrijan.

Problemas prácticos#

• Arranque en frío: Las puntuaciones de incertidumbre de un modelo entrenado con unas pocas decenas de ejemplos no son fiables, por lo que las primeras rondas suelen utilizar una selección aleatoria o basada en la diversidad.
• Lotes redundantes: Seleccionar de forma independiente las k imágenes más inciertas suele devolver grupos de imágenes casi idénticas; las estrategias de diversidad e híbridas abordan este problema.
• Sesgo de muestreo: El conjunto etiquetado se aleja de la distribución de datos real porque representa en exceso los casos difíciles; por eso, los conjuntos de validación y prueba se extraen al azar del conjunto completo para mantener sus puntuaciones libres de sesgo.
• Valores atípicos: Las imágenes dañadas, borrosas o ajenas al dominio parecen inciertas para cualquier modelo y pueden desperdiciar el presupuesto de etiquetado si no se filtran.

Aprendizaje activo y conceptos relacionados#

• Aprendizaje semisupervisado: También utiliza datos sin etiquetar, pero el modelo asigna pseudoetiquetas a sus propias predicciones fiables, en vez de preguntar a una persona por las predicciones inciertas. A menudo se combinan ambos métodos.
• Aprendizaje por currículo: Ordena los ejemplos ya etiquetados de fáciles a difíciles durante el entrenamiento. El aprendizaje activo decide qué ejemplos se etiquetan.
• Minería de negativos difíciles: Selecciona los negativos etiquetados que el modelo clasifica peor y los utiliza más durante el entrenamiento. Trabaja con etiquetas existentes y no añade ninguna nueva.
• Volante de datos: Ciclo de producción en el que los modelos implementados sacan a la luz nuevos datos que mejoran el siguiente modelo. El aprendizaje activo suele ser uno de sus pasos de selección.