Automated Machine Learning (AutoML)

El aprendizaje automático automatizado (AutoML) automatiza el proceso de ensayo y error que implica crear un modelo de aprendizaje automático (ML): preparar características, elegir un algoritmo, ajustar sus hiperparámetros y, a veces, diseñar una arquitectura de red o combinar varios modelos. A partir de un conjunto de datos, una métrica objetivo y un presupuesto de computación, un sistema AutoML busca entre posibles flujos de trabajo, puntúa cada uno con datos reservados y devuelve el mejor que encuentra. El proyecto Auto-WEKA planteó la esencia de esta tarea como el problema combinado de selección de algoritmos y optimización de hiperparámetros (CASH), una formulación que adoptaron herramientas posteriores como auto-sklearn. AutoML proporciona sólidas referencias iniciales a quienes no son especialistas y ahorra a los expertos la parte repetitiva de la experimentación.

Cómo funciona AutoML#

Un sistema AutoML tiene tres componentes. El espacio de búsqueda define qué puede variar, desde los pasos de preprocesamiento de datos y extracción de características hasta la familia del modelo, como la regresión lineal, XGBoost o una red neuronal, así como los ajustes de cada familia, como la tasa de aprendizaje. La estrategia de búsqueda elige qué candidatos probar, ya sea mediante búsqueda aleatoria, optimización bayesiana, que modela qué regiones del espacio parecen prometedoras, o algoritmos evolutivos, que mutan y recombinan las configuraciones más eficaces. La etapa de evaluación puntúa cada candidato con datos de validación o mediante validación cruzada. Muchos sistemas también inician la búsqueda con metaaprendizaje a partir de conjuntos de datos anteriores y la terminan combinando los mejores candidatos en un conjunto de modelos.

Entrenar cada candidato hasta completarlo es el principal coste, así que los métodos multifidelidad entrenan primero muchas configuraciones a bajo coste y dedican más recursos solo a las prometedoras. La reducción sucesiva a la mitad, componente básico de Hyperband, repite una ronda hasta que queda una sola configuración:

Una búsqueda amplia también puede sobreajustarse a los datos de validación, ya que el ganador es, en parte, el candidato que ha tenido más suerte entre muchos; por eso, el modelo final se evalúa con un conjunto de prueba separado.

Herramientas de AutoML#

• AutoGluon: Biblioteca de código abierto desarrollada inicialmente en Amazon que entrena muchos tipos de modelos con datos tabulares, de texto, imágenes y series temporales, y los combina en un conjunto.
• auto-sklearn: Busca entre flujos de trabajo de scikit-learn mediante optimización bayesiana, metaaprendizaje y creación de conjuntos.
• FLAML: Biblioteca de Microsoft que busca minimizar el coste de búsqueda para modelos tabulares e hiperparámetros.
• Optuna: Marco de optimización de hiperparámetros cuyos mecanismos de poda detienen pronto los ensayos poco prometedores; suele usarse como motor de búsqueda en ciclos de AutoML personalizados.
• Google Cloud AutoML: Servicio gestionado, ahora integrado en Gemini Enterprise Agent Platform y anteriormente conocido como Vertex AI, que entrena modelos de clasificación de imágenes, detección de objetos y datos tabulares sin necesidad de escribir código.
• Amazon SageMaker Autopilot: Servicio AutoML de AWS, cuya interfaz ahora se encuentra en SageMaker Canvas.

Para tablas pequeñas, los modelos fundacionales para datos tabulares ofrecen otra forma de lograr el mismo objetivo: predicen a partir de las filas de entrenamiento proporcionadas como contexto, sin realizar una búsqueda para cada conjunto de datos.

Ajuste automatizado para YOLO#

Para los modelos de visión artificial con una arquitectura fija y preentrenada, la búsqueda automatizada suele centrarse en la receta de entrenamiento. El model.tune() de Ultralytics YOLO evoluciona 26 hiperparámetros de entrenamiento de forma predeterminada, como la tasa de aprendizaje, el momento, los pesos de la función de pérdida y la intensidad de los aumentos de datos: en cada iteración, modifica y recombina las mejores configuraciones encontradas hasta el momento, entrena brevemente y registra la aptitud; además, la ejecución guarda best_hyperparameters.yaml junto con gráficos de aptitud por iteración. Si pasas use_ray=True, la búsqueda se delega a Ray Tune.

from ultralytics import YOLO

# Carga un modelo YOLO26 preentrenado para ajustarlo
model = YOLO("yolo26n.pt")

# Evoluciona los hiperparámetros: en cada iteración, modifica las mejores configuraciones encontradas hasta el momento, entrena y evalúa la aptitud
model.tune(data="coco8.yaml", epochs=30, iterations=10, plots=False, save=False, val=False)

AutoML y términos relacionados#

• Ajuste de hiperparámetros: Optimiza los ajustes de un modelo elegido. AutoML suele incluirlo como una etapa de una búsqueda más amplia que también elige el modelo.
• Búsqueda de arquitecturas neuronales (NAS): Rama de AutoML que diseña arquitecturas de redes, como los tipos, las profundidades y las conexiones de las capas.
• Aprendizaje por transferencia: Parte de un modelo preentrenado en lugar de empezar desde cero. Los sistemas AutoML suelen buscar entre redes troncales preentrenadas, por lo que ambos enfoques son complementarios.
• Operaciones de aprendizaje automático (MLOps): Abarca todo el ciclo de vida de un modelo, incluidos el despliegue, la supervisión y el reentrenamiento, y a menudo ejecuta AutoML como una etapa de un flujo de trabajo de entrenamiento.