Búsqueda de arquitectura neuronal (NAS)

La búsqueda de arquitectura neuronal (NAS) es una técnica que automatiza el diseño de redes neuronales artificiales (NN). Tradicionalmente, el diseño de un modelo de arquitectura de alto rendimiento requería una gran experiencia y un exhaustivo proceso de ensayo y error. NAS automatiza este complejo proceso utilizando algoritmos para explorar una amplia gama de posibles diseños de redes e identificar la arquitectura más óptima para una tarea y un conjunto de datos determinados. Esta automatización acelera el desarrollo de modelos de aprendizaje profundo eficientes y potentes, haciendo que la IA avanzada sea más accesible.

Cómo funciona la búsqueda por arquitectura neuronal

El proceso NAS puede dividirse en tres componentes principales:

1. Espacio de búsqueda: Define el conjunto de todas las arquitecturas posibles que pueden diseñarse. Un espacio de búsqueda puede ser simple, especificando las opciones de tipos de capas (por ejemplo, convolución, agrupación) y sus conexiones, o puede ser muy complejo, permitiendo nuevos motivos arquitectónicos. Un espacio de búsqueda bien definido es crucial para equilibrar la flexibilidad y la viabilidad computacional.
2. Estrategia de búsqueda: Es el algoritmo utilizado para explorar el espacio de búsqueda. Los primeros métodos utilizaban la búsqueda aleatoria, pero desde entonces han surgido estrategias más sofisticadas. Entre los enfoques más comunes están el aprendizaje por refuerzo, en el que un agente aprende a seleccionar arquitecturas óptimas, y los algoritmos evolutivos, que imitan la selección natural para "evolucionar" mejores arquitecturas a lo largo de generaciones. Los métodos basados en gradientes, como los de la Búsqueda de Arquitectura Diferenciable (DARTS), también se han hecho populares por su eficacia.
3. Estrategia de estimación del rendimiento: Este componente evalúa la calidad de cada arquitectura propuesta. El método más sencillo consiste en entrenar el modelo completamente en un conjunto de datos y medir su rendimiento, pero esto lleva mucho tiempo. Para acelerar el proceso, los investigadores han desarrollado técnicas más eficientes, como el uso de conjuntos de datos más pequeños, el entrenamiento durante menos épocas o el uso de pesos compartidos para evitar entrenar cada arquitectura desde cero.

Aplicaciones y ejemplos

NAS ha demostrado ser muy eficaz a la hora de crear modelos de vanguardia para diversas tareas, superando a menudo en rendimiento y eficacia a las arquitecturas diseñadas por el ser humano.

• Visión por ordenador: NAS se utiliza ampliamente para diseñar arquitecturas eficientes de detección de objetos y clasificación de imágenes. Por ejemplo, la familia de modelos EfficientNet se desarrolló utilizando NAS para equilibrar sistemáticamente la profundidad, anchura y resolución de la red. Del mismo modo, modelos como DAMO-YOLO aprovechan una red troncal generada por NAS para lograr un gran equilibrio entre velocidad y precisión en la detección de objetos.
• Análisis de imágenes médicas: En el ámbito sanitario, NAS puede crear modelos especializados para tareas como la detección de tumores en exploraciones o la segmentación de estructuras celulares. NAS puede optimizar las arquitecturas para que funcionen de forma eficiente en el hardware especializado de los dispositivos médicos, lo que permite realizar diagnósticos más rápidos y precisos. Esto tiene un gran potencial para mejorar la IA en la atención sanitaria.

NAS y conceptos afines

NAS es un componente específico dentro del campo más amplio del Aprendizaje Automático de Máquinas (AutoML). Mientras que NAS se centra únicamente en encontrar la mejor arquitectura de red neuronal, AutoML pretende automatizar todo el proceso de ML, incluidos pasos como el preprocesamiento de datos, la ingeniería de características, la selección de modelos y el ajuste de hiperparámetros.

Es fundamental distinguir entre NAS y ajuste de hiperparámetros: el ajuste de hiperparámetros optimiza los ajustes de configuración (como la tasa de aprendizaje o el tamaño del lote) para una arquitectura de modelo determinada y fija, mientras que NAS busca la propia arquitectura. Ambas técnicas se utilizan a menudo juntas para lograr un rendimiento óptimo del modelo. Herramientas como Optuna o Ray Tune, que se integra con los modelos YOLO de Ultralytics, son populares para la optimización de hiperparámetros. Comprender estas distinciones ayuda a aplicar las técnicas de automatización adecuadas para crear sistemas de IA eficientes. Puede obtener más información sobre el ajuste de hiperparámetros en la documentación de Ultralytics.