Neural Architecture Search (NAS)

La Búsqueda de Arquitectura Neuronal (NAS) es una técnica sofisticada dentro del ámbito del Aprendizaje Automático Automatizado (AutoML) que automatiza el diseño de redes neuronales artificiales. Tradicionalmente, diseñar arquitecturas de aprendizaje profundo (DL) de alto rendimiento requería una gran experiencia humana, intuición y un laborioso proceso de prueba y error. NAS reemplaza este proceso manual con estrategias algorítmicas que exploran sistemáticamente una vasta gama de topologías de red para descubrir la estructura óptima para una tarea específica. Al probar varias combinaciones de capas y operaciones, NAS puede identificar arquitecturas que superan significativamente a los modelos diseñados por humanos en términos de precisión, eficiencia computacional o velocidad de inferencia.

Link to this sectionMecanismos principales de NAS#

El proceso de descubrir una arquitectura superior generalmente involucra tres dimensiones fundamentales que interactúan para encontrar la mejor red neuronal (NN):

1. Espacio de búsqueda: Define el conjunto de todas las arquitecturas posibles que el algoritmo puede explorar. Actúa como una biblioteca de bloques de construcción, como filtros de convolución, capas de agrupación (pooling) y varias funciones de activación. Un espacio de búsqueda bien definido limita la complejidad para garantizar que la búsqueda siga siendo computacionalmente viable, a la vez que permite suficiente flexibilidad para la innovación.

2. Estrategia de búsqueda: En lugar de probar cada posibilidad (fuerza bruta), NAS emplea algoritmos inteligentes para navegar por el espacio de búsqueda de manera eficiente. Los enfoques comunes incluyen el aprendizaje por refuerzo, donde un agente aprende a generar mejores arquitecturas con el tiempo, y los algoritmos evolutivos, que mutan y combinan los modelos de mejor rendimiento para generar candidatos superiores.

3. Estrategia de estimación de rendimiento: Entrenar cada red candidata desde cero es extremadamente lento. Para acelerar esto, NAS utiliza técnicas de estimación (como el entrenamiento en menos épocas, el uso de conjuntos de datos proxy de menor resolución o el empleo de compartición de pesos) para clasificar rápidamente el potencial de una arquitectura candidata.

Link to this sectionAplicaciones en el mundo real#

NAS se ha vuelto crítico en industrias donde las restricciones de hardware o los requisitos de rendimiento son estrictos, superando los límites de la visión artificial (CV) y otros dominios de IA.

• Computación de borde (Edge) eficiente: Desplegar IA en dispositivos móviles requiere modelos que sean a la vez ligeros y rápidos. NAS se utiliza ampliamente para descubrir arquitecturas como MobileNetV3 y EfficientNet que minimizan la latencia de inferencia mientras mantienen una alta precisión. Esto es vital para aplicaciones de IA de borde, como el análisis de vídeo en tiempo real en cámaras inteligentes o drones autónomos.
• Imagenología médica: En el análisis de imágenes médicas, la precisión es primordial. NAS puede adaptar redes para detectar anomalías sutiles en radiografías o escaneos de resonancia magnética, encontrando a menudo vías novedosas de extracción de características que los ingenieros humanos podrían pasar por alto. Esto conduce a herramientas más fiables para identificar afecciones como tumores cerebrales o fracturas con mayor sensibilidad.

Link to this sectionNAS frente a conceptos relacionados#

Para entender el papel específico de NAS, es útil distinguirlo de técnicas de optimización similares:

• NAS frente a ajuste de hiperparámetros: Aunque ambos implican optimización, el ajuste de hiperparámetros se centra en ajustar la configuración (como la tasa de aprendizaje o el tamaño del lote) para una arquitectura fija. Por el contrario, NAS cambia la estructura fundamental del propio modelo, como el número de capas o cómo se conectan las neuronas.
• NAS frente a aprendizaje por transferencia (Transfer Learning): El aprendizaje por transferencia toma un modelo existente preentrenado y adapta sus pesos a una nueva tarea. NAS crea la arquitectura del modelo desde cero (o busca un mejor backbone) antes de que comience el entrenamiento.

Link to this sectionUtilización de modelos derivados de NAS#

Si bien ejecutar una búsqueda NAS completa requiere importantes recursos informáticos de GPU, los desarrolladores pueden utilizar fácilmente modelos creados mediante NAS. Por ejemplo, la arquitectura YOLO-NAS se descubrió utilizando estos principios de búsqueda para optimizar tareas de detección de objetos.

El siguiente ejemplo en Python demuestra cómo cargar y utilizar un modelo NAS prebuscado mediante el paquete ultralytics:

from ultralytics import NAS

# Load a pre-trained YOLO-NAS model (architecture found via NAS)
# 'yolo_nas_s.pt' refers to the small version of the model
model = NAS("yolo_nas_s.pt")

# Run inference on an image to detect objects
# This utilizes the optimized architecture for fast detection
results = model("https://ultralytics.com/images/bus.jpg")

# Print the top detected class
print(f"Detected: {results[0].names[int(results[0].boxes.cls[0])]}")

Para aquellos que buscan entrenar modelos de última generación sin la complejidad de NAS, Ultralytics YOLO26 ofrece una arquitectura altamente optimizada desde el primer momento, incorporando los últimos avances en investigación. Puedes gestionar fácilmente conjuntos de datos, entrenamiento y despliegue para estos modelos utilizando la Ultralytics Platform, que simplifica todo el ciclo de vida de MLOps.