神经架构搜索 (NAS)

神经网络架构搜索 (NAS) 是 自动化机器学习 (AutoML) 领域内的一种复杂技术，旨在自动化人工神经网络的设计。传统上，设计高性能的 深度学习 (DL) 架构需要大量的人工专业知识、直觉和耗时的试错。NAS 用算法策略取代了这一手动过程，这些策略系统地探索广泛的网络拓扑结构，以发现特定任务的最佳结构。通过测试层和操作的各种组合，NAS 可以识别出在 准确性、计算效率或推理速度方面显著优于人工设计模型的架构。

NAS 的核心机制

发现卓越架构的过程通常涉及三个基本维度，它们相互作用以找到最佳的neural network (NN)：

1. 搜索空间：这定义了算法可以探索的所有可能架构的集合。它就像一个构建块库，例如卷积滤波器、池化层和各种激活函数。定义良好的搜索空间限制了复杂性，以确保搜索在计算上可行，同时为创新提供了足够的灵活性。
2. 搜索策略：NAS没有测试每一种可能性（暴力搜索），而是采用智能算法高效地导航搜索空间。常见方法包括强化学习，其中代理会随着时间学习生成更好的架构，以及进化算法，它们变异并结合表现最佳的模型以培育出更优的候选者。
3. 性能评估策略：从头开始训练每个候选网络是极其缓慢的。为了加速这一过程，NAS使用评估技术——例如在更少的epochs上进行训练、使用低分辨率的代理数据集或采用权重共享——以快速评估候选架构的潜力。

实际应用

NAS 在对硬件限制或性能要求严格的行业中变得至关重要，推动了 计算机视觉 (CV) 和其他 AI 领域的发展。

• 高效边缘计算：在移动设备上部署AI需要轻量且快速的模型。NAS被广泛用于发现像MobileNetV3和EfficientNet这样的架构，它们在保持高精度的同时最小化推理延迟。这对于边缘AI应用至关重要，例如智能摄像头或自主无人机上的实时视频分析。
• 医学影像：在医学图像分析中，准确性至关重要。NAS可以定制网络以检测X射线或MRI扫描中的细微异常，通常能发现人类工程师可能忽略的新颖特征提取路径。这使得识别脑肿瘤或骨折等疾病的工具更可靠，且具有更高的灵敏度。

NAS与相关概念

要理解NAS的具体作用，将其与类似的优化技术区分开来会有所帮助：

• NAS与超参数调优：虽然两者都涉及优化， 但超参数调优侧重于调整 固定架构的配置参数（如学习率或 批量大小）。 相比之下，NAS改变的是模型本身的根本结构，例如层数或神经元连接方式。
• NAS与迁移学习： 迁移学习采用现有的预训练模型， 并调整其权重以适应新任务。 NAS则在训练开始前从零构建模型架构（或搜索更优的骨干网络）。

利用NAS衍生模型

虽然执行完整的NAS搜索需要GPU 资源，但开发者可以轻松使用通过NAS创建的模型。例如，YOLO架构正是运用这些搜索原则优化物体检测任务而发现的。

以下Python 如何加载并使用预先训练的 NAS 模型： ultralytics 包装

from ultralytics import NAS

# Load a pre-trained YOLO-NAS model (architecture found via NAS)
# 'yolo_nas_s.pt' refers to the small version of the model
model = NAS("yolo_nas_s.pt")

# Run inference on an image to detect objects
# This utilizes the optimized architecture for fast detection
results = model("https://ultralytics.com/images/bus.jpg")

# Print the top detected class
print(f"Detected: {results[0].names[int(results[0].boxes.cls[0])]}")

对于那些希望在没有 NAS 复杂性的情况下训练最先进模型的人来说，Ultralytics YOLO26 提供了一个高度优化的开箱即用架构，融合了最新的研究进展。您可以使用 Ultralytics Platform 轻松管理这些模型的数据集、训练和部署，这简化了整个 MLOps 生命周期。