Глоссарий

Поиск нейронной архитектуры (NAS)

Узнай, как Neural Architecture Search (NAS) автоматизирует проектирование нейронных сетей для оптимизации производительности при обнаружении объектов, искусственном интеллекте и многом другом.

Обучай модели YOLO просто
с помощью Ultralytics HUB.

Узнай больше

Поиск нейронной архитектуры (NAS) - это автоматизированная техника в области машинного обучения (ML), направленная на разработку оптимальной структуры, или архитектуры, нейронных сетей (NN). Вместо того чтобы полагаться на людей-экспертов, которые вручную проектируют схемы сетей методом проб и ошибок, NAS использует алгоритмы для изучения огромного пространства возможных архитектур и выявления наиболее эффективных из них для конкретной задачи и набора данных. Такая автоматизация ускоряет процесс разработки и позволяет обнаружить новые, высокопроизводительные архитектуры, которые могут быть интуитивно неочевидны для человека, оптимизируя такие показатели, как точность, скорость(задержка вывода) или вычислительная эффективность, что очень важно для развертывания моделей на пограничных устройствах ИИ.

Как работает нейронная архитектура поиска

Фундаментальный процесс NAS включает в себя три основных компонента: пространство поиска, стратегию поиска и стратегию оценки производительности. Пространство поиска определяет набор возможных архитектур сети, которые могут быть разработаны, по сути, описывая строительные блоки (например, различные типы функций свертки или активации) и способы их соединения. Стратегия поиска направляет исследование этого пространства, используя различные методы - от случайного поиска и обучения с подкреплением до эволюционных алгоритмов. И наконец, стратегия оценки производительности оценивает, насколько хорошо работает архитектура-кандидат, что часто предполагает частичное или полное обучение сети на наборе данных и измерение ее производительности, хотя для ускорения этого процесса используются такие методы, как разделение весов или предикторы производительности, о чем подробно рассказывается в исследованиях Google AI. Эффективное управление этими экспериментами может быть облегчено такими платформами, как Weights & Biases или Ultralytics HUB.

Основные преимущества NAS

Автоматизация проектирования архитектуры с помощью NAS дает значительные преимущества:

  • Оптимизированная производительность: Находит архитектуры, адаптированные под конкретные задачи, такие как обнаружение объектов или классификация изображений, часто превосходящие разработанные вручную по точности или эффективности.
  • Сокращение времени разработки: автоматизирует трудоемкий и зачастую интуитивный процесс проектирования архитектуры.
  • Открытие новых архитектур: Обнаружение нетрадиционных, но эффективных сетевых структур, которые человеческие дизайнеры могут не заметить.
  • Эффективность для конкретного оборудования: Можно оптимизировать архитектуру под ограничения развертывания, например, под низкую задержку выводов на мобильных устройствах(Edge AI) или под специфические ускорители вроде TPU.

Приложения в искусственном интеллекте и машинном обучении

NAS доказал свою ценность в различных областях глубокого обучения (DL):

1. Оптимизированные модели обнаружения объектов

Яркий пример - YOLO, разработанный компанией Deci AI с использованием технологии NAS. Эта модель специально нацелена на ограничения в предыдущих Ultralytics YOLO включив в нее блоки, удобные для квантования, найденные с помощью NAS. Это привело к тому, что модели обеспечивают превосходный баланс между точностью и задержкой, что делает их очень эффективными для приложений реального времени, таких как ИИ в автомобильных решениях и интеллектуальное управление трафиком, даже после квантования модели в такие форматы, как INT8, для эффективного развертывания. Дополнительную информацию о методах квантования можно найти в таких ресурсах, как документация поNVIDIA TensorRT или руководствоUltralytics по вариантам развертывания моделей. Ultralytics обеспечивает поддержку различных моделей обнаружения объектов, включая YOLO.

2. Анализ медицинских изображений

В здравоохранении NAS используется для разработки специальных конволюционных нейронных сетей (CNN) для анализа медицинских изображений. Например, NAS может оптимизировать архитектуры для таких задач, как обнаружение опухолей на МРТ-сканах (по аналогии с набором данных Brain Tumor) или сегментирование органов на КТ-изображениях, что потенциально может привести к созданию более быстрых и точных диагностических инструментов в помощь врачам. Применение ИИ в анализе медицинских изображений - быстро развивающаяся область, что подчеркивают такие институты, как Национальный институт здоровья (NIH). Управление такими специализированными моделями и наборами данных можно упростить с помощью таких платформ, как Ultralytics HUB. Ты даже можешь использовать YOLO11 для обнаружения опухолей.

NAS и связанные с ним понятия

NAS - это особый компонент в более широкой области автоматизированного машинного обучения (AutoML). В то время как NAS фокусируется исключительно на поиске наилучшей архитектуры нейронной сети, AutoML нацелен на автоматизацию всего конвейера МЛ, включая такие этапы, как предварительная обработка данных, разработка признаков, выбор модели и настройка гиперпараметров. Очень важно отличать NAS от настройки гиперпараметров: настройка гиперпараметров оптимизирует параметры конфигурации (например, скорость обучения или размер партии) для заданной, фиксированной архитектуры модели, в то время как NAS ищет саму архитектуру. Обе техники часто используются вместе для достижения оптимальной производительности модели. Для оптимизации гиперпараметров популярны такие инструменты, как Optuna или Ray Tune, который интегрируется с моделямиUltralytics YOLO . Понимание этих различий помогает применять правильные методы автоматизации для построения эффективных систем ИИ. Подробнее о настройке гиперпараметров ты можешь узнать из документации по Ultralytics .

Читать полностью