Neural Operators

Нейронные операторы — это нейронные сети, которые изучают отображения между целыми функциями или полями, а не векторами фиксированной длины. Например, они могут преобразовывать поле ветрового давления в будущее поле воздушного потока или геометрию материала в распределение напряжений. Поэтому они особенно полезны как быстрые суррогатные модели для моделирования систем, описываемых дифференциальными уравнениями в частных производных, или PDEs. В обзоре Nature Reviews Physics за 2024 год подчёркивается их растущая роль в ускорении научного моделирования, прогнозирования и инженерного проектирования. (nature.com)

Как работают нейронные операторы#

Обычная сеть изучает отображение в конечномерном пространстве, например преобразование пикселей в метки классов. Нейронный оператор вместо этого изучает универсальное правило преобразования функции в функцию. Архитектуры рассчитаны на обработку дискретизированных полей на сетках или облаках точек, при этом количество обучаемых параметров не зависит от разрешения. Введение в NeuralOperator объясняет, как это позволяет делать прогнозы на дискретизациях, отличающихся от обучающих данных. (nature.com)

К распространённым архитектурам относятся:

• Fourier Neural Operator: Применяет глобальную свёртку в частотной области, обычно используя API быстрого преобразования Фурье в PyTorch. FNO особенно хорошо работает с регулярно расположенными на сетке физическими полями.
• DeepONet: Объединяет одну сеть, кодирующую входную функцию, с другой сетью, вычисляющей выходные значения в заданных координатах.
• Графовые нейронные операторы: Развивают идеи графовых нейронных сетей для нерегулярных сеток и сложных геометрий.
• Операторные трансформеры: Адаптируют архитектуру Transformer для непрерывных полей и дальнодействующих физических взаимодействий.

Этот запускаемый пример создаёт небольшой двумерный FNO и преобразует два входных поля в одно выходное поле:

import torch
from neuralop.models import FNO

model = FNO(n_modes=(16, 16), hidden_channels=32, in_channels=2, out_channels=1)
inputs = torch.rand(1, 2, 64, 64)  # Two sampled physical fields
prediction = model(inputs)
print(prediction.shape)  # torch.Size([1, 1, 64, 64])

В официальной документации NeuralOperator для PyTorch также представлены наборы данных, функции потерь, средства обучения и архитектуры с учётом геометрии. (neuraloperator.github.io)

Последние разработки#

Исследователи всё чаще рассматривают нейронные операторы как научные базовые модели. Базовая PDE-модель Poseidon продемонстрировала переносимость на 15 последующих задач PDE, а нейронные операторы Лапласа улучшили обработку переходных и непериодических систем. В июле 2026 года исследователи опубликовали практические принципы проектирования нейронных операторов, выделив вычисления с учётом координат, фиксированное количество параметров и сходимость дискретизации. (proceedings.neurips.cc)

Практические применения#

• Уточнение климатических данных: В исследовании JMLR 2024 года об уточнении климатических данных с произвольным разрешением FNO использовались для преобразования грубых климатических симуляций в поля с более высоким разрешением, что поддерживает детальный анализ спутниковых изображений. (jmlr.org)
• Прогнозирование погоды: Сферические нейронные операторы с многосеточным методом моделируют глобальную динамику атмосферы с учётом геометрии Земли и дополняют традиционный анализ временных рядов.
• Инженерное управление: Нейронные операторы могут быстро аппроксимировать решения задач управления с обратной связью для изменяющихся параметров системы, поддерживая адаптивные цифровые двойники и промышленную автоматизацию.

Нейронные операторы и компьютерное зрение#

Нейронные операторы моделируют изменяющиеся непрерывные поля, тогда как модели компьютерного зрения обычно распознают объекты или структуры на изображениях. Они могут работать вместе: Ultralytics YOLO26 может извлекать геометрию или физические состояния из данных камер, после чего нейронный оператор прогнозирует течение жидкости, теплопередачу, деформацию или другое будущее поле. Наборами данных, обучением и развёртыванием моделей компьютерного зрения можно управлять через Ultralytics Platform.

Рекомендуется нормализовать физические поля, сохранять координаты и граничные условия, обучать модели на нескольких разрешениях, сравнивать результаты с надёжными численными решателями и оценивать как интерполяцию, так и поведение вне распределения. Нейронные операторы ускоряют моделирование, но не должны заменять физическую валидацию в критически важных для безопасности системах.