Neural Operators

ニューラルオペレーターが場全体を写像して複雑な物理システムを予測し、気候、天候、工学、コンピュータービジョンのシミュレーションを高速化する方法を学びます。

ニューラルオペレータは、固定長ベクトルではなく、関数全体または場の間の写像を学習するニューラルネットワークです。たとえば、風圧場から将来の気流場へ、または材料形状から応力分布へ写像できます。そのため、偏微分方程式（PDEs）に支配されるシミュレーション向けの高速なサロゲートモデルとして、特に有用です。2024年のNature Reviews Physicsによる概説では、科学シミュレーション、予測、エンジニアリング設計の高速化における役割が拡大していることが示されています。(nature.com)

ニューラルオペレータの仕組み#

従来のネットワークは、画素からクラスラベルへの変換のような、有限次元の写像を学習します。一方、ニューラルオペレータは、再利用可能な関数から関数への変換規則を学習します。アーキテクチャは、グリッドまたは点群上でサンプリングされた場を受け入れながら、学習するパラメータ数が解像度に依存しないように設計されています。NeuralOperatorの概要では、これにより学習データとは異なる離散化に対しても予測できる仕組みを説明しています。(nature.com)

一般的なアーキテクチャには、次のものがあります。

Fourierニューラルオペレータ: 周波数空間でグローバル畳み込みを適用します。通常は、PyTorchの高速フーリエ変換APIを使用します。FNOsは、規則的なグリッドで表現された物理場で特に優れた性能を発揮します。
DeepONet: 入力関数をエンコードするネットワークと、指定された座標で出力を評価する別のネットワークを組み合わせます。
グラフニューラルオペレータ: グラフニューラルネットワークの考え方を、不規則なメッシュや複雑な形状に拡張します。
オペレータTransformer: Transformerアーキテクチャを、連続場や長距離の物理的相互作用に適用します。

この実行可能な例では、小規模な2D FNOを作成し、2つの入力場を1つの出力場に写像します。

import torch
from neuralop.models import FNO

model = FNO(n_modes=(16, 16), hidden_channels=32, in_channels=2, out_channels=1)
inputs = torch.rand(1, 2, 64, 64)  # Two sampled physical fields
prediction = model(inputs)
print(prediction.shape)  # torch.Size([1, 1, 64, 64])

公式のNeuralOperator PyTorchドキュメントでは、データセット、損失関数、トレーナー、ジオメトリ対応アーキテクチャも提供されています。(neuraloperator.github.io)

実世界での利用例#

気候ダウンスケーリング: 任意解像度の気候ダウンスケーリングに関する2024年のJMLR研究では、FNOsを使用して粗い気候シミュレーションを高解像度の場に変換し、詳細な衛星画像解析を支援しました。(jmlr.org)
気象予測: 球面マルチグリッドニューラルオペレータは、地球の形状を考慮しながら全球の大気力学をモデル化し、従来の時系列分析を補完します。
エンジニアリング制御: ニューラルオペレータは、変化するシステムパラメータに対するフィードバック制御の解を迅速に近似でき、応答性の高いデジタルツインや産業オートメーションを支援します。

ニューラルオペレータとコンピュータビジョン#

ニューラルオペレータは変化する連続場をモデル化するのに対し、コンピュータビジョンモデルは通常、画像内の物体や構造を認識します。両者は連携できます。Ultralytics YOLO26でカメラデータから形状や物理状態を抽出し、その後ニューラルオペレータで流体の流れ、熱伝達、変形、その他の将来の場を予測できます。ビジョンデータセット、トレーニング、デプロイメントは、Ultralytics Platformを通じて管理できます。

ベストプラクティスは、物理場を正規化し、座標と境界条件を保持し、複数の解像度にわたってトレーニングし、信頼できる数値ソルバーと比較し、補間と分布外の挙動の両方を評価することです。ニューラルオペレータはシミュレーションを高速化しますが、安全性が重要なシステムでは物理的な検証に取って代わるものではありません。