Neural Operators

Neuronale Operatoren sind neuronale Netze, die Abbildungen zwischen vollständigen Funktionen oder Feldern lernen, statt zwischen Vektoren fester Länge. Sie können beispielsweise ein Winddruckfeld auf ein zukünftiges Luftströmungsfeld oder eine Materialgeometrie auf deren Spannungsverteilung abbilden. Dadurch eignen sie sich besonders als schnelle Ersatzmodelle für Simulationen, die durch partielle Differentialgleichungen oder PDEs bestimmt werden. Eine Übersicht aus Nature Reviews Physics von 2024 hebt ihre zunehmende Bedeutung für die Beschleunigung wissenschaftlicher Simulationen, Prognosen und des technischen Entwurfs hervor. (nature.com)

Funktionsweise neuronaler Operatoren#

Ein herkömmliches Netzwerk lernt eine endlichdimensionale Abbildung, beispielsweise von Pixeln auf Klassenbezeichnungen. Ein neuronaler Operator lernt stattdessen eine wiederverwendbare Regel zur Abbildung von Funktionen auf Funktionen. Die Architekturen sind so konzipiert, dass sie abgetastete Felder auf Gittern oder Punktwolken verarbeiten und dabei die Anzahl der gelernten Parameter unabhängig von der Auflösung bleibt. Die Einführung in NeuralOperator erklärt, wie dies Vorhersagen auf Diskretisierungen ermöglicht, die sich von den Trainingsdaten unterscheiden. (nature.com)

Zu den gängigen Architekturen gehören:

• Fourier-Neuraloperator: Wendet eine globale Faltung im Frequenzraum an, typischerweise über die API für die schnelle Fourier-Transformation in PyTorch. FNOs funktionieren besonders gut mit regelmäßig gerasterten physikalischen Feldern.
• DeepONet: Kombiniert ein Netzwerk, das die Eingabefunktion kodiert, mit einem weiteren, das die Ausgabe an den angeforderten Koordinaten auswertet.
• Graphenbasierte neuronale Operatoren: Übertragen Ideen aus neuronalen Graphennetzen auf unregelmäßige Netze und komplexe Geometrien.
• Operator-Transformer: Passt die Transformer-Architektur an kontinuierliche Felder und physikalische Wechselwirkungen über große Distanzen an.

Dieses ausführbare Beispiel erstellt einen kleinen zweidimensionalen FNO und bildet zwei Eingabefelder auf ein Ausgabefeld ab:

import torch
from neuralop.models import FNO

model = FNO(n_modes=(16, 16), hidden_channels=32, in_channels=2, out_channels=1)
inputs = torch.rand(1, 2, 64, 64)  # Two sampled physical fields
prediction = model(inputs)
print(prediction.shape)  # torch.Size([1, 1, 64, 64])

Die offizielle NeuralOperator-PyTorch-Dokumentation stellt außerdem Datensätze, Verlustfunktionen, Trainer und geometriebewusste Architekturen bereit. (neuraloperator.github.io)

Aktuelle Entwicklungen#

In der Forschung werden neuronale Operatoren zunehmend als wissenschaftliche Basismodelle betrachtet. Das PDE-Basismodell Poseidon zeigte Transferlernen über 15 nachgelagerte PDE-Aufgaben hinweg, während Laplace-neuronale Operatoren die Verarbeitung zeitabhängiger und nichtperiodischer Systeme verbesserten. Im Juli 2026 veröffentlichten Forschende praktische Entwurfsprinzipien für neuronale Operatoren, die koordinatenbewusste Berechnungen, eine feste Parameteranzahl und die Konvergenz bei der Diskretisierung hervorheben. (proceedings.neurips.cc)

Anwendungen in der Praxis#

• Herunterskalierung von Klimadaten: Eine JMLR-Studie von 2024 zur Herunterskalierung von Klimadaten auf beliebige Auflösungen nutzte FNOs, um grob aufgelöste Klimasimulationen in Felder mit höherer Auflösung umzuwandeln, und unterstützte damit die detaillierte Analyse von Satellitenbildern. (jmlr.org)
• Wettervorhersage: Neuronale Operatoren mit sphärischem Multigrid modellieren die globale Atmosphärendynamik unter Berücksichtigung der Erdgeometrie und ergänzen die herkömmliche Zeitreihenanalyse.
• Technische Regelung: Neuronale Operatoren können Lösungen für die Rückkopplungsregelung bei veränderlichen Systemparametern schnell näherungsweise berechnen und dadurch reaktionsfähige digitale Zwillinge sowie die industrielle Automatisierung unterstützen.

Neuronale Operatoren und Computer Vision#

Neuronale Operatoren modellieren sich entwickelnde kontinuierliche Felder, während Computer-Vision-Modelle in der Regel Objekte oder Strukturen in Bildern erkennen. Sie können zusammen eingesetzt werden: Ultralytics YOLO26 kann Geometrien oder physikalische Zustände aus Kameradaten extrahieren, woraufhin ein neuronaler Operator die Flüssigkeitsströmung, den Wärmetransport, die Verformung oder ein anderes zukünftiges Feld vorhersagt. Datensätze, Training und Bereitstellung für Computer Vision lassen sich über die Ultralytics Platform verwalten.

Zu den bewährten Vorgehensweisen gehören die Normalisierung physikalischer Felder, die Beibehaltung von Koordinaten und Randbedingungen, das Training mit mehreren Auflösungen, der Vergleich mit vertrauenswürdigen numerischen Lösern sowie die Bewertung sowohl des Interpolationsverhaltens als auch des Verhaltens außerhalb der Verteilung. Neuronale Operatoren beschleunigen Simulationen, sollten jedoch in sicherheitskritischen Systemen die physikalische Validierung nicht ersetzen.