Neural Operators

뉴럴 오퍼레이터는 고정 길이 벡터가 아닌 전체 함수 또는 필드 간의 매핑을 학습하는 뉴럴 네트워크입니다. 예를 들어 풍압 필드를 미래의 기류 필드로 매핑하거나 재료 형상을 응력 분포로 매핑할 수 있습니다. 따라서 편미분 방정식(PDE)이 지배하는 시뮬레이션의 빠른 대리 모델로 특히 유용합니다. 2024년 Nature Reviews Physics 개요는 과학 시뮬레이션, 예측 및 엔지니어링 설계 가속화에서 뉴럴 오퍼레이터의 역할이 확대되고 있음을 강조합니다. (nature.com)

뉴럴 오퍼레이터의 작동 방식#

기존 네트워크는 픽셀을 클래스 레이블로 변환하는 것과 같은 유한 차원 매핑을 학습합니다. 반면 뉴럴 오퍼레이터는 재사용 가능한 함수 간 규칙을 학습합니다. 아키텍처는 격자 또는 포인트 클라우드에서 샘플링된 필드를 입력으로 받도록 설계되며, 학습되는 파라미터 수는 해상도와 무관하게 유지됩니다. NeuralOperator 소개에서는 이를 통해 학습 데이터와 다른 이산화에서도 예측할 수 있는 방식을 설명합니다. (nature.com)

일반적인 아키텍처는 다음과 같습니다:

• Fourier Neural Operator: 주파수 공간에서 전역 컨볼루션을 적용하며, 일반적으로 PyTorch 고속 푸리에 변환 API를 사용합니다. FNOs는 규칙적인 격자로 구성된 물리 필드에서 특히 잘 작동합니다.
• DeepONet: 입력 함수를 인코딩하는 네트워크와 요청된 좌표에서 출력을 평가하는 네트워크를 결합합니다.
• 그래프 뉴럴 오퍼레이터: 그래프 뉴럴 네트워크의 개념을 불규칙한 메시와 복잡한 형상으로 확장합니다.
• 오퍼레이터 Transformer: Transformer 아키텍처를 연속 필드와 장거리 물리적 상호작용에 맞게 조정합니다.

이 실행 가능한 예제는 작은 2D FNO를 생성하고 두 개의 입력 필드를 하나의 출력 필드로 매핑합니다:

import torch
from neuralop.models import FNO

model = FNO(n_modes=(16, 16), hidden_channels=32, in_channels=2, out_channels=1)
inputs = torch.rand(1, 2, 64, 64)  # Two sampled physical fields
prediction = model(inputs)
print(prediction.shape)  # torch.Size([1, 1, 64, 64])

공식 NeuralOperator PyTorch 문서에서는 데이터셋, 손실 함수, 트레이너 및 형상 인식 아키텍처도 제공합니다. (neuraloperator.github.io)

최근 개발 동향#

연구에서는 뉴럴 오퍼레이터를 과학 분야의 파운데이션 모델로 점점 더 다루고 있습니다. Poseidon PDE 파운데이션 모델은 15개의 다운스트림 PDE 태스크에 걸쳐 전이 성능을 입증했으며, Laplace 뉴럴 오퍼레이터는 과도 시스템과 비주기적 시스템의 처리를 개선했습니다. 2026년 7월에는 연구자들이 실용적인 뉴럴 오퍼레이터 설계 원칙을 발표하여 좌표 인식 연산, 고정된 파라미터 수 및 이산화 수렴을 강조했습니다. (proceedings.neurips.cc)

실제 적용 사례#

• 기후 다운스케일링: 임의 해상도 기후 다운스케일링에 관한 2024년 JMLR 연구는 FNOs를 사용하여 저해상도 기후 시뮬레이션을 더 높은 해상도의 필드로 변환하고, 상세한 위성 이미지 분석을 지원했습니다. (jmlr.org)
• 일기 예보: 구면 멀티그리드 뉴럴 오퍼레이터는 지구의 기하학적 특성을 반영하면서 전 지구 대기 역학을 모델링하며, 기존 시계열 분석을 보완합니다.
• 엔지니어링 제어: 뉴럴 오퍼레이터는 변화하는 시스템 파라미터에 대한 피드백 제어 해를 신속하게 근사하여 반응성이 높은 디지털 트윈과 산업 자동화를 지원할 수 있습니다.

뉴럴 오퍼레이터와 컴퓨터 비전#

뉴럴 오퍼레이터는 시간에 따라 변화하는 연속 필드를 모델링하는 반면, 컴퓨터 비전 모델은 일반적으로 이미지에서 객체 또는 구조를 인식합니다. 두 기술은 함께 사용할 수 있습니다. Ultralytics YOLO26이 카메라 데이터에서 형상 또는 물리적 상태를 추출하면, 뉴럴 오퍼레이터가 유체 흐름, 열 전달, 변형 또는 기타 미래 필드를 예측할 수 있습니다. 비전 데이터셋, 학습 및 배포는 Ultralytics Platform을 통해 관리할 수 있습니다.

물리 필드를 정규화하고, 좌표와 경계 조건을 유지하며, 여러 해상도에서 학습하고, 신뢰할 수 있는 수치 솔버와 비교하며, 보간 및 분포 외 동작을 모두 평가하는 것이 모범 사례입니다. 뉴럴 오퍼레이터는 시뮬레이션을 가속하지만, 안전이 중요한 시스템에서 물리적 검증을 대체해서는 안 됩니다.