Interpretable Functional Koopman Learning with Non-Markovian Closure for Spatiotemporal Systems

Motivation

• Known: Koopman 연산자는 비선형 동역학을 관측 가능량(observables)의 선형 진화로 변환하는 원리로 유한차원 시스템에서는 성공적으로 활용되어 왔으며, neural operator(예: DeepONet, FNO)와 PINN은 PDE의 무한차원 사상을 근사하는 대표적 데이터 기반 패러다임이다.
• Gap: 기존 방법들은 구조화된 이산화를 가정하거나(neural operator), 지배방정식을 알아야 하거나(PINN), 해석 가능성과 축소 차수 모델링(reduced-order modeling)을 동시에 제공하지 못하며, 무작위·부분·불규칙 관측이 존재하는 무한차원 PDE 설정에서 통합적이고 실용적인 Koopman 학습 프레임워크는 여전히 부재하다.
• Why: 해석 가능하고 저차원인 축소 모델을 유지하면서도 희소하고 불규칙한 실측 데이터로부터 장기간 안정적인 예측을 가능하게 하는 것은 기후, 난류, 생체역학 등 고비용 고해상도 솔버가 필요한 분야에서 계산-데이터 격차를 좁히는 데 핵심적이다.
• Approach: PDE에 대한 functional Koopman 이론을 개발하고, 유한차원 선형 불변 부분공간이 존재하지 않을 때 Mori-Zwanzig 형식론을 통해 비마르코프 메모리 보정항을 도입함으로써 관측 가능량들의 정확한 동역학을 기술하는 이론적 틀을 세우고, 이를 바탕으로 discretization-invariant function encoder와 resolution-free function decoder를 갖춘 2단계 학습(Phase I: 선형 백본 학습, Phase II: 메모리 보정 학습) 파이프라인을 제안한다.

Achievement

1. Functional Koopman-Mori-Zwanzig 이론 정립: 고전적 Koopman 이론을 유한차원에서 무한차원 PDE 설정으로 확장하여, 관측 함수(observation function)를 관측 함수형(observation functional)으로 일반화하고, 유한차원 불변 부분공간이 존재할 때 Koopman 연산자가 유한차원 행렬 근사를 허용함을 증명하며, 선형 불변성이 실패할 경우 메모리 보정항이 필요함을 이론적으로 증명한다.
2. 무작위 부분 관측으로부터 관측 함수형 학습: attention 기반 discretization-invariant function encoder를 설계하여 함수 상태를 저차원 잠재 다양체(latent manifold)로 매핑하며, 불규칙/부분 샘플링을 자연스럽게 처리한다.
3. 해상도 무관 function decoder: FourierNet 기반 decoder를 통해 임의 개수의 쿼리 포인트와 불규칙 격자에서 필드를 재구성하여 데이터 보완(data completion) 및 초해상도(super-resolution)를 지원한다.
4. 해석 가능한 저차원 모델과 장기 안정적 롤아웃: 선형 백본이 Koopman eigenfunctional을 근사하여 초저차원 축소 모델(ROM)을 제공하고, 메모리 보정항이 장기 예측의 안정성과 정확도를 향상시키며, Navier-Stokes 방정식에서는 단 8개의 observable만으로도 대부분의 동역학적 분산을 포착함을 실험적으로 보인다.

How

• 시공간 동역학을 추상 Cauchy 문제 형태로 정식화하고, 세미그룹 St를 이용해 well-posedness를 가정
• Koopman 연산자를 관측 함수형(functional) 공간으로 확장하고, 유한차원 불변 부분공간 존재 시 행렬 근사가 가능함을 증명
• 불변성이 실패하는 경우, Mori-Zwanzig 형식론을 통해 해결된 관측 가능량(resolved observables)과 미해결 관측 가능량(unresolved observables)의 직교 여공간 간 상호작용을 메모리 항으로 도출
• attention 기반 function encoder(Figure 2)로 delay-embedded 무작위 관측을 관측 함수형으로 인코딩
• FourierNet 기반 function decoder(Figure 3)로 임의 해상도에서 상태를 재구성
• 2단계 학습: Phase I에서 선형 Koopman 백본을 학습(관측 함수형의 선형 진화 학습), Phase II에서 이 선형 백본을 고정한 채 비마르코프 메모리 보정 모델을 학습하여 잠재 궤적을 조정

Originality

• 유한차원 ODE 시스템에 국한되었던 기존 Koopman 학습을 무한차원 PDE 함수 공간으로 확장하여 관측 함수형(observation functional) 개념을 최초로 도입
• Mori-Zwanzig 형식론을 Koopman 학습에 결합하여 선형 불변성 손실을 이론적으로 정당화된 비마르코프 메모리 항으로 보완하는 새로운 이론적 프레임워크(Koopman-MZ)를 제시
• 해석 가능성, 축소 차수 모델링, 무작위 부분 관측 처리, 불규칙 격자 평가, 안정적 시간 외삽, 최적화 없는 평가(optimization-free evaluation)를 모두 동시에 만족하는 유일한 모델로 자리매김(Table 1 비교)

Limitation & Further Study

• 논문 발췌에는 이론적 증명과 프레임워크 설계가 중심이며, 실제 실험 결과(정확도 수치, 벤치마크 비교)에 대한 구체적 정량 분석이 발췌 부분에서는 충분히 드러나지 않아 실용적 성능의 완전한 검증이 필요함
• 메모리 보정 항의 계산 비용 및 학습 안정성, 그리고 매우 높은 차원의 PDE(예: 3차원 난류)에서의 확장성에 대한 논의가 부족함
• 두 단계 학습(선형 백본과 메모리 보정)의 상호작용 및 최적 잠재 차원 선택에 대한 체계적 가이드라인 마련이 후속 연구로 필요함
• 불변 부분공간이 존재하지 않는 경우의 메모리 항 근사가 실제로 얼마나 정확한지, 그리고 메모리 항의 길이(비마르코프 기억의 시간 범위)에 대한 민감도 분석이 추가로 요구됨

Evaluation

총평: PDE를 위한 functional Koopman 이론과 Mori-Zwanzig 메모리 보정을 결합하여 해석 가능성과 실용성을 동시에 갖춘 새로운 시공간 예측 프레임워크를 제시한 인상적인 연구로, 이론적 엄밀성과 아키텍처 설계의 실용성을 모두 갖춘 점이 돋보인다.