Learning Verifiable Mathematical Laws for Scientific Agents via Graph-Hamiltonian World Models

Motivation

• Known: Hamiltonian neural network 및 symplectic 학습은 에너지 기하 구조를 보존하는 dynamics를 학습할 수 있음이 알려져 있고, graph simulator는 관계적 국소성(relational locality)을 이용해 물리 예측 성능을 높인다. 또한 factored MDP와 model-based RL은 구조화된 planning을 위한 sample-complexity 템플릿을 제공한다.
• Gap: 기존 연구들은 Hamiltonian 구조, graph locality, sample-complexity 템플릿을 개별적으로 제공하지만, 이들을 결합하여 배포 시점(deployment-time)에 검증 가능하고 개입(intervention)에 사용할 수 있는 학습된 수학적 법칙 모듈로 통합한 사례는 없었다. 즉, 학습된 법칙이 스스로의 수학적 불변량(invariant)을 체크하고 실패 시 refinement 신호를 제공하는 폐루프 시스템이 부재하다.
• Why: 과학적 에이전트가 물리 시스템에 개입(intervention)을 계획하려면 단순 예측이 아니라 rollout이 신뢰할 수 있는 영역을 벗어났는지 확인할 수 있는 수학적 일관성 체크가 필요하며, 이는 AI4Math를 정리 증명이나 기호 유도를 넘어 실세계에서 작동하는 학습된 수학적 대상으로 확장하는 데 중요하다.
• Approach: 알려진 interaction graph를 이용해 scalar energy를 node term과 edge term으로 분해하는 graph-local Hamiltonian $H_G$를 정의하고, $f = J\nabla H_G$로 dynamics를 유도한 뒤, 이 구조로부터 도출되는 symplecticity·integrability·energy drift 검증 조건을 배포 시 rollout 체크에 사용한다.

Achievement

Figure 3. Residual-guided self-refinement on a small Env 3-style

1. 학습된 수학적 법칙 모듈: graph-local Hamiltonian $H_G$를 과학적 에이전트를 위한 컴팩트한 scalar law로 정식화함.
2. 배포 시점 검증기: symplecticity, integrability, energy-drift residual을 통해 planned rollout을 검증하는 방법을 제시함.
3. 유한 샘플 이론: $P_G = |V|p_v + |E|p_e$로 통제되는 통계적 복잡도를 갖는 finite-sample planning guarantee와 matching lower bound를 도출함.
4. 검증자 기반 refinement 루프: 고residual rollout을 거부하거나 refine하는 에이전트 루프(Algorithm 1)를 제안함.
5. 이론 정합 실험 검증: graph-coupled oscillator와 nonlinear pendula 실험에서 n/P_G scaling, edge dependence, geometric verification, MPC intervention gain, residual-guided refinement 효과를 확인함.

How

Figure 4. Vector-field error versus normalized sample size n/PG.

• Hamiltonian을 node term $H_i$와 edge term $H_{ij}$로 분해하는 graph-local Hamiltonian 정의(Definition 2.1) 및 finite-horizon transition law(Definition 2.2)를 수립함.
• 고정 action에서의 flow가 symplectic함을 증명(Proposition 2.3)하고, 이를 배포 시 검증 조건(symplecticity, Hamiltonian integrability, energy drift)으로 활용함.
• 유한 선형 basis 하에서 law learning을 graph-local Hamiltonian 차원 $P_G = |V|p_v + |E|p_e$의 ridge regression으로 환원하고, 이에 기반한 finite-horizon planning guarantee($\widetilde{O}(\sqrt{P_G/n})$)와 matching lower bound를 증명함.
• Algorithm 1(Verifier-Guided Graph-Hamiltonian Scientific Agent)을 통해 fit → derive dynamics → 후보 rollout 생성 → residual 계산 → 필터링 → MPC 개입 → 고residual 상태 근방 데이터 수집의 반복 루프를 구성함.
• graph-coupled oscillator, nonlinear pendula 환경에서 n/P_G scaling, edge dependence, geometric consistency, MPC 개입 효과, transition-only 행동, residual-guided refinement 효과를 실증적으로 검증함.

Originality

• Hamiltonian neural network/SympNet 계열이 제공하는 구조 보존 rollout에 graph-local 차원, 배포 시 검증기, planning 이론을 결합한 점.
• Graph simulator의 관계적 귀납 편향(relational inductive bias)에 scalar energy law와 검증 가능한 Hamiltonian 기하 구조를 추가한 점.
• Factored MDP의 sample-efficient structured planning에 residual 기반 verification check를 갖춘 Hamiltonian 물리 법칙을 결합한 점.
• AI4Math를 정리 증명/기호 검증을 넘어, 물리 시스템에서 작동하는 과학적 에이전트를 위한 학습된 수학적 법칙으로 확장한 관점의 독창성.

Limitation & Further Study

• 이론은 finite basis, known graph, fixed-action Hamiltonian이라는 제한된 설정에서만 성립하며, 저자들도 graph discovery, port-Hamiltonian forcing, neural/adaptive basis, transition-data correction, stability-sensitive long-horizon bound 등은 향후 과제로 남겨둠(Section 8 discussion).
• residual 검증이 ground-truth correctness를 증명하지는 않으며, 임의의 long-horizon chaotic prediction 문제를 해결한다고 주장하지 않음.
• 실험이 graph-coupled oscillator와 nonlinear pendula라는 비교적 단순하고 통제된 물리 시스템에 국한되어 있어, 광범위한 실제 물리 시뮬레이션 벤치마크로의 일반화는 검증되지 않음.
• 후속 연구로 자동 그래프 발견(graph discovery), 비보존적 actuation을 위한 port-Hamiltonian forcing 항 도입, neural basis로의 확장이 필요함.

Evaluation

총평: Hamiltonian 구조, graph locality, sample-complexity 이론, 배포 시 검증, refinement 루프를 하나의 일관된 프레임워크로 통합한 참신하고 이론적으로 탄탄한 연구이나, 실험 규모와 가정의 제한성으로 인해 실제 과학적 발견 시스템으로의 확장성은 추가 검증이 필요하다.