Backward SDE–Based Diffusion for Physics-Constrained Generation

Motivation

• Known: Score-based diffusion model은 forward/reverse-time SDE를 통해 강력한 unconditional prior를 제공하며, inverse problem 해결을 위해 diffusion posterior sampling, guidance, projection-based(PnP) 방법 등이 널리 활용되어 왔다.
• Gap: 기존 방법들은 heuristic guidance, intermittent projection, task-specific conditional training 등에 의존하여 추론 종료 시점에서의 measurement/physics feasibility를 보장하지 못하며, reverse-time SDE는 본질적으로 initial-value 문제로 terminal 조건을 직접 인코딩하지 못한다는 수학적 정식화의 불일치가 존재한다.
• Why: 의료 영상 등 high-stakes 응용에서는 시각적으로 그럴듯하지만 물리적으로 일관되지 않은 hallucination이 용납되지 않으므로, terminal feasibility를 by construction으로 보장하는 원리적인 inversion 메커니즘이 중요하다.
• Approach: 사전학습된 Score-SDE prior와 task-defined terminal feasibility specification이 주어졌을 때, 이에 대응하는 backward SDE를 구성하고 그 adapted solution을 통해 terminal requirement로부터 특정 noise level의 prior state로의 원리적인 inverse map을 정의한다.

Achievement

Figure 4. Terminal-conditioned inversion and neighborhood sam-

1. 이론적 well-posedness: 표준 regularity 조건 하에서 associated BSDE의 adapted solution의 존재성과 유일성을 증명하고, 이를 통해 construction만으로 terminal consistency를 확보하였다.
2. 실용적 neural BSDE solver: score-defined coefficient를 수정하지 않고 임의의 사전학습된 diffusion prior에 domain constraint를 결합할 수 있는 solver를 개발하여, anchored prior state로부터 neighborhood sampling을 통한 불확실성 정량화를 가능케 하였다.
3. 실험적 검증: toy dataset에서 안정적인 terminal-conditioned inversion과 분포적으로 일관된 neighborhood sampling을 확인하고, sparse-view CT reconstruction 실제 사례에서 대표적인 training-free baseline 대비 향상된 재구성 품질과 엄격한 measurement feasibility 만족을 달성하였다.

How

Figure 8. BSDEs-based Diffusion for Conditioning Generation on MNIST Dataset (2D data).

• Score-based diffusion의 forward SDE(dXt = f(Xt,t)dt + g(t)dWt)로 정의된 base dynamics를 그대로 유지(freeze)한 채, 관측 요구사항을 decode–projection onto S(y)–encode 형태의 task-defined terminal map으로 인코딩
• 이 terminal map을 조건으로 하는 associated BSDE를 구성하여 adapted pair (Yt, Zt)를 정의하고, martingale representation을 통해 terminal 조건을 만족하도록 유도
• 표준 regularity 가정 하에서 Bismut/Pardoux-Peng 계열의 BSDE 이론을 활용해 existence/uniqueness를 증명
• 실제 계산을 위한 neural BSDE solver를 구현하여 임의의 pretrained score와 domain constraint를 조합, anchored prior state를 산출하고 이를 기준으로 neighborhood sampling 수행
• sparse-view CT reconstruction을 case study로 삼아 training-free baseline들과 비교 실험 수행

Originality

• Reverse-time SDE 기반 diffusion sampling(initial-value 문제)과 구별되는, terminal-value 문제로서 BSDE를 diffusion 생성모델에 최초로 도입한 개념적 전환
• Table 1에서 정리한 것처럼 기존 soft penalty/guidance/projection 기반 방법들과 달리 terminal consistency를 "by design"으로 보장하는 hard terminal map 방식을 제시
• Schrödinger bridge 등 path-conditioning 패러다임과 달리 path value가 아닌 순수 terminal value 조건화에 특화된 정식화를 제안
• 사전학습된 score coefficient를 수정하지 않고 임의의 diffusion prior에 plug-in 가능한 general한 solver 설계

Limitation & Further Study

• 실험이 toy dataset과 단일 실제 사례인 sparse-view CT reconstruction에 국한되어 있어, 보다 다양한 물리적 제약(비선형 forward operator, 고차원 문제) 및 대규모 실제 데이터셋에 대한 일반화 검증이 부족함
• Neural BSDE solver의 계산 비용, 안정성, hyperparameter 민감도에 대한 상세한 분석이 제한적으로 제시되어 있을 가능성이 있으며, 대규모 이미지/3D 재구성으로의 확장성에 대한 논의가 필요
• terminal map 자체(decode-projection-encode)의 설계가 task마다 요구되므로, 완전한 task-agnostic 자동화까지는 추가 연구 필요
• 이론적 existence/uniqueness가 성립하는 regularity 조건이 실제 forward operator A나 noise 모델에서 항상 만족되는지에 대한 경험적 검증 필요

Evaluation

총평: Reverse-time SDE와 BSDE의 수학적 차이에 착안하여 terminal feasibility를 by-construction으로 보장하는 새로운 물리 제약 diffusion 프레임워크를 제시한 독창적이고 이론적으로 탄탄한 연구이나, 실험적 검증 범위가 제한적이어서 실제 대규모 응용에 대한 추가 검증이 필요하다.