BioDynaSpec: Harmonic-Guided Spatio-Spectral Autoregressive Diffusion for Protein Dynamics Generation

Motivation

• Known: Str2Str, AlphaFlow, P2DFlow 같은 static-structure 기반 conformational ensemble 생성 모델과 MDGEN, aSAMt, ConfRover 같은 시간 영역 autoregressive 궤적 생성 모델이 존재하며, 이들은 각각 kinetic coherence 부족 또는 long-horizon rollout에서의 오차 누적 문제를 겪는다.
• Gap: 기존 time-domain autoregressive 모델은 긴 시간 지평(long-horizon) 궤적 생성 시 오차가 누적되어 drift가 발생하고 고정된 step-size로 인해 시간 해상도가 제한되며, 단백질 운동의 multi-scale(고주파 국소 진동과 저주파 전역 협동 운동)한 특성을 시간 영역 좌표만으로는 효과적으로 분리·모델링하기 어렵다.
• Why: 단백질 기능은 정적 구조가 아니라 conformational ensemble과 kinetic pathway에 의해 결정되므로, 장시간 안정적이고 물리적으로 일관된 MD 궤적을 생성하는 것은 신약 개발, 효소 공학, 구조생물학적 해석에 핵심적으로 중요하다.
• Approach: 단백질의 local near-equilibrium 동역학 관점에서, 윈도우별 정렬 후 anchor conformation 주변의 fluctuation을 스펙트럴 공간에서 표현하면 국소 모드 구조가 frame-wise 좌표보다 명시적으로 드러난다는 물리적 통찰에 기반해, 궤적을 spatio-spectral 생성 문제로 재정식화한다.

Achievement

1. 긴 궤적 생성 정확도 대폭 향상: ATLAS 벤치마크에서 250-frame 궤적 생성 시 R_250=1.509Å을 달성해 MDGEN 대비 60.4%, ProAR 대비 57.2% 오차를 감소시켰다.
2. PCA 및 분포 매칭 최고 성능: PCA-2D displacement-profile correlation과 stepwise distribution matching에서 최고 성능을 기록했다.
3. 평형 conformational sampling 성능 향상: Root Mean W2=1.31, MD PCA W2=0.90, Joint PCA W2=1.19를 달성하여 차선 기법 대비 각각 50.03%, 35.25%, 47.58% 개선했다.
4. 국소 동역학 및 공분산 일관성 개선: PCA-PSD-LogCorr=0.817(21.9% 향상), CFRE=0.989(36.7% 감소)를 달성해 near-equilibrium local dynamics와 covariance consistency를 함께 개선했다.

How

Figure 3. Overview of the Structure-Aware Representation Encoder (SARE). Given the amino-acid sequence and the first-fram

• Independent Windowed Fourier Decomposition (IWFD): 긴 궤적을 윈도우로 분할하고 각 윈도우를 정렬(alignment)한 뒤 독립적으로 FFT를 적용하여 좌표 시계열을 spectral token으로 변환.
• Low-to-high frequency autoregression + diffusion denoising: 저주파(전역 운동)부터 고주파(국소 진동)까지 순차적으로 autoregressive하게 생성하면서 diffusion denoising으로 연속적인 운동을 재구성해 물리적 계층 구조를 보존.
• Inter-Residue Frequency Coupling (IRFC): attention 메커니즘에 학습 가능한 Gaussian distance bias를 주입해 resonance에서 영감을 받은 구조적 prior를 반영, 공유/수소 결합처럼 가까운 잔기 간에는 강한 결합, 먼 비결합 상호작용에는 넓은 커널을 적용.
• Spatio-Spectral Hybrid Transformer: 공간적 의존성과 스펙트럴 의존성을 factorize하여 spectral token 생성 과정에서 두 축을 함께 모델링.
• Structure-Aware Representation Encoder (SARE) 등 보조 모듈을 통해 anchor conformation 조건화 및 구조적 표현을 인코딩.

Originality

• 단백질 MD 궤적 생성을 시간 영역이 아닌 spatio-spectral(윈도우별 주파수) 영역으로 재정식화한 것이 핵심 참신점으로, 기존 time-domain autoregressive 및 flow-matching 기반 접근과 차별화된다.
• Local near-equilibrium 물리적 관점(harmonic well 근사, normal-mode theory)을 생성 모델 설계에 직접 반영해 IWFD와 IRFC를 이론적으로 동기 부여한 점이 독창적이다.
• IRFC라는 resonance에서 영감을 받은 학습 가능한 Gaussian distance bias를 attention에 주입하여 물리적 결합 강도(공유결합/수소결합 vs. van der Waals)를 구조적으로 반영한 것은 기존 attention bias 설계와 구별되는 물리 기반 inductive bias이다.
• low-to-high frequency autoregression과 diffusion denoising을 결합한 하이브리드 생성 스케줄을 제안하여 전역 일관성과 세밀한 진동을 동시에 포착하도록 설계했다.

Limitation & Further Study

• 윈도우 단위 독립 FFT(IWFD) 방식은 윈도우 경계에서의 연속성(phase/edge effect) 문제나 윈도우 크기 선택에 따른 trade-off에 대한 심층 분석이 부족할 수 있다.
• 실험이 ATLAS 벤치마크와 특정 단백질 계열에 국한되어 있어, 더 크거나 다중 도메인/복합체(protein-ligand, multi-chain) 시스템에 대한 일반화 가능성이 검증되지 않았다.
• local near-equilibrium(harmonic) 근사가 대규모 conformational transition(예: allosteric change, folding/unfolding)과 같은 non-equilibrium 또는 far-from-equilibrium 현상에도 적용 가능한지는 불분명하며, 이에 대한 후속 연구가 필요하다.
• 계산 비용(윈도우별 FFT, diffusion denoising, attention bias 학습) 측면에서 기존 방법 대비 효율성 비교가 충분히 제시되지 않았을 가능성이 있다.

Evaluation

총평: 단백질 동역학 생성을 물리적 통찰에 기반해 spatio-spectral 영역으로 재정식화한 참신하고 기술적으로 탄탄한 연구로, ATLAS 벤치마크에서 강력한 정량적 개선을 보였으나 일반화 및 계산 효율성 측면의 추가 검증이 필요하다.