Spectral Diffusion for Protein Dynamics

Motivation

• Known: 기존 생성모델 기반 MD emulator들은 pretrained structure module이나 ESM 임베딩에 의존해 conformational ensemble을 시간적 순서 없이 샘플링하거나, PCA/tICA/NMA와 같은 저차원 표현은 특정 단백질의 궤적 데이터에 의존적이어서 일반화가 제한적이다.
• Gap: 기존 방법들은 ensemble을 순서 없는 snapshot 집합으로 다루어 시간적 일관성을 잃거나, 단백질 크기에 따라 확장성이 떨어지며, 다중 시간 스케일(느린 conformational mode와 빠른 jitter)을 명시적으로 분리하지 못한다.
• Why: 단백질 동역학을 빠르고 저비용으로 예측할 수 있으면 folding, binding, allostery 등 생물학적 과정을 이해하는 데 필수적인 MD 시뮬레이션의 계산 비용을 크게 줄일 수 있어 신약개발 및 단백질 공학에 실질적 영향을 미친다.
• Approach: 시간축을 따라 Cα 좌표에 Discrete Cosine Transform(DCT)를 적용해 spectral volume으로 변환하고, 구조와 temperature를 조건으로 하는 diffusion model이 이 spectral volume을 denoising하여 저주파(느린 mode)와 고주파(jitter)를 동시에 학습하도록 한다.

Achievement

Figure 5. A Median inference time per generated 500-frame tra-

1. 빠르고 정확한 MD Emulation: mdCATH 테스트셋에서 RMSF Pearson r=0.844, out-of-distribution인 ATLAS 데이터셋에서 r=0.734를 달성했으며, GH200 GPU에서 250-frame trajectory를 약 1초 만에 샘플링한다.
2. Spectral Convolution 아키텍처: Fourier Neural Operators(FNOs)에서 영감을 받은 block-wise spectral mixing 기반의 custom spectral convolution 구조를 개발해 빠른 샘플링 속도를 달성했다.
3. Per-Residue Flexibility 예측: Parseval's theorem을 이용해 저주파 성분이 RMSF를 해석적으로 근사함을 보이고, x0 prediction 방식의 diffusion denoising이 zero-shot RMSF 유사 flexibility predictor로도 작동함을 입증했다.
4. Spectral Protein Dynamics 분석: 고온 non-equilibrium 동역학에서 discontinuity boundary에 대해 DCT가 DFT보다 더 강건함을 보였다.

How

Figure 2. The DCT transform gives τ frequency coefficients for each Cα coordinate channel (x,y,z) of each residue. A Ill

• DDPM 기반 diffusion framework를 채택하되, noise가 아닌 x0(clean spectral volume)를 직접 예측하는 denoiser Dθ(xt, t, c)를 사용
• Improved DDPM의 cosine noise schedule과 DDIM deterministic update를 도입해 reverse step 수를 줄임
• 단백질 구조 좌표를 시간축 방향으로 DCT-II 변환하여 spectral volume(각 Cα 좌표별 τ개 frequency coefficient)을 생성하고, 구조 정보와 온도(300K~450K)를 조건으로 주입
• FNO에서 영감을 받은 spectral convolution 아키텍처로 block-wise spectral mixing을 수행해 효율적인 학습·추론 구조 설계
• mdCATH 데이터셋(576 residue 이하 monomer)으로 학습하고, held-out test set 및 out-of-distribution ATLAS 데이터셋에서 RMSF Pearson 상관계수 등 ensemble 기반 지표로 평가
• inverse DCT-II 변환을 통해 예측된 spectral volume을 다시 시간에 따른 구조 궤적으로 복원

Originality

• 단백질 동역학 생성 문제를 시간 도메인이 아닌 spectral(주파수) 도메인에서 diffusion으로 접근한 최초의 시도 중 하나로, generative image dynamics에서의 성공을 단백질 도메인으로 확장
• DCT를 이용해 느린 conformational mode와 빠른 atomic jitter를 명시적이고 해석 가능한 방식으로 분리하는 물리 기반 inductive bias 설계
• Parseval's theorem을 활용해 저주파 성분과 RMSF 간의 해석적 연결고리를 제시함으로써 diffusion model이 자연스럽게 zero-shot flexibility predictor로도 기능하도록 함
• FNO에서 영감을 받은 spectral convolution 구조를 diffusion denoiser에 접목해 구조적으로도 새로운 아키텍처 제안
• 고온 non-equilibrium 동역학에서 DFT 대비 DCT의 강건성을 실증적으로 비교 분석

Limitation & Further Study

• 논문 스스로 언급하듯 post-inference energy minimisation 없이는 생성된 구조의 구조적 타당성(structural validity)이 저하되는 한계가 존재
• 학습 및 평가가 576 residue 이하의 monomer 단백질에 국한되어 있어 대형 복합체나 multimer로의 확장성은 검증되지 않음
• workshop paper(발췌본) 특성상 ablation, baseline 비교, 통계적 유의성 검정 등 세부 실험 내용이 충분히 제시되지 않아 재현성과 비교 우위 판단에 제약이 있음
• 온도 조건은 300K~450K 범위로 한정되어 있으며, out-of-distribution 온도에서의 일반화 성능에 대한 심층 분석이 추가로 필요함
• 향후 연구로 생성 구조에 대한 에너지 기반 후처리(post-processing) 통합, 더 큰 시스템(예: multimer, 막단백질)으로의 확장, 그리고 다양한 collective variable과의 정합성 검증이 요구됨

Evaluation

총평: Spectral domain에서의 diffusion이라는 참신한 물리 기반 표현을 통해 단백질 동역학 생성 문제에 효과적이고 효율적인 해법을 제시한 흥미로운 workshop paper이나, 구조적 타당성 문제와 세부 실험 검증의 부족은 향후 full paper에서 보완이 필요하다.