Tri-Scale Neural ODEs for Continuous Multi-Omics Disease Modeling

Motivation

• Known: Neural Ordinary Differential Equations(NODEs)는 연속시간 동역학을 모델링할 수 있는 프레임워크로, 유전자 발현부터 단백질, 대사 흐름에 이르는 multi-omics 데이터의 시간 연속적 표현을 가능하게 한다. 그러나 표준 NODE 및 이산 시계열 모델(RNN, VAE)은 생물학적 시스템에 내재한 stiffness(시간 스케일 비율 κ)를 제대로 다루지 못한다.
• Gap: 기존 NODE 변형들(HBNODE, scNODE 등)은 latent state를 단일 monolithic vector로 취급하여 이질적 modality 간 시간 스케일 차이를 명시적으로 분리하지 않으며, 극심한 stiffness(κ>10^6) 조건에서 안정성을 이론적으로 보장하는 NODE 연구가 없었다.
• Why: Stiff biological system에서 안정적으로 학습되는 continuous-time 모델은 disease progression과 좁은 시간대에만 작용하는 drug perturbation을 정확히 포착할 수 있어, AI 기반 disease fingerprinting과 drug repurposing 파이프라인의 신뢰성을 크게 높일 수 있다.
• Approach: 유전자, 단백질, 대사체 각각에 대해 학습된 시간 스케일(τg < τp < τm)을 가지는 세 개의 latent space를 계층적·비대칭적 인과 결합(gene→protein→metabolite)으로 연결한 Tri-Scale Stiff NODE를 설계하고, Lipschitz-constrained damping 조건(γk > τkLk)을 통한 Lyapunov 안정성 정리로 이론적 보장을 제공한다.

Achievement

Figure 4. B-Cell Differentiation Trajectory. The axes repre-

1. 이론적 안정성 보장: Lipschitz-constrained damping 조건(γk > τkLk)을 만족하면 cascaded stiff system에서 지수적 안정성(exponential stability)이 보장됨을 증명하는 Theorem 1을 제시하고, 300 epoch 학습 동안 16개 체크포인트에서 안정성 위반이 0건임을 실증했다.
2. 극한 stiffness 하에서의 일반화 성능: STATegra B-cell 데이터셋에서 측정된 stiffness ratio κ=1.3×10^6 조건 하에, 기존 Latent Vanilla NODE가 held-out timepoint에서 수치적 발산으로 실패(validation MSE=1.93)하는 반면, 제안 모델은 MSE=1.18로 안정적으로 일반화했다.
3. 약물 재창출 파이프라인 검증: LINCS L1000 라이브러리의 22,268개 화합물에 대한 대규모 스크리닝을 수행하여 510개의 multi-scale 생물학적으로 유의미한 치료 후보를 식별하는 proof-of-concept 파이프라인을 구축했다.
4. 아키텍처 일반화 검증: Traxler macrophage dual-omics 데이터셋에서도 검증하여 제안 구조가 특정 데이터셋에 국한되지 않고 일반화됨을 보였다.

How

Figure 2. System Stiffness Analysis. The Tri-Scale architecture limits the effective stiffness of the system. Top-left:

• 데이터셋 D = {(xg(t), xp(t), xm(t), t)}를 transcriptomics(slow), proteomics(medium), metabolomics(fast) 세 modality로 정의하고, 이를 일반화하여 임의의 K-layer cascade 구조로 확장 가능하도록 설계
• encoder qϕ(z(0)|x(0))로 초기 latent state를 얻고, time-invariant decoder pψ(x(t)|z(t))로 임의 시점의 관측값을 복원
• zg, zp, zm 세 latent space에 대해 학습된 시간 스케일(τg<τp<τm)과 비대칭적 causal coupling(유전자→단백질→대사체)을 갖는 Tri-Scale vector field를 정의
• reconstruction error와 information-theoretic mutual information을 결합한 목적함수로 최적화
• Lyapunov 함수를 이용한 안정성 정리(Theorem 1)를 도출하여 Lipschitz-constrained damping 조건 하 exponential stability를 증명
• STATegra B-cell 및 Traxler macrophage 데이터셋에서 eigenvalue 분석을 통해 stiffness ratio κ를 측정하고 모델 성능을 검증
• LINCS L1000 데이터베이스의 화합물 perturbation profile을 이용해 drug repurposing 스크리닝 파이프라인 구축

Originality

• 유전자-단백질-대사체 간 인과적 시간 계층 구조를 latent ODE에 명시적으로 부여한 최초의 시도로, 기존 NODE 변형들이 latent state를 monolithic vector로 다룬 것과 차별화됨
• Gray-Box 모델링 관점을 도입하여 생물학적 인과 구조(Central Dogma)를 구조적 prior로 강제하고 Mass Action Law와 같은 kinetic 제약을 latent representation에 부과
• 극심한 stiffness(κ>10^6) 조건에서 NODE의 안정성을 이론적으로(Lyapunov 분석) 보장한 최초의 프레임워크라고 주장
• 연속시간 모델링을 통해 좁은 시간창에서 작용하는 drug perturbation을 이산시간 접근법이 놓치는 부분까지 포착하는 응용을 제안

Limitation & Further Study

• 실험적으로 두 개의 상대적으로 소규모 omics 데이터셋(STATegra, Traxler)에만 검증되어, 더 다양한 질환·조직·종에 대한 일반화 가능성은 추가 검증이 필요
• 510개 드러그 후보에 대한 생물학적 검증(wet-lab)이 부재하여 실제 치료 효능에 대한 근거는 in-silico 수준에 머무름
• K-layer 확장이 이론적으로 언급되지만 실제로는 3-layer(Tri-Scale) 및 2-layer(Bi-Scale) 경우만 검증되어, 더 복잡한 계층 구조에 대한 실증이 부족
• Lipschitz constant Lk와 damping γk의 실제 추정 및 튜닝 방법에 대한 세부 사항이 불충분할 수 있어 재현성 검토가 필요
• 후속 연구로 더 많은 omics modality(예: epigenomics, microbiome) 통합, 실제 임상/실험 검증, 대규모 벤치마크 비교가 요구됨

Evaluation

총평: 이론적 안정성 보장과 실제 multi-omics 데이터에서의 검증을 결합한 견고한 연구로, stiff biological system을 위한 NODE 설계에 의미있는 기여를 하지만, 실제 약물 후보에 대한 생물학적 검증과 더 넓은 데이터셋에서의 일반화 검증이 후속 과제로 남아있다.