Modeling Temporal scRNA-seq Data with Latent Gaussian Process and Optimal Transport

Motivation

• Known: neural ODE, flow matching, neural SDE 등 dynamical systems 기반 방법들이 scRNA-seq의 시간적 population 스냅샷 데이터로부터 세포 궤적을 추론하는 데 사용되어 왔으며, GP prior VAE는 시계열 데이터의 latent correlation을 모델링하는 데 효과적임이 알려져 있다.
• Gap: 기존 deterministic 방법(neural ODE, flow matching)은 생물학적 stochasticity를 반영하지 못하고 overfitting에 취약하며, stochastic 방법(SDE)은 diffusion 설계에 제약이 커서 시간에 따라 변하는 불확실성이나 temporal asynchrony, multi-lineage 구조를 하나의 일관된 프레임워크에서 다루기 어렵다. 또한 표준 GP prior VAE는 세포가 파괴되는 scRNA-seq의 unpaired 특성상 직접 적용이 불가능하다.
• Why: scRNA-seq는 파괴적 측정 방식으로 인해 동일 세포의 시간 경과 추적이 불가능하므로, 정적 스냅샷으로부터 연속적인 세포 분화·발달 과정을 신뢰성 있게 재구성하는 것은 발생생물학 및 질병 모델링 연구에서 근본적으로 중요한 문제이다.
• Approach: latent 공간에서 heteroscedastic GP를 Hilbert space 방법으로 근사하여 population-level의 매끄러운 시간적 추세를 모델링하고, cell-specific latent time과 cell type conditioning을 통해 temporal asynchrony와 multi-lineage trajectory를 분리해서 포착하며, OT 목적함수로 생성 분포와 관측 분포를 정합시킨다.

Achievement

Figure 2. Visual comparison of predicted and observed cell distributions on the ZB dataset.

1. LGP-OT 프레임워크 제안: cell-specific latent time과 cell type-informed trajectory를 반영하는 scalable latent GP prior를 도입하여 복잡한 생물학적 이질성을 포착하고, 실제 데이터의 interpolation 및 extrapolation task에서 state-of-the-art 성능을 달성했다.
2. OT 기반 GP dynamics 학습: 시계열 scRNA-seq 데이터로부터 GP 기반 population dynamics를 학습하기 위해 OT objective를 적용했다.
3. Gradient 기반 perturbation 추론 확장: 기존 gradient 기반 latent perturbation 전략을 GP 기반 시간적 모델로 확장하여, recursive simulation 없이도 perturbation 궤적을 추론할 수 있는 새로운 전략을 제시했다.

How

Figure 1. Overview of the proposed framework. A latent GP mod-

• 각 시간 t에서 관측된 유전자 발현 행렬 Xt로부터 population 분포 ρt를 정의하고, latent 공간 Z에서 heteroscedastic GP z(t) = f(t) + ϵ(t)로 시간적 추세와 노이즈를 모델링
• Hilbert space GP 근사(Solin & Särkkä, 2020)를 사용해 대규모 고차원 데이터에도 선형적으로 확장 가능하도록 구현
• decoder를 통해 latent 변수를 gene expression 공간으로 변환하고, 생성된 세포 분포 ˆρt와 실제 관측 분포 ρt 간의 p-Wasserstein distance(OT objective)를 최소화하여 학습
• cell-specific latent time 변수를 도입해 temporal asynchrony를 모델링하고, kernel에 categorical covariate(cell type)를 포함시켜 multiple lineage에 따른 조건부 trajectory 학습
• Bjerregaard et al. (2025)의 gradient 기반 latent perturbation 전략을 확장하여, 전체 latent trajectory를 최적화함으로써 gene expression 제약을 만족하는 perturbation 효과를 추론

Originality

• latent GP prior와 OT objective를 결합하여 scRNA-seq의 unpaired snapshot 데이터에서도 population-level dynamics를 모델링하는 새로운 생성 프레임워크 제시
• 기존 GP prior VAE가 가정하는 sample-to-sample correlation 없이, cell type 조건화 kernel과 cell-specific latent time을 통해 multi-lineage 및 temporal asynchrony를 하나의 일관된 모델로 통합
• gradient 기반 perturbation 전략을 recursive numerical simulation이 필요 없는 GP 기반 temporal 모델로 최초 확장하여 perturbation trajectory 추론 가능

Limitation & Further Study

• heteroscedastic GP와 Hilbert space 근사가 도입하는 추가적인 하이퍼파라미터(예: kernel 길이 척도, basis function 수 등)에 대한 민감도가 존재하며, Figure 5에서 이를 분석하고 있으나 실제 응용에서 튜닝 부담이 남아있을 수 있음
• OT 기반 학습은 계산 비용이 크고 mini-batch 근사에 의존할 가능성이 있어, 세포 수가 매우 많은 대규모 데이터셋으로의 확장성에 대한 추가 검증이 필요
• perturbation 추론이 gradient 기반 최적화에 의존하므로 국소 최적해나 latent 공간의 비볼록성에 따른 안정성 문제가 발생할 수 있으며, 후속 연구에서 다양한 실제 perturbation 실험 데이터로의 검증이 요구됨

Evaluation

총평: GP 기반 latent dynamics와 OT를 결합해 scRNA-seq의 시간적 이질성과 불확실성을 동시에 포착하는 견고한 프레임워크로, interpolation·extrapolation·perturbation 추론 전반에서 실용적 가치가 높은 연구이다.