What Makes a Representation Good for Single-Cell Perturbation Prediction?

Motivation

• Known: 기존 연구는 causal representation learning을 통해 perturbation에 대한 causal variable을 복원하려 하거나, foundation model(FM)을 통해 대규모 데이터로 범용 표현을 학습하는 두 방향으로 발전해왔다.
• Gap: causal representation learning은 모든 latent causal variable이 환경에 걸쳐 perturb된다는 가정(sufficient interventional data)에 의존하지만 실제로는 partial intervention만 존재하여 invariant 정보가 perturbation-related 표현에 뒤섞이고, FM 기반 방법은 전체 데이터 분포 적합을 우선시하는 목적함수로 인해 희소한 perturbation-specific 신호가 억제되어 예측에 활용되지 못한다.
• Why: 단일세포 perturbation 예측은 유전자 조절 메커니즘 이해와 신약 표적 발굴 등에 핵심적이며, unseen combinatorial perturbation에 대한 일반화와 해석 가능성 확보는 이 분야의 근본적 난제이므로 이를 해결하는 원리적 프레임워크는 실용적·이론적으로 중요하다.
• Approach: 저자들은 gene expression이 perturbation-invariant 정보에 압도되어 있다는 "Perturbation Suppression Hypothesis"를 제시하고, 이를 해결하기 위해 alignment 기반 성분으로 perturbation-specific 정보를 분리하고 latent causal model로 이를 조직화하는 PerturbedVAE를 제안하며, 식별가능성(identifiability) 분석을 통해 이론적 근거를 뒷받침한다.

Achievement

Figure 4. R2 scores for genetic perturbation prediction across dif-

1. Perturbation Suppression Hypothesis 제시: linear probing 실험을 통해 UCE, scFoundation, Geneformer 등 FM 표현이 PCA 베이스라인보다도 perturbation label을 선형적으로 디코딩하기 어렵다는 것을 실증적으로 보여 perturbation-specific 신호 억제 현상을 입증했다.
2. PerturbedVAE 프레임워크 제안: perturbation-invariant 정보와 perturbation-specific 정보를 명시적으로 분리하고, 분리된 정보를 latent causal model로 조직화하여 unseen perturbation에 대한 일반화를 가능케 했다.
3. 식별가능성 분석: 희소한 perturbation 효과가 신뢰성 있게 복원될 수 있는 조건을 규명하여 프레임워크의 구체적 설계를 이론적으로 뒷받침했다.
4. 벤치마크 성능 향상: 널리 사용되는 벤치마크에서 여러 평가 설정에 걸쳐 state-of-the-art 성능을 달성했으며, 특히 out-of-distribution combinatorial perturbation 예측에서 큰 성능 향상을 보였고 해석 가능한 perturbation-response program을 발견했다.

How

Figure 3. Framework of the proposed PerturbedVAE. Perturbed x are used to learn the perturbation-responsive block zν, wh

• perturbation-invariant block과 perturbation-specific block으로 latent representation을 명시적으로 분리하는 VAE 구조 설계 (Fig. 3 참고)
• alignment 기반 컴포넌트를 통해 perturbed 샘플과 unperturbed 샘플 간 비교로 perturbation-specific 정보를 추출(Extraction)
• latent causal model을 통해 추출된 perturbation-specific 정보를 조직화하여 unseen perturbation에 대한 일반화 지원(Utilization)
• 식별가능성 이론을 통해 sparse perturbation effect가 복원 가능한 조건(예: partial intervention 구조)을 규명하고, 이에 따라 모델을 구체적으로 specify
• linear probing, R2 score, t-SNE 시각화 등 다각도 평가를 통해 표현의 질과 예측 성능을 검증 (Fig. 1, Fig. 4, Fig. 6)

Originality

• 기존에 암묵적으로 다뤄지던 invariant/perturbation-specific 정보 불균형 문제를 "Perturbation Suppression Hypothesis"라는 명시적 개념으로 정식화한 점이 독창적이다.
• causal representation learning과 FM 두 접근법의 실패 모드를 하나의 통합된 관점(신호 불균형)으로 설명한 프레임워크 관점이 새롭다.
• 단순히 경험적 성능 개선에 그치지 않고 sparse perturbation effect 복원에 대한 식별가능성 이론을 결합하여 이론과 실증을 연결한 점이 돋보인다.

Limitation & Further Study

• 제안된 식별가능성 분석이 특정 가정(예: partial intervention 구조, sparsity 조건) 하에서만 성립하므로, 실제 데이터가 이러한 가정을 얼마나 만족하는지에 대한 추가 검증이 필요하다.
• 평가가 단일 벤치마크(예: Norman et al. 2019 계열) 중심으로 이루어져 다양한 세포 유형과 perturbation 종류에 대한 일반화 검증이 제한적일 수 있다.
• FM과의 비교가 frozen representation에 대한 linear probing에 국한되어 있어, FM을 fine-tuning했을 때의 성능과의 공정한 비교가 추가로 필요하다.
• 향후 연구로는 더 다양한 perturbation 유형(예: 약물, 다중 유전자 조합)과 대규모 실제 임상 데이터로의 확장이 기대된다.

Evaluation

총평: 단일세포 perturbation 예측에서 오랫동안 간과되어온 신호 불균형 문제를 명확히 정식화하고 이론과 실증을 겸비한 해결책을 제시한 견실한 연구로, 후속 연구를 위한 새로운 관점을 제공한다.