Towards Universal Gene Regulatory Network Inference: Unlocking Generalizable Regulatory Knowledge in Single-cell Foundation Models

Motivation

• Known: 단일세포 전사체 데이터를 이용한 GRN(Gene Regulatory Network) 추론은 전통적으로 특정 데이터셋 내 유전자 간 공발현(co-expression) 패턴을 학습하는 closed-world 방식에 의존해 왔으며, 최근에는 scGPT, Geneformer, scBERT와 같은 scFM의 zero-out perturbation이나 attention weight를 활용한 zero-shot GRN 추론이 시도되고 있다.
• Gap: 그러나 masked value reconstruction과 같은 표준 사전학습 목적함수는 잠재적 조절 신호를 명시적으로 포착하지 못하며, 기존 scFM 기반 zero-out perturbation이나 attention 기반 방법은 random prediction 수준을 넘지 못하는 등 성능이 만족스럽지 않아 scFM의 실효성에 대한 회의론이 커지고 있다.
• Why: GRN 추론이 미지의 유전자와 이종 데이터셋(heterogeneous dataset)에도 일반화될 수 있는지는 scFM이 진정한 생물학적 조절 원리를 학습했는지를 판별하는 핵심 척도이며, 이는 전통적 통계 기법으로는 근본적으로 달성 불가능한 open-world 능력이기 때문에 중요하다.
• Approach: 저자들은 scFM을 고정(frozen)한 상태에서 inter-gene feature를 ground-truth GRN에 매핑하는 translator를 학습시키는 UGRN 프레임워크를 제안하고, 이 translator가 미지의 유전자·데이터셋에 일반화되도록 하는 VVP와 GDT라는 두 가지 특징 추출 기법을 설계했다.

Achievement

Figure 2. Illustration of methods for extracting eij from scFM M. The figure compares baselines (a) Perturbation and (b)

1. UGRN 벤치마크 제안: 미지의 유전자와 이종 데이터셋에 대한 조절 예측 일반화 성능을 평가하는 open-world 벤치마크를 최초로 구축하여 scFM의 zero-shot 능력을 엄밀히 검증할 수 있게 했다.
2. VVP(Virtual Value Perturbation) 개발: 유전자별로 상이한 baseline 발현량으로 인해 기존 zero-out perturbation이 일관되지 않은 섭동 크기를 유발하는 문제를 지적하고, 통일된 virtual value를 기준값으로 사용하며 다수의 섭동 목표값을 도입해 더 풍부한 inter-gene influence를 추출했다.
3. GDT(Gradient Trajectory) 개발: 이산적 perturbation이 변화 구간에 대한 영향만 나타낸다는 한계를 지적하고, scFM의 gradient backpropagation을 활용해 여러 virtual value 지점에서의 gradient trajectory를 추출함으로써 다양한 발현 수준에서의 유전자 관계를 포착했다.
4. SOTA 성능 달성: 다수의 데이터셋과 설정에서 기존 scFM 기반 방법 및 자체 baseline 대비 유의미하게 우수한 성능을 입증했으며, 실제 발현 측정값 없이도 virtual value만으로 조절 관계를 예측할 수 있는 실용적 도구를 제공했다.

How

Figure 2. Illustration of methods for extracting eij from scFM M. The figure compares baselines (a) Perturbation and (b)

• gene embedding 및 전통적 zero-out perturbation 기반 influence를 특징으로 사용하는 두 가지 baseline을 구축하여 UGRN 벤치마크의 기준선을 마련
• VVP: 여러 유전자에 대해 서로 다른 zero 기준 대신 통일된 virtual value를 base expression으로 설정하고, 단일 0이 아닌 일련의 perturbation target 값들을 정의하여 scFM에 질의(query)함으로써 gene gi가 gj에 미치는 영향 eij를 추출
• GDT: scFM의 gradient backpropagation을 이용해 일련의 virtual value 지점에서 gradient를 추출하여, 이산적 perturbation으로는 포착 불가능한 연속적 발현 수준에 따른 gene 간 영향을 포착
• frozen scFM(예: scGPT 등)으로부터 추출한 이러한 inter-gene feature eij, euv를 입력으로 하는 fϕ(translator)를 학습시켜 source gene 쌍에 대해 최적화한 뒤 unseen gene 쌍(euv)에 대한 예측으로 일반화
• 여러 데이터셋과 설정에서 기존 attention 기반, zero-out perturbation 기반 방법 및 제안된 baseline과의 비교 실험 및 ablation study 수행

Originality

• reconstruction 기반 사전학습과 gene regulation 추론 사이의 근본적 불일치(misalignment)를 명확히 지적하고 이를 해결하는 새로운 관점을 제시
• 기존의 단순한 zero-out perturbation이나 attention weight 해석과 달리, virtual value라는 통일된 기준값과 gradient trajectory라는 연속적 관점을 도입해 scFM으로부터 조절 신호를 능동적으로 distill하는 방법론적 참신성
• 미지의 유전자·이종 데이터셋에 대한 일반화 능력을 평가하는 UGRN이라는 open-world 벤치마크 설정 자체가 기존 closed-world GRN 추론 패러다임과 차별화되는 새로운 문제 정의

Limitation & Further Study

• 본문 발췌만으로는 UGRN 벤치마크에 사용된 구체적 데이터셋 구성, ground-truth GRN의 출처 및 신뢰도, translator fϕ의 구체적 아키텍처가 충분히 드러나지 않아 재현성 검증에 한계가 있음
• virtual value의 선택 범위와 개수가 성능에 미치는 영향에 대한 민감도 분석이 필요해 보이며, 이는 후속 연구에서 체계적으로 다뤄질 필요가 있음
• 다양한 scFM 아키텍처(scGPT, Geneformer, scBERT 등) 간 VVP/GDT 적용 시 성능 편차와 그 원인에 대한 심층 분석이 추가되면 방법의 일반성을 더 강하게 뒷받침할 수 있을 것
• pair-wise 예측을 넘어 전체 GRN 토폴로지 수준에서의 일관성(예: 비순환성, 네트워크 구조적 제약)을 어떻게 보장할지에 대한 논의가 부족함

Evaluation

총평: scFM의 잠재된 조절 지식을 끌어내는 참신하고 실용적인 특징 추출 기법과 이를 엄밀히 평가할 open-world 벤치마크를 함께 제시한 견고한 연구로, GRN 추론 분야에서 scFM 활용에 새로운 방향을 제시한다.