One Intervention per Component is Enough: Towards Identifiability in Linear Stochastic Dynamics from Steady State

Motivation

• Known: 기존 연구들은 Lyapunov equation을 이용해 관측 데이터만으로 drift 구조를 복원하거나(Varando & Hansen, 2020; Dettling et al., 2024), 관측/개입 분포를 fitting하는 방법(Lorch et al., 2024), 혹은 개입을 활용한 경험적 예측 모델(Rohbeck et al., 2024)을 제시했지만 파라미터 복원에 대한 엄밀한 identifiability 보장은 제한적이었다.
• Gap: 시계열 trajectory 없이 stationary snapshot 데이터만 존재하는 유전자 섭동 실험 등에서는 표준 SDE 추정 방법이 적용 불가능하며, 개입 데이터를 활용한 OU process 파라미터의 엄밀한 identifiability 이론과 이를 실현하는 알고리즘이 부재하다는 것이 연구 갭이다.
• Why: 유전자 조절 네트워크 등 대규모 시스템에서 시계열 데이터 없이도 개입 실험만으로 인과적 동역학 구조와 파라미터를 정확히 복원할 수 있다면, 미지의 섭동(unseen intervention)에 대한 예측과 인과적 해석이 가능해져 시스템 생물학, 신경과학, 경제학 등 다양한 분야에 실질적 도움이 된다.
• Approach: drift matrix Λ의 SCC 구조에 기반해, 각 SCC당 하나의 개입만으로 steady-state moment equation(평균과 공분산)을 이용한 선형 시스템을 풀어 파라미터를 global scaling까지 복원하는 이론적 identifiability 결과와 이를 구현하는 recursive 알고리즘 및 regularized least-squares 추정기를 제안한다.

Achievement

Figure 1. (a–c) Relative errors of estimated parameters of the OU process versus the number of interventions, and (d) pe

1. Single SCC identifiability (Theorem 3.1): G(Λ)가 strongly connected이고 spectral/rank nondegeneracy 가정(Assumption A.1, A.2)이 성립할 때, 관측 데이터와 임의 좌표 하나에 대한 개입 데이터만으로 모든 파라미터 (Λ, b, D)가 global scaling factor를 제외하고 generically 식별 가능함을 증명했다.
2. 일반 SCC 구조에서의 identifiability (Theorem 3.6): SCC condensation graph가 connected이고 unique root를 가지며 각 SCC마다 최소 하나의 개입이 있을 때, topological order에 따라 SCC를 순차적으로 처리하는 recursive 알고리즘으로 전체 파라미터를 global scaling까지 복원할 수 있음을 증명했다. 또한 root가 두 개 이상이면 단일 global scaling으로 복원이 불가능함을 반례로 보였다.
3. SCC 구조 자체의 복원 (Theorem 3.3): single-node intervention에 따른 steady-state mean 변화가 개입된 SCC의 downstream region을 characterize함을 보여, spectral/rank 가정 없이도 SCC당 하나의 개입만으로 SCC decomposition과 조건화 DAG의 topological order를 복원할 수 있음을 증명했다(Remark 3.4).
4. 실용적 추정기 개발: 이론적 결과를 바탕으로 관측 및 개입 데이터에 대한 steady-state 평균과 공분산 방정식의 잔차를 동시에 최소화하는 regularized least-squares 추정기를 제안하고, synthetic 및 real 데이터셋 실험으로 파라미터 복원 및 unseen intervention 예측에서 효과를 입증했다.

How

Figure 3. The average relative error for recovering Λ (up to some global scaling) versus the sample size (observational

• OU process를 dx = (−Λx + b)dt + σdWt로 정의하고, steady-state에서 평균 µ = Λ⁻¹b, 공분산 방정식 ΛΣ + ΣΛ⊤ = σσ⊤ (Lyapunov equation)을 유도.
• 개입을 i번째 좌표의 row를 zero-out하는 방식(자기조절 항만 유지)으로 정의하여 개입 후 동역학의 평균 µ(i), 공분산 Σ(i)을 정의.
• G(Λ)가 strongly connected인 단일 SCC 경우, 관측 및 단일 개입의 1차·2차 moment equation들로 구성된 선형 시스템을 풀어 파라미터를 global scaling까지 복원(Theorem 3.1).
• 다중 SCC의 경우 SCC를 topological order로 정렬하고, 각 컴포넌트의 marginal dynamics를 isolate하여 upstream에서 복원된 파라미터를 이용해 순차적으로 선형 시스템을 푸는 recursive 알고리즘 설계(Theorem 3.6).
• 개입 후 steady-state mean의 변화 패턴을 분석하여 SCC 구조와 topological order를 직접 식별하는 방법 제시(Theorem 3.3, Remark 3.4).
• 이론을 실제 데이터에 적용하기 위해 관측/개입 데이터에 대한 평균 및 공분산 잔차의 제곱합을 regularization과 함께 최소화하는 least-squares 최적화 문제로 정식화.
• synthetic 데이터와 real 데이터셋(유전자 섭동 실험 등)에서 파라미터 복원 정확도와 unseen intervention에 대한 예측 성능을 검증.

Originality

• 기존 연구들이 관측 데이터만 사용하거나 identifiability 보장 없이 경험적 fitting에 그친 것과 달리, 개입 데이터를 명시적으로 활용해 엄밀한 identifiability 이론(SCC당 단 하나의 개입으로 충분)을 최초로 제시.
• SCC condensation graph의 root 개수와 connectivity에 따른 identifiability의 필요충분조건을 명확히 규명하고, 다중 root의 경우 불가능함을 반례로 입증한 점이 독창적.
• 개입에 따른 steady-state mean 변화 패턴만으로 spectral/rank 가정 없이 SCC 구조 자체를 복원할 수 있다는 결과(Theorem 3.3)는 구조 학습과 파라미터 학습을 분리하는 새로운 관점을 제공.
• 이론적 identifiability 결과를 실용적인 regularized least-squares 추정기로 자연스럽게 연결한 practical-theoretical bridging이 돋보임.

Limitation & Further Study

• 이론적 identifiability 결과는 linear OU process(선형 SDE)에 국한되어 있어, 비선형 동역학이나 시간에 따라 변화하는 시스템에는 직접 적용하기 어렵다.
• Assumption A.1, A.2와 같은 spectral/rank nondegeneracy 조건이 실제 데이터에서 얼마나 자주 성립하는지에 대한 실증적 검증이 제한적일 수 있다(Figure 4에서 일부 numerical probe만 제공).
• SCC condensation graph가 connected하고 single root를 가져야 한다는 조건은 실제 대규모 유전자 조절 네트워크 구조에서 항상 만족되지 않을 수 있어, 이 조건이 위배되는 경우에 대한 확장 연구가 필요하다.
• 개입이 항상 "row를 zero-out"하는 특정 형태(perfect knockout)로 가정되어 있어, soft intervention이나 noise가 포함된 개입 등 보다 현실적인 개입 모델로의 일반화가 향후 과제로 남는다.
• 실험이 synthetic 데이터와 제한된 real 데이터셋에 국한되어, 대규모 실제 유전자 섭동 데이터에서의 확장성과 강건성에 대한 추가 검증이 필요하다.

Evaluation

총평: 선형 OU process에 대한 엄밀하고 우아한 identifiability 이론을 제시하고 이를 실용적 알고리즘으로 연결한 견고한 이론-실증 결합 논문으로, 유전자 조절 네트워크 등 snapshot 기반 실험 분야에 실질적 기여를 할 수 있는 연구이다.