Causal Discovery for Irregularly Time Series with Consistency Guarantees

Motivation

• Known: 기존 causal discovery 방법들은 대체로 규칙적으로 샘플링되고 완전히 관측된 데이터를 가정하며, MissDAG 같은 EM 기반 방법은 결측치를 다루지만 시계열의 temporal dependence로 확장되지 않는다. CUTS, CUTS+와 같은 최근 방법들은 신경망 기반으로 불규칙 시계열에서 imputation과 causal discovery를 결합하지만 해석가능성과 이론적 보장이 부족하다.
• Gap: imputation 오류와 구조 학습 오류가 서로를 강화시켜 부정확한 causal graph로 이어질 수 있음에도, 기존의 impute-then-discover 방식이나 신경망 기반 joint optimization 방식은 imputation과 structure learning 간의 상호 일관성(mutual consistency)을 보장하는 명시적 메커니즘이 결여되어 있다.
• Why: 금융, 의료, 기후과학 등 위험에 민감한 도메인에서는 불규칙 샘플링과 결측 데이터가 흔하며, 부정확한 causal graph는 잘못된 치료 권고나 정책 결정 등 심각한 결과를 초래할 수 있으므로, 이론적으로 보장된 causal discovery 방법이 실무적으로 중요하다.
• Approach: ReTimeCausal은 불규칙/비동기 관측을 충분히 미세한 discrete time grid 위의 partially observed value로 취급하고, EM 알고리즘의 E-step에서 structure-aware imputation을, M-step에서 kernel-based sparse regression을 통한 causal graph estimation을 번갈아 수행하는 alternating 프레임워크이다.

Achievement

Figure 3. Visualization of recovered lagged causal graphs for the L = 2 setting. The top and bottom rows correspond to l

1. EM 기반 프레임워크 제안: 심각한 결측과 시간적 불규칙성 하에서 구조 학습을 위한 원칙적인 EM 기반 프레임워크(ReTimeCausal)를 제안.
2. 이론적 consistency guarantee: 이상적(idealized) 및 현실적(realistic) 설정 모두에서 불규칙 샘플링과 높은 결측률 하에 causal structure 복원에 대한 consistency proof를 제공하며 고전적 결과를 확장.
3. structure-aware imputation 전략: noise-aware completion을 통해 진화하는 causal graph와의 일관성을 보장하는 imputation 전략 개발.
4. 실증적 검증: synthetic 및 real-world 데이터셋에서 기존 baseline 대비 우수한 성능을 보임(예: CausalRivers에서 F1 score 0.463으로 최고 baseline의 0.414를 상회).

How

Figure 2. Overview of the ReTimeCausal Framework

• 불규칙/비동기 관측을 native continuous-time trajectory로 모델링하지 않고, 충분히 미세한 discrete time grid 상의 partially observed value로 discretize
• ignorable missingness mechanism(MCAR 또는 MAR)을 가정(Assumption 3.2)하고, finite-order temporal dependency를 갖는 structural causal model에서 관측 데이터가 생성됨을 가정
• E-step: 현재 추정된 causal graph를 조건으로 하여 structure-aware하게 결측 데이터를 completion
• M-step: kernel-based sparse regression과 sparsity-inducing regularization, structural constraint를 결합하여 lag-specific causal graph를 estimation
• 이 두 단계를 alternating하게 반복하여 completed data와 causal graph를 공동으로 업데이트

Originality

• imputation과 causal structure learning의 상호 의존성(오류 강화 문제)을 명시적으로 지적하고, 이를 EM 알고리즘으로 formalize한 최초의 시도 중 하나
• CUTS/CUTS+ 등 신경망 기반 joint 접근과 달리, kernel-based sparse regression 기반의 해석 가능한(interpretable) lag-specific causal graph를 복원
• 연속시간 모델링(Neural ODE 등) 대신 fine discrete time grid 상의 partially observed value로 문제를 재구성하여 이론적 분석을 용이하게 함
• 불규칙 샘플링과 높은 결측률 상황에서 causal discovery의 consistency guarantee를 고전적 결과(MissDAG 등)로부터 확장하여 제시

Limitation & Further Study

• ignorable missingness(MCAR/MAR) 가정에 의존하므로 MNAR(missing not at random) 상황에서의 이론적 보장은 제한적일 수 있음
• discrete time grid의 해상도(fine-ness) 선택이 성능과 이론적 보장에 미치는 영향에 대한 구체적 가이드라인이 부족해 보임
• kernel-based sparse regression 기반 방법이 매우 비선형적이거나 고차원적인 실제 시스템에서 신경망 기반 방법 대비 표현력이 제한될 가능성
• 후속 연구로 MNAR 설정으로의 확장, continuous-time 모델과의 통합, 대규모 변수/장기 lag 설정에서의 확장성(computational scalability) 검증이 필요

Evaluation

총평: imputation과 causal discovery 간의 상호 일관성 문제를 EM 프레임워크로 명확히 formalize하고 이론적 보장까지 제공한 점에서 실용적, 이론적 기여가 모두 뚜렷한 논문이나, MNAR 등 더 일반적인 결측 메커니즘으로의 확장 가능성은 추가 검증이 필요하다.