Multi-View Causal Discovery without Non-Gaussianity: Identifiability and Algorithms

Motivation

• Known: 기존 causal discovery는 linear-Gaussian SEM에서 식별 불가능하다는 것이 잘 알려져 있으며, 이를 해결하기 위해 LiNGAM(non-Gaussian disturbance 가정)이나 nonlinear additive noise 모델 등이 제안되어 왔다. 최근에는 multi-view 구조를 활용한 몇몇 시도(Shimizu, 2012; Chen et al., 2024)가 있었지만 view 간 의존성을 무시하거나 강한 가정을 필요로 했다.
• Gap: 기존 multi-view causal discovery 연구는 view 간 dependency를 아예 무시하거나(Shimizu, 2012) 매우 제한적이고 강한 가정(Chen et al., 2024)에 의존하여, non-Gaussianity 없이 여러 view의 상관구조만으로 식별성을 보장하는 일반적 이론과 알고리즘이 부재했다.
• Why: 뇌영상(neuroimaging)처럼 동일 시스템을 여러 조건/피험자로 반복 관측하는 multi-view 데이터가 현대 응용에서 흔한데, non-Gaussianity 같은 강한 분포 가정 없이도 이런 구조에서 causal graph를 추정할 수 있다면 causal discovery의 적용 범위와 신뢰성이 크게 확장될 수 있다.
• Approach: Non-Gaussian disturbance 가정을 view 간 상관관계(SOS의 다양성) 가정으로 대체하는 linear multi-view SEM(LiMVAM)을 제안하고, acyclic SEM에 대한 identifiability를 증명한 뒤 이를 바탕으로 DirectLiNGAM, PairwiseLiNGAM, ICA-LiNGAM의 multi-view 확장 알고리즘을 개발한다.

Achievement

Figure 3. Separation performance of three recursive residuals algorithms and three ICA-based algorithms. We assume share

1. LiMVAM 모델 제안: 여러 view가 동일한 causal ordering(공유 permutation P)을 갖되 view별로 다른 causal weight(T_i)와 disturbance를 가지는 linear multi-view SEM을 정의함.
2. 약한 조건 하의 식별가능성 증명: disturbance가 모두 Gaussian이어도, view 간 SOS의 상관 구조가 충분히 다양하면 모델이 식별 가능함을 증명하여 non-Gaussianity 가정을 대체함.
3. 세 가지 새로운 알고리즘 개발: PairwiseLiMVAM, DirectLiMVAM(순수 2차 통계량만 사용하는 새롭고 빠른 방법), ICA 기반 LiMVAM(Chen et al., 2024를 개선)을 제안.
4. 실증적 검증: 시뮬레이션과 실제 neuroimaging 데이터에 적용하여 뇌 영역 간 causal graph 추정이 가능함을 보이고, 오픈소스로 공개함.

How

Figure 4. Estimation error of the adjacency matrices Bi vs. total

• 단일 view LiNGAM 모델(x = Bx + e)을 다중 view로 확장하여 xi = Bi xi + ei 형태의 LiMVAM 정의, Bi = P^T T_i P로 causal ordering P를 공유하도록 제약
• 잠재변수 표현 xi = Ai ei (Ai = (I − Bi)^-1)을 활용해 ICA 기반 접근과 연결
• Second-Order Statistics(SOS)의 view 간 다양성 조건을 정의하고, 이를 통해 Gaussian disturbance 하에서도 식별가능성을 증명하는 이론 전개
• DirectLiNGAM과 PairwiseLiNGAM의 pairwise regression 잔차 비교 절차를 다중 view로 일반화하여 causal ordering을 단계적으로 결정(Step 1)한 후, view별 causal weight를 추정(Step 2)하는 DirectLiMVAM/PairwiseLiMVAM 알고리즘 설계
• ICA-LiNGAM을 확장한 ICA 기반 LiMVAM 알고리즘도 제시, Chen et al.(2024) 대비 개선
• 시뮬레이션 데이터와 실제 신경영상(neuroimaging) 데이터셋에 대해 알고리즘 성능(분리 성능, adjacency matrix 추정 오차) 벤치마킹

Originality

• Non-Gaussianity라는 causal discovery의 전통적 핵심 가정을 multi-view 상관구조로 대체한다는 이론적 프레임 전환이 참신함
• 기존 multi-view 연구(Shimizu, 2012; Chen et al., 2024)가 view 간 의존성을 무시하거나 매우 제한적인 가정만 다뤘던 것과 달리, 일반적이고 약한 조건 하에서 엄밀한 identifiability 이론을 제시
• DirectLiNGAM, PairwiseLiNGAM, ICA-LiNGAM이라는 대표적 단일-view 알고리즘 세 가지를 모두 multi-view로 체계적으로 확장한 포괄적 알고리즘군을 제안
• 순수 2차 통계량(SOS)만으로 작동하는 새로운 빠른 알고리즘(DirectLiMVAM, PairwiseLiMVAM)을 최초로 제시

Limitation & Further Study

• 모델이 모든 view가 동일한 causal ordering(permutation P)을 공유한다는 가정에 의존하므로, view별로 causal 구조 자체가 다를 수 있는 실제 상황(예: 이질적 피험자 그룹)에는 제약이 있을 수 있음
• Acyclic SEM에 한정된 식별가능성 증명으로, cyclic causal structure나 latent confounder가 존재하는 경우로의 확장은 다루지 않음
• SOS 다양성 조건이 실제 데이터에서 얼마나 자주 충족되는지에 대한 정량적 진단 도구나 검정 방법이 충분히 논의되지 않은 것으로 보임
• neuroimaging 실험이 벤치마크 성격이 강해 실제 신경과학적 해석의 타당성 검증(ground truth 비교)이 제한적일 수 있음
• 후속 연구로 view 간 causal ordering이 다를 수 있는 보다 유연한 모델, 비선형 확장, 대규모 고차원 데이터에 대한 계산 효율성 개선 등을 고려할 수 있음

Evaluation

총평: Non-Gaussianity 가정을 multi-view 상관구조로 대체하는 새로운 이론적 틀과 이에 대응하는 실용적 알고리즘 세트를 함께 제시한 견고한 연구로, causal discovery 분야에서 multi-view 데이터 활용의 새로운 방향을 제시하는 의미 있는 기여이다.