Causal Preference Elicitation

Motivation

• Known: causal structure를 관측 데이터만으로 추정하는 것은 Markov equivalence와 multi-modal likelihood surface 때문에 매우 어렵고, 이를 보완하기 위해 도메인 전문가의 사전 지식을 hard constraint, edge-wise prior, post-hoc regularizer 형태로 causal discovery에 통합하는 연구들이 존재한다.
• Gap: 기존 expert-knowledge 통합 방식은 static하고 coarse하여 전문가 지식을 항상 신뢰할 수 있는 것으로 가정하고 uncertainty나 systematic bias를 무시하며, 전문가 시간이 제한적임에도 어떤 추가 질문이 가장 informative한지 능동적으로 선택하지 않는다. 또한 active causal discovery/experimental design 연구는 intervention 선택에 집중할 뿐 주관적 전문가 판단과 그 불확실성을 모델링하지 않는다.
• Why: 전문가 지식을 노이즈가 있는 확률적 신호로 명시적으로 모델링하고 질문을 능동적으로 선택함으로써, 제한된 전문가 질의 예산 하에서도 causal DAG posterior를 더 빠르고 정확하게 좁힐 수 있는 실용적 방법론을 제공하기 때문에 중요하다. 이는 intervention이 비싸거나 윤리적으로 제약되거나 이미 고정된 상황에서도 국소적 mechanistic 지식을 활용할 수 있게 한다.
• Approach: 임의의 black-box observational posterior q0(W|X)로부터 얻은 particle 기반 DAG posterior를 초기값으로 하여, 전문가의 노이즈 있는 three-way(edge i→j, j→i, no edge) 응답을 hierarchical logistic likelihood로 모델링하고, BALD 스타일 expected information gain 기준으로 다음에 질의할 edge를 선택한 뒤 importance reweighting과 MCMC rejuvenation으로 posterior를 갱신하는 sequential Bayesian 프레임워크(CaPE)를 제안한다.

Achievement

1. CaPE 프레임워크 제안: 임의의 observational posterior q0(W|X)와 순차적 전문가 피드백을 결합하는 일반적인 expert-in-the-loop causal discovery 프레임워크를 제시하여 기존 expert-augmented discovery 및 active structure learning 연구를 확장했다.
2. Hierarchical logistic expert model 도입: edge weight 기반 local direction score와 optional structural feature(예: v-structure support, cycle risk)를 이용해 3-way categorical label(i→j, j→i, no edge)을 생성하는 유연한 전문가 모델을 설계했다.
3. Particle 기반 Bayesian updating 개발: importance reweighting, ESS 기반 resampling, Metropolis-Hastings rejuvenation을 결합하여 acyclicity를 엄격히 유지하면서 전문가 응답을 순차적으로 통합하는 SMC 기반 DAG posterior 갱신 기법을 개발했다.
4. BALD 스타일 EIG 쿼리 선택 기준 도출: 저차원 categorical 분포에 대한 expected information gain 목적함수를 유도하여 DAG 공간에서의 information-efficient active learning을 계산적으로 tractable하게 만들었다.
5. 실증적 성능 향상 입증: synthetic graph, Sachs protein signaling 데이터, CausalBench K562 gene perturbation 벤치마크 실험에서 EIG 기반 acquisition이 random 및 uncertainty 기반 baseline 대비 posterior concentration을 크게 가속화하고 probabilistic predictive score와 structural metric을 모두 개선했으며, expert model misspecification 하에서도 경쟁력 있는 성능을 유지함을 보였다.

How

• 관측 데이터로부터 임의의 causal discovery 방법(MCMC, bootstrap aggregation, variational learning 등)으로 얻은 particle 기반 initial posterior q0(W|X)를 사용
• 전문가 응답 random matrix Y ∈ {0,1,2}^{D×D}를 도입하여 각 ordered pair (i,j)에 대한 edge existence/direction 판단을 인코딩
• edge weight 기반 direction score와 logistic reliability/decisiveness 파라미터로 구성된 확률적 전문가 모델 pθ(Y|W) 정의
• particle importance reweighting, effective-sample-size 기반 resampling, MCMC rejuvenation을 통해 acyclicity를 유지하며 posterior를 순차 업데이트
• posterior predictive label distribution으로부터 BALD 형태의 expected information gain을 계산하여 다음에 질의할 edge (i,j)를 선택
• synthetic DAG, Sachs 단백질 신호전달 데이터, CausalBench K562 50-gene perturbation 벤치마크에서 random/uncertainty 기반 baseline과 비교 실험 및 expert model misspecification에 대한 robustness 실험 수행

Originality

• 관측 posterior와 순차적 전문가 피드백을 결합하는 causal preference elicitation이라는 새로운 문제 설정을 정식화함
• 전문가 판단을 hard constraint가 아닌 noisy three-way categorical likelihood로 모델링하여 신뢰도와 불확실성을 명시적으로 반영
• intervention 기반 실험 설계와 달리 국소적 구조적 질문(structural query)과 노이즈 있는 범주형 판단을 관측하는 새로운 액션/관측 공간을 제시
• SMC 기법을 expert-in-the-loop 설정에 새롭게 적용하여 acyclicity를 강제하면서 posterior를 갱신하는 particle 기반 업데이트 스킴을 개발
• BALD 기반 EIG를 저차원 categorical 응답에 특화하여 DAG 공간에서 계산적으로 효율적인 active query selection을 구현

Limitation & Further Study

• 실험에서 direction score는 edge weight 기반으로만 정의되어 있고, 논문에서 언급한 v-structure support나 cycle risk 등 구조적 feature를 활용한 확장은 실제로 검증되지 않았다.
• 전문가 모델이 hierarchical logistic 형태로 다소 특정한 파라메트릭 가정에 의존하므로, 이 가정에서 크게 벗어난 적대적(adversarial) misspecification에 대한 강건성은 다루지 않았다.
• 실험이 synthetic graph, Sachs, CausalBench K562 등 상대적으로 중간 규모의 데이터셋에 국한되어 있어, 매우 고차원적인 실제 도메인에서의 확장성(scalability)에 대한 검증이 추가로 필요하다.
• 여러 명의 전문가 또는 이질적인 신뢰도를 가진 전문가 집단을 다루는 확장, 그리고 실제 인간 전문가를 대상으로 한 user study는 후속 연구로 남아있다.

Evaluation

총평: 전문가 지식을 노이즈가 있는 확률적 신호로 취급하고 능동적으로 질의를 선택하는 causal preference elicitation이라는 문제를 명확히 정식화하고, 이를 위한 실용적이고 이론적으로 근거 있는 particle 기반 Bayesian 프레임워크(CaPE)를 제시한 완성도 높은 연구로, expert-in-the-loop causal discovery 분야에 의미 있는 기여를 한다.