Causal Risk Minimization for High-Dimensional Treatments

Motivation

• Known: 고전적 causal estimator인 IPW(inverse propensity score weighting)와 outcome imputation(OI)은 no unobserved confounding, positivity, SUTVA 등 표준 가정 하에서 APO(average potential outcome)를 valid하게 추정할 수 있으며, causal inference를 weighted risk minimization으로 재구성하는 CRM(causal risk minimization) 접근이 이미 알려져 있다.
• Gap: 기존 IPW는 관측되지 않은 treatment(예: 학습 데이터에 없는 텍스트 문자열)에 대해 정의되지 않고, OI는 추론 시점에 개별 confounder 값 접근이 필요해 프라이버시 및 계산 비용 문제가 있다. 또한 기존 CRM 연구는 대부분 binary treatment에 국한되어 고차원 treatment에서의 challenge를 다루지 못했고, 텍스트를 treatment로 쓰는 기존 연구들은 텍스트를 저차원 attribute로 미리 축약해 정보 손실과 attribute별 개별 학습이라는 비효율을 감수해야 했다.
• Why: 텍스트 전체(상담사의 응답, 광고 문구, 실적 발표 문구 등)와 같이 사실상 무한한 조합의 고차원 treatment 공간에서 개입 효과를 예측할 수 있게 되면, 최적 문구 선택, 후보 메시지 순위화, 목표 달성을 위한 언어적 전략 파악 등 다양한 실제 의사결정 문제에 causal inference를 적용할 수 있다.
• Approach: 저자들은 no unobserved confounding 등 표준 가정 하에서 APO 추정 오차를 order가 증가하는 일련의 moment-balancing error들로 해석적으로 분해하고, 이를 직접 줄이는 balance regularization을 포함한 학습 목적함수를 설계하며, 학습된 고차원 APO 추정기를 attribute-specific 모델을 given a text-attribute relationship 모델을 통해 저차원 treatment attribute로 post hoc projection하는 방법을 제안한다.

Achievement

Figure 2. Balancing the order-0 and order-1 moments significantly improved IPW-CRM performance, matching that of OI, for

1. APO 오차의 moment-balancing 분해: binary, discrete, continuous confounder 각각에 대해 APO estimation error가 순차적으로 증가하는 order의 moment-balancing error들로 분해됨을 이론적으로 도출하고, 이를 통해 몇 차(order)까지 confounder moment를 balancing해야 APO 추정이 개선되는지에 대한 원칙적 전략을 제공했다(기존 연구는 propensity score 학습 개선을 위해 저차 balance regularization만 경험적으로 사용).
2. 고차 balance 정규화의 실증적 효과: continuous, discrete, text(semi-synthetic Amazon Reviews, 10,000개의 고유 텍스트 treatment) treatment 환경에서, 고차 moment-balancing error를 최적화하는 weighted CRM 추정기가 inference 시점에 confounder 접근 없이도 다른 변형들보다 일관되게 우수한 성능을 보임을 확인했다.
3. 저차원 attribute로의 사후 projection: 단일 고차원(텍스트) APO 추정기를 sentiment, review length 같은 저차원 attribute에 대해 attribute별 추가 학습 없이 projection하여, attribute별로 별도 학습된 bespoke 추정기와 동등하거나 더 우수한 성능을 달성했다.

How

Figure 4. With discrete covariates, balancing higher-order moments directly reduced balance error and hence, APO estimat

• Neyman–Rubin 모델 하에서 APO g(t)=E[Y(t)]를 정의하고, IPW와 OI의 한계(관측되지 않은 treatment에 대한 undefined성, inference 시 confounder 접근 필요성)를 지적
• causal inference를 weighted risk minimization 문제로 재구성하는 CRM(Causal Risk Minimization) 프레임워크 채택
• APO 추정 오차를 confounder distribution의 order-0, order-1, ... 등 점점 높은 차수의 moment를 treatment group 간 balancing하는 오차들의 합으로 분해하는 이론적 증명(binary, discrete, continuous confounder에 대해 각각 유도)
• 이 분해에 기반해 명시적 balance regularization 항을 포함하는 importance weight 학습 objective 설계
• pretrained language model을 CRM loss로 finetuning하여 텍스트 treatment의 자연어 prior를 활용
• 학습된 고차원 APO 추정기를 텍스트-attribute 관계 모델을 이용해 저차원 attribute 공간으로 projection하는 방법 고안
• continuous treatment의 간단한 linear setting, 고차원 discrete treatment의 synthetic dataset, Amazon Reviews 기반 semi-synthetic text treatment dataset 세 가지 환경에서 실험적으로 검증

Originality

• causal estimation을 weighted risk minimization으로 보는 기존 CRM 프레임워크를 binary treatment를 넘어 고차원(연속, 이산, 텍스트) treatment 공간으로 확장
• APO 추정 오차를 order별 moment-balancing error의 계열로 분해하는 새로운 이론적 결과를 통해, 기존에 경험적으로만 사용되던 low-order balance regularization에 원칙적 근거와 확장(higher-order) 전략을 제공
• 고차원 treatment APO 추정기를 저차원 attribute로 재학습 없이 사후 projection하는 아이디어로, attribute별 개별 모델 학습이라는 기존 텍스트 treatment 연구의 관행을 극복

Limitation & Further Study

• no unobserved confounding, positivity, SUTVA 등 강한 표준 가정에 의존하므로, 이러한 가정이 위배되는 실제 관측 데이터에서의 견고성은 검증되지 않음
• 실험이 semi-synthetic Amazon Reviews 데이터셋 등 제한된 벤치마크에 국한되어 있어, 실제 고위험 도메인(상담, 금융 등)에서의 실증적 검증이 부족함
• moment-balancing order를 얼마나 높여야 하는지에 대한 실용적 기준(계산 비용 대비 이득의 trade-off)이 충분히 다뤄지지 않았을 가능성
• 텍스트 treatment에 대한 pretrained language model finetuning의 계산 비용 및 스케일링 한계에 대한 논의 필요
• 향후 연구로는 실제 관측 데이터에서의 검증, 다른 유형의 고차원 treatment(이미지, 오디오 등)로의 확장, propensity 추정치의 불확실성 정량화 등을 고려할 수 있음

Evaluation

총평: 고차원 treatment(특히 텍스트)에 대한 causal effect 추정이라는 실용적으로 중요하지만 잘 다뤄지지 않은 문제에 대해, moment-balancing error 분해라는 원칙적 이론적 근거와 attribute projection이라는 실용적 도구를 함께 제시한 견실한 연구이다. 다만 강한 가정과 제한된 실증 범위는 향후 실제 응용에서의 추가 검증이 필요함을 시사한다.