Causal learning for socially responsible ai

Motivation

Known: AI 시스템은 높은 정확도를 추구하면서도 데이터 생성 과정(DGP, Data Generating Process)에 대한 이해 부족으로 인해 사회적 편견과 차별을 내재화하는 경향이 있다. 또한 통계적 상관관계만으로는 인과관계를 파악할 수 없어 AI의 의사결정 메커니즘을 제대로 이해하기 어렵다.
Gap: 기존 AI 공정성 연구는 주로 사후(post-hoc) 평가에 집중하며, AI 시스템이 실제로 어떤 인과적 경로를 통해 편향된 결정을 내리는지 규명하지 못한다. 또한 AI 시스템의 사회적 책임성을 근본적으로 향상시킬 수 있는 통합적 프레임워크가 부재하다.
Why: Pearl의 인과 계층구조(association → intervention → counterfactual)에 따라 통계적 상관관계뿐 아니라 인과적 개입과 반사실적 추론이 가능할 때, AI 시스템의 편향된 의사결정 경로를 명확히 파악하고 개선할 수 있다. 이는 AI의 투명성, 공정성, 일반화 가능성을 동시에 증진한다.
Approach: 인과학습의 7가지 주요 도구(인과가정, Do-calculus, 반사실 분석, 중재분석, 적응성, 결측 데이터 처리, 인과 발견)를 분류하고, 이 중 4가지(인과가정, Do-calculus, 반사실 분석, 적응성)가 편향 완화, 공정성, 투명성, 불변성/일반화 가능성 달성에 어떻게 기여하는지 실증적으로 검토한다.

Achievement

7가지 인과학습 도구의 체계적 분류:
- 인과가정(Causal Assumptions)은 AI 시스템을 더 투명하고 검증 가능하게 만든다
- Do-calculus는 혼재변수(confounding)를 제거하여 허위 상관관계를 배제한다
- 반사실 분석(Counterfactual Analysis)은 "만약 X였다면" 질문의 답변을 가능하게 한다
- 중재분석(Mediation Analysis)은 인과효과를 직접효과와 간접효과로 분해한다
- 적응성(Adaptability)은 환경 변화에서 AI의 성능 저하를 해결한다
SRAI 4대 과제에 대한 구체적 응용 방법론 제시:
- 편향 완화: 성향점수(Propensity Score), 반사실 데이터 증강(CDA), 인과그래프 활용
- 공정성: 인과 모델링을 통한 민감속성의 인과효과 추정
- 투명성: 반사실 설명(Counterfactual Explanation)과 개입 기반 방법
- 불변성/일반화: Invariant Risk Minimization(IRM), 인과 발견 알고리즘(causal discovery)

How

편향 완화 (Bias Mitigation)

성향점수(Propensity Score): 역성향점수 가중치(Inverse Propensity Scoring, IPS)를 사용하여 추천 시스템의 선택 편향(selection bias)과 위치 편향(position bias) 제거
- 수식: $\arg\min_{\theta} \sum_{O_{u,i}=1} \frac{\hat{\sigma}_{u,i}(r, \hat{r}(\theta))}{P_{u,i}} + \text{Reg}(\theta)$
- 관찰된 평점이 실제 선호도를 반영하도록 가중치 조정
반사실 데이터 증강(CDA): 원본 데이터의 민감속성을 인과적으로 개입하여 수정된 데이터 생성
- 정의: 주어진 데이터셋 S와 개입 c에 대해, c-증강 데이터셋 S' = S ∪ {(c(x), y)}_{(x,y)∈S}
- NLP 예시: 성별 편향 제거를 위해 문장 템플릿으로 (he:she, her:him/his) 쌍을 체계적으로 교체
- 감정 분석: 인간 주석자가 긍정 리뷰를 부정 리뷰로 최소한으로 수정하여 균형잡힌 데이터 생성
인과그래프 활용: 민감속성과 결과변수 간의 인과경로를 명시적으로 구조화
- 추천 시스템의 인기도 편향 완화: 사용자 클릭 = 사용자 관심 + 아이템 인기도로 분해
- 두 개의 서로 다른 임베딩(사용자 실제 관심 vs. 인기도 기반 의사관심)으로 모델링하여 편향 제거

공정성 (Fairness)

인과 모델링 기반 공정성: 민감속성(예: 성별)의 결과에 대한 인과효과(Causal Effect)를 추정하고 제약
- 직접 인과효과(Direct Causal Effect, DCE): 민감속성이 직접 영향을 주는 경로만 측정
- 간접 인과효과(Indirect Causal Effect, ICE): 중재변수를 통한 간접 경로 측정
- 공정성 정의: 민감속성이 결과에 미치는 모든 인과효과가 제로(zero)가 되도록 제약
반사실 공정성: 특정 개인에 대해 "만약 그의 민감속성이 달랐다면 결과가 어떻게 달라졌을까"를 평가
- 개인 수준의 공정성 보장: 각 개인별로 동일한 내재 자질에 대해 동일한 의사결정을 받도록 함

투명성 (Transparency)

반사실 설명(Counterfactual Explanation): "이 결정이 변경되려면 어떤 입력값이 달라져야 하는가"를 제시
- 모델 기반 설명: 학습된 인과모델을 통해 생성
- 개입 기반 설명: 실제 개입 실험 데이터 기반
인과가정의 명시화: 모델 내 인과가정을 명확히 문서화하고 데이터와의 호환성 검증
- 투명성 향상: 알고리즘의 내부 로직이 아닌 인과적 가정 기반의 설명

일반화 가능성/불변성 (Generalizability/Invariance)

Invariant Risk Minimization(IRM): 여러 환경에서 불변인 인과 특성(invariant features)을 학습
- 기존 방법의 한계: 환경 변화(distribution shift)에서 모델 성능 급격히 저하
- IRM 접근: 각 환경의 데이터 p_e(y|x)에서 불변 선형 분류기 w*를 찾음
인과 발견(Causal Discovery): 관찰 데이터에서 변수 간 인과 방향성을 자동으로 학습
- 실제 세계에서 인과그래프가 대부분 미지수이므로, 데이터 기반으로 인과구조 추정

Originality

통합적 분류체계: 기존에 산발적으로 다루어지던 AI 공정성 관련 인과학습 방법들을 7가지 도구 중심으로 처음 체계적으로 분류하고 분석
Pearl의 인과 계층구조 적용: 통계적 상관(association) → 인과적 개입(intervention) → 반사실 추론(counterfactual)의 3계층을 SRAI 프레임워크로 명확히 정의
다분야 응용 사례 통합: NLP, 추천시스템, 컴퓨터 비전 등 여러 분야의 구체적 사례를 하나의 인과학습 틀로 설명
SRAI의 인과론적 재정의: AI의 사회적 책임성을 단순한 통계적 공정성이 아닌 인과적 불공정(causal unfairness)을 제거하는 관점에서 재정의

Limitation & Further Study

한계점

인과가정의 현실성 문제:
- 실무에서 정확한 인과그래프를 수립하기 어렵고, 부정확한 인과가정은 오히려 편향을 증대시킬 수 있다
- 성향점수 방법도 올바른 성향점수 형태를 미리 알아야 한다는 가정이 현실성 떨어짐
계산 복잡도 및 확장성:
- 대규모 데이터에서 인과 발견 알고리즘의 계산 비용이 매우 높음
- 고차원 데이터에서 인과관계 식별이 어려움
도메인 지식 의존성:
- 반사실 데이터 증강(CDA)은 전문가 주석자의 개입이 필수적이며, 주석 과정에서 새로운 편향이 도입될 위험
- 인과그래프 구성이 영역 전문 지식에 크게 의존
윤리 및 실험적 제약:
- 인과효과를 검증하기 위한 무작위 대조 실험(RCT)이 윤리적·재정적 이유로 불가능한 경우 많음
- 성향점수 기반 방법은 위치 랜덤화 시 사용자 경험이 심각하게 저하될 수 있음

후속 연구 방향

약한 인과가정 조건 개발: 도메인 지식이 제한적인 상황에서도 작동 가능한 경량 인과가정 프레임워크 개발
인과-통계 하이브리드 방법론: 인과구조를 완전히 알지 못할 때, 통계적 방법과 부분적 인과지식을 결합하는 방법론 강화
적응형 인과 발견: 데이터 수집 과정과 인과 발견을 동시에 수행하는 온라인 학습 알고리즘 개발
설명 가능성과 공정성의 트레이드오프: 투명한 반사실 설명과 모델 성능(utility) 간의 균형을 이루는 방법론
크로스도메인 인과 전이: 한 분야에서 학습한 인과구조를 다른 분야에 전이하는 메커니즘 연구
동적 환경에서의 불변성: 시간에 따라 인과구조가 변하는 환경(concept drift)에서의 불변성 보장 방법

Evaluation

Novelty: 4/5 Technical Soundness: 3/5 Significance: 4/5 Clarity: 4/5 Overall: 3/5

총평: 본 논문은 인과학습을 사회적 책임성 있는 AI에 적용하는 통합적 분류체계를 제시한 의미 있는 종설이나, 정확한 인과그래프 수립의 어려움, 도메인 지식 의존성, 고차원 데이터에서의 계산 복잡도 등 핵심적인 실무 적용 장애요소들을 논의하지 않아 이론과 현실의 간극이 크다. 향후 약한 인과가정 조건이나 인과-통계 하이브리드 방법론 개발이 필수적으로 요구된다.

같이 보면 좋은 논문

Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems

기반 연구인과학습의 이론적 기반을 공유하는 관련 연구이다.

Predicting field experiments with large language models

기반 연구191번 논문은 사회적으로 책임감 있는 AI와 인과 추론의 통합을 다루며, 631번 LLM 기반 현장실험 예측의 정책적 의의와 연계해서 읽으면 좋다.

Credit Where Credit Is Due: A Taxonomy of AI Contributions to Scientific Discovery and Recommendations for Authorship Policy

기반 연구AI 시스템의 사회적 영향과 신뢰성 논의가 인과학습 적용의 배경이 된다.

A Survey of AI Scientists

기반 연구인간-AI 협력 프레임워크가 인과학습 기반 책임있는 AI 설계의 이론적 토대를 제공한다.

From lived experience to insight: Unpacking the psychological risks of using ai conversational agents

다른 접근AI 행동과 사용자 심리적 반응 간 상호작용을 분석하는 관련 연구

From Reasoning to Learning: A Survey on Hypothesis Discovery and Rule Learning with Large Language Models

다른 접근편향 완화 및 공정성 문제에 대한 유사한 방법론적 접근을 취한다.

Mediator-Based Reward Design in Online Contextual Bandit

후속 연구SPECTER2 유사도 0.92로 Reinforcement Learning Policy Optimization와 LLM Benchmarking and Agent Evaluation가 맞닿아, 'Causal learning for socially responsible ai'가 이 ICML 2026 논문의 배경·대안·응용 맥락을 보완한다.

Incentive design in sequential statistical protocols

후속 연구SPECTER2 유사도 0.90로 Reinforcement Learning Policy Optimization와 LLM Benchmarking and Agent Evaluation가 맞닿아, 'Causal learning for socially responsible ai'가 이 ICML 2026 논문의 배경·대안·응용 맥락을 보완한다.