VAE-MS: An Asymmetric Variational Autoencoder for Mutational Signature Extraction

Motivation

Known: Mutational signature analysis는 암 발달의 생물학적 프로세스를 규명하는 강력한 방법이며, NMF 기반의 SigProfilerExtractor가 표준 방법이다. 그러나 NMF의 선형성, 결정론적 특성, 비유일성으로 인해 중복되고 특정적인 signature들이 과다 추출된다.
Gap: 기존 NMF와 최근 autoencoder 기반 방법들은 여전히 선형성 또는 결정론적 모델링의 한계를 가지고 있으며, 돌연변이 데이터의 과분산을 충분히 포착하지 못한다.
Why: Mutational signature 추출의 신뢰성 향상은 임상 적용성 제고와 암 치료 의사결정 개선으로 직결되며, 중복된 signature 제거는 해석성과 실용성을 크게 높인다.
Approach: VAE-MS는 깊은 nonlinear 인코더와 선형 디코더의 비대칭 구조에 Poisson 분포 기반 확률론적 잠재 표현을 통합하여, 선형성 제약을 제거하면서도 NMF 기반 방법과의 해석성을 유지한다.

Fig. 2 Beeswarm plots of the number of signatures suggested by each model for extraction in S8 (A),

확률론적 모델의 우수성: VAE-MS와 SigneR 같은 확률론적 모델들이 SigProfilerExtractor와 MUSE-XAE 같은 결정론적 모델보다 미분석 데이터(unseen data)에 대한 일반화 성능에서 현저히 우수하다.
실제 암 데이터 재구성: VAE-MS가 실제 암 데이터에서 NMF 기반 모델들보다 더 정확한 재구성을 달성하며, 이는 nonlinearity와 확률론적 모델링의 결합 효과를 입증한다.
Poisson 잠재 표현: Poisson reparameterization trick을 통해 노출 행렬(exposure matrix)의 비음성 특성을 자연스럽게 보존하면서 확률론적 추론을 가능하게 한다.
해석성 유지: 선형 디코더 구조와 행 정규화 스케일링을 유지하여 기존 NMF 방법과 직접 비교 가능한 해석 가능한 signature matrix를 제공한다.

Fig. 1 Schematic representation of VAE-MS. BN: batch normalization.

입력 데이터: 정규화된 돌연변이 행렬 V ∈ Z^(N×M) (행: 환자, 열: 돌연변이 타입)
인코딩 네트워크: 배치 정규화와 활성화 함수를 포함한 3개의 fully connected 층으로 차원 감소, 최종 층이 rate parameter λ ∈ R^(N×K) 생성
잠재 표현: W_{n,k} ~ Poisson(λ_{n,k})으로 정의되며, Poisson reparameterization trick을 이용한 미분 가능한 샘플링
디코딩 네트워크: 재구성 V̂ = WH (선형 변환, bias 없음)으로 NMF 유사성 유지
손실 함수: Poisson likelihood 가정 하의 ELBO(evidence lower bound)에 β 가중치 적용: L = E_q[log p_θ(v_n|w_n)] - β·D_KL(q_ϕ(w_n|v_n)||p(w))
데이터 분할: 64/16/20 (훈련/검증/테스트) 분할 구조로 하이퍼파라미터 최적화 및 조기 종료 적용
정규화: 100X normalization을 사용하여 과도히 돌연변이된 환자의 영향 감소
사전 분포: NMF 분해 결과로 초기화된 Poisson rate λ_0로 합리적 출발점 제공

최초의 Poisson VAE for mutational signature: Mutational signature 추출 분야에서 Poisson 분포 기반 variational autoencoder를 최초로 적용
비대칭 아키텍처와 확률론적 모델링의 결합: MUSE-XAE의 비대칭 구조에 VAE의 확률론적 잠재 공간을 통합하는 하이브리드 접근법
Poisson reparameterization trick 활용: 음이 아닌 노출 행렬의 특성을 자연스럽게 인코딩하면서 미분 가능한 학습 가능
β-ELBO를 통한 재구성-정규화 균형: 초모수 β를 이용한 KL divergence 가중치 조정으로 유연한 모델 제어

Signature 추출 일관성에서 명확한 우위 부재: 모든 모델이 signature 일관성 평가에서 명확한 상대적 우위를 보이지 못했으며, 이는 추출된 signature의 안정성 문제 미해결을 시사
시뮬레이션 데이터에서 NMF 우수: 시뮬레이션 데이터에서는 NMF 기반 모델들이 더 정확한 재구성을 보여, VAE-MS의 이점이 실제 복잡한 데이터에만 제한될 가능성
사전 분포의 NMF 의존성: Prior를 NMF로 초기화함으로써 NMF의 편향이 초기값에 포함되어 있으며, 완전히 독립적인 학습 효과 평가 어려움
모델 선택 기준 부재: 추출할 signature 개수 K를 결정하는 객관적인 기준이 제시되지 않았으며, 모든 모델이 이 문제에서 비슷한 성능을 보임
후속 연구 방향: (1) 다양한 초기화 전략으로 NMF 의존성 완화, (2) Signature 일관성 개선을 위한 정규화 기법 개발, (3) K 선택을 위한 자동화된 기준 개발, (4) 더 큰 규모 임상 데이터셋에서의 검증 필요