Beyond Accuracy: Latent Perturbations for Cognitive-Aware Diagnosis

Motivation

• Known: 기존 machine learning 기반 진단 모델들은 더 큰 데이터셋과 더 강력한 모델을 통해 예측 정확도를 높이는 데 주력해왔으며, counterfactual explanation 기법들은 주로 minimal feature perturbation이나 post-hoc 설명, GAN/VAE 기반 생성 모델을 통한 numerical counterfactual 생성에 초점을 맞춰왔다.
• Gap: 기존 연구들은 임상의가 모델 예측과 상호작용할 때 겪는 인지적 제약(특히 anchoring bias)을 명시적으로 다루지 않았고, counterfactual 생성 모델들도 희귀질환 데이터의 class imbalance와 missing value 문제, 그리고 진단 가능 질환과 임상의가 실제로 고려하는 질환 사이의 격차를 함께 모델링하지 못했다.
• Why: 희귀질환 오진은 진단 지연과 불필요한 시술로 이어지는 심각한 임상 문제이며, 단순히 예측 정확도를 높이는 것을 넘어 임상의의 사고 과정 자체에 개입해 인지 편향을 완화하는 것이 안전하고 신뢰할 수 있는 임상 의사결정 지원에 필수적이기 때문이다.
• Approach: 임상적으로 실제 가능한 질병-증상 분포와 인간 진단 행동(clinician behavior)을 동시에 학습하는 DMAE를 설계하고, 두 예측기(AI predictor와 human simulator) 사이의 불일치가 감지될 때만 latent 표현을 전략적으로 perturbation하여 임상적으로 타당하지만 간과된 희귀질환 counterfactual을 생성한다.

Achievement

1) 공개 데이터셋 4개와 비공개 희귀질환 코호트 3개에서 표준 ML classifier 대비 희귀질환 탐지 성능을 향상시키면서도 일반질환 진단 성능을 유지했다. 2) 모델이 생성한 counterfactual 가설을 실제 임상의 진단, LLM 평가, 상급종합병원 전문가 검토와 비교 검증하여 인지적으로 간과된 그럴듯한 질환을 식별할 수 있음을 보였다. 3) 단순 정확도 향상을 넘어 가설 주도적(hypothesis-driven) 추론을 유도하고 임상 교육을 지원하는 counterfactual evidence를 제공했다.

How

• 환자 증상 데이터를 encoder를 통해 latent space로 인코딩하고, 이 latent 표현으로부터 AI predictor(실제 진단 분포 학습)와 human simulator(임상의 진단 행동 모방) 두 개의 예측 head를 동시에 학습.
• Attention 기반 sparse attention mechanism을 사용해 mask(m = Attention(X))를 생성하고, 이를 활용한 masked autoencoding 방식으로 결측치와 class imbalance에 강건한 표현을 학습.
• AI predictor와 human simulator의 예측이 괴리될 때(즉 의학적으로 가능한 진단과 임상적으로 고려되는 진단 사이 격차가 있을 때) latent code를 perturbation하여 human simulator의 불확실성을 높이는 방향으로 counterfactual latent trajectory 탐색.
• decoder를 통해 perturbation된 latent code를 다시 합성 환자 프로필로 재구성하고, AI predictor로 counterfactual 진단(예: Ehlers-Danlos syndrome 제안 및 후속 검사 권고)을 출력.
• 4개 공개 및 3개 비공개 희귀질환 데이터셋에서 정량 평가를 수행하고, LLM 및 임상의, 병원 전문가 검토를 통해 정성적 타당성 검증.

Originality

• counterfactual explanation을 단순한 post-hoc 설명이나 신뢰도 조정 수단이 아니라, 임상의의 anchoring bias를 명시적으로 겨냥한 인지적 개입(cognitive intervention) 도구로 재정의함.
• 질병-증상의 실제 분포와 인간의 진단 행동 분포를 하나의 DMAE 내에서 공동 학습하여 두 분포 간 괴리(gap)를 정량화하고, 이 괴리를 perturbation 트리거로 사용하는 새로운 메커니즘 제안.
• 희귀질환 데이터의 missing value와 class imbalance 문제를 masked autoencoding 및 sparse attention 기반 mask 생성으로 통합적으로 다룸.
• 통계적 희귀성이 아니라 "임상적으로 체계적으로 과소 고려된 정도"를 기준으로 희귀질환을 추천한다는 점에서 기존 통계 기반 rare disease 추천 시스템과 차별화.

Limitation & Further Study

• human simulator가 실제 다양한 임상의 집단의 이질적인 진단 행동을 얼마나 충실히 대표하는지에 대한 검증이 제한적일 수 있으며, 특정 병원·지역의 진단 패턴에 편향될 위험이 있음.
• 비공개 데이터셋 3개의 규모, 수집 절차, 라벨 품질에 대한 상세 정보가 부족하여 재현성과 일반화 가능성 평가가 어려움.
• LLM 평가와 소수 전문가 검토에 의존한 정성적 검증은 대규모 임상 현장 적용 전 추가적인 전향적(prospective) 임상 검증이 필요함.
• 논문 발췌만으로는 perturbation 강도나 human simulator의 불확실성 증가 기준이 어떻게 설정되는지 구체적 하이퍼파라미터와 이론적 근거가 충분히 제시되지 않음.
• 후속 연구로 다기관 전향적 연구를 통한 실제 임상 워크플로우 통합 및 다양한 인지 편향(확증 편향 등)으로의 확장이 필요.

Evaluation

총평: 인지 편향이라는 임상적으로 중요하지만 기존 ML 진단 연구에서 간과되어 온 문제를 counterfactual 생성 모델과 결합해 다룬 참신하고 의미 있는 시도이며, 다만 human simulator의 대표성과 비공개 데이터 검증의 엄밀성에 대한 추가 근거가 보강되면 더욱 설득력이 높아질 것이다.