MoRGen: Mixture-of-Resolutions Generative Forecasting for Irregularly Sampled Medical Time-Series Data

Motivation

• Known: ETHOS, AReS 등 event-stream 기반 autoregressive generative model이 EHR trajectory를 rollout하여 zero-shot 위험 예측(risk forecasting)에 활용될 수 있음이 알려져 있으며, 이들은 통상 분 단위 또는 일 단위 등 하나의 고정된 temporal resolution으로 토큰을 생성한다.
• Gap: 혈청 칼륨처럼 분~시간 단위로 급변하는 지표와 HbA1c처럼 수주에 걸쳐 변화하는 지표가 공존함에도, 기존 연구들은 고정된 fine-grained resolution 하나만을 채택하여 모델 해상도와 평가 대상 endpoint의 시간적 역학(temporal dynamics) 간 불일치가 발생하는 문제를 체계적으로 다루지 않았다.
• Why: 임상 위험 계층화(risk stratification)는 치료 결정과 퇴원 후 관리 계획에 직결되는데, 잘못된 temporal resolution 선택은 discrimination, calibration, sharpness 모두에서 성능 저하를 초래할 수 있어, 다양한 outcome과 horizon에 걸쳐 안정적으로 잘 작동하는 예측 방법이 임상적으로 중요하다.
• Approach: 여러 고정 temporal resolution(∆, 예: 일/주/월 단위)에서 각각 독립적으로 학습된 generative forecasting expert들의 zero-shot 예측을 저용량 task-specific mixture 모델로 결합하여 최적 해상도가 task마다 다르다는 문제를 해결한다.

Achievement

1. Resolution별 성능 편차 실증: 개별 generative forecaster의 zero-shot 정확도가 temporal resolution에 따라 체계적으로 달라지며, 최적 resolution이 task와 horizon에 따라 다르다는 것을 세 개의 독립적인 임상 데이터셋에서 보였다.
2. MoRGen 제안: 여러 resolution-specific expert의 forecast를 저용량 task-specific mixture로 융합하는 MoRGen을 제안하여, 단일 resolution 모델 대비 낮은 binary cross-entropy(BCE)와 통계적으로 유의미한 AUROC 향상을 달성했다.
3. MEDS 표준 준수 파이프라인: MEDS(McDermott et al., 2025) 표준을 따름으로써 여러 데이터셋에 걸쳐 동일하고 재현 가능한 파이프라인을 유지하고, 다른 MEDS 호환 데이터셋에 대한 적용을 용이하게 했다.

How

• 환자 이력 h_j를 조건으로 하는 autoregressive generative model에서 Monte Carlo rollout(S개의 미래 trajectory 샘플)을 통해 horizon 내 outcome 발생 확률 π̂_j^(k)를 추정
• 서로 다른 temporal resolution ∆(예: 일/주/월 단위 window tokenization)로 각각 학습된 다수의 resolution-specific generative expert를 구성 (Figure 1, 2)
• 각 expert의 horizon risk 추정치를 task-specific한 저용량 mixture 모델로 융합하여 최종 예측을 산출 (Figure 3, MoRGen fusion)
• Discrimination(AUROC), calibration, sharpness, BCE 등 다각적 지표로 평가
• 세 개의 독립적인 임상 데이터셋에서 여러 horizon과 outcome에 걸쳐 baseline(고정 resolution 모델)과 비교

Originality

• 기존 연구들이 event-stream 기반 fine-grained 표현 또는 encounter/visit 단위의 coarse window 중 하나만 채택한 것과 달리, 고정 temporal resolution ∆을 명시적으로 sweep하여 outcome별 최적 해상도가 다름을 체계적으로 규명
• 데이터셋별 encounter 코드나 방문 정의에 의존하지 않고, 고정 window 크기만으로 resolution을 제어하여 데이터셋 간 비교가능하고 분석 가능한 방식을 제시
• 여러 resolution의 생성 전문가를 저용량 mixture로 융합하는 최초의 접근(Table 1의 Fusion 열 기준 유일)으로, inference latency 증가를 최소화하면서 성능을 개선

Limitation & Further Study

• 초록과 발췌 내용상 mixture 모델의 구체적 구조(게이팅 방식, 학습 방법)와 expert 수 선택 기준에 대한 세부 설계 원칙이 명확히 드러나지 않아, 다른 도메인이나 task로의 일반화 가능성에 대한 추가 검증이 필요
• 세 개의 임상 데이터셋에 대한 실험 결과가 제시되었으나 발췌본에서는 구체적 성능 수치나 calibration/sharpness에 대한 정량적 트레이드오프 분석이 충분히 제공되지 않아 판단에 제약이 있음
• 향후 연구로는 mixture의 expert 개수 및 resolution 간격 선택에 대한 자동화된 최적화, 그리고 mixture 자체를 zero-shot으로 적용할 수 있는 방법에 대한 탐구가 필요해 보임

Evaluation

총평: 여러 temporal resolution에서 학습된 generative forecasting expert를 융합한다는 아이디어는 간단하지만 임상 시계열의 이질적 시간 역학 문제를 실용적으로 해결하며, 여러 데이터셋에서의 실증적 검증을 통해 신뢰성을 높인 의미 있는 연구이다.