SleepMaMi: A Universal Sleep Foundation Model for Integrating Macro- and Micro-structures

Motivation

• Known: 기존 sleep foundation model(SleepFM, SleepGPT, Sleep2Vec, OSF 등)은 PSG의 다양한 신호를 활용해 sleep staging, apnea detection, demographic estimation 등 여러 downstream task를 지원하도록 발전해왔으며, task-specific 모델들도 CNN, RNN, Transformer 기반으로 sleep scoring 등에서 좋은 성능을 보여왔다.
• Gap: 기존 sleep foundation model들은 대체로 30초 epoch과 같은 국소적 micro-structure 특징에 국한되어 있어 hour-scale의 전체 야간 sleep macro-structure(수면 주기, stage distribution 등)를 포착하지 못하며, macro-architecture가 장기 건강 예후의 중요한 biomarker임에도 이를 모델링하는 연구는 크게 부족하다.
• Why: Sleep macro-structure는 장기 건강 결과 및 질병 예후를 예측하는 핵심 biomarker로 임상적으로 입증되어 있으므로, micro-structure에만 의존하는 기존 모델의 한계를 극복하고 subject-level 진단과 second-level segmentation을 모두 지원하는 통합 모델이 임상 sleep analysis에 중요한 의미를 가진다.
• Approach: SleepMaMi는 Macro-Encoder(전체 야간 시간적 의존성 모델링)와 Micro-Encoder(단기 biosignal 특성 포착)로 구성된 계층적 dual-encoder 구조를 제안하며, 각각 Demographic-Guided Contrastive Learning과 hybrid MAE+multi-modal contrastive objective로 사전학습된다.

Achievement

Figure 5. Few shot evaluation. The performance is measured with varying number of fine-tuning samples in Macro-F1 score.

1. 통합 Sleep Foundation Model 제안: SleepMaMi는 micro-구조와 macro-구조를 명시적으로 함께 인코딩하는 최초의 sleep foundation model로, second-level segmentation부터 subject-level disease prediction까지 폭넓은 응용을 지원한다.
2. 새로운 biosignal 사전학습 패러다임: MAE 기반 재구성과 multi-modal contrastive alignment를 결합해 modality별 fidelity와 cross-modal consistency를 동시에 확보하는 학습 전략을 제시했다.
3. Demographic-Guided Contrastive Learning 도입: 주관적 수기 라벨 없이 나이, 성별, BMI 등 객관적 메타데이터만으로 장기 시퀀스의 global sleep architecture를 효과적으로 학습하는 방법을 고안했다.
4. 대규모 사전학습 및 성능 검증: 20,964개 PSG 기록(158,028시간)으로 사전학습하여 다양한 downstream task에서 기존 foundation model들을 능가하거나 대등한 성능과 label-efficient 적응력을 입증했다.

How

Figure 2. Micro-Encoder design and pretraining method. The Micro-Encoder adopts a private–shared encoder architecture, i

• Micro-Encoder: private-shared encoder 구조로 각 modality(EEG, ECG, respiratory 등)의 고유 패턴과 cross-modal correlation을 함께 포착하며, patch merging으로 shared encoder의 연산 효율을 높임
• Micro-Encoder 학습: masked autoencoding(MAE)을 통한 reconstruction과 contrastive learning(CL)을 결합한 hybrid objective 사용, Mixture of Experts transformer와 cross-attention 기반 upsampling으로 modality별 decoder 구성
• Macro-Encoder: 전체 야간 시퀀스를 처리하여 sequence-level embedding을 age, sex, BMI 등 객관적 인구통계 메타데이터와 정렬하는 Demographic-Guided Contrastive Learning으로 학습
• 20,964개 PSG 레코딩(158K시간)의 대규모 코퍼스로 사전학습 후 sleep scoring, apnea-hypopnea segmentation, disease prediction, age/sex estimation 등 다양한 downstream task에서 few-shot 및 label-efficient 평가 수행

Originality

• 기존 sleep foundation model들이 국소적 epoch 단위 특징에 머무는 것과 달리, micro-와 macro-structure를 하나의 계층적 프레임워크에서 명시적으로 통합한 최초의 시도
• 수기 라벨 없이 객관적 인구통계 메타데이터만을 활용하는 Demographic-Guided Contrastive Learning이라는 새로운 self-supervision 신호를 제안하여 macro-structure 학습의 확장성 문제를 해결
• Micro-Encoder에서 private-shared encoder와 MAE+contrastive learning을 결합한 hybrid 학습 전략을 biosignal 도메인에 특화하여 설계

Limitation & Further Study

• 발췌된 내용만으로는 Macro-Encoder의 구체적 아키텍처(Figure 3 관련 세부사항)와 손실 함수의 수식적 정의가 충분히 설명되지 않아 재현성 검증이 어려움
• Demographic-Guided Contrastive Learning이 age, sex, BMI 같은 제한된 메타데이터에 의존하는데, 이러한 인구통계 정보가 없는 코호트나 편향된 인구통계 분포를 가진 데이터셋에서는 일반화 성능이 저하될 가능성이 있음
• 20,000여 건의 대규모 PSG 데이터가 특정 기관이나 인구 집단에 편중되어 있을 경우 domain shift에 대한 강건성 검증이 추가로 필요함
• 후속 연구로는 macro-structure와 micro-structure 간 상호작용을 더 명시적으로 모델링하는 fusion 메커니즘이나, 질병별 세분화된 임상 검증이 필요해 보임

Evaluation

총평: Sleep foundation model 분야에서 그동안 간과되었던 macro-structure를 명시적으로 통합한 시도로서 참신성과 임상적 의의가 크며, 대규모 사전학습과 다양한 downstream task 검증을 통해 실용성을 입증했으나 본문 발췌만으로는 세부 아키텍처와 실험적 근거를 완전히 판단하기 어렵다.