Test-Time Adaptation for EEG Foundation Models: A Systematic Study under Real-World Distribution Shifts

Motivation

• Known: EEG foundation model은 대규모 self-supervised pretraining을 통해 일반화 가능한 표현을 학습할 수 있음이 알려져 있으며, computer vision과 speech 분야에서는 entropy minimization, self-training, prototype adjustment 등 다양한 TTA 기법이 개발되어 효과를 보여왔다.
• Gap: 기존 EEG 대상 TTA 연구는 driver drowsiness detection이나 multimodal sleep staging 등 단일 task나 architecture에 국한되어 있어 결과의 일반화 가능성을 판단하기 어렵고, 다양한 pretrained foundation model, downstream task, distribution shift 시나리오를 아우르는 체계적 평가가 부재하다.
• Why: 임상 현장에서 EEG foundation model을 배포하려면 site, device, population 간 distribution shift에 대응해야 하는데, privacy 규제와 라벨 부족 문제로 source-free이면서 label-free한 TTA가 실질적으로 중요한 해결책이 될 수 있어 그 효과에 대한 신뢰할 수 있는 근거가 필요하다.
• Approach: CBraMod, TFM-Tokenizer, REVE-Base, REVE-Large 등 다수의 pretrained EEG foundation model에 대해 Tent, SHOT, T3A라는 대표적인 TTA 기법을 적용하고, TUEV/TUAB(in-distribution), CHB-MIT/SleepEDF-78(out-of-distribution), Ear-EEG(extreme modality shift)로 구성된 5개 데이터셋에서 No-TTA baseline 대비 성능 변화를 측정하는 systematic benchmark를 구축했다.

Achievement

Figure 3. TTA relative performance on in-distribution datasets

1. NeuroAdapt-Bench 벤치마크 제안: EEG foundation model에 대한 TTA 평가를 위한 통합 벤치마크를 최초로 구축하고 code와 evaluation pipeline을 오픈소스로 공개했다.
2. 다양한 distribution shift에 대한 포괄적 실험: in-distribution subject-level variability, cross-dataset out-of-distribution shift, Ear-EEG 같은 extreme modality shift까지 아우르는 실험을 수행했다.
3. TTA 방법론에 대한 핵심 인사이트 도출: gradient 기반 방법(Tent, SHOT)은 성능을 크게 저하시키는 반면 optimization-free 방법인 T3A는 in-distribution, out-of-distribution, extreme-shift 전반에서 유일하게 평균적으로 balanced accuracy가 개선되었으며, CHB-MIT에서 REVE-Base 기준 최대 +18.9점 개선을 보였다.

How

Figure 2. Overview of NeuroAdapt-Bench. The benchmark consists of three stages: (1) supervised fine-tuning of an EEG fou

• labeled source data로 pretrained backbone은 고정한 채 lightweight classifier만 fine-tuning
• held-out test split을 unlabeled target data로 간주하여 Tent, SHOT, T3A 세 가지 TTA 기법 적용 및 No-TTA baseline과 비교
• binary task는 balanced accuracy, ROC-AUC, PR-AUC, multiclass task는 balanced accuracy, Cohen's κ, weighted F1로 평가
• per-seed relative improvement ΔTTA = metricTTA − metricNo-TTA로 적응 효과를 정량화
• TUEV, TUAB(in-distribution), CHB-MIT, SleepEDF-78(out-of-distribution), Ear-EEG(extreme modality shift) 5개 데이터셋과 CBraMod, TFM-Tokenizer, REVE-Base, REVE-Large 4개 foundation model 조합에 대해 반복 실험

Originality

• computer vision/speech 중심으로 개발된 TTA 기법들을 EEG foundation model 맥락에 처음으로 체계적으로 이식하여 평가한 시도
• 단일 task/architecture에 국한되지 않고 다수의 pretrained model, task, dataset을 아우르는 cross-cutting benchmark 설계
• Ear-EEG와 같은 극단적 modality shift까지 포함시켜 기존 연구보다 넓은 스펙트럼의 distribution shift를 다룸

Limitation & Further Study

• 발췌된 본문 기준으로 Ear-EEG 등 extreme modality shift 세팅에 대한 구체적 결과 논의가 충분히 제시되지 않아 전체 그림 파악이 어려움
• 평가된 TTA 기법이 Tent, SHOT, T3A 세 가지로 제한적이며, 최신 EEG 특화 또는 continual TTA 기법과의 비교가 부족할 수 있음
• 왜 gradient 기반 방법이 EEG 표현을 무너뜨리는지에 대한 심층적 원인 분석(예: gradient 통계, batch norm 통계와 EEG 신호 특성의 상호작용)이 더 필요함
• 향후 연구로 EEG 신호의 시계열적/생리학적 특성을 반영한 domain-specific TTA 알고리즘 개발이 요구됨

Evaluation

총평: EEG foundation model의 실제 임상 배포에서 중요한 문제인 distribution shift에 대응하기 위해 TTA 기법을 체계적으로 검증한 실용적이고 시의적절한 벤치마크 연구로, gradient 기반 TTA의 위험성과 optimization-free 방법의 상대적 안정성이라는 명확하고 실행 가능한 인사이트를 제공한다.