Time is continuous, why chunk it? Token-Free State-Space Models for ECG

Motivation

• Known: CNN 및 Transformer 기반 ECG foundation model들은 10초 고정 길이 입력에 최적화되어 있으며, 짧은 신호는 zero-padding, 긴 신호는 sliding-window chunking을 통해 처리해왔다. Mamba와 같은 SSM은 DNA, byte-stream 등에서 tokenization 없이 raw sequence를 처리할 수 있음이 입증되었다.
• Gap: 기존 ECG 도메인에 Mamba를 적용한 연구들은 CNN 기반 front-end나 patch tokenizer를 Mamba 블록 앞에 붙여 사용함으로써, 인위적 chunking에 의존하는 fixed-length 모델의 한계를 그대로 계승하고 Mamba 고유의 token-free 연속 신호 처리 능력을 활용하지 못하고 있다.
• Why: 임상 현장의 ECG 데이터는 웨어러블 기기의 수초 신호부터 24시간 Holter 기록까지 길이가 매우 다양하므로, 고정 길이 구조에 의존하는 현재 모델들은 실제 임상 환경에 근본적으로 부합하지 않으며, 이를 해결하는 token-free 아키텍처는 임상 적용성과 모델 견고성 측면에서 중요하다.
• Approach: Raw 12-lead ECG 신호를 단순 linear projection으로 고차원 hidden space(d_model=512)에 매핑한 후, 4개의 순차적 Mamba block(d_state=16, expansion factor 2)으로 구성된 인코더로 patch tokenization이나 CNN feature extraction 없이 직접 처리하고, MAE 스타일의 비대칭 encoder-decoder 구조로 Masked Signal Modeling을 통해 자기지도 사전학습을 수행한다.

Achievement

Figure 3. Diagnostic Extrapolation across 30-Minute Sequences

1. 경쟁력 있는 고정 길이 성능: PTB-XL 10초 표준 벤치마크에서 순수 Mamba 인코더가 CNN 기반 MERL, Transformer 기반 ST-MEM과 유사한 수준의 accuracy, top-2 recall, AUROC를 달성함.
2. 가변 길이 신호에 대한 견고성: truncated(2초, 5초) 및 30분 연속 신호(INCART)에서 zero-padding이나 sliding-window chunking에 의존하는 baseline 대비 성능 저하가 현저히 적음을 확인함.
3. 선형 계산 복잡도 및 효율성: O(N) 계산 확장성을 검증하고, sliding-window chunking 없이 전체 녹화를 단일 pass로 처리하면서도 우수한 inference throughput을 보임.

How

Figure 2.

• Raw 12-lead ECG 신호를 linear projection layer로 d_model=512 hidden space에 매핑 (patch tokenization 없음)
• 4개의 순차적 Mamba block(d_state=16, expansion factor=2)으로 구성된 인코더, 각 블록 뒤 Layer Normalization 적용
• 경량 단일 Mamba block + linear layer로 구성된 decoder를 통한 자기지도 Masked Signal Modeling (MSM) 사전학습, 100ms 블록 단위 50% masking ratio, MIMIC-IV-ECG 데이터셋 사용
• MAE 스타일 비대칭 구조: encoder는 unmasked visible segment만 처리, decoder 전에 trainable mask token 삽입, masked timestep에 대해서만 MSE 최적화
• Downstream: encoder freeze 후 global average pooling과 linear classifier로 PTB-XL에서 linear probing (arrhythmia classification, 5개 superclass)
• INCART 30분 연속 녹화에 대해 fine-tuning 없이 일반화 성능 평가, PTB-XL superclass로 hierarchy 기반 라벨 매핑
• Baseline(MERL, ST-MEM)은 fixed-length 제약으로 짧은 입력에 zero-padding, 긴 입력에 sliding-window chunking + mean-pooling 적용, padding 영향 완화 위해 masking 전략 적용
• Paired bootstrap resampling을 통한 통계적 유의성 검증, throughput/peak VRAM으로 계산 효율성 벤치마크

Originality

• ECG 도메인에서 CNN front-end나 patch tokenizer 없이 순수 Mamba block만으로 raw 연속 신호를 직접 처리하는 최초의 token-free 아키텍처 제안
• 기존 Mamba-ECG 연구들이 CNN/patch tokenizer를 전처리로 사용한 것과 달리, masking을 linear projection 이전 raw signal 단계에 직접 적용하는 MSM 설계
• 고정 길이 벤치마크뿐 아니라 truncated/extended variable-length 시나리오를 체계적으로 설계하여 SSM의 구조적 견고성을 실증적으로 입증하는 평가 프로토콜 구성

Limitation & Further Study

• PTB-XL linear probing 성능이 MERL, ST-MEM 대비 다소 낮아(58.26% vs 63.33%, 60.12%) 순수 Mamba 인코더의 표현력이 아직 완전히 경쟁력을 확보했다고 보기 어려움
• Peak VRAM이 baseline 대비 상당히 높아(1968.8 vs 292.3, 863.4) 실제 배포 시 자원 효율성 트레이드오프가 존재함
• 4-block의 비교적 단순한 아키텍처와 제한된 downstream task(arrhythmia classification) 및 단일 사전학습 데이터셋(MIMIC-IV-ECG)에 국한되어 일반화 가능성 검증이 추가로 필요함
• fine-tuning 없이 linear probing만으로 평가되어, full fine-tuning 시 성능 격차가 어떻게 변화하는지에 대한 추가 연구가 필요함

Evaluation

총평: 고정 길이·tokenization 패러다임의 근본적 한계를 지적하고 순수 SSM 기반 token-free 아키텍처로 이를 해결하려는 시도가 신선하며 임상적으로도 의미가 크지만, 절대 성능 면에서 아직 SOTA를 완전히 능가하지는 못해 향후 스케일업과 최적화 연구가 필요한 워크숍 수준의 초기 연구다.