Learning from Bilateral PPG via Cross-Site Attention and Knowledge Distillation

Motivation

• Known: 기존 wrist-worn PPG 기반 심박수 추정 연구는 단일 손목 신호에 의존하며, 손으로 설계한 signal quality index(SQI)를 이용해 motion artifact를 처리해왔다. Bilateral PPG는 주로 임상 환경(말초동맥질환 진단, 혈관 비대칭 평가, pulse transit time 분석 등)에서 다루어졌고, multi-site PPG 융합 연구도 존재하나 대부분 hand-crafted quality metric에 의존하거나 추론 시 모든 센서 부착 지점을 요구한다.
• Gap: 양쪽 손목의 신호 품질은 활동 및 시간에 따라 비대칭적이고 상보적으로 변화하지만, 기존 단일 손목 기반 시스템은 이러한 시간에 따라 변하는 상보 정보를 활용하지 못하며, 두 개의 동기화된 센서를 요구하는 방식은 실제 웨어러블 배포에 비현실적이라는 한계가 있다.
• Why: 스포츠 상황에서 motion artifact에 강인하면서도 실제 소비자 웨어러블에서 구현 가능한 단일 센서 기반 심박수 추정 기법을 제시함으로써, 학습 시에만 bilateral 정보를 활용하고 배포 시에는 단일 손목 센서만으로 정확도를 높일 수 있는 실용적 패러다임을 제공한다.
• Approach: Bilateral 신호를 동시에 처리하는 teacher 모델(dual PapaGei encoder + SQI-conditioned temporal gating + cross-wrist self-attention)을 먼저 학습시킨 뒤, 이 모델이 학습한 motion-compensation prior를 knowledge distillation을 통해 경량 single-wrist EfficientNet-1D student에 전이하는 2단계 전략을 제안한다.

Achievement

Figure 3. (a) Shows the combined predicted versus ground-truth

1. Bilateral teacher 모델의 우수한 성능: 6가지 활동과 30명의 피험자, ECG ground truth를 포함한 bilateral 스포츠 데이터셋에서 2.85 bpm MAE, r = 0.96을 달성하여 unilateral baseline을 능가하였다.
2. 효과적인 knowledge distillation: distillation을 통해 얻은 single-wrist student가 non-dominant wrist에서 2.79 bpm, dominant wrist에서 3.72 bpm MAE를 기록하여, 추론 시 단일 센서만 필요함에도 대응되는 unilateral baseline을 상회하였다.
3. SQI 특징 선택의 타당성 검증: SHAP 분석을 통해 skewness와 PSD ratio가 SQI gating에 가장 유용한 특징임을 확인하여 모델 설계 선택을 정량적으로 뒷받침하였다.

How

Figure 2. Overview of the proposed bilateral PPG-based heart rate

• PPG Sports 데이터셋(30명, 6개 활동, 양쪽 손목 PPG + 흉부 ECG, 약 48시간 분량)을 사용하여 125Hz 리샘플링, 5σ clipping, 4차 Butterworth bandpass filter([0.5, 8.0] Hz), 2차 다항식 detrending, min-max 정규화를 적용하고, ECG는 NeuroKit2로 R-peak를 검출해 ground truth HR을 산출.
• 10초 윈도우, 8초 스텝으로 세그먼트를 구성하고 피험자 단위로 train(S01–S21)/val(S22–S25)/test(S26–S30) 분리.
• 각 PPG 세그먼트에 대해 1.5초 sub-window, 0.5초 stride로 skewness와 PSD ratio를 계산하여 SQI feature matrix S를 구성.
• 양쪽 손목 신호를 각각 별도 가중치의 PapaGei-S encoder로 인코딩한 뒤, SQI 기반 lightweight network로 temporal gate h를 생성하여 encoder feature Z에 곱해 quality-aware aggregation을 수행.
• 두 손목의 gated embedding을 2-token sequence로 구성해 Transformer 기반 cross-wrist self-attention으로 융합하고 average pooling 후 선형 레이어로 HR을 회귀 예측, Huber loss와 Adam(lr=1e-3, weight decay=1e-4), cosine annealing(200 epoch, batch size 32)으로 end-to-end 학습.
• 학습된 bilateral teacher의 motion-compensation prior를 knowledge distillation을 통해 7-stage MBConv 기반 EfficientNet-1D(SE attention 포함) single-wrist student에 전이.

Originality

• 임상 중심으로 연구되던 bilateral PPG 개념을 스포츠 상황의 motion-robust HR 추정 문제로 확장하고, hand-crafted quality metric 대신 학습 가능한 SQI-conditioned gating과 cross-wrist attention을 도입한 점.
• Knowledge distillation을 단순 모델 압축이 아니라 "richer bilateral 입력에서 학습한 결정을 단일 센서로 근사"하는 새로운 문제 설정으로 확장 적용한 점.
• SHAP 분석을 통해 SQI 특징 선택을 정량적으로 정당화하여 모델 설계의 해석 가능성을 높인 점.

Limitation & Further Study

• 발췌된 내용에는 student 학습을 위한 distillation loss 구성, teacher-student 간 지식 전이의 구체적 메커니즘(예: feature-level vs. output-level distillation)이 명확히 설명되지 않아 재현성 검증이 어려움.
• 30명, 단일 데이터셋에서만 평가되어 다양한 인구통계학적 특성이나 피부색, 센서 위치 변화에 대한 일반화 가능성이 검증되지 않음.
• Dominant wrist student의 MAE(3.72 bpm)가 non-dominant wrist student(2.79 bpm)보다 높아, 손목별 비대칭성에 따른 student 성능 편차에 대한 추가 분석이나 개선 방안이 필요함.
• 후속 연구로는 다양한 웨어러블 하드웨어와 실사용 환경에서의 검증, 그리고 distillation loss 설계에 대한 ablation 연구가 요구됨.

Evaluation

총평: Bilateral PPG를 학습 시에만 활용하고 배포 시에는 단일 센서로 동작하는 실용적인 접근을 제시하며, motion-robust HR 추정 분야에서 의미 있는 성능 향상을 보여준 견고한 연구이다. 다만 distillation 메커니즘의 세부 사항과 일반화 검증이 보완된다면 실제 웨어러블 제품 적용 가능성이 더욱 높아질 것으로 보인다.