Bio-Inspired Self-Supervised Learning for Wrist-worn Accelerometer Data

Motivation

• Known: 기존 wearable SSL 연구는 contrastive learning, augmentation prediction, masked reconstruction 등을 활용해 라벨이 부족한 상황에서 손목 가속도계 표현을 학습해왔으며, NHANES나 UK Biobank 같은 대규모 unlabeled corpus로 사전학습해 HAR 성능을 개선해 왔다.
• Gap: 기존 방법들은 가속도계 신호를 임의 길이의 고정 윈도우로 나누어 처리하는 unstructured time series로 취급함으로써, 인간 움직임의 생물학적 구조(submovement 등)를 반영한 의미 있는 토큰화 없이 SSL을 수행하고 있어 waveform 국소 형태에만 집중하고 고차원적 시간적 조직화를 학습하지 못한다는 한계가 있다.
• Why: 자연어의 단어처럼 도메인 고유 구조를 반영한 토큰화가 SSL의 inductive bias를 강화해 다운스트림 성능을 크게 개선할 수 있다는 점에서, 생물학적으로 근거한 토큰화는 wearable SSL의 근본적 설계축으로서 라벨 희소성 문제 해결에 중요한 실마리를 제공한다.
• Approach: 운동 제어 이론의 submovement theory를 기반으로 손목 움직임을 유한한 submovement 시퀀스로 구성된 movement segment로 토큰화하고, 이 토큰들에 대한 masked reconstruction으로 Transformer encoder(Bio-PM)를 사전학습한 뒤 frozen encoder를 linear probe로 여러 HAR 벤치마크에 전이한다.

Achievement

Figure 3. Downstream Macro-F1 across varying labeled-subject budgets. Bio-PM maintains strong performance in low-resourc

1. Bio-inspired Tokenization 제안: submovement theory에 근거해 연속 가속도계 신호를 고정 임의 윈도우가 아닌 생물학적으로 의미 있는 movement segment 단위로 분할하는 확장 가능한 토큰화 전략을 최초로 제시했다.
2. Bio-PM 모델 개발: movement segment의 masked reconstruction을 통해 시간적 의존성과 구성적 구조를 학습하는 Transformer 기반 encoder를 제안하고 NHANES(약 28,000시간, 11,000명 참가자)로 사전학습했다.
3. 여섯 개 HAR 벤치마크에서 성능 우위 입증: subject-disjoint 여섯 개 공개 HAR 벤치마크에서 강력한 wearable SSL baseline 대비 평균 6%(범위 3–12%) macro-F1 향상을 달성했다.
4. 라벨 효율성 개선: 다양한 labeled-subject 예산 하에서도 baseline 대비 데이터 효율적인 전이 성능을 보였다.

How

Figure 2. Illustration of the proposed tokenization strategy, which

• Submovement theory에 따라 손목 각 축의 velocity를 bell-shaped basis function σ(·)들의 superposition으로 모델링(수식 1)하고, 이를 이용해 raw 가속도 신호를 고주파 선형 가속도(중력 제거)와 저주파 잔차 중력 성분으로 분리하는 high-pass filter를 적용한다.
• 분리된 고주파 성분에서 submovement 경계를 탐지해 finite sequence of submovements로 구성된 sub-second 단위의 movement segment를 정의하고 이를 토큰으로 사용한다.
• Movement segment 시퀀스를 Transformer encoder에 입력하고, 일부 segment를 masking한 뒤 decoder가 이를 복원하도록 하는 masked reconstruction objective로 사전학습(Movement Composition Pre-training)을 수행한다.
• 사전학습된 encoder를 frozen 상태로 유지하고, 그 위에 multinomial logistic regression 기반 linear probe를 학습시켜 소규모 labeled dataset에 대한 활동 분류(Activity Classification) 성능을 평가한다.
• 여섯 개의 subject-disjoint HAR 벤치마크와 다양한 labeled-subject 예산, additive sensor noise 등에 대한 robustness 분석을 수행해 baseline SSL 방법들과 비교한다.

Originality

• 자연어의 word/phoneme에 대응하는 개념으로 운동 제어 이론(submovement theory)을 최초로 wearable 가속도계 SSL의 토큰화 설계에 접목한 점이 독창적이다.
• 기존 SSL이 임의의 고정 길이 윈도우를 사용하는 것과 달리, 생물학적으로 의미 있는 가변 길이 movement segment를 토큰 단위로 정의하여 sequence modeling의 기본 단위를 재정의했다.
• augmentation prediction, masked reconstruction, contrastive learning 각각의 한계(비현실적 아티팩트 shortcut, trivial interpolation, augmentation 의존성)를 명확히 짚고, 토큰화 자체를 독립적 설계축으로 분리하여 검증한 실험 설계가 새롭다.

Limitation & Further Study

• 제안된 movement segment 토큰화는 손목 착용 가속도계와 submovement theory가 잘 적용되는 upper-limb 동작에 특화되어 있어, 하체 움직임이나 다른 신체 부위 센서로의 일반화 가능성이 명확히 검증되지 않았다.
• 발췌된 내용만으로는 submovement 경계 탐지(segmentation) 알고리즘의 견고성, 파라미터 민감도, 그리고 노이즈가 많은 실생활 데이터에서의 segmentation 오류가 다운스트림 성능에 미치는 영향에 대한 심층 분석이 부족해 보인다.
• 여섯 개 벤치마크가 대부분 wrist-worn 단일 센서 기반으로 제한되어 있어, 다중 센서나 다른 착용 위치, 더 다양한 인구 집단에 대한 일반화 검증이 추가로 필요하다.
• 향후 연구로는 submovement 파라미터를 데이터 기반으로 학습하는 방법, 다른 신체 부위나 활동 유형으로의 확장, 그리고 실시간 온디바이스 적용 가능성에 대한 탐구가 제안될 수 있다.

Evaluation

총평: 운동 제어 이론에 기반한 생물학적으로 의미 있는 토큰화라는 참신한 아이디어를 wearable SSL에 성공적으로 적용해 여러 벤치마크에서 일관된 성능 향상을 보인 견실한 연구로, HAR 분야에서 토큰화 설계의 중요성을 환기시키는 의미 있는 기여를 한다.