ANTiC: Adaptive Neural Temporal In Situ Compressor

Motivation

• Known: 대규모 시뮬레이션의 데이터 폭증 문제를 해결하기 위해 temporal frame selection과 spatial compression(예: neural fields 기반 neural compression, transform 기반 codec, tensor compression 등)이 각각 별도로 연구되어 왔으며, 최근 neural field 기반 neural compression이 기후·상대론적 시뮬레이션·플라즈마 물리 등에서 높은 압축률을 보였다.
• Gap: 기존 temporal selection 기법들은 underlying physics의 invariants에 무관한 heuristic 기반이라 시스템이 바뀌면 비효율적이고, 대부분의 in-situ 압축 기법은 offline post-hoc 처리에 의존하거나 temporal·spatial 축을 분리하여 다루기 때문에 petascale/exascale 환경에서 storage bottleneck을 근본적으로 해결하지 못한다.
• Why: exabyte 규모로 성장하는 HPC 시뮬레이션 데이터는 storage 용량 증가 속도가 compute 대비 둔화되고 있어, in-situ로 물리 특성을 반영한 효율적 압축이 없다면 대규모 과학 워크플로우의 확장성이 심각하게 제한되기 때문에 이 문제는 중요하다.
• Approach: 물리 기반 temporal selector로 informative snapshot만 실시간 선별하고, 선택된 snapshot 간 residual을 neural field 가중치의 continual fine-tuning(LoRA 등 low-rank 업데이트 포함)으로 학습하는 spatial compressor를 결합하여, 단일 스트리밍 패스에서 시공간 압축을 동시에 달성한다.

Achievement

1. 높은 압축률 달성: 2D Kolmogorov flow에서 최대 435배, 3D Binary Black Hole(BBH) merger 시뮬레이션에서 최대 6807배의 spatiotemporal 압축을 달성했다.
2. temporal 및 spatial 축 동시 최적화: temporal selector가 Kolmogorov flow에서 62%, BBH에서 약 45%의 snapshot 수를 감소시켰고, spatial neural compression이 각각 47배, 최대 3744배의 snapshot당 압축을 제공했다.
3. 정확도-메모리 Pareto front 제공: low-rank residual update의 rank를 조절해 사용자가 요구에 따라 정확도와 메모리 사용량을 trade-off할 수 있는 유연성을 확보했다.
4. 물리 재구성 충실도 검증: enstrophy flux 재구성 등 물리량 기반 정성적/정량적 평가를 통해 장시간(long-horizon) trajectory에서도 CFT 기반 재구성 fidelity를 확인했다.

How

• Physics-aware Temporal Selector: 새로운 snapshot이 도착할 때 이전 snapshot들의 context와 PDE-dependent physics-aware metric(예: enstrophy 등)을 기반으로 accept/reject 결정을 내려 informative snapshot만 필터링.
• Spatial Neural Compression: 선택된 snapshot을 neural field로 인코딩하되, 인접 snapshot 간 residual을 continual fine-tuning(CFT)으로 학습, full fine-tuning 또는 LoRA 기반 low-rank 업데이트로 weight를 갱신.
• Gate-Regulator 구조를 통해 두 모듈이 비동기적(asynchronous)으로 동작하며 단일 스트리밍 패스에서 시공간 압축을 결합 수행.
• 평가 축: (i) Storage Efficiency(전체 시공간 압축비), (ii) Spatial Fidelity(복원 후 물리 재구성 품질), (iii) Computational Throughput(snapshot당 학습 시간).
• 실험 대상: 2D turbulent Kolmogorov flow와 4.2 TiB 규모의 3D Binary Black Hole merger 시뮬레이션.

Originality

• temporal selection과 spatial compression을 분리하지 않고 physics-aware 기준으로 통합한 최초의 in-situ 프레임워크로, 기존 heuristic 기반 temporal sampling의 physics-agnostic 한계를 극복.
• neural field 기반 spatial compression에 continual fine-tuning과 LoRA 스타일 low-rank residual 학습을 결합하여, 인접 snapshot 간 중복을 활용한 압축 효율을 높임.
• 단일 스트리밍 패스에서 시공간 축을 동시에 다루는 end-to-end 구조로 offline post-hoc 압축 대비 petascale/exascale 시뮬레이션에 실질적으로 적용 가능.

Limitation & Further Study

• 논문에서 다룬 물리 시스템이 2D Kolmogorov flow와 BBH merger 두 사례에 국한되어, 다양한 multi-rate/stiff PDE(예: MHD, plasma physics 등)에 대한 일반화 가능성 검증이 제한적이다.
• physics-aware temporal selector의 metric이 PDE-dependent하다고 언급되어 있어 새로운 물리 시스템마다 metric을 재설계해야 하는 확장성 문제가 있을 수 있다.
• LoRA rank 선택에 따른 accuracy-memory trade-off의 구체적 가이드라인이나 자동화된 선택 전략이 부족해 실사용 시 사용자 개입이 필요할 것으로 보인다.
• 후속 연구로 다양한 PDE 도메인에서의 일반화, 자동 rank 선택, 그리고 실제 HPC 인프라에서의 실시간 처리량(throughput) 검증이 필요하다.

Evaluation

총평: ANTIC은 physics-aware temporal selection과 neural field 기반 continual fine-tuning spatial compression을 결합해 대규모 PDE 시뮬레이션의 in-situ 압축 문제를 효과적으로 해결하는 실용적이고 독창적인 프레임워크이며, 향후 다양한 물리 도메인으로의 확장성 검증이 기대된다.