Transforming Weather Data from Pixel to Latent Space

Motivation

• Known: 기존 딥러닝 기반 weather 연구는 대부분 pixel space에서 직접 예측 및 복원을 수행하며, ERA5와 같은 대규모 데이터셋은 수백 TB 규모로 저장·연산 비용이 매우 크다. 최근 GenCast 등 probabilistic modeling 기반 접근과 CRA5 같은 압축 기법들이 등장했지만, 대부분 특정 task나 특정 PVS에 종속되어 있다.
• Gap: Pixel space 기반 모델은 (1) task의 본질적 불확실성으로 인해 소규모 극값 복원이 어려워 smooth한 출력이 발생하고, (2) 단일 PVS에만 적용 가능해 다양한 weather 시나리오에 대한 적응성이 떨어지며, (3) 데이터 저장 및 계산 비용이 매우 크다는 세 가지 근본적 한계를 지닌다.
• Why: Weather reconstruction과 downstream task를 분리하고 latent space에서 작업함으로써, 극한 기후 예측의 정확도와 선명도를 높이는 동시에 대규모 weather 데이터의 저장·연산 비용 문제를 근본적으로 해결할 수 있어, 기후변화 대응을 위한 딥러닝 기반 weather 연구의 확장성을 크게 높일 수 있다.
• Approach: Weather Latent Autoencoder(WLA)와 그 안의 Pressure-Variable Unified Module(PVUM)을 통해 임의의 PVS를 통일된 latent representation으로 변환하고, 이 latent space 위에서 weather task 모델을 학습·추론하는 Latent Space Framework를 제안한다.

Achievement

1. Pixel-to-Latent 변환 프레임워크 제안: weather task를 pixel space가 아닌 latent space에서 수행하도록 하여 결과의 선명도(sharpness)를 높이고 통일된 weather representation을 가능하게 하며 저장·연산 비용을 크게 줄였다.
2. Weather Latent Autoencoder(WLA) 및 PVUM 설계: 임의의 pressure-variable subset을 pixel space에서 unified latent space로 변환할 수 있는 구조를 설계하여 우수한 compression 및 reconstruction 성능을 달성했다.
3. ERA5-Latent 데이터셋 구축: 원본 244.34 TB 규모의 ERA5 데이터를 0.43 TB로 압축(566.3배 압축률)하여 다양한 PVS 구성(상층 변수 6/13/25 pressure level, surface 변수 4/8종, 강수 변수 1/6종)에 대한 unified latent representation을 제공하는 대규모 데이터셋을 공개했다.
4. Downstream task 성능 검증: latent space에서 학습된 task 모델이 낮은 데이터 비용으로 다양한 PVS에 적용 가능하며, pixel space 대비 우수한 성능을 보임을 실험적으로 입증했다.

How

• WLA: weather reconstruction을 담당하는 autoencoder를 사전학습(pretrain)하여 latent feature가 small-scale extreme value를 잘 보존하도록 함으로써, downstream task의 불확실성이 reconstruction 품질에 미치는 영향을 최소화함
• PVUM: pressure-variable metadata를 활용해 hypernetwork를 통해 adaptive mapping network weight를 생성, 다양한 PVS를 하나의 unified latent space로 매핑
• Latent Space Framework: weather task 모델의 학습·검증·테스트를 pixel space 데이터 대신 저장 공간이 훨씬 작은 latent data로 수행하도록 전환
• ERA5-Latent 데이터셋: ERA5의 721×1440 고해상도 데이터를 WLA로 변환하여 다양한 변수·pressure level 조합에 대한 latent representation을 미리 계산하여 제공
• 압축·복원 성능, downstream task(예: forecasting, downscaling) 성능, unseen pressure level에 대한 일반화 성능(Fig.5) 등을 다각도로 실험 평가

Originality

• weather 분야에서 pixel space가 아닌 latent space에서 직접 downstream task를 수행하도록 reconstruction과 task를 명시적으로 분리한 최초의 시도 중 하나
• pressure-variable metadata 기반 hypernetwork를 활용해 임의의 PVS를 단일 unified latent space로 매핑하는 PVUM은 기존 압축 방법들이 특정 변수 조합에 종속되던 한계를 극복
• 단순 압축 기법(CRA5, COIN++ 등)과 달리 online/offline decompression 비용 없이 latent 데이터를 직접 downstream task에 활용 가능하도록 설계
• 244TB 규모의 ERA5 데이터를 0.43TB로 압축한 ERA5-Latent라는 대규모 실용적 데이터셋을 공개하여 커뮤니티 기여

Limitation & Further Study

• latent space 변환이 정보 손실 없이 완벽히 이루어지는 것은 아니므로, 매우 정밀한 극값 예측이 요구되는 특정 응용에서 압축으로 인한 오차 누적 가능성이 존재할 수 있음
• PVUM이 처리 가능한 PVS의 범위와 unseen 변수 조합에 대한 일반화 성능의 한계(Fig.5에서 다루어지나 완전한 임의 조합에 대한 검증은 제한적일 수 있음)에 대한 추가 검토 필요
• WLA 자체의 사전학습 비용 및 대규모 ERA5 데이터에 대한 최초 압축 시 소요되는 계산 자원에 대한 논의가 상대적으로 부족
• 향후 연구로 다른 재분석 데이터셋이나 실시간 관측 데이터로의 확장, 그리고 latent space에서의 불확실성 정량화(uncertainty quantification) 연구가 필요

Evaluation

총평: Weather 데이터를 latent space로 옮겨 reconstruction과 task를 분리한다는 아이디어는 명확한 실용적 가치를 지니며, 대규모 ERA5-Latent 데이터셋 공개는 커뮤니티에 실질적으로 기여할 것으로 보인다. 다만 압축에 따른 정보 손실 및 임의 PVS 일반화에 대한 보다 엄밀한 이론적·실험적 분석이 보완된다면 더욱 완성도 높은 연구가 될 것이다.