Navigating heterogeneous protein landscapes through geometry-aware smoothing

Motivation

Known: 고정 전역 노이즈 스케일을 사용하는 기존 diffusion 및 autoregressive 모델은 단백질 수열 공간의 희소성으로 인해 고밀도 클러스터 보존과 저밀도 영역 탐색 간 근본적인 trade-off에 직면. 단백질 서열은 거대한 조합 공간 내 고립된 밀도 높은 '섬' 구조를 가짐.
Gap: 기존 모델들은 공간 밀도의 이질성을 반영하지 못하여 과도한 smoothing(구조 손실) 또는 fragmentation(샘플링 정체)을 야기하는 근본적 기하학적 불일치가 존재.
Why: 단백질 설계에서 생물학적 타당성과 다양성의 균형이 중요하며, 고정 스케일 기반 접근은 이를 동시에 만족할 수 없어 신약 개발, 항균 펩타이드, 면역 응답 설계 등에 제약.
Approach: KDE를 이용해 생화학적 특성 공간에서 국소 밀도를 추정하고, diffusion 노이즈를 밀도에 역비례적으로 조정하는 geometry-aware 제어 메커니즘 도입. 고밀도 지역은 약한 smoothing으로 정밀 구조 보존, 저밀도 지역은 강한 smoothing으로 탐색 촉진.

Fig. 2: Heterogeneity of the antibody sequence space necessitates adaptive smooth-

다중 도메인 성능: antibody repertoire, therapeutic antibody design, antimicrobial peptide generation, coronavirus antibody design 전 분야에서 SOTA diffusion/autoregressive 모델 초과
생물학적 타당성: ESM-2 기반 structural folding confidence, predicted binding affinity, homology 분석으로 생성 서열의 생물물리학적 실현 가능성 확인
혁신 회피: 고정 노이즈 기반선들과 달리 학습 데이터 암기(trivial memorization) 대신 진정한 진화적 신성(evolutionary novelty) 달성
이론적 근거: 고정 전역 smoothing의 본질적 한계를 명확히 입증하고 geometry-aware 적응의 필요성 이론화

Fig. 1: Fixed noise scales fail to capture the heterogeneous geometry of

6차원 생화학적 특성 공간 구성: hydrophobicity, molecular weight, isoelectric point, aromaticity, instability index, β-sheet content
Random Fourier Features를 활용한 KDE 가속화(130만+ 항체 서열 처리)
역함수 관계로 로컬 밀도를 노이즈 스케일에 매핑: σ(x) ∝ 1/ρ(x)
discrete molecular sampling을 위한 plug-in 메커니즘으로 구현
Observed Antibody Space(OAS) 페어드 레퍼토리, 합성 toy dataset, 실제 치료용 항체/AMP 벤치마크로 검증

생화학적 특성 공간(6D)의 선택이 휴리스틱이며, 다른 특성 조합이나 더 고차원적 표현의 영향 미탐구
KDE의 bandwidth 선택 및 Random Fourier Features의 근사 오차가 최종 성능에 미치는 영향 정량화 부재
계산 비용 분석(KDE 추정, 노이즈 스케일 계산의 오버헤드) 명시되지 않음
단백질 외 RNA, 소분자 등 다른 생물학적 시스템으로의 일반화 가능성 미논의
후속 연구: 적응적 특성 학습(learnable biochemical features), 더 정교한 밀도 추정(local adaptive KDE, neural density networks), 다중 스케일 기하학 고려