LineageFlow: Flow Matching for High-Fidelity Family-Aware Protein Sequence Generation

Motivation

• Known: 기존 discrete generative model(diffusion, flow matching 등)은 protein language model이나 Dirichlet Flow Matching(DFM)처럼 uniform simplex noise나 masked-token 노이즈에서 생성을 시작하며, family/domain 조건은 보통 metadata tag나 MSA 프롬프트를 통해 명시적으로 주입된다.
• Gap: Uniform/mask 기반의 family-agnostic prior는 사이트별 진화적 보존 구조(conserved vs. variable positions)를 무시하여, denoiser가 보존된 잔기까지 처음부터 재구성해야 하는 부담을 초래하고 결과적으로 family 제어력과 foldability(구조적 신뢰도)가 낮아진다는 문제가 있다.
• Why: 진화적 제약 하에서 family 정체성을 유지하면서도 within-family 다양성을 탐색하는 것은 단백질 엔지니어링에서 기능적 관련성과 생물물리학적 타당성을 모두 담보하는 핵심 요건이며, 이를 해결하면 실제 효소 설계 등 응용에 직접적으로 기여할 수 있다.
• Approach: LineageFlow는 ancestral sequence reconstruction(ASR)으로 계산한 family별 lineage(조상) prior에서 생성을 시작하는 Dirichlet/simplex 기반 flow matching 모델이며, 여기에 gradient 기반 per-step guidance 없이 objective-guided sampling을 가능케 하는 rerouting 메커니즘을 추가로 제안한다.

Achievement

1. Ancestral prior 기반 생성: 일반적인 noise prior 대신 lineage(조상) 정보를 인코딩한 prior를 사용하여, 생성 과정을 "from-scratch" 디노이징에서 "진화된 스캐폴드로부터의 구조화된 돌연변이"로 전환하였다.
2. Rerouting을 통한 manifold-preserving guidance: 매 Euler step마다 predictor guidance를 주입하는 대신, 단일 intermediate-time mutate–select–amplify 개입만으로 family validity를 유지하면서 목표 지향적(objective-guided) 샘플링을 가능케 하였다.
3. Near-natural family validity 및 향상된 plausibility: 다양한 protein family에 걸친 대규모 실험에서 LineageFlow는 held-out natural sequence에 근접한 family validity와 향상된 plausibility proxy, 강한 novelty/diversity를 동시에 달성했으며, 훨씬 더 많은 데이터로 학습된 대형 pretrained baseline보다도 우수한 성능을 보였다. Rerouting은 held-out family에 대한 zero-shot 효소 생성 사례 연구도 가능케 했다.

How

• Family h에 대해 aligned length L_h를 갖는 relaxed sequence space X_h = (S_K)^{L_h}를 정의하고, 각 position을 probability simplex S_K 상의 벡터로 표현
• Continuous flow matching 프레임워크를 사용하여 prior q_0^{(h)}에서 empirical data distribution p_data^{(h)}로 전송하는 시간-종속 벡터장 v̂(X, t; θ)를 학습 (continuity equation 및 flow matching loss L_FM 사용)
• 기존 Dirichlet Flow Matching(DFM)이 사용하는 uniform Dirichlet base distribution q_0(x)=Dir(x; α) 대신, ancestral sequence reconstruction(ASR)으로 계산된 family-specific ancestral prior를 초기 분포로 사용
• MSA gap은 missing data로 취급하여 probability transport 및 학습 손실에서 마스킹 처리, gap mask는 empirical gap rate에서 샘플링하여 생성 과정 내내 고정 (variable-length 생성 지원)
• Rerouting: 중간 시점(intermediate-time)에서 population에 대해 mutate–select–amplify를 한 번 적용하는 directed-evolution 영감 개입을 도입, 매 step마다의 predictor gradient 없이 objective-guided sampling 수행

Originality

• Family-agnostic한 uniform/masked-token noise 대신, 진화적으로 정보가 담긴 ancestral(lineage) prior를 flow matching의 초기 분포로 사용한 최초의 시도로, family label이나 MSA를 denoiser에 직접 주입하지 않고도 높은 family fidelity를 달성
• Directed evolution의 mutate–select–amplify 개념을 continuous-time flow의 단일 intermediate-time 개입으로 재해석하여, gradient 기반 per-step guidance 없이 objective-guided sampling을 가능케 한 rerouting 메커니즘 제안
• Simplex-valued(Dirichlet) flow matching과 ASR을 결합하여 생성 문제를 "합성(synthesis)"이 아닌 "구조화된 돌연변이(structured mutation)"로 재구성한 개념적 전환

Limitation & Further Study

• ASR 자체의 정확도와 계통수(phylogenetic tree) 추정 오류가 lineage prior의 품질에 직접적인 영향을 미칠 수 있으며, 이에 대한 민감도 분석이 충분히 제시되지 않을 가능성이 있음
• Rerouting의 단일 intermediate-time 개입 시점 선택이 결과에 미치는 영향과 그 최적화 방법에 대한 심층 분석이 필요
• 발췌된 내용만으로는 대형 protein language model 등과의 정량적 비교의 통계적 유의성 및 다양한 family depth/길이 분포에 따른 강건성(Figure 2, 6 관련)이 충분히 설명되지 않아 추가 검증이 요구됨
• Zero-shot 효소 생성 사례 연구가 단일 사례에 그쳐 일반화 가능성에 대한 추가적인 광범위한 검증이 필요

Evaluation

총평: 진화적 조상 정보를 discrete flow matching의 prior로 활용한다는 아이디어는 단순하면서도 효과적이며, rerouting을 통한 gradient-free guidance까지 결합해 단백질 서열 생성의 family fidelity와 목적 지향성 문제를 동시에 개선한 실용적이고 독창적인 연구이다.