AURORA: Alignment-Guided Mutation Proposal for Protein Engineering

Motivation

• Known: 기존 연구는 ESM과 같은 single-sequence protein language model의 representation을 이용해 oracle을 학습시키고, 동일 모델을 RL이나 Bayesian optimization, greedy search로 mutation 제안에도 사용하는 것이 일반적이다. PoET, Tranception, ProGen 등 alignment-free 방식과 MSA Transformer 같은 MSA 기반 방식이 evolutionary context를 활용하는 대안으로 존재한다.
• Gap: single-sequence PLM은 pretraining 과정에서 학습된 파라미터로부터 간접적으로 epistasis를 추론해야 하며, 실제로 co-evolving mutation을 직접 관찰하지 못한다는 architectural 한계가 있다. 또한 representation과 proposal에 동일 모델을 사용하는 것은 architectural mismatch를 유발하는데, representation은 평균적 evolutionary distribution을 근사하는 반면 mutation proposal은 예외적(extraordinary) 행동을 우선시해야 하는 의사결정 문제이기 때문이다.
• Why: 단백질 엔지니어링은 치료제, 농업, 산업 분야에 광범위하게 응용되지만 실험적 검증 비용이 매우 높아 가용 데이터가 제한적이므로, 적은 데이터로도 정확한 mutation effect 예측과 효율적인 combinatorial search가 가능한 프레임워크는 실질적 가치가 크다.
• Approach: MSA Pairformer를 이용해 homolog 간 co-varying mutation을 직접 관찰하는 representation을 구축하고, 이를 고정된 fitness oracle로 사용하는 한편, mutation proposal을 별도의 MDP로 정식화하여 position과 amino acid 변화를 동시에 출력하는 경량 policy를 RL로 학습시킨다.

Achievement

AURORA는 synthetic protein 실험과 ProteinGym 등 downstream benchmark에서 MSA Pairformer가 ESM 계열 single-sequence 모델보다 우수한 zero-shot 및 supervised fitness 예측 성능을 보임을 입증했고, 실제 avGFP(초록형광단백질) 실험에서 제한된 데이터만으로 기존 방법보다 높은 형광을 보이는 novel variant를 발굴했다.

How

• MSA Pairformer의 outer product mean과 triangle multiplicative update를 활용해 pairwise representation z를 구성, MSA로부터 직접 covariation 통계를 추출
• synthetic protein 데이터로 Pairformer와 single-sequence 모델(ESM 등)의 architectural expressivity를 정량적으로 비교
• fitness oracle(Pairformer 기반)을 고정한 상태에서, position과 amino acid 변화를 동시에 출력하는 joint action space를 갖는 경량 policy network를 RL로 학습
• autoregressive(순차적 single-site 제안) 방식과 joint multi-site 제안 방식을 ablation으로 비교
• avGFP를 대상으로 in vitro 형광 측정을 통해 예측된 variant를 실험적으로 검증

Originality

• representation learning(oracle)과 mutation search(policy)를 명시적으로 분리한 decoupled 아키텍처 제안
• 기존에 protein engineering 파이프라인에서 널리 쓰이던 single-sequence PLM(ESM) 대신 MSA 기반 Pairformer를 oracle로 채택하여 co-evolution 정보를 inference-time에 직접 활용
• mutation proposal을 별도의 MDP로 정식화하고, position과 residue를 동시에 결정하는 joint action space를 통해 반복적 single-site search의 한계를 극복
• synthetic protein을 이용해 모델의 architectural expressivity(epistasis 포착 능력)를 정량적으로 측정하는 실험 설계

Limitation & Further Study

• avGFP라는 단일 단백질에 대한 검증에 그쳐, 다양한 단백질 패밀리·기능에 대한 일반화 가능성이 충분히 입증되지 않음
• in vitro 검증이 "preliminary"로 언급되어 있어 통계적으로 충분한 반복실험이나 대규모 검증이 부족할 수 있음
• MSA 기반 방법은 양질의 다중 서열 정렬(homolog 확보)이 어려운 단백질에는 적용이 제한적일 수 있음
• RL policy의 reward가 고정된 oracle 예측에 의존하므로 oracle의 예측 오류가 policy 학습에 그대로 전파될 위험(오라클-정책 간 피드백 루프 검증 부족)
• 후속 연구로 다양한 단백질 패밀리와 대규모 실험 검증, oracle 불확실성을 고려한 policy 학습 등이 필요

Evaluation

총평: MSA 기반 representation과 RL 기반 decoupled search를 결합한 아이디어는 단순하지만 명확한 architectural 통찰에 기반하며, 실제 실험적 검증까지 수행한 점에서 실용적 기여가 크다. 다만 검증 범위가 단일 단백질에 한정되어 있어 일반화 가능성에 대한 추가 검증이 필요하다.