RosettaSearch: Multi-Objective Inference-Time Search for Protein Sequence Design

Motivation

• Known: ProteinMPNN, LigandMPNN 같은 단일 forward pass 기반 서열 설계 모델은 높은 sequence recovery를 달성하지만, 독립적인 구조 예측 시 fidelity(신뢰도와 기하학적 정확도)가 낮은 경우가 많다. 강화학습, directed evolution, preference fine-tuning(ResiDPO) 등의 최적화 기반 방법은 반복적 개선이 가능하지만 과제별 학습이 필요해 유연성이 떨어진다.
• Gap: 기존 LLM 기반 단백질 설계는 one-shot 설정에 국한되어 task-specific 모델보다 낮은 fidelity를 보이며, LLM을 backbone-conditioned 서열 설계의 반복적 최적화기(generative optimizer)로 체계적으로 활용한 대규모 연구는 없었다.
• Why: 서열의 구조적 fidelity는 계산적 단백질 설계와 실험적 성공 사이의 핵심 병목이며, 재학습 없이 inference-time에서 임의의 새로운 설계 목적에 유연하게 적용 가능한 최적화 방법은 신약 개발, 효소 공학 등 실질적 활용 가치가 크다.
• Approach: RosettaSearch는 RosettaFold3의 구조화된 전역 보상과 residue-level 피드백을 활용해 LLM이 기존 후보 서열을 targeted하게 수정하도록 유도하며, 75회의 구조 예측 호출 예산 내에서 다중 후보 궤적을 병렬적으로 탐색하는 priority search 알고리즘을 사용한다.

Achievement

Figure 1. Inference-time optimization with RosettaSearch dramatically improves the structural fidelity of designed prote

1. 대규모 성능 개선: 약 400개 단백질 재설계 과제에서 LigandMPNN 대비 구조적 fidelity 지표(ss-pLDDT, TM-score, Cα-RMSD 등)가 18–68% 개선되었고, 설계 성공률은 2.5배 향상되었다.
2. 일반화 및 강건성: 독립적인 구조 예측기인 Chai-1에서도 개선 효과가 유지되며, o4-mini와 Gemini-3 두 LLM 계열 모두에서 일관되게 재현되고 reasoning 능력에 비례해 성능이 확장된다.
3. VLM 확장: 예측 구조의 렌더링 이미지를 공간적 피드백으로 활용하는 vision-language model 확장을 제안해, chain-of-thought에서 더 풍부한 구조적 추론을 유도함을 보였다.
4. 재학습 불필요한 최적화: 모델 재학습이나 파인튜닝 없이 inference-time만으로 backbone-conditioned 단백질 서열 설계에서 체계적 성능 향상을 처음으로 대규모로 입증하였다.

How

Figure 2. Schematic of the RosettaSearch approach.

• LigandMPNN이 생성한 초기 서열을 시작점으로 삼아, RosettaFold3의 구조 예측 결과에서 얻은 전역 scalar 보상(ss-pLDDT, TM-score, RMSD 등)과 residue-level 문제 영역 주석을 LLM에 피드백으로 제공.
• LLM이 이 피드백을 reasoning하여 targeted sequence edit를 제안하고, 이를 priority search 알고리즘을 통해 여러 후보 수정 궤적을 병렬 탐색함으로써 조기 수렴(premature convergence)을 방지.
• 전체 과정은 75회의 구조 예측 호출이라는 엄격한 예산 내에서 폐루프(closed-loop) design-evaluate-refine 방식으로 반복.
• 보상 함수와 피드백 형식을 inference-time에 자유롭게 재정의할 수 있어 새로운 설계 목적에 재학습 없이 적응 가능.
• vision-language model 확장 실험에서는 예측 구조의 렌더링 이미지를 추가 입력으로 제공해 공간적 맥락을 강화.

Originality

• LLM을 one-shot 생성기가 아닌 구조적 피드백 기반의 반복적 generative optimizer로 사용하는 최초의 대규모 backbone-conditioned 단백질 서열 설계 프레임워크.
• Trace 프레임워크에서 영감을 받아 priority 기반 search 알고리즘, 다중목적 보상 정식화, residue-level 텍스트 피드백을 새롭게 결합.
• 구조 예측 결과의 렌더링 이미지를 활용한 vision-language model 피드백을 도입해 공간적 추론을 강화한 최초의 시도.
• 재학습·파인튜닝 없이 기존 baseline 대비 큰 폭의 성능 향상을 다수의 LLM 계열과 구조 예측기에서 일관되게 재현하여 방법의 범용성을 입증.

Limitation & Further Study

• 각 설계 과제당 75회의 구조 예측 호출이라는 상당한 계산 비용이 소요되어, 대규모 스크리닝이나 실시간 적용에는 여전히 비용 부담이 존재할 수 있음.
• 평가가 계산적 fidelity 지표(pLDDT, TM-score, RMSD 등)에 의존하며, 실제 wet-lab 발현·기능 검증 결과와의 상관관계는 제시되지 않아 실험적 성공으로의 전이 가능성은 추가 검증이 필요.
• RosettaFold3라는 특정 구조 예측기에 대한 최적화가 다른 예측기(Chai-1)로는 일부 강건성이 확인되었으나, 보상 신호 자체가 예측기 편향(오라클 해킹) 문제를 완전히 배제했는지는 추가 분석이 필요.
• 후속 연구로 생성된 탐색 궤적(서열, 평가, 추론 흔적)을 차세대 서열 설계 모델의 학습 데이터로 재활용하는 방향이 제안되었으나 본 논문에서는 실현되지 않음.

Evaluation

총평: LLM을 구조적 피드백 기반 반복 최적화기로 활용해 단백질 서열 설계의 fidelity 문제를 재학습 없이 크게 개선한 실용적이고 확장성 있는 접근으로, 대규모 검증과 다중 모델·예측기 간 일반화가 인상적이나 wet-lab 검증과 계산 비용 측면의 추가 검토가 필요하다.