Protein Design with Agent Rosetta: A Case Study for Specialized Scientific Agents

Motivation

• Known: AlphaFold, RFdiffusion, ProteinMPNN 등 ML 기반 단백질 설계 방법은 강력한 성능을 보이지만 20개의 canonical amino acid에 국한되고 특정 design pipeline에 특화되어 있으며 대규모 학습 데이터에 의존한다. 반면 Rosetta는 물리 기반 에너지 함수를 사용하여 최소한의 학습 데이터로도 non-canonical building block을 포함한 구조를 모델링할 수 있다.
• Gap: Rosetta는 강력한 범용성을 갖지만 RosettaScripts와 같은 비관습적 입력 형식과 깊은 biophysical 전문 지식 및 코딩 능력을 요구하여 접근성이 크게 제한되며, LLM 에이전트를 이러한 특화 과학 소프트웨어와 통합하는 방법에 대한 연구는 부족했다.
• Why: generalist LLM agent가 narrow하고 데이터 의존적인 ML 모델의 한계를 넘어 non-canonical 빌딩 블록을 포함한 광범위한 heteropolymer 설계 파이프라인에 접근성을 제공할 수 있다면, 신약 개발이나 나노소재 설계 등 과학적 발견을 가속화하는 새로운 방법론이 될 수 있다.
• Approach: 단일 에이전트, multi-turn 구조를 가진 Agent Rosetta는 사용자 정의 design brief를 따라 OpenAI Gym과 유사한 RosettaScripts 환경과의 구조화된 대화 및 피드백을 통해 단백질 설계를 반복적으로 개선한다.

Achievement

1. Agent Rosetta 프레임워크 제안: RosettaScripts 환경과 긴밀히 통합된 multi-turn LLM agent를 개발하여 사용자 정의 목표에 따라 설계를 반복적으로 개선하는 시스템을 구축했다.
2. 환경 설계의 중요성 입증: prompt engineering만으로는 frontier LLM으로부터 과학적으로 타당한 RosettaScripts 액션을 안정적으로 생성할 수 없음을 보여, 전용 environment/tool 설계가 필수적임을 실증했다.
3. canonical amino acid 설계 성능 검증: 고정 backbone에서의 서열 설계 과제에서 ProteinMPNN, BoltzGen 등 특화 ML 모델 및 두 가지 인간 전문가 baseline과 비교하여 경쟁력 있는 성능을 확인했다.
4. non-canonical residue 설계 성공: ML 방법이 실패하는 non-canonical amino acid(NCAA)를 단백질 core에 포함시키는 과제에서 인간 baseline과 비견되는 성능을 달성했다.
5. AlphaFold3 및 분자동역학(MD) 시뮬레이션을 통한 검증: 두 과제 모두에서 AF3와 MD 시뮬레이션으로 최종 결과를 검증하여 Agent Rosetta가 특화 도구 및 전문가와 경쟁력 있음을 확인했다.

How

• Rosetta의 Monte Carlo 기반 에너지 함수 최적화 프레임워크 위에서, Movers(구조를 변화시키는 액션)와 Filters(구조 속성을 측정해 계속 여부를 결정하는 모듈)를 조합하는 RosettaScripts 프로토콜을 대상으로 함
• LLM이 매 턴마다 이전 액션의 결과(상태 요약)를 바탕으로 reasoning을 수행하고 다음 최적의 action을 선택
• 선택된 action에 대한 문서를 참고하여 다시 reasoning을 거쳐 action parameter를 생성, action script를 작성
• 생성된 action script를 RosettaScripts 환경에서 실행하여 성공 시 환경 상태를 업데이트하고 설계를 정제(design refinement)하며, 실패 시 환경은 업데이트되지 않고 에러 수정(error correction) 루프로 전환
• 최대 iteration 수에 도달하면 현재 환경 상태의 설계된 단백질을 출력
• fixed-backbone 서열 설계(canonical amino acid만 사용)와 non-canonical amino acid를 단백질 core에 포함시키는 두 가지 실제 설계 파이프라인에서 평가
• ProteinMPNN, BoltzGen 등 특화 ML 모델과 RosettaScripts 복잡도가 다른 두 인간 baseline과 비교, AF3 및 MD 시뮬레이션으로 최종 검증

Originality

• LLM agent를 고수준 planning/orchestration이 아닌 특화 과학 소프트웨어(Rosetta)와의 저수준(low-level) 통합에 초점을 맞춘 최초의 시도 중 하나로, ProtAgents 등 기존 high-level 오케스트레이션 연구와 차별화됨
• RosettaScripts를 위한 OpenAI Gym 스타일의 구조화된 환경을 설계하여 action-observation 루프를 통해 LLM과 복잡한 XML 기반 과학 소프트웨어 인터페이스를 연결한 점이 독창적
• prompt engineering의 한계를 실증적으로 보이고, 환경/도구 설계가 LLM을 특화 과학 소프트웨어에 통합하는 데 필수적임을 명확히 규명한 점이 새로움
• non-canonical amino acid를 포함하는 설계 과제에서 ML 기반 방법이 실패하는 영역까지 다룸으로써 기존 ML 중심 단백질 설계 연구의 범위를 확장

Limitation & Further Study

• 평가가 두 가지 특정 설계 파이프라인(고정 backbone 서열 설계, NCAA 삽입)에 국한되어 있어 더 광범위한 heteropolymer 설계 과제로의 일반화 가능성은 추가 검증이 필요함
• non-canonical residue 과제에서는 비교 가능한 ML baseline이 없어 인간 baseline만으로 비교가 이루어져 성능 우수성에 대한 엄밀한 정량적 비교가 제한적임
• single-agent 구조로 설계되어 있어 multi-agent 협업이나 더 복잡한 orchestration 시나리오에서의 확장성은 다루지 않음
• 향후 연구로 다양한 heteropolymer 설계 문제(예: 나노소재, 효소 설계 등)로 확장하고, 다른 특화 과학 소프트웨어와의 통합 프레임워크로 일반화하는 방향이 제안될 수 있음

Evaluation

총평: LLM agent와 물리 기반 특화 과학 소프트웨어의 통합에서 환경 설계의 중요성을 실증적으로 보여준 흥미로운 사례 연구로, 실제 단백질 설계 파이프라인에서 특화 ML 모델 및 인간 전문가에 필적하는 성능을 달성한 점이 인상적이나 평가 범위의 제한성은 아쉬운 부분이다.