DrugSAGE: Self-evolving Agent Experience for Efficient State-of-the-Art Drug Discovery

Motivation

• Known: LLM 기반 autonomous agent(Biomni, STELLA, AutoResearch 등)는 문헌·GitHub 탐색, architecture 및 hyperparameter search, trial-and-error를 통해 특정 task에서 SOTA에 가까운 예측 모델을 구축할 수 있음이 알려져 있다.
• Gap: 그러나 기존 agent들은 각 task를 독립적으로 처리하며 탐색 경험을 다음 task로 전이하지 않아, 유사한 구조를 가진 새로운 task마다 동일한 tool/architecture/hyperparameter 탐색 비용을 매번 처음부터 지불해야 한다는 비효율이 존재한다.
• Why: 약물 발견에서 부정확한 예측은 곧바로 값비싼 실험 실패로 이어지므로 SOTA 정확도 달성이 중요하지만, 대규모 foundation model 학습과 반복 탐색에 드는 compute·시간 비용이 막대하여 수천 개의 다양한 예측 문제로 확장하기 어렵다는 점에서 cross-task 효율성 개선은 실질적 가치가 크다.
• Approach: DrugSAGE는 문헌과 GitHub에서 자동으로 구축한 executable skill library K와, 검증된 skill·통계적 증거·반복 오류-수정 기록을 담은 cross-task experience memory Z=(R,H,...)를 결합하여, memory-augmented MCTS 기반 탐색 및 zero-test-time 메모리 라우팅(DrugSAGE-ZERO)으로 SOTA 솔루션을 구축한다.

Achievement

Figure 3 plots performance against experiment budget B, but different baselines count their iterations differently. Tabl

1. 단일 task 성능 1위: 33개 분자 특성 예측 task에서 DrugSAGE가 9개 SOTA agent(Baseline) 중 1위를 기록.
2. Cross-task 전이 효과 입증: 16개 소규모 task에서 축적한 memory로 17개 held-out task에서 평균 normalized score 0.935를 달성.
3. Zero-test-time search 우위: baseline이 20회 test-time search iteration을 수행함에도 DrugSAGE-ZERO가 탐색 없이 모든 baseline agent를 10-30% 앞섬.
4. 이론적 보장: memory-augmented selection policy가 표준 UCB의 regret bound를 보존함을 형식적으로 증명.

How

Figure 2. Experience Memory. DRUGSAGE stores cross-task experience as Z = (R, H, Q). Solution memory R stores family pri

• 문제를 target task τ=(Dtrain,Dval,Dtest,µ,B), skill library K, executable solution, search tree로 형식화
• Explore Agent가 문헌/GitHub를 탐색해 model family들로 구성된 executable skill library K를 자동 구축 (사람이 큐레이션한 시작점 불필요)
• Experience Memory Z=(R,H,...)에 검증된 skill, 전략별 통계적 근거(R), 반복 오류와 수정 기록(H) 등을 저장
• Budget B>0일 때, 각 search step에 memory component 중 하나를 결합한 memory-enhanced MCTS로 executable solution을 탐색하며 validation metric µ 기준 최고 solution 선택
• Budget B=0일 때(DrugSAGE-ZERO), memory routing을 통해 새로운 task에 검증된 solution을 즉시 전이하여 추가 탐색 없이 해결
• TDC(Huang et al., 2021) 및 Polaris(2025) 벤치마크의 33개 ADMET/결합력/용해도/생리활성 task에서 single-task 및 cross-task(16 train / 17 held-out) 평가 수행

Originality

• 각 task를 독립 문제가 아닌 향후 task를 위한 경험으로 취급하여, executable skill library와 성능 기반 statistical/error memory라는 두 가지 상호보완적 memory 메커니즘을 결합한 최초의 cross-task drug discovery agent 프레임워크 제안
• Autoresearch류의 사람이 제공한 leaderboard 모델을 정제하는 방식과 달리, 문헌/GitHub 검색을 통해 완전 자동으로 skill library를 구축하여 탐색 공간을 확장하고 human-curated starting point 의존성을 제거
• Memory-augmented MCTS selection policy가 표준 UCB의 regret bound를 보존한다는 이론적 보장을 제시하여 memory 도입이 탐색 최적성을 해치지 않음을 정당화
• Zero-test-time search regime(DrugSAGE-ZERO)을 통해 cross-task memory만으로 test-time search 없이 baseline 대비 우월한 성능을 달성함을 실증

Limitation & Further Study

• 33개 task와 특정 두 벤치마크(TDC-ADMET, Polaris)에 한정된 평가로, 더 다양한 modality(예: 구조 기반, 유전체 데이터)나 대규모 산업 규모 task에 대한 일반화 가능성 검증이 부족
• Memory 축적이 16개 task라는 비교적 적은 수에서 이루어졌기 때문에, memory가 매우 커지거나 이질적인 task 분포로 확장될 때의 memory 관리(예: 오래된/오류 정보의 정리, 검색 효율 저하) 문제에 대한 분석이 제한적
• LLM API 비용과 memory 유지·검색에 따른 추가 오버헤드에 대한 정량적 비용-효율 트레이드오프 분석이 본문 발췌에서는 제한적으로만 제시됨
• 후속 연구로 더 넓은 범위의 과학적 발견 task(비분자 특성 예측)로의 memory 전이 가능성, memory 압축/정제 기법, 다중 에이전트 간 memory 공유 확장 등이 고려될 수 있음

Evaluation

총평: 약물 발견을 위한 SOTA 모델 자동 구축 문제에서 cross-task memory 재사용이라는 실질적이고 검증 가능한 효율성 개선을 제시한 견고한 연구로, 이론적 보장과 강한 실증 결과를 함께 갖춘 점이 인상적이다.