SR-Scientist: Scientific Equation Discovery With Agentic AI

Motivation

• Known: 기존 연구들은 LLM을 genetic programming(GP) 같은 search algorithm 내부의 equation proposer로 활용하여, LLM에 내재된 scientific prior knowledge를 이용해 hypothesis 생성 효율을 높여왔다. 또한 deep learning 기반 SR 방법들은 대규모 synthetic data로 학습된 신경망을 통해 수식을 직접 예측한다.
• Gap: 현재 LLM 기반 SR 방법들은 LLM을 human-crafted pipeline 내의 고정된 구성요소로 취급하여, 데이터를 도구로 직접 분석해 통찰을 얻거나 목표지향적으로 스스로 행동을 결정하는 autonomy가 결여되어 있다. 또한 대부분의 연구가 LLM을 inference에만 사용할 뿐 RL 등을 통해 능력을 진화시키는 방법은 탐구하지 않았다.
• Why: equation discovery는 과학적 발견의 핵심 과제인 symbolic regression(SR)에 해당하며, NP-hard한 방대한 탐색 공간을 가진다. LLM을 수동적 도구가 아닌 데이터 분석·코드 작성·실험 피드백 기반 최적화를 수행하는 autonomous agent로 전환하면, 과학적 발견의 패러다임 자체를 바꿀 수 있다.
• Approach: code interpreter를 데이터 분석 및 equation 평가용 도구 집합으로 감싸고, LLM agent가 ReAct 프레임워크 하에서 long-horizon(20턴 이상)으로 이를 활용해 equation을 코드로 구현·제출·최적화하도록 설계했으며, experience buffer로 과거 최고 성능 equation을 다음 iteration에 재활용한다.

Achievement

Figure 2. Detailed results of in-domain (ID) and out-of-domain (OOD) performance using Acc0.01 across various LSR-Synth

SR-Scientist는 4개 과학 분야 데이터셋에서 baseline 대비 절대적으로 6%에서 35%의 성능 향상을 달성했으며, noise에 대한 견고성, out-of-domain 데이터에 대한 일반화, symbolic accuracy 측면에서도 우수함을 입증했다. 또한 end-to-end RL 학습을 통해 추가적인 성능 향상을 확인했다.

How

Figure 1. The inference framework of SR-SCIENTIST. At each iteration, the LLM agent autonomously conducts long-horizon o

• 문제를 MAPE(mean absolute percentage error)를 목표 정밀도로 하는 최적화로 정식화하고, agent 궤적을 (r_i, T_i, o_i) 형태의 ReAct 스타일 시퀀스로 구성
• code interpreter를 primary tool로 제공해 데이터 탐색, 상관관계 분석, equation을 코드로 구현 및 평가하는 작업을 수행
• experience buffer를 도입하여 top-K 성능의 이전 equation들을 fetch해 context length 한계를 극복하고 다음 iteration에 활용
• 최대 interaction turn 수 M을 설정해 과도하게 긴 추론 시간을 방지
• human-defined pipeline을 최소화하는 원칙 하에 agent가 스스로 workflow를 결정하도록 설계
• 5개의 서로 다른 backbone LLM으로 4개 과학 분야 데이터셋에서 평가하며, LLM이 학습 데이터에서 암기한 equation에 의존하지 못하도록 데이터셋을 신중히 설계
• training data 구성부터 reward 설계까지 포함하는 end-to-end reinforcement learning(RL) 파이프라인 개발

Originality

• LLM을 GP 등 search algorithm 내부의 고정된 equation proposer가 아니라, 데이터 분석부터 equation 최적화까지 전 과정을 자율적으로 수행하는 AI scientist로 격상시킨 패러다임 전환
• code interpreter를 도구화하여 long-horizon(20턴 이상) tool-driven 최적화를 수행하도록 한 설계
• 과거 탐색 equation을 저장·재활용하는 experience buffer를 통해 context length 한계를 극복
• equation discovery에 특화된 end-to-end RL 파이프라인(training data 구성, reward 설계) 개발이라는 새로운 시도

Limitation & Further Study

• 최대 interaction turn 수 M과 같은 하이퍼파라미터 설정이 성능에 민감할 수 있으며, 이에 대한 일반적 가이드라인이 부족해 보임
• 평가된 4개 과학 분야, 5개 backbone LLM으로 실험 범위가 제한적이며, 더 다양한 도메인 및 복잡도 높은 실제 데이터셋에 대한 검증이 필요
• code interpreter 및 long-horizon agent 구동에 따른 계산 비용(추론 시간, API 호출 비용)에 대한 상세한 분석이 부족해 실제 적용 시 효율성 트레이드오프 논의가 필요
• RL 학습 과정의 reward design이 특정 SR 태스크에 맞춰져 있어, 다른 과학적 발견 태스크로의 일반화 가능성에 대한 추가 검증 필요

Evaluation

총평: LLM을 agentic AI scientist로 재정의하여 equation discovery의 자율성과 성능을 크게 끌어올린 의미 있는 연구로, agentic AI와 과학적 발견의 결합 가능성을 잘 보여준다. 다만 계산 비용과 일반화 범위에 대한 추가 검증이 향후 과제로 남아있다.