DecAEvolve: Decompose, Adapt, and Evolve for Effective LLM-based Scientific Equation Discovery

Motivation

• Known: LLM-SR, LaSR, SGA 등 기존 LLM 기반 equation discovery 방법들은 LLM의 내재된 과학 지식과 evolutionary search(multi-island buffer 등)를 결합해 방정식 후보를 Python 함수 스켈레톤 형태로 생성하고, scalar reward(MSE 등)로 평가하여 in-context 예시로 재사용하는 방식을 사용해왔다.
• Gap: 기존 방법들은 LLM 파라미터를 고정한 채 정적 가설 생성기로 사용하여 관측된 시스템 데이터에 적응하지 못하고, scalar reward 같은 조악한 피드백만 제공하여 어떤 수식적 구성요소가 왜 성능에 기여하는지 알 수 없다는 두 가지 근본적 한계가 있다.
• Why: 방정식 발견은 물리학, 생물학, 재료과학 등 다양한 과학 분야에서 해석 가능한 자연법칙을 찾는 핵심 과제이며, LLM이 방대한 조합적 hypothesis space를 효율적으로 탐색하도록 개선하는 것은 자동화된 과학적 발견의 실용성을 크게 높인다.
• Approach: symbolic term decomposition으로 각 방정식 항의 기여도를 정량화하여 세밀한 피드백을 제공하고, GRPO를 이용한 test-time RL 적응으로 LLM을 관측 데이터 분포에 맞게 갱신하며, 이를 evolutionary search 루프 안에서 반복적으로 결합한다.

Achievement

Figure 3. Best-score trajectories of DecAEvolve and its variants against the LLM-SR baseline across benchmark problems.

1. 정확도 및 효율성 개선: 다양한 과학 벤치마크 실험에서 DecAEvolve가 기존 state-of-the-art 대비 최대 한 자릿수(order of magnitude) 오차 감소를 달성하고 더 적은 반복(iteration)으로 정확한 symbolic expression을 발견함을 보였다.
2. 해석 가능한 term-level feedback 메커니즘: 개별 항과 상호작용의 기여도를 정량화하는 구조화된 hypothesis decomposition 기법을 개발하여, LLM이 단순히 어떤 가설이 성공했는지가 아니라 왜 성공했는지를 이해하도록 하였다.
3. GRPO 기반 test-time adaptation: 원시 데이터를 직접 관찰하지 않고도 성공적인 방정식 발견 경험으로부터 학습하여 LLM의 가설 생성 정책을 대상 시스템의 symbolic relationship에 점진적으로 정렬시키는 방법을 제안했다.
4. in-domain/out-of-domain 일반화 검증: 다중 벤치마크에서 in-domain과 out-of-domain 세팅 모두에서 우수한 성능을 입증했다.

How

Figure 2. Overview of the DecAEvolve framework. The framework integrates Adaptation (LLM fine-tuning via reinforcement l

• LLM-SR의 evolutionary search 프레임워크(multi-island experience buffer, 데이터 기반 파라미터 최적화)를 기반으로 구축
• Decompose: 후보 방정식을 atomic term으로 분해하여 term-level contribution analysis를 수행, 어떤 항이 성능에 기여하는지 세밀한 피드백(Δs) 생성
• Adapt: Group Relative Policy Optimization(GRPO)을 사용해 각 prompt에 대한 여러 completion의 reward를 그룹 상대적 advantage로 계산(Ai = ri − b(p))하고, probability ratio clipping과 KL regularization을 포함한 policy objective로 LLM 파라미터 πθ를 test-time에 미세조정
• Evolve: decomposition 피드백과 adapted policy를 evolutionary search 루프에 통합하여 hypothesis generation → data-driven evaluation → reward computation → parameter optimization을 반복
• Algorithm 1에 전체 pseudocode 제시, 세 구성요소(decompose, adapt, evolve)를 반복적으로 순환시켜 combinatorial hypothesis space를 효율적으로 탐색

Originality

• LLM을 evolutionary search의 정적 가설 생성기가 아니라, test-time RL(GRPO)로 적응 가능한 동적 정책으로 재구성한 최초의 시도 중 하나
• scalar reward 대신 symbolic term decomposition을 통해 항 단위(term-level)의 방향성 있는 해석 가능 피드백을 제공하는 새로운 피드백 메커니즘 도입
• decomposition 기반 피드백과 test-time adaptation을 evolutionary search와 통합하는 3중 구조(Decompose-Adapt-Evolve)를 제안, 기존 LLM-SR/LaSR/SGA와 차별화

Limitation & Further Study

• GRPO를 통한 test-time RL 적응이 추가 계산 비용(추론/학습 오버헤드)을 요구할 것으로 보이나, 이에 대한 비용-효율 트레이드오프 분석이 발췌 부분에서 명확히 드러나지 않음
• symbolic term decomposition이 항들 간 비선형 상호작용이 강한 복잡한 방정식에서 얼마나 신뢰성 있게 기여도를 분리할 수 있는지에 대한 이론적 보장이 부족할 수 있음
• 벤치마크가 특정 과학 도메인(물리 등)에 한정될 가능성이 있어, 더 다양한 실제 노이즈 데이터나 고차원 시스템으로의 일반화 검증이 추가로 필요함
• 후속 연구로 decomposition 피드백의 자동화 정도와 다른 RL 알고리즘(GRPO 외)과의 비교, 그리고 다중 도메인 간 전이 학습 효과에 대한 심화 분석이 필요함

Evaluation

총평: LLM 기반 방정식 발견에서 정적 생성기의 한계를 명확히 지적하고 decomposition 피드백과 test-time RL 적응을 결합한 새로운 관점을 제시한 견실한 연구로, 실험적으로도 상당한 성능 향상을 보여 scientific discovery 분야에 의미 있는 기여를 한다.