Squeeze Evolve: Unified Multi-Model Orchestration for Verifier-Free Evolution

Motivation

• Known: 기존에는 self-aggregation(RSA 등) 및 LLM 기반 진화 방법(AlphaEvolve 등)이 test-time에 후보 해를 반복적으로 개선하는 방식으로 활용되어 왔으며, verifier가 있는 경우 강력한 discovery 능력을 보여주지만, verifier가 비싸거나 불가능한 경우가 많다는 것이 알려져 있다.
• Gap: 기존 verifier-free evolution 방법들은 단일 모델을 모든 연산자에 균일하게 적용하여 반복 진화가 오히려 좁은 모드로의 붕괴(diversity collapse)를 가속시키고, 고비용 모델을 균일하게 사용함으로써 비용 비효율이 극심해지는 문제가 있었으며, 이 다양성-비용 문제를 동시에 다루는 통합적 프레임워크가 부재했다.
• Why: verifier가 없거나 매우 비싼 현실적 도메인(예: 핵융합 연구, 수학·코딩 discovery)에서 test-time scaling을 경제적으로 지속 가능하게 만드는 것은 실용적 AI 배포에 핵심적이며, cost-capability frontier를 개선하는 이 접근은 오픈소스·클로즈드소스 모델 생태계 전반에 즉각적 영향을 줄 수 있다.
• Approach: 여러 test-time scaling 기법(majority voting, RSA, AlphaEvolve 등)을 단일 진화적 연산자 Φf(선택+재조합)로 통합 정식화한 뒤, 각 단계에 confidence 기반 신호를 활용해 가장 비용 효율적인 모델을 동적으로 배정하는 원칙을 제시한다.

Achievement

Figure 1. SQUEEZE EVOLVE shifts the cost–capability frontier left by combining verifier-free evolution with multi-model

1. 비용-성능 프론티어 개선: AIME 2025, HMMT 2025, LiveCodeBench V6, GPQA-Diamond, ARC-AGI-V2, MMMU-Pro, BabyVision 등 9개 벤치마크에서 단일 모델 진화 대비 API 비용을 최대 ~3배 절감하면서 정확도를 유지 또는 향상.
2. ARC-AGI-V2 신기록: 코드 실행 없이 $7.74/task로 97.5%를 달성해 새로운 state-of-the-art cost-capability frontier를 세움 (GPT-5.4-Pro의 92.2%, $17.60 대비).
3. 멀티모달 효율성 입증: 이미지 처리를 하지 않는 저비용 텍스트 전용 모델이 vision-capable 고비용 모델과 동등하거나 우수한 성능을 2.3–2.5배 저렴하게 달성, 시각 이해가 초기화 단계에서만 주로 필요함을 보임.
4. verifier-free 방법 최초로 verifier-based 방법과 동등/우월: circle packing discovery task에서 AlphaEvolve 등 verifier-based 진화 방법의 성능을 처음으로 따라잡거나 능가.
5. 서빙 처리량 대폭 향상: custom confidence engine으로 scoring 지연을 4–10배 줄이고, 고정 예산 서빙 처리량을 최대 ~10배 향상, 라우팅 오버헤드는 2.4–4.3%에 불과.
6. 에이전틱 태스크 적용: Terminal-Bench 2.0에서 재실행 없는 순수 재조합 레이어로서 GPT-5.4 제출물 위에 적용해 pass@1을 81.80%에서 88.76%로 향상.

How

Figure 4. SQUEEZE EVOLVE overview. The expensive Model 2 generates the initial population; subsequent loops recombine gr

• 여러 test-time scaling 방법(majority voting, RSA, AlphaEvolve)을 P(t+1)=Φf(P(t)) 형태의 단일 진화적 프레임워크로 통일하여 정식화 (Sec.3)
• 다양성 붕괴, 상한(pass@N) 저하, 초기화 품질의 중요성 등을 규명하는 실증 분석 수행 (Sec.4)
• confidence-derived fitness 신호를 이용해 각 recombination 그룹을 가장 비용 효율적인 모델에 라우팅하는 경량 메커니즘 설계 (Sec.5)
• 고비용 Model 2는 초기 집단 생성 등 고영향 단계에, 저비용 Model 1은 나머지 단계에 배정하는 오픈소스/클로즈드소스/혼합 배포 지원
• custom confidence engine과 latency-matched GPU pool을 활용한 co-designed serving 시스템 구축 (Sec.7)
• 9개 벤치마크(수학, 코딩, 시각, 시각추론, 과학적 discovery, 에이전틱 태스크)에 걸친 광범위한 실험적 검증

Originality

• 기존에 개별적으로 다뤄지던 self-aggregation, LLM 기반 진화, model routing이라는 세 연구 흐름을 하나의 진화적 연산자 Φf로 통합한 최초의 정식화
• verifier-free 환경에서의 다양성 붕괴를 정량적으로 분석하고 이를 multi-model orchestration으로 해결한다는 새로운 문제 설정
• 별도의 verifier 없이 모델 자체의 confidence 신호만을 fitness proxy로 재활용하여 라우팅에 사용하는 경량 메커니즘 제안
• verifier-free 방법이 verifier-based 방법(AlphaEvolve)과 견줄 수 있음을 최초로 실증

Limitation & Further Study

• confidence 기반 fitness 신호가 모든 도메인(특히 open-ended discovery task)에서 실제 정답 품질과 얼마나 신뢰성 있게 상관되는지에 대한 이론적 보장이 부족함
• 라우팅 정책이 특정 모델 페어(Model 1/Model 2) 조합에 의존하는데, 모델 생태계 변화나 신규 모델 도입 시 재조정 비용이 발생할 수 있음
• 실험이 주로 벤치마크 기반이며, 실제 open-ended 과학적 discovery(예: 핵융합 연구처럼 극도로 비용이 큰 검증이 필요한 도메인)에서의 실증은 제한적(circle packing 정도)
• 후속 연구로 더 다양한 모델 수(3개 이상)로의 orchestration 확장, 이론적 수렴 보장, 그리고 confidence 신호의 캘리브레이션 강건성 분석이 필요

Evaluation

총평: verifier-free evolution의 핵심 병목인 다양성 붕괴와 비용 비효율을 통합적 프레임워크와 경량 confidence 라우팅으로 동시에 해결한 실용적이고 임팩트 있는 연구로, 광범위한 벤치마크에서의 일관된 성능-비용 개선이 인상적이다.