Evaluating System Design Choices in Biomedical AI Agents

Motivation

• Known: Tool-augmented biomedical agent(GeneGPT, BioAgents, Kosmos, Biomni 등)는 LLM 추론과 도메인 특화 도구, 데이터베이스, 코드 실행 환경을 결합하여 계획-실행-평가의 반복적 워크플로우를 통해 생물정보학 문제를 해결하도록 설계되고 있으며, CompBioBench, BioAgent Bench, GenomeArena, BixBench와 같은 벤치마크들이 이러한 에이전트의 성능을 평가하기 위해 등장하고 있다.
• Gap: 기존 연구들은 에이전트의 전반적 성능이나 강건성을 평가하는 데 집중했지만, tool retriever와 critic의 삽입 위치(계획 전 vs 실행 후) 같은 구체적인 아키텍처 설계 선택이 신뢰성과 효율성(runtime, cost, LLM-call count)에 어떻게 상호작용하며 영향을 미치는지는 거의 규명되지 않았다.
• Why: 에이전트의 신뢰성을 높이는 구성요소(critic, retriever)의 배치가 실제로 정확도 향상에 기여하는지, 그리고 그 대가로 계산·경제적 비용이 얼마나 증가하는지를 정량적으로 이해하는 것은 생물의학 AI 워크플로우를 실용적으로 배포하는 데 필수적이다.
• Approach: Biomni 에이전트를 GPT-4.1 mini와 GPT-4.1 두 LLM 백엔드로 구동하며, tool retriever(사용/미사용) 2가지와 critic 배치(no critic/end critic/plan critic) 3가지를 조합한 6가지 설정을 BixBench-Verified-50의 50개 문항에 대해 평가하는 ablation 실험을 수행했다.

Achievement

1. 최고 성능 조건 도출: GPT-4.1에 tool retrieval과 end-of-run critic을 결합한 설정이 60% 정확도로 12개 조건 중 최고 성능을 달성했다.
2. critic 배치의 모델별 상호작용 규명: GPT-4.1 mini에서는 retrieval 여부와 무관하게 end-critic이 항상 정확도를 개선(38%→44%, 31%→40%)했지만, GPT-4.1에서는 retrieval이 있을 때만 end-critic이 효과적(40%→60%)이고 retrieval이 없을 때는 오히려 성능이 저하(52%→40%)되는 상호작용 효과를 발견했다.
3. plan-critic의 전반적 비효율성 확인: 계획 단계에서 개입하는 plan-critic은 두 모델 모두에서 no-critic 및 end-critic보다 대체로 낮은 성능을 보였다.
4. 효율성-정확도 트레이드오프 정량화: tool retrieval이 대부분의 비교에서 토큰 비용을 크게 절감(예: GPT-4.1에서 retrieval 비활성화 시 end-critic 조건 비용이 $0.265→$0.884로 증가)시키는 반면, end-critic은 추가 LLM 호출과 실행시간 증가를 동반함을 보였다.

How

• BixBench-Verified-50의 50개 문항을 llm_verifier(20문항, LLM 기반 채점), str_verifier(17문항, 정확 문자열 매칭), range_verifier(13문항, 수치 범위 검사) 세 그룹으로 나누어 평가
• 각 문항을 독립된 workspace에서 실행하여 프롬프트, 트랜스크립트, 중간 산출물, 메타데이터를 보존
• 에이전트에게 질문과 데이터 캡슐을 제공하고 <solution>...</solution> 태그 안에 최종 답변을 작성하도록 지시, 이를 추출해 벤치마크 평가기에 제출
• critic 배치를 no critic(추가 검토 없음), end-critic(작업 완료 후 검토 및 수정 가능), plan-critic(실행 전 계획 검토)의 3가지로 구성
• tool retrieval을 활성화/비활성화하여 LLM 기반 retriever가 사전에 작업 관련 도구·소프트웨어·데이터베이스 부분집합을 선택하는지 여부를 조작
• 6가지 critic-retriever 조합을 GPT-4.1 mini, GPT-4.1 두 모델에 각각 적용해 총 12개 조건 비교
• 정확도, 문항당 실행시간(wall-clock), 모델 토큰 비용(입출력 토큰 단가 기반 산정), LLM 호출 횟수를 측정하고 verifier 그룹별 결과는 부록에 별도 보고

Originality

• Biomni라는 실제 배포된 생물의학 에이전트를 대상으로, critic 삽입 위치(end vs plan)와 tool retriever 사용 여부라는 두 실용적 설계 축을 교차 실험한 체계적 ablation 프레임워크를 제시
• 단순 정확도뿐 아니라 runtime, 모델 비용, LLM 호출 수까지 포함한 다차원적 효율성-신뢰성 트레이드오프 분석을 시도
• 벤치마크의 세 가지 verifier 그룹(llm/str/range)별로 stratified된 결과를 함께 제공하여 채점 방식에 따른 민감도까지 고려

Limitation & Further Study

• BixBench-Verified-50이라는 50문항의 소규모 데이터셋에 국한되어 있어 통계적 검정력이 부족하고 결과의 일반화 가능성이 제한적임
• 단일 에이전트 프레임워크(Biomni)와 단일 LLM 계열(GPT-4.1 시리즈)만을 평가하여 다른 에이전트 아키텍처나 오픈소스 모델에 대한 결론 적용이 불확실함
• critic과 retriever가 상호작용하는 구체적 메커니즘(왜 GPT-4.1에서만 retrieval-critic 상호작용이 발생하는지)에 대한 정성적 분석이나 오류 사례 분석이 부족함
• 저자들 스스로도 "preliminary study"로 규정하고 있어 후속 연구로 더 큰 표본, 다양한 모델·벤치마크, critic 설계 변형에 대한 추가 검증이 필요함

Evaluation

총평: 워크숍 논문 수준의 예비적이고 실용적인 ablation 연구로, 생물의학 에이전트 설계에서 critic과 retriever의 상호작용이라는 잘 다뤄지지 않은 문제를 조명한 점은 유의미하나, 표본 크기와 일반화 범위의 한계로 인해 확정적 결론보다는 향후 연구를 위한 초기 신호를 제공하는 데 그친다.