From Conflict to Consensus: Boosting Medical Reasoning via Multi-Round Agentic RAG

Motivation

• Known: RAG는 외부 근거를 통해 LLM의 환각과 outdated knowledge 문제를 완화할 수 있으며, adaptive RAG 기법들(FLARE, DRAGIN 등)은 token-level confidence나 attention weight 같은 내부 신호를 이용해 언제, 무엇을 retrieval할지 결정한다. 또한 test-time scaling은 parallel scaling(self-consistency, majority voting)과 sequential scaling(self-refinement, o1, DeepSeek-R1 등)으로 나뉘어 LLM 추론 신뢰성을 높이는 방법으로 알려져 있다.
• Gap: 기존 adaptive RAG 방법들은 token-level uncertainty(entropy, attention weight 등)에 의존하는데, 이는 LLM이 높은 confidence로 hallucination을 생성할 수 있어 신뢰성이 낮고, 사소한 단어에 uncertainty가 집중되어 domain-critical한 의료 개념을 포착하지 못한다는 한계가 있다. 또한 기존 RAG는 single-round 혹은 단순 반복 구조로, 복잡한 다단계 의료 추론에 필요한 multi-round refinement가 부족하다.
• Why: 의료 도메인은 안전에 민감하여 hallucination과 outdated knowledge가 치명적 위험을 초래할 수 있으므로, token-level noise 대신 후보 응답 간 semantic conflict라는 더 신뢰할 수 있는 고차원 신호로 retrieval과 reasoning을 유도하는 것은 정확하고 신뢰 가능한 의료 추론 시스템 구축에 중요한 의미를 가진다.
• Approach: Solver, Retrieval, Ranking 세 개의 agent로 구성된 agentic refinement loop를 통해, 각 라운드마다 후보 응답 간 semantic conflict를 actionable query로 변환해 외부 근거를 검색하고, 상위 후보를 우선시하여 history reasoning trace를 최적화함으로써 self-consistency 원리를 확장하고 boosting과 유사한 방식으로 residual error를 반복적으로 줄여 안정적인 consensus에 도달한다.

Achievement

Figure 3. Performance comparison between MA-RAG and the

1. 일관된 성능 향상: 7개 의료 Q&A 벤치마크에서 MA-RAG는 competitive한 inference-time scaling 및 RAG baseline들을 지속적으로 능가했다.
2. 큰 폭의 정확도 개선: backbone model 대비 평균 정확도 +6.8점의 상당한 성능 향상을 달성했다.
3. 어려운 문제에서의 두드러진 이득: MedXpertQA와 같이 information-dense query와 정교한 reasoning이 필요한 어려운 벤치마크에서 baseline 대비 37%의 상대적 개선을 보여, 복잡한 의료 추론에서의 강점을 입증했다.
4. 강건한 multi-round refinement: 종합 분석과 사례 연구를 통해 MA-RAG가 다중 라운드 refinement 과정에서 안정적인 성능을 보이며 test-time scaling을 효과적으로 유도함을 확인했다.

How

Figure 2. Overall pipeline of MA-RAG (Multi-round Agentic RAG) for complex medical reasoning. At each round t of the age

• 입력 상태 St = {I, q, Dt, Ht}를 반복적 context 최적화 문제로 정식화하여, Task Instruction I, Document Context Dt, History Context Ht=Rank(At−1)를 라운드마다 진화시킴.
• Solver Agent: 매 라운드 다수의 candidate response를 생성.
• Retrieval Agent: candidate 응답들 간의 semantic conflict를 감지하여 actionable retrieval query로 변환하고, local 의료 corpus에서 외부 근거(Dt)를 검색해 갱신.
• Ranking Agent: 후보 응답들에 점수를 매겨 상위 후보를 우선시함으로써 history reasoning trace(Ht)를 최적화하고 long-context degradation을 완화.
• 이 과정을 self-consistency 원리의 확장 및 boosting 메커니즘의 관점에서 해석하여, 라운드가 진행될수록 residual error를 최소화해 고신뢰 consensus로 수렴하도록 설계.
• 7개 의료 Q&A 벤치마크(MedXpertQA 등)에서 inference-time scaling 및 기존 RAG baseline과 비교 평가.

Originality

• token-level uncertainty(confidence, attention weight) 대신 후보 응답 간 semantic conflict라는 고차원 의미 신호를 retrieval trigger로 사용하는 새로운 관점 제시.
• self-consistency 원리를 단순 투표(majority voting)에서 나아가 '불일치(inconsistency)' 자체를 능동적 신호로 재해석하여 multi-round agentic reasoning과 retrieval을 유도.
• 반복적 refinement 과정을 통계적 boosting 메커니즘(residual error 최소화)에 비유하여 이론적 해석 틀을 제공.
• Solver-Retrieval-Ranking 세 agent의 협업 구조를 통해 외부 evidence와 내부 reasoning history를 동시에 진화시키는 agentic RAG 파이프라인 설계.

Limitation & Further Study

• 논문 발췌에는 각 agent(특히 Retrieval Agent의 query 생성, Ranking Agent의 스코어링 방식)의 구체적 알고리즘과 학습 여부(파인튜닝 vs. prompting 기반)가 명확히 드러나지 않아 재현성 및 일반화 가능성에 대한 추가 검증이 필요함.
• multi-round 반복으로 인한 inference 비용(계산량, latency) 증가에 대한 분석이 abstract/서두 발췌에서는 다뤄지지 않아, 실용적 배포 관점에서의 효율성 논의가 보완될 필요가 있음.
• local 의료 corpus의 품질과 커버리지에 성능이 크게 의존할 수 있어, corpus 규모나 도메인이 다른 환경에서의 일반화 성능에 대한 후속 연구가 필요함.
• 의료 도메인 특화 벤치마크에 집중되어 있어, 타 전문 분야(법률, 과학 등)로의 확장 가능성에 대한 검증이 부족함.

Evaluation

총평: token-level 신호의 한계를 지적하고 semantic conflict를 활용한 multi-round agentic RAG라는 참신한 접근으로 의료 추론 성능을 크게 개선한 견고한 연구이며, 세부 알고리즘의 재현성과 계산 비용 분석이 보강되면 더욱 완성도 높은 기여가 될 것이다.