Heterogeneous Scientific Foundation Model Collaboration

Motivation

• Known: LLM 에이전트는 강력한 추론 능력을 갖추었으나 언어를 보편적 인터페이스로 사용하므로 기호 표현이나 구조화된 데이터 등 비언어적 과학 도메인에 제한적이다. 동시에 도메인 특화 파운데이션 모델들은 전문 분야에서 뛰어난 성능을 보이지만 언어 인터페이스가 부족하다.
• Gap: 기존 멀티 에이전트 시스템은 모두 자연언어를 통한 통신을 가정하는데, 언어를 지원하지 않는 도메인 특화 모델들을 어떻게 에이전트 시스템에 직접 통합할 것인가에 대한 해결책이 부재하다.
• Why: 과학 도메인에서 도메인 특화 파운데이션 모델과 LLM 추론의 효과적인 협업은 언어 기반 추론의 오버헤드를 줄이면서도 정확도를 높일 수 있으므로 AI4Science 통합 운영에 필수적이다.
• Approach: Tsaheylu 개념에서 영감을 받아 도메인 특화 모델과 LLM 간 신경 인터페이스 역할을 하는 EywaAgent를 설계하고, 이를 단일 에이전트, 멀티 에이전트, 플래너 기반 오케스트레이션의 3단계로 확장한다.

Achievement

Figure 1: Eywa extends current agentic systems. (Left) Overall comparisons show that EywaAgent,

• EywaAgent: 도메인 특화 FM에 LLM 기반 추론 인터페이스를 증강하여 단일 에이전트 파이프라인으로 작동하며 기존 대비 ~7% 유틸리티 향상, ~30% 토큰 감소, ~10% 실행 시간 단축
• EywaMAS: 기존 멀티 에이전트 시스템에 EywaAgent를 플러그 앤 플레이 방식으로 통합 가능하며 모든 메트릭에서 개선
• EywaOrchestra: 중앙 플래너가 LLM 에이전트와 EywaAgent를 동적으로 조율하여 복잡한 과제 해결
• EywaBench: 물리·생명·사회과학 도메인을 포함한 광범위한 과학 태스크 벤치마크 구성 및 평가
• 모달리티 네이티브 협업: 데이터를 전부 자연언어로 변환하지 않고도 이종 모델 간 협업으로 언어 기반 추론 의존도 감소

How

Figure 2: Analogy between the Avatar Pandora ecosystem and the Agentic AI ecosystem. In Pandora,

• 도메인 특화 파운데이션 모델 Fk : Xk × Uk → Ok의 입출력을 LLM이 이해 가능한 형태로 변환하는 Tsaheylu 인터페이스 설계
• EywaAgent에서 LLM이 도메인 모델의 입력 인자 Uk와 추론을 가이드하고 출력 Ok를 통합하는 에이전트 정책 ALLM : S → ∆(M) 수립
• EywaMAS는 기존 LLM 에이전트를 EywaAgent로 대체하여 멀티 에이전트 프레임워크 내에서 협업
• EywaOrchestra는 중앙 플래너가 각 태스크 특성에 따라 LLM 에이전트와 EywaAgent의 조합을 동적으로 선택 및 조율
• 구조화·도메인 특화 데이터는 도메인 모델에서 처리하고 일반적 추론·계획은 LLM이 담당하여 분업 구조 형성

Originality

• Avatar Pandora 생태계의 Tsaheylu 개념을 AI 에이전트 협업에 창의적으로 적용하여 비언어적 모달리티 간 통신 구조 제시
• 도메인 특화 모델을 언어 인터페이스 없이도 에이전트 시스템에 통합하는 최초의 체계적 프레임워크 제안
• 단일·멀티·오케스트레이션 3단계 구성으로 확장성과 유연성을 모두 제공하는 설계

Limitation & Further Study

• EywaBench의 도메인 커버리지가 제한적일 수 있으며, 실제 산업 응용 사례에 대한 평가 부재
• Tsaheylu 인터페이스 설계가 각 도메인 모델마다 맞춤형이어야 하므로 확장성 제약
• LLM과 도메인 모델 간 오버헤드(입출력 변환, 조율 비용) 정량화 부족
• 후속 연구: (1) 더 다양한 과학 도메인 추가, (2) 인터페이스 설계 자동화 방법 개발, (3) 도메인 모델 간 협업(예: 생물정보 + 화학) 연구, (4) 실시간 적응형 오케스트레이션 알고리즘 개발

Evaluation

총평: Eywa는 언어 중심 에이전트 시스템의 근본적 한계를 창의적으로 해결하며, 도메인 특화 파운데이션 모델의 우수성을 에이전트 추론에 통합하는 효과적인 프레임워크를 제시한다. 광범위한 실험을 통해 성능과 효율성 개선을 입증했으나, 실제 산업 응용과 대규모 협업 시나리오에 대한 평가 확대가 필요하다.