Large Language Model based Multi-Agents: A Survey of Progress and Challenges

Motivation

• Known: 단일 LLM 기반 에이전트는 뛰어난 인지 능력과 의사결정 능력을 갖춘 것으로 입증되었으며, 소프트웨어 개발, 로봇 시스템, 정책 시뮬레이션 등 다양한 작업에 활용 중이다.
• Gap: LLM 기반 멀티에이전트 시스템에 대한 기존의 독립적인 연구들이 증가하고 있으나, 이들을 체계적으로 정리하고 통합된 프레임워크를 제시하는 종합적인 리뷰가 부재한 상태이다.
• Why: LLM-MA는 여러 자율 에이전트의 집단 지능(collective intelligence)과 전문화된 프로파일 및 기술을 활용하여 복잡한 실제 환경을 효과적으로 시뮬레이션할 수 있어, 단일 에이전트 시스템보다 향상된 능력을 제공한다.
• Approach: 에이전트-환경 인터페이스, 에이전트 프로파일링, 에이전트 통신, 에이전트 능력 획득이라는 4가지 핵심 측면을 중심으로 LLM-MA 시스템의 구조를 분석하고, 문제 해결(problem-solving)과 세계 시뮬레이션(world simulation) 응용 분야로 분류하여 최신 연구 동향을 체계화한다.

Achievement

그림 2: LLM-MA 시스템의 아키텍처. 에이전트-환경 인터페이스, 에이전트 프로파일, 통신 메커니즘, 능력 획득 과정을 통합적으로 표현.

1. 종합적 분류 체계 수립: LLM-MA 시스템을 4가지 핵심 차원(인터페이스, 프로파일링, 통신, 능력 획득)과 2가지 응용 분야(문제 해결, 세계 시뮬레이션)로 체계적으로 분류하여 연구 지형도를 제시.
2. 에이전트-환경 인터페이스 분석: 샌드박스(Sandbox), 물리적(Physical), 없음(None)의 3가지 인터페이스 유형을 규정하고, 각 유형에서 에이전트의 상호작용 방식을 명확히 분석.
3. 에이전트 프로파일링 방법론: Pre-defined(사전 정의), Model-Generated(모델 생성), Data-Derived(데이터 기반)의 3가지 프로파일링 방법을 체계화하여 다양한 에이전트 정의 방식 제시.
4. 에이전트 통신 체계화: 통신 패러다임(Communication Paradigm), 정보 통과 메커니즘(Message-Passing Mechanism), 프로토콜(Protocol)의 3가지 측면에서 에이전트 간 상호작용 구조를 분석.

How

그림 3: 에이전트 통신 구조. 브로드캐스트(Broadcast), 라우팅(Routing), 토폴로지(Topology) 등 다양한 통신 패턴을 나타냄.

• 에이전트-환경 인터페이스: 에이전트가 환경과 상호작용하는 방식을 3가지로 분류 - (1) 샌드박스: 코드 인터프리터(소프트웨어 개발), 게임 규칙(게임 시뮬레이션) 등 시뮬레이션 환경, (2) 물리적: 로봇이 실제 환경에서 반복적으로 행동하고 관찰하는 방식, (3) 없음: 외부 환경 없이 에이전트 간 토론/합의 시스템
• 에이전트 프로파일링: 역할(role), 행동(behavior), 기술(skill), 제약(constraint)을 포함한 특성을 정의. 방법론으로는 시스템 설계자가 명시적으로 정의하는 방식(Pre-defined), LLM이 생성하는 방식(Model-Generated), 기존 데이터셋 기반 구성(Data-Derived)을 활용
• 에이전트 능력 획득 메커니즘: 인-컨텍스트 학습(In-Context Learning), 경험 학습(Experience Learning), 외부 지식 통합(External Knowledge Integration) 등을 통해 에이전트의 능력을 확장
• 통신 프로토콜: 브로드캐스트(모든 에이전트에 동시 전송), 라우팅(특정 에이전트 대상), 계층적 토폴로지(hierarchical communication) 등 다양한 메시지 전달 방식 구현

Originality

• 포괄적 분류 체계: 기존 단일 에이전트 시스템 연구에서 벗어나 멀티에이전트 시스템의 고유한 특성(다중 에이전트 간 상호작용, 집단 의사결정)을 중심으로 한 새로운 분석 틀 제시
• 다학제적 관점의 통합: AI 전문가뿐 아니라 사회과학, 심리학, 정책 연구 분야의 관점을 통합하여 LLM-MA 연구의 광범위한 응용을 조망
• 체계적 아키텍처 모델링: 에이전트-환경 인터페이스, 프로파일링, 통신, 능력 획득을 연결하는 통합 아키텍처를 제시하여 LLM-MA 시스템의 설계 원리 명확화
• 응용 분야의 명확한 분류: 문제 해결과 세계 시뮬레이션이라는 2가지 주요 응용 스트림으로 구분하여 각 영역의 특성과 요구사항을 체계적으로 분석

Limitation & Further Study

• 이론적 기초의 부재: 멀티에이전트 시스템이 왜 단일 에이전트보다 우수한지에 대한 이론적 분석이나 성능 향상의 원인에 대한 심층적 논의 부족
• 평가 메트릭의 표준화 미흡: 멀티에이전트 시스템의 효과성을 측정하기 위한 표준화된 평가 지표가 제시되지 않아, 서로 다른 시스템 간 비교가 어려움
• 확장성과 신뢰성 문제: 에이전트 수 증가에 따른 통신 오버헤드, 에이전트 오류에 따른 시스템 견고성 저하 등 실제 대규모 배포 시 발생할 수 있는 문제에 대한 논의 부족
• 향후 연구 방향: (1) LLM-MA 시스템의 성능과 효율성에 대한 이론적 분석 강화, (2) 에이전트 수, 복잡도, 이질성(heterogeneity)에 따른 체계적 성능 평가, (3) 다양한 도메인 간 전이 학습(transfer learning) 가능성 탐색, (4) 개방형 환경에서의 안전성 및 신뢰성 보장 메커니즘 개발

Evaluation

총평: 본 논문은 급속히 발전하는 LLM 기반 멀티에이전트 연구 분야에 대한 체계적이고 포괄적인 서베이를 제공하며, 에이전트-환경 인터페이스, 프로파일링, 통신, 능력 획득이라는 4가지 핵심 차원으로 LLM-MA 시스템을 분석하는 새로운 프레임워크를 제시하여 학술적 가치가 높다. 다만 이론적 분석의 깊이와 실제 적용 시 마주칠 수 있는 확장성, 신뢰성 문제에 대한 논의가 보강된다면 더욱 실용적인 자료가 될 것으로 예상된다.