FRAG: A Flexible Modular Framework for Retrieval-Augmented Generation based on Knowledge Graphs

Motivation

Known: KG-RAG는 LLM의 할루시네이션과 지식 부족을 완화하는 유망한 방법이며, 두 가지 주요 접근법이 존재한다.
- Modular KG-RAG: 유연성과 확장성 우수, 고정된 검색 전략으로 인한 검색 품질 저하
- Coupled KG-RAG: 검색 품질 향상, LLM 미세조정으로 인한 복잡성 증가, 유연성/확장성 손상
Gap: 기존 방법들은 KG 구조 정보에 대한 사전 지식 부재로 인해 검색 및 랭킹 파라미터를 효과적으로 조정하지 못하거나, 이를 위해 LLM 미세조정이라는 높은 비용을 지불해야 한다.
Why: 추론 경로의 호프 수(hop count) 같은 구조 정보는 KG뿐만 아니라 쿼리 자체와도 밀접한 관련이 있으며, 일반적으로 쿼리가 복잡할수록 더 많은 호프를 필요로 한다.
Approach: 쿼리 텍스트만을 이용하여 추론 경로의 호프 범위를 예측하고 단순/복잡으로 분류한 후, 각 복잡도에 맞는 맞춤형 검색 파이프라인을 적용한다.

How

FRAG의 세 가지 주요 모듈 구조

1. Reasoning-Aware 모듈 (쿼리 복잡도 분류)

쿼리 컨텍스트에서 의미론적, 통계적 특징을 추출하여 교차 도메인 분류기 훈련
호프 수의 정확한 예측 대신 coarse-grained 호프 범위(단순/복잡)로 단순화하여 예측 오류 영향 최소화
LLM 피드백을 활용한 최적화 전략으로 특정 KG에 대한 분류기 성능 개선

2. Flexible-Retrieval 모듈 (맞춤형 검색 파이프라인)

전처리(Preprocessing) → 검색(Retrieval) → 후처리(Postprocessing) 3단계 파이프라인 설계
단순 추론: BFS(Breadth-First Search) + 랭킹으로 짧은 경로의 효율적·정확한 검색
복잡 추론: 최단 경로 검색(Shortest Path Retrieval) + 랭킹으로 계산 오버헤드 최소화 및 노이즈 감소

3. Generation 모듈

검색된 상위 k개 추론 경로를 이용하여 쿼리를 증강(augment)
LLM으로 최종 출력 생성

같이 보면 좋은 논문

기반 연구

Retrieval-Augmented Generation for Large Language Models: A Survey

Retrieval-Augmented Generation for Large Language Models 논문은 RAG 시스템의 핵심 이론과 기술 흐름을 체계적으로 요약하여 FRAG 프레임워크의 설계 배경을 제공합니다.

기반 연구

Factkg: Fact verification via reasoning on knowledge graphs

Factkg 논문은 RAG 및 KG 기반 검증 맥락에서 그래프 기반 추론과 사실 검증의 이론적 기반을 마련합니다.

기반 연구

Malinowski in the age of ai: Can large language models create a text game based on an anthropological classic? arXiv preprint arXiv:2410.20536, 2024.

348번 논문은 AI 기반 지식탐색 시스템의 설계 프레임워크를 다뤄, 517번의 LLM 기반 인류학 교육·게임 생성 실험에 구조적 배경을 제공합니다.

기반 연구

Enhancing chart-to-code generation in multimodal large language models via iterative dual preference learning

FRAG 논문은 retrieval-augmented generation 프레임워크를 제시하여 차트-to-코드 생성 방식에 필수적인 기본 구조를 제공합니다.

기반 연구

Unraveling the Mechanism of Drug Binding to SARS-CoV-2 RNA Pseudoknot with Thermodynamics-Driven Machine Learning

348은 보강된 회수형 생성 프레임워크에 기반한 지식 발견 자동화 사례를 정리하여, 3273에서 제안한 spectral map 기반 RNA 약물 결합 해석의 범용적 적용 가능성을 비춰줍니다.

다른 접근

Multimodal deepresearcher: Generating text-chart interleaved reports from scratch with agentic framework

Multimodal deepresearcher 논문은 텍스트·차트가 융합된 증강 생성 기반 학술 시스템을 탐구하여, FRAG의 모듈식 다중 데이터타입 지원 기법과 성능 비교가 가능합니다.

다른 접근

Lag: Llm agents for leaderboard auto generation on demanding

다양한 RAG 기반 리더보드 자동화 프레임워크를 비교 분석하여 심층적 벤치마킹 및 방법론 확장이 가능합니다.

다른 접근

Agent-enhanced large language models for researching political institutions

348은 agentic RAG 프레임워크의 설계 및 평가에 집중하여, 063에서 정치연구에 실제 적용된 구조를 다른 형태의 retrieval-augmented agent로 재구성할 수 있다.

다른 접근

HypoChainer: A Collaborative System Combining LLMs and Knowledge Graphs for Hypothesis-Driven Scientific Discovery

FRAG는 Knowledge Graph 기반 RAG 시스템을 다양한 과학 도메인 질의에 최적화하는 프레임워크로, HypoChainer와의 워크플로우 차이를 대비해서 읽을 수 있다.

후속 연구

Retrieval-Augmented Generation for Large Language Models: A Survey

FRAG: A Flexible Modular Framework for Retrieval-Augmented Generation는 실제 RAG 시스템에서 유연성과 품질을 맞추는 새로운 프레임워크를 제시하므로, RAG 분야의 응용·확장 사례로 연결됩니다.

후속 연구

Graphusion: a rag framework for knowledge graph construction with a global perspective

지식 그래프와 RAG를 결합한 프레임워크를 실제 지식 탐색 및 생성에 적용한 사례로, 모듈식 설계의 다양성을 실제로 확장한다.

후속 연구

A Survey on RAG Meeting LLMs: Towards Retrieval-Augmented Large Language Models

348은 에이전틱 RAG 프레임워크를 제안하며, 034의 RAG-LLM 통합 논의를 agent 관점에서 심화시켜준다.

후속 연구

Personalized graph-based retrieval for large language models

Personalized graph-based retrieval for large language models 논문은 그래프 기반 RAG 접근법에서 개인화와 품질 향상을 시도하여, FRAG의 모듈화 아이디어를 보완적으로 확장합니다.

후속 연구

Agentic retrieval-augmented generation: A survey on agentic rag

348은 Agentic RAG의 실제 시스템 구현에 초점을 맞추어, 067의 이론적 서베이를 소프트웨어 아키텍처 및 엔지니어링 관점으로 확장한다.

반론/비판

Grounding fallacies misrepresenting scientific publications in evidence

Grounding fallacies misrepresenting scientific publications 논문은 RAG 및 KG 기반 시스템이 발생시키는 오인의 실제 사례와 한계, 품질 저하 문제를 비판적으로 분석한다.

FRAG: A Flexible Modular Framework for Retrieval-Augmented Generation based on Knowledge Graphs

Essence

Motivation

Achievement

How

Originality

Limitation & Further Study

Evaluation

같이 보면 좋은 논문

FRAG: A Flexible Modular Framework for Retrieval-Augmented Generation based on Knowledge Graphs

Essence

Motivation

Achievement

How

Originality

Limitation & Further Study

Evaluation

같이 보면 좋은 논문

🎧 Audio Overview