ScholarCopilot: Training Large Language Models for Academic Writing with Accurate Citations

Motivation

Known: 최근 대규모 언어모델(GPT-4, Qwen2.5 등)은 유창한 학술 문체 생성이 가능하지만 인용 환각(citation hallucination)이 빈번함. 기존 RAG 시스템은 외부 지식베이스에서 참고문헌을 검색하여 팩트 일관성을 개선함.
Gap: 전통적 RAG는 생성 전에 독립적으로 검색을 수행하는 정적 파이프라인 구조이므로: (1) 검색과 생성 모델의 분리된 최적화로 인한 표현 불일치, (2) 사전 결정된 검색으로 문맥-인식성 부족, (3) 사용자 제어 불가능.
Why: 학술 논문 작성은 진화하는 정보 필요성(evolving information needs)을 가지므로, GPT-4 언급 시 정확히 그 시점에 관련 문헌을 검색해야 함.
Approach: 통합된 생성-검색 프레임워크로 검색 토큰([RET])을 동적으로 생성하여 필요한 시점에 참고문헌을 검색하고, 단일 모델에서 두 목표를 함께 최적화함.

ScholarCopilot의 통합 훈련 프레임워크. 텍스트 생성의 다음 토큰 예측 손실과 인용 검색의 대조학습 손실을 함께 최적화하며, 검색 토큰([RET])이 동적으로 검색을 트리거함

데이터셋 구성: arXiv에서 2007-2024년 발행 컴퓨터과학 논문 500K개 수집, 평균 38개 인용 포함 (매칭율 87%)
통합 훈련 구조: 단일 모델에서 (1) 다음 토큰 예측(next token prediction) 손실과 (2) 대조학습(contrastive learning) 손실을 함께 최적화
동적 검색 메커니즘: 생성 과정 중 [RET] 토큰 생성 시 인용 데이터베이스 쿼리 실행, 검색된 논문 초록/주요 내용을 생성에 피드백
기저 모델: Qwen-2.5-7B 기반, 효율성과 성능의 균형 유지
선택적 사용자 개입: 반복적 프로세스 중 사용자가 인용을 수동으로 조정하거나 트리거 가능

반복적 RAG의 학술 적용: FLARE, SelfRAG 등의 기존 반복적 RAG를 학술 논문 작성이라는 특수한 도메인에 맞춤화. 명시적 쿼리 없이 문맥에서 암묵적으로 인용 의도를 추론하는 새로운 접근.
통합 생성-검색 모델: 기존의 분리된 검색/생성 모델과 달리, 공유 표현을 통해 표현 불일치를 해결하고 계산 효율성 증대 (GritLM, OneGen과 유사하나 학술 인용에 특화)
대규모 학술 인용 데이터셋: 500K 논문, 33개 매칭 인용/논문의 포괄적 인용 네트워크(citation networks) 포함. arXiv LaTeX 소스를 구조화하여 처리하는 파이프라인 개발.
학술 텍스트 품질의 다차원 평가: 기존 QA 벤치마크와 달리, 학술 논문에 특화된 5가지 평가 차원(관련성, 일관성, 학술적 엄밀성, 완성도, 혁신성) 수립.

도메인 제한: 컴퓨터과학 분야에만 학습(arXiv). 다른 학제 간(interdisciplinary) 응용 가능성 미검증. 생의학, 사회과학 등 타 분야로의 확장 필요.
추론 시 인용 데이터베이스: 훈련에는 16.8M 인용을 사용하나 추론 시에는 데이터 품질 보장을 위해 670K arXiv 논문으로만 제한. 더 큰 규모의 검색 코퍼스 활용 시 성능 향상 가능성.
평가 규모: 인간 평가가 10명의 작성자 + 1,000개 샘플로 제한적. 더 광범위한 규모의 사용자 연구 및 실제 학술 저자 피드백 필요.
명시적 검색 정책 분석: [RET] 토큰 생성 시점과 빈도에 대한 깊이 있는 분석 부재. 어떤 상황에서 과도하게 또는 부족하게 검색하는지 자세한 오류 분석 필요.
다언어 지원: 현재 영어 논문만 처리. 비영어 학술 커뮤니티로의 확장 미진.