Publish and Perish: How AI-Accelerated Writing Without Proportional Verification Investment Degrades Scientific Knowledge

Essence

Figure 1 presents the baseline simulation over a 20-year horizon (initial point t = 0 at November 2022

AI 기반 논문 작성 도구의 급속한 확산이 동료 검증(peer review) 능력을 초과하면서 과학적 지식 생산이 역설적으로 감소하는 현상을 제조업의 제약 이론(Theory of Constraints)으로 정량화한 동역학 모델 연구.

Known: AI 도구가 논문 작성을 가속화하고 있으며, 동료 검증 과정에서도 AI 활용이 증가하고 있다는 실증적 증거가 존재한다. 과학 출판 시스템의 병목 현상(bottleneck)은 논문 작성이 아니라 심층적 검증 능력에 있다.
Gap: AI 채택 동역학과 지식 생산량 간의 정량적 연결고리를 제공하는 수학적 프레임워크가 부재했다. 특히 검증 투자 부족이 지식 산출에 미치는 시스템 수준의 영향을 정형화한 연구가 없었다.
Why: AI 도구의 비대칭적 확산(writing AI >> review AI)이 장기적 과학적 지식 품질 저하를 초래할 수 있으므로, 임계 조건 파악과 정책 개입 방안 도출이 시급하다.
Approach: 2개 상태변수(리뷰 큐Q, 검증 품질q)와 1개 외생입력(논문작성 AI 채택 φw)을 갖는 최소 ODE 모델을 구성하여, 큐 압력이 리�뷰어 AI 채택(φr)을 내생적으로 유도하는 피드백 메커니즘을 포착했다.

Figure 3 maps long time behavior of the knowledge measured by K(t = 20 yr)/K0 across the (γ, δ) parameter

'허니문-역설' 현상 정량화: 지식 산출이 2026년경 1.10K₀으로 정점에 도달 후 2028년 역설 개시, 32% 손실로 저하되는 시간 경로 예측", '임계 조건 도출: δ > γ (리뷰 가속도 > 논문작성 가속도) 만족 시에만 순편익 가능; 현재 운영점은 δ=0.5, γ=2.0으로 역설 영역 심화
실증적 검증: NeurIPS, ICLR, arXiv, bioRxiv 데이터로 Post-ChatGPT 제출 가속화 패턴과 정성적 일치 확인
정책 레버 분석: 리뷰 인프라 투자와 제도적 품질 기준의 복합 개입만이 긍정적 지식 생산 복구 가능 시사

Figure 2. Empirical validation. Annual submissions for (a) NeurIPS (2008-2025), (b) ICLR (2013-2026),

모델이 최소 설계(minimal)로서 협력자 효과, 저널별 차별화된 검증 표준, 분야별 이질성을 반영하지 못함
γ=2.0은 AI 도구 효과와 커뮤니티 성장, 시장 진입장벽 하락 등을 혼합 포함하므로 순수 AI 효과 분리 필요
실증 검증이 NeurIPS, ICLR 등 4개 플랫폼 정성적(qualitative) 일치에 머물러 정량적(quantitative) 피팅 부족
qmin, η 등 정책변수의 파라미터 값이 전문가 판단에 의존하므로 실제 측정 데이터로의 보정 필요
후속 연구: (1) 검증 품질 q(t)를 직접 측정 지표(논문 재현성, 인용율 등)로 검증, (2) 분야별·저널별 이질성 모델, (3) 리뷰어 번아웃 동역학 포함, (4) 정책 개입의 실제 효과 A/B 테스팅