SciContrib-Bench: Mapping the Autonomy Landscape of AI Scientists Through Stage-Dependent Detectability

Motivation

• Known: 기존 AI 생성 텍스트 탐지 연구(DetectGPT, Binoculars, watermarking, stylometric approach 등)는 in-domain에서 높은 정확도를 보이지만 cross-domain·paraphrasing 상황에서 성능이 크게 저하되며, 텍스트 유형이나 저작 단계에 따른 차이는 균일한 것으로 가정되어 왔다. 또한 AI scientist benchmark들(MLAgentBench, ScienceAgentBench 등)은 task completion에 초점을 맞추고 output distinguishability는 다루지 않았다.
• Gap: hypothesis 생성, methodology 서술, 결과 interpretation, abstract 작성은 인지적 요구와 문체적 제약이 근본적으로 다름에도 불구하고, 기존 탐지 방법론은 과학적 텍스트를 균일하게 취급하여 어떤 연구 기여 단계가 attribution safeguard를 가장 시급히 필요로 하는지에 대한 실증적 근거가 부재하다.
• Why: AI가 tool에서 co-author, 나아가 autonomous contributor로 전환되는 시점을 판단하려면 어느 단계의 AI 기여가 인간과 구분 불가능해지는지에 대한 실증 데이터가 필요하며, 이는 과학 정책상의 attribution policy 설계에 직접적인 함의를 가진다.
• Approach: ML/AI, Chemistry, Biology 세 도메인 300편 논문에서 단계별로 매칭된 human/AI 세그먼트를 구축하고, L1-regularized logistic regression(stylometric features), 파인튜닝된 RoBERTa-large, perplexity 기반 baseline(Binoculars 포함) 등 이질적 탐지 방법을 동일 데이터에 적용하여 단계별 탐지 난이도의 패턴이 방법론에 따라 어떻게 달라지는지 비교 분석하였다.

Achievement

Figure 1. Stage-dependent detection across methods. The sty-

1. stage-dependent stylometric 패턴 확립: 16개 stylometric feature 기반 L1-regularized logistic regression이 84.5% balanced accuracy(AUROC=0.923)를 달성했고, interpretation(93.5%)과 abstract(74.5%) 사이 19퍼센트포인트 격차가 cluster-robust permutation test(p=0.001)와 mixed-effects model(p<0.001)로 통계적으로 견고함을 확인함.
2. RoBERTa-large의 강건성과 취약성 규명: in-domain에서 거의 완벽한 탐지(BA=1.000)를 달성하지만 back-translation paraphrasing 시 BA가 0.518로 급락(AUROC은 0.989로 유지)하여 ranking 능력은 견고하나 hard decision boundary는 전이되지 않음을 밝힘.
3. cross-generator 및 same-family Binoculars 평가: DeepSeek-R1으로 학습, Qwen-2.5-32B로 테스트 시 BA=0.810(29pp stage range)으로 distribution shift 하에서 stage-dependent 탐지가 나타났으며, Qwen-2.5-0.5B/1.5B 기반 Binoculars 평가(BA=0.715, AUROC=0.800)에서 perplexity 계열 방법 특유의 반전된 stage ordering을 확인함.
4. negative control 및 length-artifact 검증: shuffled-label control(BA=0.500), human-vs-human 평가(FP=0.000), function-word-only/length-matched/length-free feature 분석을 통해 탐지 신호가 진짜이며 길이 아티팩트가 아님을 검증함.

How

Figure 2. Stage×Domain heatmap. Abstract is the least detectable

• 300편 오픈액세스 논문(ML/AI 100, Chemistry 100, Biology 100)에서 LaTeX/XML 파싱으로 hypothesis, methodology, interpretation, abstract 네 단계 세그먼트를 50–500단어 범위로 추출하고 무작위 10% 표본을 수작업 검증함.
• DeepSeek-R1-Distill-Qwen-32B(AWQ 4-bit)로 두 단계(초안 생성→자기 수정) 프롬프팅을 통해 각 human 세그먼트에 매칭되는 AI 세그먼트를 생성, reasoning trace는 제거하여 총 1,632개 샘플(816 AI + 816 human) 확보 후 논문 단위로 60/15/25 train/val/test 분할.
• lexical, syntactic, discourse, structural 범주의 16개 stylometric feature를 추출하고 training-set 통계로 표준화하여 L1-regularized logistic regression을 학습함.
• citation, LaTeX 명령어, 수식, 그림/표 참조 등을 대칭적으로 제거한 artifact-scrubbed 버전을 구성하여 RoBERTa-large가 포맷 아티팩트가 아닌 진짜 분포적 차이를 학습하는지 검증함.
• RoBERTa-large(355M)를 동일 split에서 파인튜닝(lr=2e-5, batch 16, 3 epoch)하고 원본/scrubbed 텍스트, cross-generator(train DeepSeek-R1, test Qwen-2.5-32B), back-translation paraphrasing 조건에서 평가함.
• Qwen-2.5-0.5B/1.5B를 이용한 same-family Binoculars 평가와 TinyLlama-1.1B 등 개별 perplexity baseline을 비교하고, validation-calibrated ensemble(AUROC=0.956)을 구성함.
• shuffled-label과 human-vs-human 비교를 negative control로 사용하고 function-word-only, strict length matching, length-free feature 분석으로 length confound를 배제함.

Originality

• 기존 탐지 연구가 텍스트를 단일 덩어리로 취급한 것과 달리, 연구 파이프라인의 네 단계(hypothesis, methodology, interpretation, abstract)를 명시적으로 구분하여 stage-dependent detectability라는 새로운 축을 도입함.
• stylometric, neural(RoBERTa), perplexity(Binoculars 등) 세 계열의 이질적 탐지 방법이 서로 반대되는 stage ordering을 보인다는 점을 발견하고, 이를 ensemble과 cross-generator 평가로 통합 분석한 점이 독창적임.
• artifact scrubbing, shuffled-label control, human-vs-human FP 검증, length-controlled 분석 등 다층적 negative control을 통해 탐지 신호의 진위와 견고성을 엄밀하게 검증한 방법론적 설계.

Limitation & Further Study

• interpretation 단계 생성 시 AI가 정확한 수치 결과에 접근하지 못해 hedging이 유도될 수 있는 prompt asymmetry가 존재하여, 이것이 stage 간 격차의 순수한 원인인지 confound인지 완전히 분리되지 않음.
• AI 세그먼트가 단일 생성 모델(DeepSeek-R1-Distill-Qwen-32B) 위주로 생성되어 다양한 최신 LLM(GPT-4급 등)에 대한 일반화가 제한적이며, cross-generator 실험도 제한된 모델 쌍(Qwen-2.5-32B)에 그침.
• DetectGPT/Fast-DetectGPT 등 주요 zero-shot 탐지기에 대한 평가가 향후 연구로 남겨져 있어 현재 결과가 전체 탐지기 생태계를 포괄하지 못함.
• 300편·1,632 세그먼트라는 상대적으로 작은 규모와 세 도메인(ML/AI, Chemistry, Biology)에 국한되어 있어 인문학 등 다른 분야로의 일반화 가능성은 검증되지 않음.

Evaluation

총평: 연구 파이프라인 단계별 탐지 가능성이라는 새로운 관점을 통계적으로 엄밀하게 입증한 의미 있는 벤치마크 논문이며, 특히 탐지 방법론 간 상반된 stage ordering을 밝힌 점이 attribution policy 논의에 실질적 함의를 준다. 다만 단일 생성 모델 의존성과 prompt asymmetry 등 일부 확인되지 않은 confound가 남아있어 후속 검증이 필요하다.