Is Your Paper Being Reviewed by an LLM? Investigating AI Text Detectability in Peer Review

์ €์ž: Sungduk Yu, Man Luo, Avinash Madasu, Vasudev Lal, Phillip Howard | ๋‚ ์งœ: 2024-12-06 | DOI: 10.48550/arXiv.2410.03019 📄 PDF


Essence

Figure 1

ICLR ํ•™์ˆ ๋Œ€ํšŒ์— ์ œ์ถœ๋œ ๋ฆฌ๋ทฐ ์ค‘ AI ์ƒ์„ฑ ํ…์ŠคํŠธ๋กœ ํŒ์ •๋œ ๋น„์œจ์˜ ์ฆ๊ฐ€ ์ถ”์„ธ(2019-2024)

ํ•™์ˆ  ๋…ผ๋ฌธ ์‹ฌ์‚ฌ ๊ณผ์ •์—์„œ LLM์ด ์ž‘์„ฑํ•œ ํ”ผ์–ด ๋ฆฌ๋ทฐ(peer review)๋ฅผ ํƒ์ง€ํ•˜๋Š” ๊ธฐ์กด ๋ฐฉ๋ฒ•๋“ค์˜ ํ•œ๊ณ„๋ฅผ ์‹ค์ฆ์ ์œผ๋กœ ๋ฐํžˆ๊ณ , ๊ฐœ๋ณ„ ๋ฆฌ๋ทฐ ์ˆ˜์ค€์—์„œ AI ์ƒ์„ฑ ํ…์ŠคํŠธ๋ฅผ ํƒ์ง€ํ•˜๋Š” ์ƒˆ๋กœ์šด ์•ต์ปค ์ž„๋ฒ ๋”ฉ(Anchor Embedding) ๊ธฐ๋ฐ˜ ์ ‘๊ทผ๋ฒ•์„ ์ œ์•ˆํ•œ๋‹ค.

Motivation

Achievement

Figure 2

ICLR 2022 ๋…ผ๋ฌธ์˜ GPT-4o ๋ฆฌ๋ทฐ(์ขŒ)์™€ Llama-3.1 ๋ฆฌ๋ทฐ(์šฐ)์— ๋Œ€ํ•œ ๋‹ค์–‘ํ•œ AI ํ…์ŠคํŠธ ํƒ์ง€ ๋ชจ๋ธ์˜ ROC ๊ณก์„ 

  1. ๊ธฐ์กด ๋ฐฉ๋ฒ•์˜ ํ•œ๊ณ„ ์‹ค์ฆ: RoBERTa, Longformer ๋“ฑ ๊ธฐ์กด ์ง€๋„ํ•™์Šต ๊ธฐ๋ฐ˜ ๋ถ„๋ฅ˜๊ธฐ๋“ค๊ณผ Originality AI API๋Š” ๊ฑฐ์ง“ ์–‘์„ฑ(false positive) ๋น„์œจ์ด ๋†’์€ ์ƒํƒœ์—์„œ GPT-4o ๋ฆฌ๋ทฐ๋ฅผ ํšจ๊ณผ์ ์œผ๋กœ ํƒ์ง€ํ•˜์ง€ ๋ชปํ•จ. ํŠนํžˆ FPR 0.05 ์ˆ˜์ค€์—์„œ Originality AI API๋Š” GPT-4o ๋ฆฌ๋ทฐ์˜ 58.56%๋งŒ ํƒ์ง€.
  2. ์ƒˆ๋กœ์šด ์•ต์ปค ์ž„๋ฒ ๋”ฉ ๋ฐฉ๋ฒ•์˜ ์šฐ์ˆ˜์„ฑ: ์ œ์•ˆ๋œ GPT-4o Anchor ๋ฐ Llama-3.1 Anchor ๋ฐฉ์‹์ด FPR 0.05 ์กฐ๊ฑด์—์„œ GPT-4o ๋ฆฌ๋ทฐ 97%์™€ 95%๋ฅผ ๊ฐ๊ฐ ํƒ์ง€ํ•˜๋ฉฐ, AUC 0.99๋ฅผ ๋‹ฌ์„ฑํ•˜์—ฌ ๋ชจ๋“  ๊ธฐ์กด ๋ฐฉ๋ฒ•์„ ์ƒํšŒ.
  3. LLM ํŒ์ •์ž ๋ถ„์„: GPT-4o๋ฅผ ํŒ์ •์ž๋กœ ์‚ฌ์šฉํ•  ๊ฒฝ์šฐ 80% ์ด์ƒ์˜ ์ž์‹ ์˜ ์ƒ์„ฑ ๋ฆฌ๋ทฐ๋ฅผ ํƒ์ง€ํ•˜์ง€๋งŒ 20%์˜ ์ธ๊ฐ„ ๋ฆฌ๋ทฐ๋ฅผ ๊ฑฐ์ง“ ์–‘์„ฑ์œผ๋กœ ํŒ์ •. ๊ทธ ํŒ๋‹จ ๊ทผ๊ฑฐ๋Š” ๋ฐ˜๋ณต์„ฑ, ํ˜•์‹์„ฑ, ์ผ๋ฐ˜์  ๋น„ํ‰ vs. ๋‰˜์•™์Šค, ์ฃผ๊ด€์„ฑ, ๊ตฌ์ฒด์„ฑ ๋“ฑ์˜ ์Šคํƒ€์ผ ํŠน์„ฑ์— ๊ธฐ๋ฐ˜ํ•จ.

How

Originality

Limitation & Further Study

Evaluation

Novelty: 4/5 Technical Soundness: 4/5 Significance: 4/5 Clarity: 4/5 Overall: 4/5

์ดํ‰: ํ•™์ˆ  ์‹ฌ์‚ฌ์˜ AI ์•…์šฉ์ด๋ผ๋Š” ์‹œ์˜์ ์ ˆํ•˜๊ณ  ์ค‘์š”ํ•œ ๋ฌธ์ œ๋ฅผ ๊ฐœ๋ณ„ ๋ฆฌ๋ทฐ ์ˆ˜์ค€์—์„œ ์ตœ์ดˆ๋กœ ์‹ค์ฆ์ ์œผ๋กœ ๋‹ค๋ฃฌ ๊ท€์ค‘ํ•œ ์—ฐ๊ตฌ๋‹ค. ํŠนํžˆ ๊ธฐ์กด ํƒ์ง€ ๊ธฐ๋ฒ•์˜ ๊ตฌ์ฒด์ ์ธ ํ•œ๊ณ„(GPT-4o ํƒ์ง€ ๋ถˆ์ถฉ๋ถ„, ๋†’์€ ๊ฑฐ์ง“ ์–‘์„ฑ๋ฅ )๋ฅผ ๋“œ๋Ÿฌ๋‚ด๊ณ  ์•ต์ปค ์ž„๋ฒ ๋”ฉ์ด๋ผ๋Š” ์‹ค์šฉ์  ๋Œ€์•ˆ์„ ์ œ์‹œํ•œ ์ ์ด ๊ฐ•์ ์ด๋‹ค. ๋‹ค๋งŒ ํ”„๋กฌํ”„ํŠธ ๋‚œ๋…ํ™”๋‚˜ ๋‹ค๋ฅธ LLM ๋ชจ๋ธ์— ๋Œ€ํ•œ ๊ฐ•๊ฑด์„ฑ, ๋‹ค์–‘ํ•œ ํ•™๋ฌธ ๋ถ„์•ผ๋กœ์˜ ์ผ๋ฐ˜ํ™” ๊ฐ€๋Šฅ์„ฑ, ๊ทธ๋ฆฌ๊ณ  ํƒ์ง€ ํšŒํ”ผ ๊ณต๊ฒฉ์— ๋Œ€ํ•œ ๋ฐฉ์–ด ๋ฉ”์ปค๋‹ˆ์ฆ˜ ๋“ฑ์—์„œ ์ถ”๊ฐ€ ์—ฐ๊ตฌ๊ฐ€ ํ•„์š”ํ•˜๋ฉฐ, ์ œ์•ˆ ๋ฐฉ๋ฒ•์˜ ์‹ค๋ฌด ์ˆ˜์šฉ์„ฑ๊ณผ ์šด์˜ ๋น„์šฉ ์ธก๋ฉด์˜ ์ƒ์„ธ ๋ถ„์„๋„ ํ–ฅํ›„ ๊ณผ์ œ๋กœ ๋‚จ์•„์žˆ๋‹ค.

๊ฐ™์ด ๋ณด๋ฉด ์ข‹์€ ๋…ผ๋ฌธ

๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ
776๋ฒˆ ๋…ผ๋ฌธ์˜ AI ๊ธฐ๋ฐ˜ ์›๊ณ  ์‹ฌ์‚ฌ๊ณผ์ • ๋ณด์กฐ ์—ญํ• ์€ 445๋ฒˆ ๋…ผ๋ฌธ์—์„œ ์ œ์‹œ๋œ LLM ์‹ฌ์‚ฌ ์—ฌ๋ถ€ ํŒ๋ณ„๊ณผ ํˆฌ๋ช…์„ฑ ๋…ผ์˜์— ์ด๋ก ์  ๊ทผ๊ฑฐ๋ฅผ ๋‘๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ
arXiv ๋…ผ๋ฌธ ์š”์•ฝ์„ ๊ธฐ๋ฐ˜์œผ๋กœ ์ธ๊ฐ„๊ณผ LLM ํ…์ŠคํŠธ์˜ ๊ณต์ง„ํ™” ํ˜„์ƒ์„ ์‹ค์ฆํ•˜๋Š” ๋…ผ๋ฌธ์œผ๋กœ, 445์˜ AI ๋ฆฌ๋ทฐ ํƒ์ง€์—์„œ ๋ฐœ๊ฒฌ๋œ ๋ณ€ํ™”์™€ ๋งฅ๋ฝ์„ ์„ค๋ช…ํ•ด์ค๋‹ˆ๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
Is Your Paper Being Reviewed by an LLM ๋…ผ๋ฌธ์€ LLM ๊ธฐ๋ฐ˜ ํ…์ŠคํŠธ๋งค์นญ ๋ฐ ์ž๋™ ์‹ฌ์‚ฌ์˜ ์‹ ๋ขฐ์„ฑ๊ณผ ํ•œ๊ณ„๋ฅผ ๋‹ค๋ฃจ์–ด ํ…์ŠคํŠธ ๋งค์นญ ๊ธฐ๋ฐ˜ ๋ฐฐ์ • ์ทจ์•ฝ์„ฑ ๋…ผ๋ฌธ๊ณผ ์ƒํ˜ธ๋ณด์™„์  ๋ถ„์„์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
์—ฌ๋Ÿฌ LLM์„ ํ™œ์šฉํ•œ ๋‹ค์ค‘ ์—์ด์ „ํŠธ ๊ธฐ๋ฐ˜ ํ”ผ์–ด ๋ฆฌ๋ทฐ ์ƒ์„ฑ์œผ๋กœ, AI ๊ธฐ๋ฐ˜ ๋ฆฌ๋ทฐ ํƒ์ง€ ๋ฐฉ๋ฒ•์˜ ํ‰๊ฐ€ ๋ฐ ์ƒํ˜ธ์ฐธ์กฐ ๋ถ„์„์ด ๊ฐ€๋Šฅํ•˜๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
270 ๋…ผ๋ฌธ์€ LLM ๊ธฐ๋ฐ˜ ํ”ผ์–ด๋ฆฌ๋ทฐ ํƒ์ง€(์ง„์œ„ ์—ฌ๋ถ€) ๋ฌธ์ œ๋ฅผ ์‹ฌ์ธต ๋ถ„์„ํ•˜์—ฌ, 445๊ฐ€ ์ œ์‹œํ•œ ์•ต์ปค ์ž„๋ฒ ๋”ฉ ๊ฒ€์ถœ๋ฒ•๊ณผ ๋น„๊ต ์ฐธ๊ณ ์— ์ ํ•ฉํ•˜๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
ReviewEval(679)์€ AI ์ƒ์„ฑ ๋…ผ๋ฌธ ๋ฆฌ๋ทฐ ํ’ˆ์งˆ ํ‰๊ฐ€ ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ๋‹ค๋ฃจ์–ด, 445์˜ ํƒ์ง€ ์ค‘์‹ฌ ํ‰๊ฐ€์™€ ์ƒํ˜ธ๋ณด์™„์ ์œผ๋กœ ๋น„๊ตํ•  ์ˆ˜ ์žˆ๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
AI ์ƒ์„ฑ ํ…์ŠคํŠธ ํƒ์ง€ ๋ฐฉ๋ฒ• ์—ฐ๊ตฌ๋กœ, 478์˜ LLM ์‚ฌ์šฉ๋Ÿ‰ ์ธก์ •๊ณผ ๋‹ฌ๋ฆฌ ์‹ค์ œ ์‹ฌ์‚ฌ ํ˜„์žฅ์—์„œ์˜ LLM ํƒ์ง€ ์–ด๋ ค์›€๊ณผ ๊ธฐ์ˆ ์  ํ•œ๊ณ„๋ฅผ ๋…ผ์˜ํ•จ์œผ๋กœ์จ ๋ณด์™„์  ์‹œ๊ฐ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
ํ›„์† ์—ฐ๊ตฌ
678์€ LLM์ด ์ž‘์„ฑํ•œ ํ•™์ˆ  ๋ฆฌ๋ทฐ์˜ ํƒ์ง€ ๋ฐ ํ™œ์šฉ ํ‰๊ฐ€๋ฅผ ํ™•์žฅ์ ์œผ๋กœ ๋‹ค๋ฃจ์–ด, 445์˜ ๊ฐœ๋ณ„ ๋ฆฌ๋ทฐ ์ˆ˜์ค€ ํƒ์ง€ ๊ธฐ๋ฒ•์˜ ํ˜„์‹ค ์ ์šฉ์„ฑ ๊ฒ€์ฆ์— ์œ ์šฉํ•˜๋‹ค.
ํ›„์† ์—ฐ๊ตฌ
445๋Š” LLM์— ์˜ํ•ด ์ž‘์„ฑยท์ˆ˜์ •๋œ ์›๊ณ ๋ฅผ ์‹๋ณ„ํ•˜๋Š” ํ…์ŠคํŠธ ๊ฐ์ง€ ์—ฐ๊ตฌ๋กœ 051์˜ ์ž…ํ•™์„œ๋ฅ˜ AI ๊ฐ์ง€๊ธฐ์™€ ์‘์šฉ์ฒ˜๊ฐ€ ๋‹ค๋ฅด๋‚˜, ๊ทผ๋ณธ์  ๋ฌธ์ œ์˜์‹์ด ๊ฐ™๋‹ค.
ํ›„์† ์—ฐ๊ตฌ
445๋ฒˆ ๋…ผ๋ฌธ์€ LLM์ด ์‹ค์ œ ๋ฆฌ๋ทฐ์— ํ™œ์šฉ๋๋Š”์ง€ ํƒ์ง€ํ•˜๋Š” ๋ฌธ์ œ๋ฅผ ๋‹ค๋ฃจ์–ด, 611๋ฒˆ์˜ ์ธ๊ฐ„-AI ์ƒ์„ฑ ํ…์ŠคํŠธ ํŒ๋ณ„ ์—ฐ๊ตฌ์—์„œ ๋” ์‹ค์ „์  ํ™•์žฅ ์‚ฌ๋ก€๋กœ ์—ฐ๊ณ„๋ฉ๋‹ˆ๋‹ค.
์‘์šฉ ์‚ฌ๋ก€
445๋ฒˆ ๋…ผ๋ฌธ์€ ๋…ผ๋ฌธ ๋ฆฌ๋ทฐ ๊ณผ์ •์—์„œ AI ๊ธ€์“ฐ๊ธฐ ๊ฐ์ง€์˜ ์‹ค์ œ ์—ญ๋Ÿ‰๊ณผ ํ•œ๊ณ„๋ฅผ ๋น„๊ต ๋ถ„์„ํ•ด ์‹ค์งˆ์  ์˜ํ–ฅ ํ‰๊ฐ€์— ๋„์›€์ด ๋ฉ๋‹ˆ๋‹ค.
์‘์šฉ ์‚ฌ๋ก€
Peer review์—์„œ AI ํ…์ŠคํŠธ ํƒ์ง€ ๋ฐฉ๋ฒ•์„ ์‹ค์ œ๋กœ ์กฐ์‚ฌํ•˜๋ฉฐ ํ‘œ์ ˆ ๋ฐ AI ์ƒ์„ฑ๋ฌผ์˜ ๊ฒ€์ถœ ๋ฌธ์ œ์— ์‘์šฉํ•ฉ๋‹ˆ๋‹ค.
์‘์šฉ ์‚ฌ๋ก€
LLM์ด ์ƒ์„ฑํ•œ ํ”ผ์–ด๋ฆฌ๋ทฐ ํƒ์ง€ ๊ธฐ๋ฒ•์„ ์‹ฌ์ธต์ ์œผ๋กœ ๋‹ค๋ฃจ์–ด, 414์—์„œ ๋…ผ์˜๋œ LLM ์ถœ๋ ฅ์„ ์˜๋„์ ์œผ๋กœ ์ˆ˜์ •ํ•˜๋Š” ํ˜„์ƒ๊ณผ ํƒ์ง€์˜ ์‹ค์ œ์  ๋‚œ์ ์„ ๋” ์ž˜ ์ดํ•ดํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
๋ฐ˜๋ก /๋น„ํŒ
445๋Š” ํ•™์ˆ ์ง€์—์„œ LLM ๊ธฐ๋ฐ˜ ๋ฆฌ๋ทฐ๊ฐ€ ์‚ฌ์šฉ๋˜๋Š”์ง€์— ๋Œ€ํ•œ ์‹ค์ฆ์  ํƒ์ƒ‰์œผ๋กœ, 860์˜ AI ์˜ˆ์ธก ๊ธฐ๋ฐ˜ ํ‰๊ฐ€์™€ ๋Œ€์กฐ์  ์‹œ๊ฐ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
๋ฐ˜๋ก /๋น„ํŒ
๋…ผ๋ฌธ ๋ฆฌ๋ทฐ์—์„œ ์‹ค์ œ LLM ํ™œ์šฉ์˜ ๋ฌธ์ œ์™€ ํ•œ๊ณ„, ์˜คํƒ์ง€ ์ด์Šˆ๋ฅผ ์ œ์‹œํ•˜์—ฌ LLM์˜ '๋„์›€'์ด๋ผ๋Š” ๊ธ์ •์  ๊ด€์ ์˜ ๊ท ํ˜•์„ ๋งž์ถฐ์ค€๋‹ค.
๋ฐ˜๋ก /๋น„ํŒ
AI๊ฐ€ ์ž‘์„ฑํ•œ ํ…์ŠคํŠธ์˜ ํƒ์ง€์™€ ๊ด€๋ จ๋œ ์šฐ๋ ค, ์‚ฌํšŒ์  ํŒŒ์žฅ, AI ๊ธ€์“ฐ๊ธฐ์˜ ํ˜„์ฃผ์†Œ(๋ฒฝ)์— ๋Œ€ํ•ด ๋น„ํŒ์ ์œผ๋กœ ์กฐ๋ช…ํ•˜๋ฉด์„œ 445์˜ ํƒ์ง€ ๊ธฐ์ˆ  ๋…ผ์˜์— ๋ฐ˜๋ก  ๋˜๋Š” ๋งฅ๋ฝ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
๋ฐ˜๋ก /๋น„ํŒ
445๋Š” LLM์ด ๋…ผ๋ฌธ ๋ฆฌ๋ทฐ์— ์–ด๋А ์ •๋„ ์‚ฌ์šฉ๋˜๋Š”์ง€๋ฅผ ๋ถ„์„ํ•˜๋ฉฐ, 678์˜ ์‹ฌ์‚ฌ ๋ณด์กฐ ํšจ๊ณผ์— ๋Œ€ํ•œ ์‹ค์ œ ํ•™๊ณ„์˜ ๋ฐ˜์‘์„ ์ธก๋ฉด์ ์œผ๋กœ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค.
๋ฐ˜๋ก /๋น„ํŒ
445 ๋…ผ๋ฌธ์€ LLM์ด ์‹ค์ œ๋กœ ๋…ผ๋ฌธ ์‹ฌ์‚ฌ์— ํ™œ์šฉ๋˜๋Š” ํ˜„ํ™ฉ ๋ฐ ์œ„ํ—˜์„ ๋‹ค๋ฃจ๋ฉฐ, 070์˜ ์‹œ๋ฎฌ๋ ˆ์ด์…˜ ๊ธฐ๋ฐ˜ ์ ‘๊ทผ๊ณผ ์ƒํ˜ธ๋ณด์™„์ ์ž…๋‹ˆ๋‹ค.
← ๋ชฉ๋ก์œผ๋กœ ๋Œ์•„๊ฐ€๊ธฐ

๐ŸŽง Audio Overview

์ด ๋…ผ๋ฌธ ๋ฆฌ๋ทฐ๋ฅผ ํŒŸ์บ์ŠคํŠธํ˜• ์˜ค๋””์˜ค๋กœ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. (Gemini ยท ํ‚ค๋Š” ๋ธŒ๋ผ์šฐ์ €์—๋งŒ ์ €์žฅ ยท ์™„์„ฑ๋ณธ์€ ์ด๋ฉ”์ผ๋กœ๋„ ์ „์†ก)
โ–ธ ๊ณ ๊ธ‰: ๊ตฌ์„ฑ ๋ฐฉํ–ฅ(๋Œ€๋ณธ ์ž‘์„ฑ ์ง€์นจ) ์ง์ ‘ ์ˆ˜์ •