Taxonomy tree generation from citation graph

์ €์ž: Yuntong Hu, Zhuofeng Li, Zheng Zhang, Ling Chen, Raasikh Kanjiani, Boxin Zhao, Liang Zhao | ๋‚ ์งœ: 2024 | DOI: N/A 📄 PDF


Essence

์ธ์šฉ ๊ทธ๋ž˜ํ”„(Citation Graph)๋กœ๋ถ€ํ„ฐ ๊ณ„์ธต์  ๋ถ„๋ฅ˜ ์ฒด๊ณ„(Taxonomy Tree)๋ฅผ ์ž๋™์œผ๋กœ ์ƒ์„ฑํ•˜๋Š” ์—”๋“œ-ํˆฌ-์—”๋“œ ํ”„๋ ˆ์ž„์›Œํฌ HiGTL์„ ์ œ์•ˆํ•œ๋‹ค. ํ…์ŠคํŠธ ์ฝ˜ํ…์ธ ์™€ ์ธ์šฉ ๊ตฌ์กฐ๋ฅผ ๊ฒฐํ•ฉํ•˜์—ฌ ์˜๋ฏธ๋ก ์ ์œผ๋กœ ์ผ๊ด€์„ฑ ์žˆ๊ณ  ๊ตฌ์กฐ์ ์œผ๋กœ ์‘์ง‘๋ ฅ ์žˆ๋Š” ๋ถ„๋ฅ˜ ์ฒด๊ณ„๋ฅผ ๊ตฌ์ถ•ํ•œ๋‹ค.

Motivation

Achievement

Figure 1: Citation graph์™€ Taxonomy์˜ ๊ณ„์ธต์  ๋Œ€์‘ ๊ด€๊ณ„
  1. ๊ณ„์ธต์  ๊ทธ๋ž˜ํ”„ ํด๋Ÿฌ์Šคํ„ฐ๋ง: ํ…์ŠคํŠธ ์ฝ˜ํ…์ธ ์™€ ์ธ์šฉ ๊ตฌ์กฐ๋ฅผ ๋ชจ๋‘ ๊ณ ๋ คํ•˜์—ฌ ์žฌ๊ท€์ ์œผ๋กœ ๋…ผ๋ฌธ๋“ค์„ ๊ทธ๋ฃนํ™”ํ•˜๋Š” ๋ฐฉ๋ฒ• ์ œ์•ˆ. ๊ฐ ๋ ˆ๋ฒจ์—์„œ ํ•˜์œ„ ์ฃผ์ œ์˜ ๋…ธ๋“œ๋“ค์„ ์ƒ์œ„ ์ฃผ์ œ์˜ ์Šˆํผ๋…ธ๋“œ๋กœ ํด๋Ÿฌ์Šคํ„ฐ๋งํ•˜๋ฉด์„œ ํŠน์„ฑ ์ง‘๊ณ„(feature aggregation)๋ฅผ ํ†ตํ•ด ์˜๋ฏธ๋ก ์  ์ผ๊ด€์„ฑ ์œ ์ง€.
  2. ํƒ์†Œ๋…ธ๋ฏธ ๋…ธ๋“œ ํ‘œํ˜„ํ™”: ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)์„ ํ™œ์šฉํ•˜์—ฌ ๊ฐ ํด๋Ÿฌ์Šคํ„ฐ์˜ ์ค‘์‹ฌ ๊ฐœ๋…์„ ๋ฐ˜๋ณต์ ์œผ๋กœ ์ƒ์„ฑํ•˜๋Š” ์ „๋žต ๊ฐœ๋ฐœ. ํด๋Ÿฌ์Šคํ„ฐ ๋ ˆ๋ฒจ ๊ทธ๋ž˜ํ”„ ์ž„๋ฒ ๋”ฉ๊ณผ ๋…ผ๋ฌธ ๋ ˆ๋ฒจ ์ •๋ณด๋ฅผ ๊ฒฐํ•ฉํ•˜์—ฌ ๊ณ„์ธต ๊ตฌ์กฐ ์ „์ฒด์— ๊ฑธ์ณ ์˜๋ฏธ๋ก ์ ์œผ๋กœ ํ’๋ถ€ํ•œ ๋ฐ ์ผ๊ด€์„ฑ ์žˆ๋Š” ํƒ์†Œ๋…ธ๋ฏธ ์ƒ์„ฑ.
  3. ํ‰๊ฐ€ ๋ฐ์ดํ„ฐ์…‹: ์ปดํ“จํ„ฐ ๊ณผํ•™ ๋ถ„์•ผ์˜ ๊ณ ํ’ˆ์งˆ ์ธ๊ฐ„ ์ž‘์„ฑ ๋ฌธํ—Œ ๋ฆฌ๋ทฐ์— ๋Œ€์‘ํ•˜๋Š” 518๊ฐœ์˜ ์ธ์šฉ ๊ทธ๋ž˜ํ”„ ์ˆ˜์ง‘ ๋ฐ ๊ณต๊ฐœ, ํ–ฅํ›„ ์—ฐ๊ตฌ๋ฅผ ์œ„ํ•œ ๋ฒค์น˜๋งˆํฌ ์ œ๊ณต.

How

Figure 2: ๊ณ„์ธต์  ํƒ์†Œ๋…ธ๋ฏธ ์ƒ์„ฑ ํ”„๋ ˆ์ž„์›Œํฌ์˜ ์ „์ฒด ๊ตฌ์กฐ

Originality

Limitation & Further Study

Evaluation

์ดํ‰: ์ธ์šฉ ๊ทธ๋ž˜ํ”„๋กœ๋ถ€ํ„ฐ ์ž๋™์œผ๋กœ ๊ณ ํ’ˆ์งˆ ๋ถ„๋ฅ˜ ์ฒด๊ณ„๋ฅผ ์ƒ์„ฑํ•˜๋Š” ์‹ค์šฉ์ ์ด๊ณ  ์ฒด๊ณ„์ ์ธ ์ ‘๊ทผ์„ ์ œ์‹œํ•˜๋ฉฐ, ๊ณ„์ธต์  ๊ทธ๋ž˜ํ”„ ํด๋Ÿฌ์Šคํ„ฐ๋ง๊ณผ LLM ๊ธฐ๋ฐ˜ ๊ฐœ๋… ์ƒ์„ฑ์˜ ๊ฒฐํ•ฉ์ด ํšจ๊ณผ์ ์ž„์„ ์ž…์ฆํ–ˆ๋‹ค. ๋‹ค๋งŒ ๋ฐฉ๋ฒ•๋ก ์˜ ๋‹ค๋ถ„์•ผ ์ผ๋ฐ˜ํ™”์™€ ์ด๋ก ์  ๊นŠ์ด ์‹ฌํ™”๊ฐ€ ํ–ฅํ›„ ๊ณผ์ œ๋กœ ๋‚จ์•„์žˆ๋‹ค.

๊ฐ™์ด ๋ณด๋ฉด ์ข‹์€ ๋…ผ๋ฌธ

๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ
Semantic Scholar(S2ORC) ์ฝ”ํผ์Šค๋Š” ๊ณ„์ธต์  ๋ถ„๋ฅ˜ ๋ฐ ์ธ์šฉ ๋ถ„์„ ์ž‘์—…์— ํ•„์š”ํ•œ ๋Œ€๊ทœ๋ชจ ๋ฐ์ดํ„ฐ ์†Œ์Šค๋กœ ํ™œ์šฉ๋ฉ๋‹ˆ๋‹ค.
๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ
952๋ฒˆ ๋…ผ๋ฌธ์€ ๊ณผํ•™ ์ง€์‹ ๋ถ„๋ฅ˜ ์ฒด๊ณ„ ๊ตฌ์ถ• ์›๋ฆฌ๋ฅผ ๋‹ค๋ฃจ๋ฉฐ, 789๋ฒˆ์˜ ์ž๋™ ๋ถ„๋ฅ˜ ํŠธ๋ฆฌ ์ƒ์„ฑ ํ”„๋ ˆ์ž„์›Œํฌ์˜ ์ด๋ก ์  ๊ทผ๊ฐ„์ด ๋œ๋‹ค.
๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ
LLM๊ณผ ์ธ์šฉ ๋ฐ์ดํ„ฐ์˜ ์ƒํ˜ธ ๋ณด์™„์  ๊ด€๊ณ„์— ๋Œ€ํ•œ ์„œ๋ฒ ์ด๋กœ, ์ธ์šฉ ๊ทธ๋ž˜ํ”„ ํ™œ์šฉ ์—ฐ๊ตฌ์˜ ์ด๋ก ์  ๊ธฐ๋ฐ˜์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ
์ธ์šฉ ๋„คํŠธ์›Œํฌ ๋ฐ citation recommendation task์—์„œ taxonomy/๊ณ„์ธต์  ๊ตฌ์กฐ ๋ถ„์„์€ 150๋ฒˆ ๋…ผ๋ฌธ์˜ ์ฃผ์š” ์—ฐ๊ตฌ ์˜์—ญ์ž…๋‹ˆ๋‹ค.
๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ
์ธ์šฉ ๋„คํŠธ์›Œํฌ๋ฅผ ํ™œ์šฉํ•œ ๊ตฌ์กฐ์  ํ† ํ”ฝ/ํ˜์‹  ํƒ์ง€์™€ ๊ณผํ•™์  ๋ŒํŒŒ๊ตฌ ์˜ˆ์ธก์ด ๊ฐ™์€ ๋ฐฉ๋ฒ•๋ก  ๊ณ„์—ด์ด๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
Chime์€ ๋…ผ๋ฌธ ๋‚ด์šฉ์˜ ๊ณ„์ธต์  ์กฐ์ง์„ LLM ๊ธฐ๋ฐ˜์œผ๋กœ ์‹œ๋„ํ•˜๋Š” ๋Œ€์•ˆ์  ์ ‘๊ทผ์„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
๊ทธ๋ž˜ํ”„ ์‹ ๊ฒฝ๋ง ๋˜๋Š” ํŠธ๋žœ์Šคํฌ๋จธ ๊ธฐ๋ฐ˜ ๋ฌธ์„œ ๋งํฌ ์˜ˆ์ธก์ด๋ผ๋Š” ์œ ์‚ฌํ•œ ๊ธฐ์ˆ ์  ์ ‘๊ทผ๋ฒ•์„ ์‚ฌ์šฉํ•œ๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
969๋ฒˆ ๋…ผ๋ฌธ์€ ์›น ์˜ค๋ธŒ ์‚ฌ์ด์–ธ์Šค ๋ฐ์ดํ„ฐ ๊ธฐ๋ฐ˜์˜ ๊ณ„์ธต์  ๋ถ„๋ฅ˜ ๋ฐฉ๋ฒ•์„ ์ œ์•ˆํ•˜์—ฌ, 789๋ฒˆ์˜ ์ž๋™ ์ธ์šฉ ๊ทธ๋ž˜ํ”„ ๋ถ„๋ฅ˜์™€ ๋น„๊ต๋  ์ˆ˜ ์žˆ๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
์ธ์šฉ ๋„คํŠธ์›Œํฌ์™€ ๋…ผ๋ฌธ ๊ฐ„ ๊ด€๊ณ„ ๋ถ„์„์„ ํ†ตํ•ด ๋…ผ๋ฌธ ์ถ”์ฒœ ๋ฐ ์ธ์šฉ๋ฌธ์žฅ ์ถ”์ฒœ์˜ ๋‹ค์–‘ํ•œ ๋ฐฉ๋ฒ•๋ก ์„ ๋น„๊ต ํ‰๊ฐ€ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
AI agent์— ์˜ํ•œ ๋…ผ๋ฌธ ๋ถ„๋ฅ˜ยท๋ถ„๋ฅ˜ ์ฒด๊ณ„ ์ž๋™ํ™”(793)๋Š” ๋ณธ ๋…ผ๋ฌธ์˜ taxonomy tree ์ž๋™ ์ƒ์„ฑ ๋ฌธ์ œ์™€ ์œ ์‚ฌํ•˜์ง€๋งŒ, ์ ‘๊ทผ ๋ฐฉ๋ฒ•์ด ๋‹ค๋ฆ…๋‹ˆ๋‹ค.
ํ›„์† ์—ฐ๊ตฌ
Controllable Citation Sentence Generation ๋…ผ๋ฌธ์€ LLM ๊ธฐ๋ฐ˜ ์ธ์šฉ๋ฌธ ์ƒ์„ฑ task๋ฅผ ๊ณ„์ธต์  ํŠธ๋ฆฌ ๋ถ„๋ฅ˜์™€ ์—ฐ๊ฒฐํ•˜์—ฌ ์‹ค์ œ์  ์—ฐ๊ฒฐ์„ฑ์„ ๋†’์ธ๋‹ค.
ํ›„์† ์—ฐ๊ตฌ
๋…ผ๋ฌธ ์ธ์šฉ ๊ทธ๋ž˜ํ”„ ๊ธฐ๋ฐ˜์œผ๋กœ ๋…ผ๋ฌธ ๋ถ„๋ฅ˜ ์ฒด๊ณ„๋ฅผ ์ƒ์„ฑํ•˜๋Š” ๋ฐฉ๋ฒ•์œผ๋กœ, ๊ณ„์ธต์  ์นดํƒˆ๋กœ๊ทธ ์ž๋™ํ™” ์—ฐ๊ตฌ์™€ ์ง๊ฒฐ๋œ๋‹ค.
ํ›„์† ์—ฐ๊ตฌ
Taxonomy tree generation from citation graph ๋…ผ๋ฌธ์€ ์ธ์šฉ ๊ทธ๋ž˜ํ”„ ๊ธฐ๋ฐ˜ ๋ถ„๋ฅ˜๋ฅผ ๋” ๋ฐœ์ „์‹œ์ผœ LLM ์ธ์šฉ ์ถ”์ฒœ์˜ ๊ตฌ์กฐ์  ์ธก๋ฉด์„ ํ™•์žฅํ•œ๋‹ค.
์‘์šฉ ์‚ฌ๋ก€
789๋ฒˆ ๋…ผ๋ฌธ์€ S2ORC์˜ ์ธ์šฉยท๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋ฅผ ํ™œ์šฉํ•ด ๊ณ„์ธต์  ๋ถ„๋ฅ˜ ์ฒด๊ณ„ ๊ตฌ์ถ•์— ์ ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
์‘์šฉ ์‚ฌ๋ก€
789๋ฒˆ ๋…ผ๋ฌธ์€ ์ธ์šฉ ๊ทธ๋ž˜ํ”„ ๊ธฐ๋ฐ˜ ๋ถ„๋ฅ˜์ฒด๊ณ„์™€ LLM ๊ฒฐํ•ฉ์˜ ์‹ค์ œ ํ™œ์šฉ ์‚ฌ๋ก€๋กœ, 882๋ฒˆ ๋…ผ๋ฌธ์˜ ์ƒํ˜ธ๋ณด์™„๊ด€๊ณ„๋ฅผ ์‹ค์ฆํ•ฉ๋‹ˆ๋‹ค.
← ๋ชฉ๋ก์œผ๋กœ ๋Œ์•„๊ฐ€๊ธฐ

๐ŸŽง Audio Overview

์ด ๋…ผ๋ฌธ ๋ฆฌ๋ทฐ๋ฅผ ํŒŸ์บ์ŠคํŠธํ˜• ์˜ค๋””์˜ค๋กœ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. (Gemini ยท ํ‚ค๋Š” ๋ธŒ๋ผ์šฐ์ €์—๋งŒ ์ €์žฅ ยท ์™„์„ฑ๋ณธ์€ ์ด๋ฉ”์ผ๋กœ๋„ ์ „์†ก)
โ–ธ ๊ณ ๊ธ‰: ๊ตฌ์„ฑ ๋ฐฉํ–ฅ(๋Œ€๋ณธ ์ž‘์„ฑ ์ง€์นจ) ์ง์ ‘ ์ˆ˜์ •