Supporting assessment of novelty of design problems using concept of problem sapphire

์ €์ž: Sanjay Singh, Amaresh Chakrabarti | ๋‚ ์งœ: 2024 | DOI: [๋ฏธ๊ธฐ์žฌ]() 📄 PDF


Essence

Fig. 2

์„ค๊ณ„ ๋ฌธ์ œ์˜ ์‹ ๊ทœ์„ฑ ํ‰๊ฐ€๋ฅผ ์œ„ํ•œ ํ”„๋ ˆ์ž„์›Œํฌ

๋ณธ ๋…ผ๋ฌธ์€ SAPPhIRE ์ธ๊ณผ๊ด€๊ณ„ ๋ชจ๋ธ์„ ํ™œ์šฉํ•˜์—ฌ ์„ค๊ณ„ ๋ฌธ์ œ(design problem)์˜ ์‹ ๊ทœ์„ฑ(novelty)์„ ์ •๋Ÿ‰์ ์œผ๋กœ ํ‰๊ฐ€ํ•˜๋Š” ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ์ œ์•ˆํ•œ๋‹ค. ํ˜„์žฌ ๋ฌธ์ œ์™€ ๊ณผ๊ฑฐ ๋ฌธ์ œ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค ๊ฐ„์˜ ํ…์ŠคํŠธ ์œ ์‚ฌ์„ฑ์„ SAPPhIRE์˜ ๋‹ค์–‘ํ•œ ์ถ”์ƒํ™” ์ˆ˜์ค€์—์„œ ๋น„๊ตํ•˜์—ฌ ์‹ ๊ทœ์„ฑ์„ ์ธก์ •ํ•œ๋‹ค.

Motivation

Achievement

Fig. 1

SAPPhIRE ์ธ๊ณผ๊ด€๊ณ„ ๋ชจ๋ธ

Fig. 4

Problem SAPPhIRE ๋ชจ๋ธ

  1. ์‹ ๊ทœ์„ฑ ํ‰๊ฐ€ ํ”„๋ ˆ์ž„์›Œํฌ ํ™•๋ฆฝ:
    • 8๋‹จ๊ณ„ ์ฒด๊ณ„์  ๋ฐฉ๋ฒ•๋ก  ์ œ์‹œ (๋ฌธ์ œ ์ˆ˜์ง‘ โ†’ SAPPhIRE ๋ณ€ํ™˜ โ†’ ๋‹ค์ธต ์œ ์‚ฌ์„ฑ ๋น„๊ต โ†’ ์‹ ๊ทœ์„ฑ ์ ์ˆ˜ ์‚ฐ์ถœ)
    • ์ •์„ฑ์  ํ•ด์„ ๋ฒ”์œ„ ์„ค์ •: 0-0.3 (๋‚ฎ์Œ), 0.3-0.7 (์ค‘๊ฐ„), 0.7-1.0 (๋†’์Œ)
  2. ์ž๋™ํ™” ์†”๋ฃจ์…˜ ๊ตฌํ˜„:
    • ์‚ฌ์ „ํ•™์Šต BERT ๋ชจ๋ธ์„ ํ†ตํ•œ ์•ก์…˜ ์ˆ˜์ค€(Action level) ๋งค์นญ ์ž๋™ํ™”
    • ์›Œ๋“œ ๋ฒกํ„ฐ ๊ธฐ๋ฐ˜ ์ฝ”์‚ฌ์ธ ๊ฑฐ๋ฆฌ ๊ณ„์‚ฐ์œผ๋กœ ์ฒ˜๋ฆฌ ์‹œ๊ฐ„ ๋‹จ์ถ•
    • ์ˆ˜๋™ ํ‰๊ฐ€์˜ ํ…Œ๋””์›€(tedious) ๋ฌธ์ œ ํ•ด๊ฒฐ
  3. ์‚ฌ๋ก€ ์—ฐ๊ตฌ๋ฅผ ํ†ตํ•œ ๊ฒ€์ฆ:
    • ์ „๊ธฐ ์ผ€ํ‹€(electric kettle) ์‚ฌ๋ก€์—์„œ ์‹ค์ œ ์ ์šฉ ๊ฐ€๋Šฅ์„ฑ ์ž…์ฆ
    • 9๊ฐœ์˜ ํ˜„์žฌ ๋ฌธ์ œ ์ค‘ 1๊ฐœ๊ฐ€ ๋†’์€ ์‹ ๊ทœ์„ฑ์„ ๊ฐ€์ง์„ ํ™•์ธ

How

8๋‹จ๊ณ„ ๋ฐฉ๋ฒ•๋ก :

  1. ๊ณผ๊ฑฐ ๋ฌธ์ œ ์ˆ˜์ง‘: ํŠนํ—ˆ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค ๋ฐ ์˜จ๋ผ์ธ ์†Œ์Šค์—์„œ ๊ณผ๊ฑฐ ์„ค๊ณ„ ๋ฌธ์ œ ์ˆ˜์ง‘ ๋ฐ ๋ถ„๋ฅ˜
  2. ํ˜„์žฌ ๋ฌธ์ œ ์ˆ˜์ง‘: ์„ค๋ฌธ์กฐ์‚ฌ๋ฅผ ํ†ตํ•ด ์ดํ•ด๊ด€๊ณ„์ž๊ฐ€ ์ง๋ฉดํ•œ ํ˜„์žฌ ๋ฌธ์ œ ํ™•๋ณด
  3. Problem SAPPhIRE ๋ณ€ํ™˜: ์ž์—ฐ์–ธ์–ด ๋ฌธ์ œ๋ฅผ SAPPhIRE ๋ชจ๋ธ์˜ 7๊ฐœ ์ถ”์ƒํ™” ์ˆ˜์ค€์œผ๋กœ ๊ธฐ์ˆ 
    • ๊ฐ ์ˆ˜์ค€์—์„œ ์ธ๊ณผ๊ด€๊ณ„์  ์„ค๋ช… ์ œ๊ณต
  4. Action ์ˆ˜์ค€ ๋งค์นญ (์ž๋™ํ™”):
    • BERT ์˜๋ฏธ์œ ์‚ฌ์„ฑ์„ ์‚ฌ์šฉํ•˜์—ฌ ๊ณผ๊ฑฐ/ํ˜„์žฌ ๋ฌธ์ œ ๊ฐ„ ์•ก์…˜ ์ˆ˜์ค€ ๋น„๊ต
    • ๋งค์นญ๋˜๋Š” ๋ฌธ์ œ ์Œ๋งŒ ํ›„์† ๋ถ„์„ ๋Œ€์ƒ์œผ๋กœ ์„ ์ •
  5. ๋‹ค์ธต ์œ ์‚ฌ์„ฑ ๋น„๊ต:
    • Action ๋งค์นญ๋œ ์Œ์— ๋Œ€ํ•ด ๋‚˜๋จธ์ง€ 6๊ฐœ ์ˆ˜์ค€์—์„œ ๋ฌธ์žฅ/๋‹จ์–ด ์œ ์‚ฌ์„ฑ ๋ถ„์„
    • ์›Œ๋“œ๋ฒกํ„ฐ ๊ธฐ๋ฐ˜ ์ฝ”์‚ฌ์ธ ๊ฑฐ๋ฆฌ ๊ณ„์‚ฐ
  6. ์ˆ˜์ค€๋ณ„ ์œ ์‚ฌ์„ฑ ์ ์ˆ˜ ๊ณ„์‚ฐ:
    • ๊ฐ SAPPhIRE ์ˆ˜์ค€์—์„œ Novelty = (1 - Similarity) ๊ณ„์‚ฐ
  7. ์ข…ํ•ฉ ์‹ ๊ทœ์„ฑ ์ ์ˆ˜:
    • ๋ชจ๋“  ์ˆ˜์ค€์˜ ์‹ ๊ทœ์„ฑ ์ ์ˆ˜ ํ‰๊ท ๊ฐ’์œผ๋กœ ์ตœ์ข… ์ ์ˆ˜ ์‚ฐ์ถœ
  8. ์ •์„ฑ์  ํ•ด์„:
    • 0.7-1.0: ๋†’์€ ์‹ ๊ทœ์„ฑ (๊ธฐ์กด์— ํ•ด๊ฒฐ๋˜์ง€ ์•Š์€ ์ƒˆ๋กœ์šด ๋ฌธ์ œ)
    • 0.3-0.7: ์ค‘๊ฐ„ ์‹ ๊ทœ์„ฑ (๋ณ€ํ˜•๋˜๊ฑฐ๋‚˜ ๊ฐœ์„ ๋œ ๊ธฐ์กด ๋ฌธ์ œ)
    • 0-0.3: ๋‚ฎ์€ ์‹ ๊ทœ์„ฑ (์ด๋ฏธ ์•Œ๋ ค์ง„ ๋ฌธ์ œ)

Originality

Limitation & Further Study

ํ•œ๊ณ„:

ํ›„์† ์—ฐ๊ตฌ:

Evaluation

์ดํ‰: ์ด ์—ฐ๊ตฌ๋Š” ์„ค๊ณ„ ๊ณผ์ •์—์„œ ๊ฐ„๊ณผ๋˜์–ด์˜จ ๋ฌธ์ œ ์‹ ๊ทœ์„ฑ ํ‰๊ฐ€์— ์ฒ˜์Œ ๋„์ „ํ•˜๋Š” ๊ฐ€์น˜ ์žˆ๋Š” ์‹œ๋„๋กœ, SAPPhIRE ๋ชจ๋ธ์˜ ์ฐฝ์˜์  ์‘์šฉ๊ณผ ์ž๋™ํ™” ์‹œ์Šคํ…œ์„ ์ œ์‹œํ•˜์˜€๋‹ค. ๊ทธ๋Ÿฌ๋‚˜ ๋‹จ์ผ ์ œํ’ˆ ์‚ฌ๋ก€์— ๊ตญํ•œ๋œ ๊ฒ€์ฆ, ์ž๋™ํ™” ์•Œ๊ณ ๋ฆฌ์ฆ˜์˜ ์ •ํ™•์„ฑ ๋ฏธ๊ฒ€์ฆ, ๊ทธ๋ฆฌ๊ณ  ๋ถˆ์™„์ „ํ•œ ๋…ผ๋ฌธ ๊ตฌ์„ฑ์ด ์˜ํ–ฅ๋ ฅ์„ ์ œํ•œํ•œ๋‹ค. ํ›„์† ์—ฐ๊ตฌ์—์„œ ๋‹ค์–‘ํ•œ ๋„๋ฉ”์ธ์˜ ๋Œ€๊ทœ๋ชจ ๊ฒ€์ฆ๊ณผ ์‹ค์ œ ์‚ฐ์—… ์ ์šฉ ์‚ฌ๋ก€๋ฅผ ํ†ตํ•ด ์‹ค์šฉ์„ฑ์„ ์ž…์ฆํ•  ํ•„์š”๊ฐ€ ์žˆ๋‹ค.

๊ฐ™์ด ๋ณด๋ฉด ์ข‹์€ ๋…ผ๋ฌธ

๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ
951๋ฒˆ ๋…ผ๋ฌธ์€ ํ•™๋ฌธ ๋‚ด '์Šฌ๋ฆฌํ•‘ ๋ทฐํ‹ฐ'์™€ ์‹ ๊ทœ์„ฑ์˜ ์ •์˜๋ฅผ ์ œ๊ณตํ•˜์—ฌ 779๋ฒˆ ์—ฐ๊ตฌ์˜ ์ด๋ก ์  ๊ธฐ๋ฐ˜์„ ๋” ํ™•์žฅํ•œ๋‹ค.
๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ
725 ๋…ผ๋ฌธ์€ ์ปจํ…์ŠคํŠธยทํ† ํฐ ๊ธฐ๋ฐ˜ ๊ณผํ•™์  ์•„์ด๋””์–ด ์‹ ๊ทœ์„ฑ ์ •๋Ÿ‰ํ‰๊ฐ€ ์‹œ์Šคํ…œ์œผ๋กœ, 779์˜ ์„ค๊ณ„๋ฌธ์ œ ์‹ ๊ทœ์„ฑ ํ‰๊ฐ€ ํ”„๋ ˆ์ž„์›Œํฌ์˜ ๋น„๊ต ๋Œ€์ƒ์ž…๋‹ˆ๋‹ค.
๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ
779๋Š” ์„ค๊ณ„ ๋ถ„์•ผ์˜ ๋ฌธ์ œ ์‹ ๊ทœ์„ฑ ํ‰๊ฐ€๋ฅผ ์œ„ํ•œ ํ˜‘์—… ์‹œ์Šคํ…œ์„ ๋…ผ์˜ํ•˜๋ฉฐ, 178์˜ ํŠนํ—ˆ ์‹ ๊ทœ์„ฑ ํ‰๊ฐ€์™€ ํ‰๊ฐ€ ๋ฌธ์ œ์˜ ๊ตฌ์กฐยทํ‰๊ฐ€๊ธฐ์ค€ ๋…ผ์˜๊ฐ€ ์—ฐ๊ด€๋œ๋‹ค.
๋‹ค๋ฅธ ์ ‘๊ทผ
๋””์ž์ธ ๋ฌธ์ œ์˜ ์ฐธ์‹ ์„ฑ ํ‰๊ฐ€ ๋“ฑ์„ ์ง€์›ํ•˜๋Š” ์ฝ”์–ด ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ํ†ตํ•ด ๋ฆฌ๋ทฐ์–ด์˜ ๋‹ค์–‘ํ•œ ์‹œ๊ฐ์„ ํ†ตํ•ฉํ•˜๋Š” ๋ฐฉ์‹์„ ๋น„๊ตํ•  ์ˆ˜ ์žˆ์Œ.
๋‹ค๋ฅธ ์ ‘๊ทผ
178๋ฒˆ ๋…ผ๋ฌธ์€ ํŠนํ—ˆ์˜ ์‹ ๊ทœ์„ฑ ํ‰๊ฐ€์— LLM์„ ์ ์šฉํ•˜์—ฌ ๊ตฌ์กฐ์  ์œ ์‚ฌ์„ฑ ๋น„๊ต์™€ ์œ ์‚ฌํ•œ ์ƒˆ๋กœ์šด ์ ‘๊ทผ์„ ์ œ์•ˆํ•ฉ๋‹ˆ๋‹ค.
ํ›„์† ์—ฐ๊ตฌ
779๋ฒˆ ๋…ผ๋ฌธ์€ ํ˜์‹ ์  ์„ค๊ณ„ ํ‰๊ฐ€์—์„œ ์œ ์‚ฌํ•œ ์ฒดํฌ๋ฆฌ์ŠคํŠธ ๋ฐ ํ‰๊ฐ€ ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ์ ์šฉํ•˜์—ฌ, 534๋ฒˆ์˜ ๋ฐฉ๋ฒ•๋ก ์  ์˜ํ–ฅ๋ ฅ์„ ๋‹ค๋ฅธ ๋„๋ฉ”์ธ์œผ๋กœ ํ™•์žฅํ•ฉ๋‹ˆ๋‹ค.
ํ›„์† ์—ฐ๊ตฌ
Supporting assessment of novelty of design problems ๋…ผ๋ฌธ์€ LLM์ด ์ƒ์„ฑํ•œ ํ”ผ์–ด ๋ฆฌ๋ทฐ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ์‹ค์ œ ๋””์ž์ธ ๋ฌธ์ œ์—์„œ์˜ ์ถœ์ฒ˜์„ฑ ํ‰๊ฐ€ ๋“ฑ PRE์˜ ์‘์šฉ ์‚ฌ๋ก€๋ฅผ ๋ณด์—ฌ์ค€๋‹ค.
ํ›„์† ์—ฐ๊ตฌ
155 ๋…ผ๋ฌธ์€ ์ธ๊ณต์ง€๋Šฅ ๊ธฐ๋ฐ˜ ๊ณผํ•™ ์•„์ด๋””์–ด ์ƒ์„ฑ์—์„œ ๋†’์€ ํ’ˆ์งˆ์„ ์ฃผ๋„ํ•˜๋Š” ์š”์ธ์„ ๋ถ„์„ํ•ด ์‹ ๊ทœ์„ฑ ํ‰๊ฐ€์™€ ์—ฐ๊ณ„ ํ™œ์šฉ์— ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค.
ํ›„์† ์—ฐ๊ตฌ
์žฌ๋ฃŒ ๋ฐœ๊ฒฌ๊ณผ ์„ค๊ณ„์—์„œ LLM์„ ํ™œ์šฉํ•œ ๊ฐ€์„ค ์ƒ์„ฑ ๋ฐฉ๋ฒ•๋ก  ๋…ผ๋ฌธ์œผ๋กœ, ์‹ ๊ทœ์„ฑ ํ‰๊ฐ€ ๋ฐ ๊ณผํ•™์  ํƒํ—˜ ์—ฌ๋ถ€์— ์ ์šฉ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
์‘์šฉ ์‚ฌ๋ก€
๋””์ž์ธ ๋ฌธ์ œ์—์„œ ์ƒ์„ฑ๋˜๋Š” ์•„์ด๋””์–ด์˜ ์ฐฝ์˜์„ฑ/์ƒˆ๋กœ์›€ ํ‰๊ฐ€ ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ์ ์šฉํ•˜๋ฉฐ, ์ด๋ฏธ์ง€ ์บก์…˜ ์ƒ์„ฑ ๋“ฑ ์ฐฝ์˜์  ์‚ฐ์ถœ๋ฌผ ์ง€์› ์‹œ์Šคํ…œ์— ์ฐธ๊ณ ๊ฐ€ ๋ฉ๋‹ˆ๋‹ค.
์‘์šฉ ์‚ฌ๋ก€
Supporting assessment of novelty of design problems using co-citation and citation networks ๋…ผ๋ฌธ์€ ๋…ผ๋ฌธ ๋ฆฌ๋ทฐ ์ž๋™ํ™” ๊ฒฐ๊ณผ์˜ ์ฐธ์‹ ์„ฑ ๋ฐ ํ‰๊ฐ€ ์š”์†Œ ๋ถ„์„์— SciReviewGen ๋ฐ์ดํ„ฐ์…‹์„ ํ™œ์šฉํ•ฉ๋‹ˆ๋‹ค.
์‘์šฉ ์‚ฌ๋ก€
484๋ฒˆ ๋…ผ๋ฌธ์€ LLM ๊ธฐ๋ฐ˜ ์—ฐ๊ตฌ ์•„์ด๋””์–ด ์ƒ์„ฑ์—์„œ ์‹ค์ œ๋กœ ์•„์ด๋””์–ด์˜ ๋‹ค์–‘์„ฑ๊ณผ ์‹ ๊ทœ์„ฑ์ด ์–ด๋–ป๊ฒŒ ์ธก์ •๋  ์ˆ˜ ์žˆ๋Š”์ง€ ์‹คํ—˜์ ์œผ๋กœ ๋ถ„์„ํ•ฉ๋‹ˆ๋‹ค.
์‘์šฉ ์‚ฌ๋ก€
779 'Supporting assessment of novelty of design problems using computational methods' ๋…ผ๋ฌธ์€ ๋ฆฌ๋ทฐ ์ž๋™ํ™”์—์„œ ๋…์ฐฝ์„ฑ ํ‰๊ณผ ๋ฐ ํ‰๊ฐ€ ๋ฐฉ๋ฒ•์˜ ์‹ค์งˆ์  ์ ์šฉ ์˜ˆ์‹œ๋ฅผ ๋‹ค๋ฃจ๋ฏ€๋กœ, 022์˜ ๋ฉ”ํƒ€๋ฆฌ๋ทฐ ํ”„๋ ˆ์ž„์›Œํฌ๊ฐ€ ์‹ค์ œ ๋””์ž์ธ ํ‰๊ฐ€์— ๋ฏธ์น˜๋Š” ์˜ํ–ฅ์„ ํƒ๊ตฌํ•  ๋•Œ ๋„์›€์ด ๋ฉ๋‹ˆ๋‹ค.
์‘์šฉ ์‚ฌ๋ก€
๋””์ž์ธ ๋ฌธ์ œ์˜ ์ฐธ์‹ ์„ฑ ํ‰๊ฐ€ ์ž๋™ํ™” ๋งฅ๋ฝ์—์„œ ๋…ผ๋ฌธ ๊ด€๋ จ์„ฑ ํ‰๊ฐ€์˜ ์‹ค์งˆ์  ํ™œ์šฉ, ๋„๊ตฌ ๋ฐœ์ „ ๋ฐฉํ–ฅ์— ์ฐธ๊ณ ๋  ์ˆ˜ ์žˆ๋‹ค.
๋ฐ˜๋ก /๋น„ํŒ
953์€ LLM ํ™œ์šฉ ์ดํ›„ ์—ฐ๊ตฌ์˜ ์‹ ๊ทœ์„ฑ ์ €ํ•˜ ๋ฌธ์ œ๋ฅผ ์ œ๊ธฐํ•˜์—ฌ 779์˜ ์‹ ๊ทœ์„ฑ ์ธก์ • ํ”„๋ ˆ์ž„์›Œํฌ์˜ ์‹คํšจ์„ฑ ๋…ผ์Ÿ๊ณผ ๊ด€๋ จ์žˆ์Šต๋‹ˆ๋‹ค.
← ๋ชฉ๋ก์œผ๋กœ ๋Œ์•„๊ฐ€๊ธฐ

๐ŸŽง Audio Overview

์ด ๋…ผ๋ฌธ ๋ฆฌ๋ทฐ๋ฅผ ํŒŸ์บ์ŠคํŠธํ˜• ์˜ค๋””์˜ค๋กœ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. (Gemini ยท ํ‚ค๋Š” ๋ธŒ๋ผ์šฐ์ €์—๋งŒ ์ €์žฅ ยท ์™„์„ฑ๋ณธ์€ ์ด๋ฉ”์ผ๋กœ๋„ ์ „์†ก)
โ–ธ ๊ณ ๊ธ‰: ๊ตฌ์„ฑ ๋ฐฉํ–ฅ(๋Œ€๋ณธ ์ž‘์„ฑ ์ง€์นจ) ์ง์ ‘ ์ˆ˜์ •