Essence
CodeAct์ Text/JSON ์ก์
์ ๋น๊ต: (์) ๋ค์ํ ์ก์
ํ์ ๊ฐ ์์ ๋น๊ต, (ํ) M3ToolEval ๋ฒค์น๋งํฌ์์์ ์ ๋์ ๊ฒฐ๊ณผ
LLM ์์ด์ ํธ์ ์ก์
๊ณต๊ฐ์ ํตํฉํ๊ธฐ ์ํด ์คํ ๊ฐ๋ฅํ Python ์ฝ๋๋ฅผ ์ง์ ์ฌ์ฉํ๋ CodeAct ํ๋ ์์ํฌ๋ฅผ ์ ์ํ๋ฉฐ, ๊ธฐ์กด์ JSON/ํ
์คํธ ๊ธฐ๋ฐ ์ก์
๋ฐฉ์ ๋๋น ์ต๋ 20% ๋์ ์ฑ๊ณต๋ฅ ์ ๋ฌ์ฑํ๋ค.
Evaluation
Novelty: 4.5/5 Technical Soundness: 4/5 Significance: 4.5/5 Clarity: 4/5 Overall: 4.3/5
์ดํ: CodeAct๋ LLM ์์ด์ ํธ์ ์ก์
๊ณต๊ฐ ํํ์ ๋ํ ํจ๋ฌ๋ค์ ์ ํ์ ์ ์ํ๋ฉฐ, ๊ด๋ฒ์ํ ์ค์ฆ์ ๊ฒ์ฆ๊ณผ ์ค์ฉ์ ์์ด์ ํธ ๊ฐ๋ฐ์ ํตํด ๋์ ์ค์ฉ ๊ฐ์น๋ฅผ ์
์ฆํ๋ค. ๋ค๋ง ๋ณด์, ์ ๋ขฐ์ฑ, ํ๋ก๊ทธ๋๋ฐ ์ธ์ด ๋ค์์ฑ ์ธก๋ฉด์ ๊ฐ์ ๊ณผ ๋ฌผ๋ฆฌ์ ํ๊ฒฝ์์์ ์ถ๊ฐ ๊ฒ์ฆ์ด ํ์ํ๋ค.
๊ฐ์ด ๋ณด๋ฉด ์ข์ ๋
ผ๋ฌธ
๊ธฐ๋ฐ ์ฐ๊ตฌ
์ฝ๋ ์คํ ๊ธฐ๋ฐ ์์ด์ ํธ ์ฑ๋ฅ ํฅ์ ๊ธฐ๋ฒ์ ์ค๋ช
ํจ์ผ๋ก์จ, Openhands์ ์ค์ ์ํํธ์จ์ด ๊ฐ๋ฐ/๋๋ฒ๊น
์๋ํ์ ํต์ฌ ๊ธฐ์ ์ ๊ธฐ์ฌํ๋ค.
๊ธฐ๋ฐ ์ฐ๊ตฌ
Executable Code Actions ๋
ผ๋ฌธ์ ์คํ ๊ฐ๋ฅํ ์ฝ๋ ๊ธฐ๋ฐ ๋ฒค์น๋งํฌ๋ฅผ ํ์ฉํด OpenDevin๊ณผ ๊ฐ์ ๊ฐ๋ฐ์ ๋๊ตฌํ ๋ฉํฐ์์ด์ ํธ ํ๊ฐ์ ์ด๋ก , ๋ฐฉ๋ฒ์ ํ ๋๋ฅผ ์ ๊ณตํ๋ค.
๊ธฐ๋ฐ ์ฐ๊ตฌ
LLM ์์ด์ ํธ์ ๋๊ตฌ ํ์ฉ ๋ฐ ์ก์
์ค๊ณ์ ๊ดํ ์ด๋ก ์ ๋ฐํ์ ์ ๊ณตํฉ๋๋ค.
๊ธฐ๋ฐ ์ฐ๊ตฌ
754๋ฒ ๋
ผ๋ฌธ์ LLM ๊ธฐ๋ฐ ์ฝ๋ ์์ฑ, ๋๋ฒ๊น
๊ณผ ํ๋ก๊ทธ๋จ ์งํ ํ๊ฐ๋ LLM์ ์ฝ๋ ๋ฅ๋ ฅ ๋ฒค์น๋งํน์ ๊ดํ 325 ๋
ผ๋ฌธ์ ๊ฒฐ๊ณผ์ ๋ฐ์ ํ๊ฒ ์ฐ๊ด๋ฉ๋๋ค.
๊ธฐ๋ฐ ์ฐ๊ตฌ
325 ๋
ผ๋ฌธ์ LLM ๊ธฐ๋ฐ ์ฝ๋ ์์ด์ ํธ๊ฐ ์ค์ ๋ก ์ฝ๋ ์์ฑยท์์ ยท์คํ์์ ์ด๋ ์ ๋ ์คํ ๊ฐ๋ฅ์ฑ๊ณผ ๋ฌธ์ ํด๊ฒฐ ๋ฅ๋ ฅ์ ๋ณด์ด๋์ง ์ ๋์ ์ผ๋ก ๊ฒ์ฆํ๋ฉฐ, ResearchCodeBench์ ์ฝ๋ ๋ณํ ์ฑ๋ฅ ํ๊ฐ์ ์ด๋ก ์ ํ ๋๋ฅผ ์ ๊ณตํฉ๋๋ค.
๊ธฐ๋ฐ ์ฐ๊ตฌ
๋ฌธ์ ๋ด ์ก์
๊ธฐ๋ฐ ํ๊ฐ ํ๋ ์์ํฌ(CodeAct)๋ ๋ค์ํ ํ ๋ฐ์ดํฐ ์์
์์ LLM์ ํ ๋ฐ์ดํฐ reasoning ๋ฐ ํ๋ ํ๊ฐ์ ์ด๋ก ์ ๊ทผ๊ฑฐ๋ฅผ ์ ๊ณตํฉ๋๋ค.
๊ธฐ๋ฐ ์ฐ๊ตฌ
StableToolBench์ ๋ฒค์น๋งํฌ ํ๊ฒฝ์ ์คํ ๊ฐ๋ฅํ ์ฝ๋ ๊ธฐ๋ฐ ์์ด์ ํธ ํ๊ฐ ๋ฐฉ์(CodeAct)์ ์ ๋ขฐ์ฑ๊ณผ ์ฌํ์ฑ ๋ณด์ฅ์ ์ํ ๊ธฐ๋ฐ์ ์ ๊ณตํฉ๋๋ค.
๊ธฐ๋ฐ ์ฐ๊ตฌ
325 ๋
ผ๋ฌธ์ ์ฝ๋ ์์ฑ ๋ฐ ์คํ์ด LLM ๊ธฐ๋ฐ ์์ด์ ํธ์ ์ฑ๋ฅ์ ๋ฏธ์น๋ ์ํฅ๊ณผ ์ค๊ณ ์ ๋ต์ ์์ธํ ๋ถ์ํ๋ฏ๋ก MatClaw(3160)์ ๊ธฐ์ ์ ๋ฐฐ๊ฒฝ์ ์ ๊ณตํฉ๋๋ค.
๊ธฐ๋ฐ ์ฐ๊ตฌ
LLM ๊ธฐ๋ฐ ์์ด์ ํธ์ ์ฝ๋ ์์ฑ ๋ฐ ์คํ ์๋ํ ๋ฅ๋ ฅ ํ๋ณด์ ํ์ํ ํต์ฌ ์ด๋ก ๊ณผ ํ๊ฐ ๋ฐฉ๋ฒ์ ์ ์ํด 3288 ์์คํ
์ ๊ธฐ์ด๊ฐ ๋ฉ๋๋ค.
๋ค๋ฅธ ์ ๊ทผ
813 ๋
ผ๋ฌธ๋ LLM ์์ด์ ํธ์ ๋๊ตฌ ์ฌ์ฉ์ ์๊ฐ ์ง๋ํ์ต์ผ๋ก ๊ฐ์ ํ๋, 325๋ ์คํ ๊ฐ๋ฅํ ์ฝ๋ ์ค์ฌ์ ํ๋ ์์ํฌ๋ผ๋ ์ ์ด ์ฐจ๋ณ์ ์
๋๋ค.
๋ค๋ฅธ ์ ๊ทผ
Executable Code Actions ๋
ผ๋ฌธ์ ๋ค์ํ ์ค์ธ๊ณ ์ฝ๋ฉ ์์
์์ LLM ์์ด์ ํธ ์ฑ๋ฅ์ ์ํํด HYPERAGENT์ ์ ์ฌ๋ฌธ์ ๋ฅผ ๋ค๋ฃจ์ง๋ง ์ ๊ทผ ๋ฐฉ์์ด ๋ค๋ฆ
๋๋ค.
๋ค๋ฅธ ์ ๊ทผ
๋ ๋
ผ๋ฌธ ๋ชจ๋ LLM ํ์ฉ ์ํฌํ๋ก์ฐ์์ ๋ชจ๋ธ์ ๋ฅ๋์ ์๊ธฐ์์ ยท์๊ธฐํ๊ฐ๋ฅผ ๋ค๋ฃจ๋, 598์ ๊ฒ์ฆ-์์ RL ๊ตฌ์กฐ, 325๋ ์คํ ๊ฐ๋ฅํ ์ฝ๋ ๊ธฐ๋ฐ LLM ์์ด์ ํธ์ ์ฑ๋ฅ์ ๊ณ ๋ํํฉ๋๋ค.
๋ค๋ฅธ ์ ๊ทผ
์ ์ ์ ๋ถ์ ๋ฑ ์๋ช
๊ณผํ ์ค์ฌ์ AI ์์ด์ ํธ ์ํฌํ๋ก์ฐ ์ฌ๋ก์ ์ฌ๋ฃ๊ณผํ ๋ด LLM ํ์ฉ๋ฒ์ ๋น๊ตํด ์ฐธ๊ณ ํ ์ ์์ต๋๋ค.
๋ค๋ฅธ ์ ๊ทผ
Executable Code Actions ๋
ผ๋ฌธ์ ์ฝ๋ ์์ฑ ๊ณผ์ ์์ ์คํ ๊ฐ๋ฅ์ฑ๊ณผ ์ฑ๋ฅ ํฅ์์ ์ํ LLM ์์ด์ ํธ ๋ฐฉ๋ฒ์ ๋ค๋ฃจ์ด ์ง์ ๋น๊ตํ ๋งํ๋ค.
๋ค๋ฅธ ์ ๊ทผ
325 ๋
ผ๋ฌธ์ ํฉ๊ธ ์ค๊ณยท๋ฐ๊ฒฌ์์ physics-aware agentic ์์คํ
์ ๋์
ํด, SpbNet๊ณผ ๋ฌผ์ง ์ค๊ณ ๋ฌธ์ ํด๊ฒฐ ๋ฐฉ์์์ ๋น๊ต๋ฉ๋๋ค.
ํ์ ์ฐ๊ตฌ
์คํ๊ฐ๋ฅ ์ฝ๋(Action)๋ฅผ ํตํ LLM ์์ด์ ํธ ์ฑ๋ฅ ํฅ์ ์ฐ๊ตฌ๋ก, ์๊ธฐ ๋๋ฒ๊น
์ ์ค์ฉ์ ํ์ฅ ์ฌ๋ก๊ฐ ์ ์๋ฉ๋๋ค.
ํ์ ์ฐ๊ตฌ
Executable Code Actions ๋
ผ๋ฌธ์ ์ฌ๋ฌ ๋๊ตฌ ์ฌ์ฉ ์๋๋ฆฌ์ค์์ LLM ์์ด์ ํธ์ API ๊ฒฐํฉยทํ๊ฐ ๊ธฐ์ ์ ํ์ฅํฉ๋๋ค.
ํ์ ์ฐ๊ตฌ
Executable Code Actions Elicit Better LLM Agents ๋
ผ๋ฌธ์์ ๊ณผํ ์คํ์ ํ์ํ ์ฝ๋ ์์ฑ ๋ฐ ์คํ ๋ฅ๋ ฅ์ ์๋กญ๊ฒ ๋ถ์ํ์ฌ, LLM ๊ธฐ๋ฐ ์๋ ํ๋ฏธ๊ฒฝ ์ํฌํ๋ก์ฐ์ ์ค์ ์๋๊ฐ๋ฅ์ฑ๊ณผ ์ฐ๊ฒฐ๋๋ค.
ํ์ ์ฐ๊ตฌ
Executable Code Actions ๋
ผ๋ฌธ์ LLM ์์ด์ ํธ์ ์ฝ๋ ์คํ ๋ฅ๋ ฅ์ด ๋ฐ์ดํฐ ๊ณผ์ ํด๊ฒฐ์ ์ด๋ป๊ฒ ํฅ์์ํค๋์ง ๋ถ์ํด DSBench ํ๊ฐ์ ํด์์ ๋ณด์ํด์ค๋๋ค.
ํ์ ์ฐ๊ตฌ
์ฝ๋ ์คํ ๊ธฐ๋ฐ LLM agent ํ๊ฐ๋ฅผ ํตํด ๊ณผํ๋๊ตฌ ์์ฑ ์์ด์ ํธ์ ์ค์ง์ ์ฑ๋ฅ ๋ถ์์ ๋ํจ.
ํ์ ์ฐ๊ตฌ
Executable Code Actions ๋
ผ๋ฌธ์ RL ๊ธฐ๋ฐ ์์ด์ ํธ์ ์ฝ๋ ์คํยทํ๊ฐ ๊ธฐ๋ฒ์ ํตํด ๊ฐํํ์ต์ ์ผ๋ฐํ ์ค์ฆ์ ์ฌ๋ก๋ฅผ ์ ์ํฉ๋๋ค.
ํ์ ์ฐ๊ตฌ
Executable Code Actions ๋
ผ๋ฌธ์ LLM์ด ์ฝ๋ ์คํ์ ๋ดํฌํ ์์
์์ ์ด๋ป๊ฒ ๋ ๋์ ๊ฒฐ๊ณผ๋ฅผ ์ป๋์ง๋ฅผ ๋ถ์ํ์ฌ, AutoP2C์ ์คํ ๊ฐ๋ฅํ ์ฝ๋ ์ ์ฅ์ ๊ตฌ์ฑ ๋ฅ๋ ฅ๊ณผ ์ง์ ์ ์ผ๋ก ์ฐ๊ฒฐ๋ฉ๋๋ค.
ํ์ ์ฐ๊ตฌ
์ฝ๋ ๊ธฐ๋ฐ LLM ์์ด์ ํธ๋ฅผ ํตํ ์คํ์ฑ๊ณผ ์ ๋ขฐ๋ ํ๊ฐ ๋ฐฉ๋ฒ์ ๋ค๋ฃจ๋ฉฐ, MLIP ์ ๋ขฐ์ฑ ํ๊ฐ์ ์ ์ฌํ ์๋ํ ๋ฐฉ์์ ์ทจํ๋ค.
ํ์ ์ฐ๊ตฌ
ํ๋ก๊ทธ๋๋จธ๋ธ ์ฝ๋ ์ก์
์คํ์ผ๋ก ๊ฐํํ์ต์ ์ต์ ํ๋ฅผ ๋์
ํ ๋๊ท๋ชจ ๋ชจ๋ธ์ ํจ์จ์ฑ ๋ฒค์น๋งํน ๋
ผ๋ฌธ์
๋๋ค.
์์ฉ ์ฌ๋ก
์คํ ๊ฐ๋ฅํ ์ฝ๋ ๊ธฐ๋ฐ ํ์์ ์๋ฒ ์ฌ๋ก๋ฅผ ํตํด, ML ์์
์๋ฃจ์
์๋ ์์ฑ์์ LLM์ ๋๊ตฌ ์ฌ์ฉ/ํ๋ ์ฐ๊ณ ๋ฐฉ๋ฒ์ ์ค๋ฌด์ ์ ์ฉํ ์ ์์ต๋๋ค.
์์ฉ ์ฌ๋ก
325๋ฒ ๋
ผ๋ฌธ์ ์คํ ๊ฐ๋ฅํ ์ฝ๋ ์ก์
์ฐ๊ณ๊ฐ LLM ์์ด์ ํธ์ ์ฑ๋ฅ์ ๊ฐ์ ํ๋ ์ค์ ์ฌ๋ก๋ฅผ ๋ณด์ฌ์ฃผ์ด, 231์ ๋ฉํฐํด ํฉ์ฑ ํจ๋ฌ๋ค์ ํจ๊ณผ๋ฅผ ์์ฉ ๊ด์ ์์ ํ์ฅ์์ผ์ค๋๋ค.
์์ฉ ์ฌ๋ก
594 ๋
ผ๋ฌธ์ 325์ ์ฝ๋ ์คํ ์์ด์ ํธ ์ก์
๋ฉ์ปค๋์ฆ์ ํํ ๊ตฌ์กฐ ์ค๊ณ ์ค๋ฌธ์ ์ ์ ์ฉํ๋ ์ฐ๊ตฌ ์ฌ๋ก์
๋๋ค.
์์ฉ ์ฌ๋ก
StableToolBench๋ ToolBench์ ์คํยทํ๊ฐ ๋ถ์์ ์ฑ ๊ฐ์ ์ ๊ทผ์ด CodeAct ๋ฐฉ์์ ์์ด์ ํธ ํ๊ฐ์ ์ค์ ๊ฒ์ฆ ํ๊ฒฝ์์ ์ด๋ป๊ฒ ์ฐ๊ณ๋ ์ ์๋์ง ๋ณด์ฌ์ค๋๋ค.