์ ์: Remi Lam, Alvaro Sanchez-Gonzalez, Matthew Willson, Peter Wirnsberger, Meire Fortunato, Ferran Alet, Suman Ravuri, Timo Ewalds, Zach Eaton-Rosen, Weihua Hu, Alexander Merose, Stephan Hoyer, George Holland, Oriol Vinyals, Jacklynn Stott, Alexander Pritzel, Shakir Mohamed, Peter Battaglia | ๋ ์ง: 2023-12-22 | DOI: 10.1126/science.adi2336 📄 PDF
Essence
GraphCast๋ Graph Neural Network ๊ธฐ๋ฐ์ ๊ธฐ๊ณํ์ต ๋ชจ๋ธ๋ก, ๊ณผ๊ฑฐ ์ฌ๋ถ์ ๋ฐ์ดํฐ๋ก๋ถํฐ ํ์ตํ์ฌ 10์ผ ์์ ๋ ์จ๋ฅผ 0.25ยฐ ํด์๋๋ก 1๋ถ ์ด๋ด์ ์์ธกํ๋ฉฐ, ๊ธฐ์กด์ ์์น ๊ธฐ์ ์๋ณด ์์คํ
์ 90% ์ด์์ ๊ฒ์ฆ ํญ๋ชฉ์์ ๋ฅ๊ฐํ๋ค.
Evaluation
Novelty: 4/5 Technical Soundness: 4/5 Significance: 4/5 Clarity: 4/5 Overall: 4/5
์ดํ: GraphCast๋ Graph Neural Network์ ํจ์จ์ฑ๊ณผ ๊ธฐ๊ณํ์ต์ ๋ฐ์ดํฐ ๊ธฐ๋ฐ ํ์ต ๋ฅ๋ ฅ์ ๊ฒฐํฉํ์ฌ, ์ ํต ์์น ๊ธฐ์ ์๋ณด๋ฅผ ๋ฅ๊ฐํ๋ ํ์ ์ ์ธ ์ค๊ธฐ ์๋ณด ์์คํ
์ ์ ์ํ๋ค. ๊ณ ์ยท๊ณ ์ ํยท๊ณ ํด์๋์ ์ค์ฉ์ ์ฑ๋ฅ๊ณผ ๊ทนํ ๊ธฐ์ ์์ธก ์์ฉ ๊ฐ๋ฅ์ฑ์ผ๋ก ๊ธฐ๊ณํ์ต ๊ธฐ๋ฐ ๋ณต์ก ๋์ญํ๊ณ ๋ชจ๋ธ๋ง์ ํฐ ์ง์ ์ ๋ํ๋ธ๋ค.
๊ฐ์ด ๋ณด๋ฉด ์ข์ ๋
ผ๋ฌธ
๊ธฐ๋ฐ ์ฐ๊ตฌ
342๋ฒ ๋
ผ๋ฌธ์ ํ๊ฒฝ๊ณผํ์ ํนํํ ํ์ด๋ฐ์ด์
๋ชจ๋ธ ์๋ฒ ์ด๋ก 2206์์ ๋ค๋ฃจ๋ ๊ธฐ์ AI ๋ชจ๋ธ์ ์ด๋ก ยท์์ฉ์ ๊ธฐ๋ฐ ์ฐ๊ตฌ๋ฅผ ๋ณด์ํฉ๋๋ค.
๊ธฐ๋ฐ ์ฐ๊ตฌ
2206๋ฒ ๋
ผ๋ฌธ์ ๊ธ๋ก๋ฒ AI ๊ธฐ๋ฐ ์ค๊ธฐ ๊ธฐ์์์ธก ๋ชจ๋ธ GraphCast๋ฅผ ์ ์ํ์ฌ, 2985์ ์ง์ญํ ํํ ์์ธก๋ชจ๋ธ ์ฐ๊ตฌ์ ๊ธฐ๋ฐ์ด ๋๋ ๊ธฐ์ ์
๋๋ค.
๋ค๋ฅธ ์ ๊ทผ
2218 ๋
ผ๋ฌธ์ Transformer ๊ณ์ด ๋ชจ๋ธ์ ์ด์ฉํ ๊ณ ํด์๋ ๋ ์จ ์์ธก์ผ๋ก, 2206์ GraphNeural ๋ฐฉ์๊ณผ ์ง์ ๋น๊ตํ ์ ์์ต๋๋ค.
๋ค๋ฅธ ์ ๊ทผ
2206 ๋
ผ๋ฌธ์ GraphCast ๊ธฐ๋ฐ์ ๋ ์จ ์๋ณด๋ก์, FuXi์ ๊ธฐ์ ์ ์ฐจ๋ณ์ ์ ๋น๊ตํ๊ธฐ์ ์ ํฉํฉ๋๋ค.
๋ค๋ฅธ ์ ๊ทผ
์์๋ธ ๊ธฐ๋ฐ ๊ธฐ์ ์์ธก ์์คํ
์ ๋์์ ์ ๊ทผ๋ฒ์ ์ ์ํ๋ ์ฐ๊ตฌ์ด๋ค
๋ค๋ฅธ ์ ๊ทผ
๋จธ์ ๋ฌ๋ ๊ธฐ๋ฐ ๊ธฐ์ ์์ธก ๋ชจ๋ธ์ ์ค์ฉ์ ์ ์ฉ์ ๋ค๋ฃจ๋ ๊ด๋ จ ์ฐ๊ตฌ์ด๋ค.
๋ค๋ฅธ ์ ๊ทผ
๋ฌผ๋ฆฌ ํ์ ๋ฐ์ดํฐ์์ ๋ถํ์ค์ฑ์ ์ ๋ํํ๋ ๋จธ์ ๋ฌ๋ ๊ธฐ๋ฐ ์ ์ฌํ ์ ๊ทผ๋ฒ์ ๋ค๋ฃจ๋ ์ฐ๊ตฌ์ด๋ค.
๋ค๋ฅธ ์ ๊ทผ
๋๊ท๋ชจ AI ๊ธฐ๋ฐ ๋๊ธฐ ์์ธก ๋ชจ๋ธ๋ก ์ ์ฌํ ์ ์ญ ์๋ณด ๋ฌธ์ ๋ฅผ ๋ค๋ฅธ ์ํคํ
์ฒ๋ก ํด๊ฒฐํ๋ค
๋ค๋ฅธ ์ ๊ทผ
๊ธฐํ ๋ชจ๋ธ๋ง์ ์ํ ๋จธ์ ๋ฌ๋ ์๋ฎฌ๋ ์ดํฐ์ ์ค๊ณ ๋ฐ ์ ์ฉ์ ๋ค๋ฃจ๋ ๊ด๋ จ ์ฐ๊ตฌ์ด๋ค.
๋ค๋ฅธ ์ ๊ทผ
์ ์ญ ๋๊ธฐ ์์คํ
์์ธก์ ์ํ ๋๊ท๋ชจ AI ๊ธฐ๋ฐ ๋์์ ์ ๊ทผ๋ฒ์ ์ ์ํ๋ ์ฐ๊ตฌ์ด๋ค
๋ค๋ฅธ ์ ๊ทผ
Transformer ๊ณ์ด ๋ชจ๋ธ์ ์ฌ์ฉํ์ฌ ์ค๊ธฐ ๋ ์จ ์์ธก ์ฑ๋ฅ์ ๋น๊ตยท๋ถ์ํ ๋์์ ML ๋ฐฉ๋ฒ๋ก ์ด๋ค.
ํ์ ์ฐ๊ตฌ
LLaMP๋ ์ฌ๋ฃ๊ณผํยท์๋ฎฌ๋ ์ด์
๋๊ตฌ์ RAG ๊ฒฐํฉ์ผ๋ก, GraphCast๋ฅ ๊ธฐ์ ์์ธก์์๋ LLM ๊ธฐ๋ฐ ๊ณ ์ ๋ขฐ๋ ๋ฉํฐ๋ชจ๋ฌ ์์
์ ์ฉ์ ๋ฐ์ ๊ฐ๋ฅ์ฑ์ ์์ฌํฉ๋๋ค.
ํ์ ์ฐ๊ตฌ
2985๋ GraphCast Framework๋ฅผ ์ง์ญ AI ํํ ์์ธก์ ํ์ฅ ์ ์ฉํ ๋
ผ๋ฌธ์ผ๋ก, 2206์ ๊ธ๋ก๋ฒ ์์คํ
๊ณผ ์ค์ง์ ์ธ ๋น๊ต ๋ฐ ์ง์ญํ ๋ชจ๋ธ๋ก์ ์์ฉ์ ํ์ธํ ์ ์์ต๋๋ค.
ํ์ ์ฐ๊ตฌ
๊ธฐ์ ๋ฐ ๊ธฐํ ๊ณผํ ๋ฌธ์ ์์ AI ๊ธฐ๋ฐ ๊ณผํ์ ๋ฐ๊ฒฌ ์์ง์ ์ด๋ป๊ฒ ๊ตฌํํ ์ง์ ๊ดํ ๋ฐฉํฅ์ฑ์ ์ ์ํ๋ค.
์์ฉ ์ฌ๋ก
๊ธฐ๊ณํ์ต๊ณผ AI๋ก ๊ธ๋ก๋ฒ ๋ ์จ ์์ธก ๋ชจ๋ธ์ ๊ฐ๋ฐยทํ๊ฐํ๋ ๋
ผ๋ฌธ์ Mechanistic Interpretability ํด์ด ์ค์ ๊ธฐ์ ๊ณผํ์ ์ ์ฉ๋๋ ๋งฅ๋ฝ์ ์ ๊ณตํฉ๋๋ค.
์์ฉ ์ฌ๋ก
2206์ ๊ธ๋ก๋ฒ ๋ ์จ์์ธก ML ๊ธฐ๋ฒ์ด 3261์ ๊ณ ์ฐจ์ ๊ธฐํ ์๋ฒ ๋ฉ ๋ถ์ ๋ฐ ์ค์ฆ์ ๊ฒ์ ์ฌ๋ก์ ์ง์ ์ ์ฉ๋ ์ ์์ต๋๋ค.