๊ธฐ์ฌ:
๋
ผ๋ฌธ:
์ทจ๋ฆฌํ๊ณต๋(ETH Zurich)์ NVIDIA๊ฐ ๊ทธ๋ํฝ์นด๋ 1์ฅ์ผ๋ก ๋ก๋ด ์๋ฎฌ๋ ์ด์
์๊ฒ ๊ฑท๊ธฐ๋ฅผ ํ์ต์์ผฐ๋ค.
ํ์ต์๊ฐ์ ํ์ง ํ๊ฒฝ์ ๊ฒฝ์ฐ 4๋ถ, ์งํ์ด ์๋ ๊ฒฝ์ฐ 20๋ถ์ด ๊ฑธ๋ ธ๋ค.
๋
ผ๋ฌธ์ย 'PCIe๊ฐ GPU ์ฐ์ฐ์๋๋ณด๋ค 50๋ฐฐ ๋๋ฆฌ๋ค'๊ณ ์ ํ๋ค.
// ์ฌ๊ธฐ์๋ถํฐ๋ ๊ฐ์ธ์ ํด์์
// ์ง์ ํ์
์ฐ๊ตฌ 3์:
1. ๊ทธ๋ํฝ์นด๋ ํ ์ฅ์ผ๋ก
2. 4๋ถ๋ง์ ํ์ต์ํด
3. PCIe(์ปดํจํฐ ๊ทธ๋ํฝ์นด๋ ์ฌ๋กฏ)๊ฐ 50๋ฐฐ ๋๋ฆผ
์ฌ๊ธฐ์ ํต์ฌ์ ๋ง์ค์ด๋ผ๊ณ ๋ณธ๋ค.
์ด ์ฐ๊ตฌ๋ฅผ ํตํด NVIDIA๊ฐ ํ๊ณ ์ถ์ ๋ง์
'์ฐ๋ฆฌ๊ฐ ๊ธฐ์ ๋ ฅ์ด ์๋๊ฒ ์๋๋ค' ์ผ๊ฑฐ์.
๋๋๋๋ NPU(์ธ๊ณต์ง๋ฅ ๋ฐ๋์ฒด)๋ฅผ ๊ฐ๋ฐํ๋ ์ง๊ธ ์์ ์์
'NVIDIA๋ ์ฑ๋ฅ ์ข์ผ๋๊น ๋ง์ด ์จ๋ฌ๋ผ๊ตฟ!' ์ด๋ผ๊ณ ์ธ์น๋๊ฑฐ์ง
ํ์ง๋ง ์ด๋ฐ๊ฑด ์ง์์ ํ์ด์ผ์ง. ์ง๊ธ์ ๋ฆ์ ๊ฐ์ด ์๋ค๊ณ ๋ณธ๋ค.
๋๊ธฐ์
๋ค ๋ ๋ค์ฌ์ AI ์นฉ ๊ฐ๋ฐํ ๋๋ ๊ฐ๋งํ ์๋ค๊ฐ ๋ง์ด์ผ.
์ง์์ PCIe๊ด๋ จ ๊ธฐ์ ์ ๊ฐ๋ฐํ๋๊ฐ
CPU์ ์ข
์๋๋ ์ข
๋์ ๊ตฌ์กฐ๋ฅผ ๋ฏ์ด ๊ณ ์ณค์ด์ผ ํ์.
๊ทธ๋ ๋ค๋ฉด ์์ผ๋ก NVIDIA์์
PCIe๋ณด๋ค ๋น ๋ฅธ ์ปค์คํ
์คํ์ AI ๊ฐ์๊ธฐ๋ฅผ ๋ด๋์๊น?
์ฌ์ค ์ด๊ฑด ์ด๋ฏธ ํ๊ณ ์์.
DGX-2๋ผ๋ ๋ฌผ๊ฑด์ธ๋ฐ
๋์ถฉ Dojo D1์ NVIDIA ๋ฒ์ ์ด๋ผ ๋ณด๋ฉด ๋จ
๊ทธ๋ฐ๋ฐ ๋ฒ์จ ์ค๋ช
ํ๋ฉด์ D1์ด๋ผ๋ ๋น๊ต ๋์์ด ์์์?
๊ณผ์ฐ ํจ๊ณผ์ ์ธ ์ ๋ต์ผ๊น? ๊ธ์.
์ฌ๊ธฐ์ ๋์ด ์๋๋ค!
ํน๋ถ์ด๋ผ๋ฉด '๋ก๋ด', '๊ฑท๊ธฐ' ํค์๋๋ฅผ ๋ณด๋ฉด ๋ญ๊ฐ๊ฐ ๋ ์ค๋ฅด๋ฉฐ ๊ฐ์ด์ด ๋จ๊ฑฐ์์ ธ์ผํ๋ค ใ
ใ
?
๋ฐ๋ก ๋จธ๋ฆฟ์์ 'ํ
์ฌ๋ผ๋ด'์ด ๋ฉ์๋ฆฌ๋ฅผ ์น๊ณ ์์ด์ผ ํจ
์ฌ์ค ๋ณด.๋ค. ์ํ๋ผ์ค ์ ์์ ์ ๋ฆฌ ๊ฐ๋ฅํ๊ธด ํ๋ฐ,
ํ
์ฌ๋ผ๋ด์ ๊ฑท๊ธฐ๊ฐ ๊ธฐ์ ์ ์ผ๋ก ์ด๋ ต๋ค๋ ๋ง์ด ๋ง์๊ฑฐ๋ ?
์ด๊ฒ ํด๋ณด ๊ฐ๋ฐํ ๋ ๊ตญ๋ด ์ฐ๊ตฌ์ง ์ปค๋ฒ ์ณ ์ค๋ผ๊ณ ์์์ง ํ๋กํ๊ฐ๋ค๋๋ง์ด์ผ. ์ผ๋ง ์ ์๋ TV์์๋ ๋ ๋ค๋๋ผ. ํ ๋ฌ๋ ์ ๋ ๊ฒ ๊ฐ์. ์์ ๋ฃ์ ๊ฐ์นใทใท
ํ์ง๋ง AI๋ฅผ ์ด์ฉํ ๋ก๋ด์ ์ด๋ ์ด๋ฏธ ์ถฉ๋ถํ ๋ง์ด ์ฌ์ฉ๋๊ณ ์๋ค.
๊ธฐ์ ๋ถ์กฑ๋ฌ๋ค์ด ๋ฑํํ ๋ ๋ด๊ฐ ํญ์ ๊บผ๋ด๋ ์๋ฃ๊ฐ ์๋๋ฐ,
๋ฐ๋ก ์ญ์ง์(inverted pendulum)์.
์ง๋๋ฒ์ ๊ตฌ๊ธ์ '๋ถ๋ณ์์ AI(๊ฐ๊ฐํตํฉ)'์ ๋ฐ๋ชจ๋ ์ญ์ง์์์ง?
์ด๊ฒ AI๋ฅผ ํ์ฉํ ๊ธฐ๊ณ์ ์ด ๋ํ ์์ ์ฌ์ ๊ทธ๋ผ.
์ธ๊ณต์ง๋ฅ์ ์ด์ฉํด์ ์ปจํธ๋กค ํ๋ ๊ธฐ์ ์ ์ด๋ฏธ ๋ค์ค ์ญ์ง์๋ฅผ ์ ์ดํ ๋งํผ ์๋นํ ์์ค์ด๋ค.
ํด๋ณด๋ ์ธ๊ณต์ง๋ฅ์ด ์๋๋ผ ์ธ๊ฐ์ง๋ฅ์ ํด๋ฒ๋ฆฐ๊ฑฐ๊ณ .
์ฌ๊ธฐ์ ํ ์ ๋ ๋ ์ ์ด์ ๋
- ๊ฑท๊ธฐ๋ฅผ
- ๊ทธ๋ํฝ์นด๋ ํ ์ฅ์ผ๋ก
- 20๋ถ๋ง์ ํ์ต์๋ฃ
๊ฒ์ ๋์ด์ง.
ํ
์ฌ๋ผ๋ด์ ์ถ์์๋ ๋ณ๊ฐ๋ก
๊ธฐ์ ์ ์ผ๋ก ์ ๋ ๊ฑฐ ์๋ค๋ ๊ฑธ ๋ค์ ํ์ธ์์ผ์ค ์ฐ๊ตฌ๋ผ๊ณ ์๊ฐํจ.
์, ๋ฌผ๋ก ๋ฐฐํฐ๋ฆฌ ๋นผ๊ณ
๊ฒฐ๋ก :
1. PCIe ๊ตฌ๋ฆฌ๋ค.
2. NVIDIA ๋ฐ๋ฒ๋ฅ
3. ํ
์ฌ๋ผ๋ด ์ ์ด ์ด๋ก ์ ๊ฐ๋ฅ
ํผ๋๋ฐฑ๋๋ก ์ฌ์ค์ ๊ธธ๊ฒ ์จ ๋ด
์ด๋ฉ ํน๋ถ์ด๋ ์ดํดํ ์ ์๊ฒ ์ฐ๋ ค๊ณ ํ๋๋ฐ, ํน์ ์ค๋ช ๋์น ๊ฒ ์์ ์ ์์ผ๋ ์ดํด๊ฐ ์ ์๋๋ฉด ๋ใฑ
ํด๋น ๋๊ธ์ ์ญ์ ๋์์ต๋๋ค.
์ง์ ์ ๊ธฐํ๋ค
https://www.hpcwire.com/2021/09/27/enhancing-data-movement-for-gpus-with-nvidia-gpudirect-rdma-technology/
๋ด๊ฐ ์๊ฐค์๋ ์ฌ๋ฆฐ ์ ๋ณด๊ธ์ด์ง๋ง ์๋น๋์์ gpu ๋ฐ์ดํฐ ์ฒ๋ฆฌ ์๋์ ๋ฐ์ดํฐ ์ด๋ ์๋๊ฐ ๊ต์ฅํ ๋น ๋ฅด๋ค๊ฑฐ ํ๋ ๊ฒ ๊ฐ์. ์ฐธ๊ณ ํ๋ฉด ์ข์ ๊ฒ ๊ฐ๋ค
์๊ฐค ์ ๋ณด๊ธ ์ ๋ณด๊ณ ์๋ค!
DGX2๋ ๊ทธ ๋ค์ ์ธ๋์ธ DGX A100๋ D1๋ณด๋ค ๋ ์ ์ ์์ฐ๋์. ํ ์ฌ๋ผ๊ฐ ๋์กฐ ์ ๋จ๊ณ ์ปดํจํฐ๋ก ์ค์นํ ๊ฒ DGX A100(DGX 2์ 2.5๋ฐฐ ์ฑ๋ฅ) 720๊ฐ์ง๋ฆฌ ์์คํ ์ด๋ D1๊ณผ ๊ฒฝ์ํ๊ธฐ ์ํด DGX2๋ฅผ ๋ด๋๋๋ค๋ ์์ ํํ์ ๋ง์ง ์์.
D1์ ์์ง ์ฑ๋ฅ๊ฒ์ฆ์ด ์๋์ง๋ง DGX A100์ ์ถฉ๋ถํ ๋์๊ณ ์์์ ๊ณต๊ธ๋์ด ๋ชป๋ฐ๋ผ๊ฐ ํ๊ท๋ก ๋์ด ์์ด๋ ๊ตฌํ๊ธฐ ํ๋ค ์ ๋๋ก AI๋ถ์ผ์ชฝ์์๋ ์ธ๊ธฐ ์๋ค๋๋ฐ. AI์ฐ์ฐ 4์์ฌ๊ธ ํ๋จธํฐ ์ํผ์ปด๋ DGX A100์ผ๋ก ๊ตฌ์ฑ๋จ.
์๋ฃ ใฑใ
D1์ DGX๋ฅผ ์ค๋ช ํ๊ธฐ ์ํ ์์์์. DGX๋ฅผ ์ด ๊ธ๋ก ์ฒ์ ์ ํ ํน๋ถ์ด๋ค์ ๊ทธ๋ ๊ฒ ๋๋ ์ ์๊ฒ ๊ตฐ.
DGX ์ธ๊ณต์ง๋ฅ ์ฐ๊ตฌ์ง๋ค์๊ฒ ์ธ๊ธฐ ๋ง์ง. ํ์ง๋ง ๋น์ธ์ ํ์ด๊ฐ ํฌ์ง ์์ ๊ฑธ๋ก ์. ์ด ์ฌ๋์ ๋ค ์๊ณ , ๋๋ถ๋ถ์ ์๋ฒ๋ฅผ ์ฐ๋ ์์ ์ ์ด๋ฐ ์ฐ๊ตฌ๊ฐ ๋ฝ๋ฟ์ง ์ด์์ ์๋ฏธ๊ฐ ์์์ง ์๋ฌธ์ด ๋ฌ
์ด์ ๊ฐ๋ฅด์น ๋ก๋ด๋ค๋ง ์์ผ๋ฉด ๋๊ฒ ๋ค...
๊ทธ๋ ์ง
์ค์ค์ค ๊ธฐ๋๋๋ค์
์ง๊ธ๋ ๋ฐฐํฐ๋ฆฌ๋ง ๋ฌด์ํ๋ฉด ์น์ค๋ด์ ๋ง๋ค์์๋?
4๋ถ ๋์๋ฒ๋ ท๋ค ...ใทใท
์.. ๋ก๋ด์ด ๊ณ๋จ ์ฒ์ ์ฌ๋์๋๋ ๋น๊ตํ๋ฉด ์ด๋์ ๋ ์ผ๋ ค๋.. - dc App
์นด์ค์ค์ ์ด์ค์ง์์ด๋์ ์ผ์ดํ๋๊ฑด ์ง์ง ์์ฒญ๋๋ค