์ ์ฒด์ ์ผ๋ก GB200 NVL72์๋ 36๊ฐ์ Grace CPU์ 72๊ฐ์ Blackwell GPU๊ฐ ์์ผ๋ฉฐ, FP8์ 720ํํํ๋กญ๊ณผ FP4 ์ปดํจํ ์ 1,440ํํํ๋กญ์ด ํฌํจ๋ฉ๋๋ค.
๋ค์ค ๋ ธ๋ ๋์ญํญ์ 130TB/s์ด๋ฉฐ, Nvidia๋ NVL72๊ฐ AI LLM์ ๋ํด ์ต๋ 27์กฐ ๊ฐ์ ๋งค๊ฐ๋ณ์ ๋ชจ๋ธ์ ์ฒ๋ฆฌํ ์ ์๋ค๊ณ ๋งํฉ๋๋ค.
(Nvidia says the NVL72 can handle up to 27 trillion parameter models for AI LLMs.)
1.44 ์์ฌํ๋กญ์ ์์
์ ๊ฑฐ ํ๋๋ก 27์กฐ ๋งค๊ฐ๋ณ์ ๋ชจ๋ธ ์ฒ๋ฆฌ ๊ฐ๋ฅ ใทใทใท
๋ญฃ
๋น์ฅ ํ๋ ์ฌ์๋ผ
๊ฐ๋น 6600๋ง์..
์์ญ์ต~์๋ฐฑ์ต ํ ๊ฑธ ์ ๊ฑฐ ํ๋์?? B200 ๋ช์ญ๊ฐ ๋ฐํ์๋๊ฑฐ๋ผ์
์ต์ 50์ต์
์ ๋ฏธ์น
๊ทผ๋ฐ ์ฌ๋ํค์ ๋๋ฐฐ๊ฐ๋๋ค ใทใทใท
๋๋จํ๋ค ์ง์ง
์ ๊ฑฐ ์กด๋ ๊ฐ๊ณ ์ถ๋ค ใ ใ
100์ต์ก๊ณ 100์กฐ๋ฉด 27๊ฒฝํ๋ผ๋ฏธํฐ๋ค