๊ฐ์ฅ ๊ธฐ๋ณธ์ด ๋๋ ๋ธ๋์ค ์นฉ
๋ณ๊ฑฐ ์์ด๋ณด์ด์ง๋ง ๊ธฐ์กด ์ต๊ณ gpu์๋ h100์ด๋ ๋ค์ด์ฌ์ด์ฆ๋ฅผ ๋น๊ตํด๋ณด๋ฉด ํ์ฐํ ์ปค์ง ๋ชจ์ต
์ด๊ฑธ ๋๊ฐ ํฉ์ณ์
๋ธ๋์ค GPU ์นฉ์ด ๋จ
๊ทธ๋ฆฌ๊ณ ์ด๊ฑธ ๋๊ฐ ํฉ์น๊ณ ์์ฒด CPU๊น์ง ํฉ์น๋ฉด
Ai์ฉ GPU์ธ GB200์ด ๋จ
์ด ์นฉ์ ์ฑ๋ฅ์ ๊ธฐ์กด ์ต๊ฐ์์๋ H100NVL์ 3๋ฐฐ ๊ฐ๋์ด๊ณ
๊ฐ๊ฒฉ์ย 1.5์ต~2์ต์์ ๊ทผ์ ํ ๊ฒ์ผ๋ก ์์๋จ
์ฌ๊ธฐ์ ์ด GB200์ ๋๊ฐ ๋ฃ๊ณ
๊ฐ์ข
๋ณด์กฐ ์นฉ๋ค์ ๋ฃ์ผ๋ฉด
ํ๋์ ์๋ฒ ๋์ด ๋จ
์ด ๋์ 36๊ฐ ๋ฃ์ผ๋ฉด
GB200 NV72๋ผ๋ ํ๋์ ํตํฉ๋ ์ปดํจํ
์์คํ
์ด ๋จ
์ด ์์คํ
์ ์ฑ๋ฅ์ ๊ธฐ์กด์ ์ต๊ณ ์ฑ๋ฅ์ด์๋ DGX GH200์ 6๋ฐฐ์ด๊ณ
๊ฐ๊ฒฉ์ 50์ต~100์ต์์ ๊ทผ์ ํ์ง ์์๊น ์ถ์ธก๋จ
๊ทธ๋ฆฌ๊ณ ์ด๊ฑธ 8๊ฐ ๋ชจ์ผ๊ณ
์ฌ๋ฌ ์์คํ
๋ค์ ๋ํ๋ฉด
์๋ฒ ์์คํ
์ด ์์ฑ๋จ
๊ทธ๋ฆฌ๊ณ ์ด๊ฑธ ์๋ฐฑ๊ฐ ๋ชจ์ผ๋ฉด
ํ๋์ AI์ฉ ๋ฐ์ดํฐ์ผํฐ๊ฐ ๋จ
์ด ๋ฐ์ดํฐ์ผํฐ๋ 32000๊ฐ์ gpu๋ฅผ ๊ฐ์ง๊ณ ์๋๋ฐ AI์ฉ ์ฐ์ฐ ์ฑ๋ฅ์ด 645์์ฌํ๋กญ์ค์
AI ์ฑ๋ฅ์ผ๋ก ๋ฐ์ง๋ฉด ํ์ฌ ์ํผ๊ฒํจํฐ 1์(ํ๋ก ํฐ์ด)์ 1.1 ์์ฌํ๋กญ์ค๋ณด๋ค ์๋ฐฑ๋ฐฐ ๋ฐ์ด๋๋ค๋ ์๋ฆฌ์
์ฃผ์ ๊ธฐ์
๋ค์ Gpu๋ฅผ ์์ญ๋ง๊ฐ ๋จ์๋ก ๊ตฌ๋งคํ๋ ์ด ๋ฐ์ดํฐ์ผํฐ ์์คํ
์ ์์ญ๊ฐ์ฉ ํ๋ ค๋๊ฐ์ AI์ ํ์ต,์ถ๋ก ์ ์ฌ์ฉ๋ ๊ฒ์
ใ ใด ์ปค์ง๊ธดํ๋ค
์ง์ง ๋๊ฐ์ ์กด๋๋ค์ด๊ฐ๊ธด ํ๊ฒ ๋ค ใ ใ ใ
์ ์ ๋๋ฉด ในใ ์ก์นจ๋๊ฐ ํด์ผํ๋๊ฑฐ ์๋์ง...
๋ธ๋์ฐ๋ก ํ์ตํ ai๊ฐ 26๋ ์ด๋ฉด ๋์ฌํ ๋ฐ ๊ธฐ๋๋๋ค
์ ๊ธฐ ๋จน๋ ํ๋ง ๊ทธ ์์ฒด๋ ธ ใทใท
GB200์ด H100 ์ฑ๋ฅ์ 3๋ฐฐ์ธ๋ฐ ๊ฐ๊ฒฉ์ 4~5๋ฐฐ์ธ๊ฑฐ?
Gb200์ gpu 2๊ฐ + arm cpu + sli ๋ก ๊ตฌ์ฑ๋๊ฑฐ๋ผ h100์ด๋ ๋น๊ตํ๋ฉด ๋ถ์ ์ ํ๊ณ gh200์ด๋ h100nvl(h100 ๋๊ฐ ๋ฌถ์)์ด๋ ๋น๊ตํด์ผ ํ๋๋ฐ ๋๋ค ๊ฐ๊ฒฉ์ ๋ณด๋ฅผ ์ ํํ ์์๋ ์์ด์ ์ถ์ธก์ผ ๋ฟ์ ๊ฐ๊ฒฉ๋ ์ฑ๋ฅ๋น๋ก ํ๋ฉด ๋น์ฐํ gb200์ด ์ข์๊ฑฐ์
์ ๊ฒ agi๋ค
๊ธฐ์ ๋ฐ์ ์ ํ๊ณ๊ฐ ์จ๋ฏ ๊ฒฐ๊ตญ์ ๊ณต์ ๊ฐ๋ฐ์ด ๋ฉ์ถ๋ ๋ ํฌ๊ณ ๋ง์ GPU ์นฉ์ผ๋ก ํด๊ฒฐํ๋๊ฑฐ๋ผ... ๊ฒจ์ธ์ด๋ค...
์ฑ๋ฅ์ด ์๋๋ผ ๊ฐ๊ฒฉ๋๋น ์ฑ๋ฅ์ ๋ด์ผํจ
๋๋์ฒด ๊ฐ์ธ์ฉ์ ์ธ์ ๋์ค๋๊ฑฐ๋.
์ ๊ฑฐ ๋๋ ์ค๋ฅธ๊ฑฐ ๋ด๋ผ ์ ๋ ์ ๋ด๋์ ๋ฏ
์๋น๋์ ๊ฐ์ธ์ฉ์ ์ธ๊ฒํ์ด์ ๊ฐ ์์ด์...
๋๊ฐ์๋ ์ด์ ๊ธฐ๋ณธ์ด๋ ธ ใ ใ
์ด๋ ๋ณด๋๊น ในใ ai๋ ๋๊ท๋ชจ ์๋ณธ์ ๊ผญ ํ์๋ก ํ๋ค๋ ๊ฒ ๋๊ปด์ง๋คใท
์ง๋ฆฌ๋
https://www.facebook.com/566182966/posts/pfbid02baXmsmJegeJbp3qqvenX9ehKfJMGPdZJvepUCGbcgtNhpKce88imJEXc2tFMTozYl/?app=fbl
์์ธํ
ํด์ค์ ์ฌ๊ธฐ๋ก
900์กฐ ๊ดํ ๋ด๋์ผํ๊ฒ ์๋๊ตฌ๋ง
900์กฐ๊ฐ ์๋๊ณ 9000์กฐ
์ด์ ๋๋ ๋ผ์ผ AGI ๋ง๋ค์ ์๊ฒ ๊ตฌ๋
์์ฃผ ๋จธ๋๋จผ ๋ฏธ๋์๋ ์ ai์ฉ ๋ฐ์ดํฐ์ผํฐ๋ ๋์ผํ ์ฑ๋ฅ์ ๋ฌด์ธ๊ฐ๊ฐ ์ค๋งํธํฐ์ ํ์ฌ๋์ด์์๋ฏ
๋ฌด๊ฒ 30ํค์ง๋ฆฌ ์๋์ ์ปดํจํฐ๊ฐ ์ค๋๋ ์ค๋งํธํฐ ์ฐ์ฐ ์ฑ๋ฅ๋ณด๋ค ๋ค๋จ์ด์ง ๊ทธ๊ฑฐ๋ณด๋ฉด ๊ฒฐ๊ตญ ๊ทธ๋ ๊ฒ ๋๊ฒ ์ง ใ ใ
์ ๊ฑธ๋ก ์ต์ ๊ฒ ๋์๊ฐ? - dc App
100๊ฐ ํ๊บผ๋ฒ์ ๋๋ฆด๋ฏ
๊ธฐ๊ป ์๊ฐํ๊ฒ 100๊ฐ ใ ใ ใ ใ ใ ใ ใ - dc App
๊ฒ์์ฉ์ผ๋ก ์ฐ์ฐ ์ต์ ํ ํ๊ฒ ์๋๋ผ์ ๊ฒ์ด๋ฐ ๊ธ์นด๋ณด๋ค ๋ธ๋ฆฌ๋๋ฐ(H100์ด ์ต์ ๊ฒ 5ํ๋ ์ ๋์ด) ๊ท๋ชจ๋ก ๋ฐ์ด๋ถ์ด๋ฉด ์ด๋ป๊ฒ๋ ์ง ๋ชจ๋ฅด๊ฒ ๋ค. - dc App
์ ๊ธฐ ํจ์จ ๋ฌธ์ ๋ ํด๊ฒฐ๋์ด์ผ ํ ๊ฒ..
์ด๊ฑฐ๋ณด๊ณ ํํผ์ด " Scale is everything" ๋ผ๊ณ ๋งํ๊ฒ ์ดํด๊ฐ๊ฐ. ์ค์ผ์ผ์ ๋๋ฆฌ๋ฉด ์ ๋ถ๋ผ๋๋ ๊ทธ ์ค์ผ์ผ์ด ์ง์ง ์์์ด์์ ๊ท๋ชจ๋ค ;
์ฑ๋ฅ ๊ฐ์ ์ ์ผ๋ง๋? - dc App
๊ฐ์ฑ๋น๋ณด๋จ ์ ์ฑ๋น๋ฅผ ๋ฐ์ง๊ฒ ๋ ๊ฑฐ์
ํฉ์น๊ณ ํฉ์น๊ณ ๋ก๋ด๋ณ์ ํ๋๊ฑฐ๊ฐ๋ค