https://blog.naver.com/jjy0501/223619128780
AMD Instinct MI355X CDNA4 ์คํ ๊ณต๊ฐ - ์ถ์๋ 2025๋ ํ๋ฐ๊ธฐ(์ถ์ฒ: AMD) ํ์ฌ AI ๊ฐ์๊ธฐ ์์ฅ์ ์ต๊ฐ์๋ ์๋น๋์์ง๋ง, ๋ช๋ช ๋์ ์๋ค์ด ์กด์ฌํฉ๋๋ค. ๊ฐ์ฅ ํฐ ๋...blog.naver.comํ์ฌ AI ๊ฐ์๊ธฐ ์์ฅ์ ์ต๊ฐ์๋ ์๋น๋์์ง๋ง, ๋ช๋ช ๋์ ์๋ค์ด ์กด์ฌํฉ๋๋ค. ๊ฐ์ฅ ํฐ ๋์ ์๋ ์ค๋์ ๋ถํฐ GPU๋ฅผ ๋ง๋ค์ด์จ AMD์
๋๋ค. ๋ฌผ๋ก AMD๋ ๊ฒ์ด๋ฐ GPU ์์ฅ๋ณด๋ค HPC ์์ฅ์์ ๋ณธ๋ ๋ ๋ฐ๋ฆฌ๋ ์ํฉ์ด์์ต๋๋ค. ์๋น๋์๋ ๋์ด ์๋๋ ์์ ๋ถํฐ CUDA๋ฅผ ๋ฌด๋ฃ๋ก ํ๋ฉด์ HPC ์์ฅ์์ ์
์ง๋ฅผ ๋ค์ ์๊ณ GPU๋ฅผ ์ด์ฉํ AI ์ฐ์ฐ ์ญ์ ๋น์ฐํ ์๋น๋์ GPU๋ฅผ ์ด์ฉํด์ ์ฐ๊ตฌ๊ฐ ์์๋์ต๋๋ค. ํ์ฌ AI ํ๋์จ์ด ์์ฅ์์ ์ ์ ์จ์ด 90%์ ๋ฌํ๋ ๊ฒ๋ ๋๋ผ์ด ์ผ์ด ์๋ ๊ฒ์
๋๋ค.
๋์ ์์ธ AMD๋ ํ๋ฐ ์ฃผ์๋ก ๋ถ๋ฆฌํ ์ํฉ์ด์ง๋ง, ํ ๊ฐ์ง ์ด์ ์ด ์์ต๋๋ค. ๋ฐ๋ก ์๋น๋์์ GPU๊ฐ ๊ณผ๋ํ ์์๋ก ์ธํด ๊ณต๊ธ์ด ์ํํ์ง ์์ ํ์ ํ์ ํ์ ์์ฅ์ ๋ ธ๋ฆด ์ ์๋ค๋ ๊ฒ์ ๋๋ค. ์ด๋ ๊ฒ ํด์ ์ผ๋ถ๋ผ๋ ์ ์ ์จ์ ํ๋ณดํ๋ฉด AI ๊ฐ๋ฐ ์ํ๊ณ์ ๋ผ์ด ๋ค์ด๊ฐ๋ฉด์ ์์ ๋ง์ ์๋ฆฌ๋ฅผ ์ฐจ์งํ ์ ์์ต๋๋ค. ๋ค๋ง ๋ธ๋์ฐ GPU๋ฅผ ๋ด๋์ผ๋ฉด์ ์์ฅ์์ ์ ์ง๋ฅผ ๋ ๊ตณ๊ฑดํ๊ฒ ๋ค์ง๊ณ ์๋ ์๋น๋์๋ฅผ ๋ฐ๋ผ๊ฐ๊ธฐ ์ํด AMD ์ญ์ ์ ์ ํ์ ๋ด๋์ ์๋ฐ์ ์๋ ์ํฉ์ ๋๋ค.
AMD๋ ์ฐ์ ํ์ฌ ์ธ์คํ ํธ MI325X๋ฅผ ๋จผ์ ์ถํํ๊ณ ๋ด๋ ํ๋ฐ๊ธฐ์ MI350 ์๋ฆฌ์ฆ๋ฅผ ์ถ์ํ๋ค๋ ๋ก๋๋งต์ ๋ฐํํ์ต๋๋ค. ์ธ์คํ ํธ MI325X๋ ๊ธฐ๋ณธ์ ์ผ๋ก MI300X์ ๊ฐ์ ์คํ์ ์ง๋ ์นฉ์ด์ง๋ง, 33% ์ ๋ ๋์ ๋์ญํญ์ ์ง๋ HBM3E ๋ฉ๋ชจ๋ฆฌ๋ฅผ 256GB๋ ํ์ฌํด ๋๊ท๋ชจ AI ์ฐ์ฐ์์ ์ฑ๋ฅ์ ๋์์ต๋๋ค. ์ฐธ๊ณ ๋ก FP16 ์ฐ์ฐ ๋ฅ๋ ฅ์ 1.3PF (ํํํ๋กญ์ค) FP8 ์ฐ์ฐ ๋ฅ๋ ฅ์ 2.61PF์ ๋๋ค. AMD์ ์ฃผ์ฅ์ ๋ฐ๋ฅด๋ฉด MI325X๋ ๋ฉํ ๋ผ๋ง 3.1์์ H200๋ณด๋ค ์ฝ๊ฐ ๋ ๋น ๋ฆ ๋๋ค.
์ธ์คํ ํธ MI 350 ์๋ฆฌ์ฆ๋ ์ด๋ฆ๋ง ๋ณด๋ฉด ๊ฐ์ CDNA3๋ฅผ ์ฌ์ฉํ ๊ฒ ๊ฐ์ง๋ง, ์ฌ์ค์ CDNA4๋ฅผ ์ฌ์ฉํ ์ต์ GPU์ ๋๋ค. ์ MI400์ด ์๋์ง๋ ์ ์ ์์ง๋ง, TSMC์ 3nm ๊ณต์ ์ผ๋ก ์ ์กฐ๋๋ฉฐ 288GB ์ฉ๋์ HBM3E ๋ฉ๋ชจ๋ฆฌ๋ฅผ ํ์ฌํฉ๋๋ค. (๋์ญํญ์ 8TB/s) FP16๊ณผ 8์์ ๊ฐ๊ฐ 2.3PF์ 4.6PF์ ์ฐ์ฐ ๋ฅ๋ ฅ์ ์ง๋ ์ผ๋ฉฐ ์ด๋ฏธ ์๋น๋์๊ฐ ์ ๊ณตํ๋ FP4 ๋ฐ FP6 ์ฐ์ฐ ๋ฅ๋ ฅ๋ ์ถ๊ฐํ์ต๋๋ค. ์ฐ์ฐ ๋ฅ๋ ฅ์ FP4 ๊ธฐ์ค์ผ๋ก 9.2FP์ ๋๋ค. ์ด๋ B200๊ณผ ๋น์ทํ๊ณ GB200๋ณด๋ค ์ฝ๊ฐ ๋ฎ์ ์์ค์ ๋๋ค.
๋ธ๋์ฐ์ ์ถ์๊ฐ ํจ์ฌ ๋น ๋ฅด๊ณ ์์ง AI ์ํ๊ณ ์์ฒด๊ฐ ์๋น๋์ ์์ฃผ๋ก ๋์ด ์๋ค๋ ์ ์ ๋ณด๋ฉด ์๋น๋์์ ๋ ์ฃผ๊ฐ ์์๋๊ธด ํ์ง๋ง, ๊ณต๊ธ์ด ๋ถ์กฑํ ์ํฉ์์๋ MI350 ์ญ์ ๋น์ง๊ณ ๋ค์ด๊ฐ ํ์ด ์์ ๊ฒ์ผ๋ก ๋ณด์ ๋๋ค. ๊ฒ์ด๋ฐ GPU ์์ฅ์์์ ์ด์ธ์ AI ์์ฅ์์ ์๋น๋์์ ๊ฐ์ธ๋ฅผ ์๊ฐํ๋ฉด ์ฝ์ง๋ง ์์ ์ํฉ์ด์ง๋ง, ๋ ์ฃผ๋ฅผ ๊ฒฌ์ ํ ๊ฒฝ์์์ ์กด์ฌ๋ ์ด๋ ์์ฅ์์๋ ํ์ํ๊ธฐ ๋๋ฌธ์ AMD์ ์ ์ ์ ๊ธฐ๋ํด ๋ด ๋๋ค.
์ ์ ์ปค์ง๋ ใ ใ ใ