a04828ad0e3ab453b2333c719a3ae47df8dc6e234b36d2e26e3ceb9bc13efd297ccbef0fa42697c9fd25



https://www.trendforce.com/news/2024/09/10/news-microns-12-hi-hbm3e-ready-for-production-targeting-nvidias-h200-and-b100-b200-gpus/

https://www.trendforce.com/news/2024/09/10/news-microns-12-hi-hbm3e-ready-for-production-targeting-nvidias-h200-and-b100-b200-gpus/

[News] Micronโ€™s 12-Hi HBM3e Ready for Production, Targeting NVIDIAโ€™s H200 and B100/ B200 GPUs | TrendForce Insights

After its 8-Hi HBM3e entered mass production in February, Micron officially introduced the 12-Hi HBM3e memory stacks on Monday, which features a 36 GB...

www.trendforce.com



Tom's Hardware์˜ ๋ณด๊ณ ์„œ์— ๋”ฐ๋ฅด๋ฉด, ์ง€๋‚œ 2์›” HBM3 8๋‹จ ์–‘์‚ฐ์— ๋“ค์–ด๊ฐ„ ์ดํ›„, ๋งˆ์ดํฌ๋ก ์€ ์›”์š”์ผ์— 36GB HBM3e 12๋‹จ ๋ฉ”๋ชจ๋ฆฌ ์Šคํƒ์„ ๊ณต๊ฐœํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด ์‹ ์ œํ’ˆ์€ NVIDIA์˜ H200 ๋ฐ B100/B200 GPU๋ฅผ ๋น„๋กฏํ•œ AI ๋ฐ ๊ณ ์„ฑ๋Šฅ ์ปดํ“จํŒ…(HPC) ์›Œํฌ๋กœ๋“œ์— ์‚ฌ์šฉ๋˜๋Š” ์ตœ์ฒจ๋‹จ ํ”„๋กœ์„ธ์„œ๋ฅผ ์œ„ํ•ด ์„ค๊ณ„๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

์ด๋ฒˆ ์„ฑ๊ณผ๋กœ ๋ฏธ๊ตญ์˜ ๋ฉ”๋ชจ๋ฆฌ ์นฉ ๋Œ€๊ธฐ์—…์ด ํ˜„์žฌ HBM ์„ ๋‘์ฃผ์ž์ธ SKํ•˜์ด๋‹‰์Šค์™€ ๊ฑฐ์˜ ๋™๋“ฑํ•œ ์„ ์— ์˜ฌ๋ผ์„ฐ๋‹ค๋Š” ์ ์€ ์ฃผ๋ชฉํ•  ๋งŒํ•ฉ๋‹ˆ๋‹ค. ๋กœ์ดํ„ฐ ํ†ต์‹ ์€ ์ง€๋‚œ์ฃผ ์„ธ๋ฏธ์ฝ˜ ํƒ€์ด์™„์—์„œ ์ €์Šคํ‹ด ๊น€ SKํ•˜์ด๋‹‰์Šค AI ์ธํ”„๋ผ ๋ถ€๋ฌธ์žฅ ๊ฒธ ์‚ฌ์žฅ์˜ ๋ง์„ ์ธ์šฉํ•ด SKํ•˜์ด๋‹‰์Šค๊ฐ€ ์ด๋‹ฌ ๋ง๋ถ€ํ„ฐ HBM3e 12๋‹จ ์นฉ ์–‘์‚ฐ์„ ์‹œ์ž‘ํ•  ์˜ˆ์ •์ด๋ผ๊ณ  ๋ณด๋„ํ–ˆ์Šต๋‹ˆ๋‹ค.

๋ฐ˜๋ฉด ์‚ผ์„ฑ์ „์ž๋Š” HBM3e 8๋‹จ ๋ฉ”๋ชจ๋ฆฌ ์ถœํ•˜๋ฅผ ์œ„ํ•œ ์—”๋น„๋””์•„์˜ ํ’ˆ์งˆ ํ…Œ์ŠคํŠธ๋ฅผ ์™„๋ฃŒํ•œ ๊ฒƒ์œผ๋กœ ์•Œ๋ ค์กŒ์ง€๋งŒ, HBM3e 12๋‹จ์— ๋Œ€ํ•œ ๊ฒ€์ฆ์€ ์•„์ง ์ง„ํ–‰ ์ค‘์ด๋ผ๊ณ  ํ•ฉ๋‹ˆ๋‹ค.

Tom's Hardware์— ๋”ฐ๋ฅด๋ฉด ๋งˆ์ดํฌ๋ก ์˜ HBM3e 12๋‹จ ๋ฉ”๋ชจ๋ฆฌ ์Šคํƒ์€ 24GB์˜€๋˜ ๊ธฐ์กด 8๋‹จ ๋ชจ๋ธ๋ณด๋‹ค 50% ์ฆ๊ฐ€ํ•œ 36GB ์šฉ๋Ÿ‰์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์ด ํ™•์žฅ๋œ ์šฉ๋Ÿ‰์„ ํ†ตํ•ด ๋ฐ์ดํ„ฐ์„ผํ„ฐ๋Š” ๋‹จ์ผ ํ”„๋กœ์„ธ์„œ์—์„œ ์ตœ๋Œ€ 700์–ต ๊ฐœ์˜ ๋งค๊ฐœ๋ณ€์ˆ˜๊ฐ€ ์žˆ๋Š” Meta AI์˜ ๋ผ๋งˆ 2์™€ ๊ฐ™์€ ๋Œ€๊ทœ๋ชจ AI ๋ชจ๋ธ์„ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ ์ด ๊ธฐ๋Šฅ์€ ์žฆ์€ CPU ์˜คํ”„๋กœ๋”ฉ์˜ ํ•„์š”์„ฑ์„ ์ค„์ด๊ณ  GPU ๊ฐ„์˜ ํ†ต์‹  ์ง€์—ฐ์„ ์ตœ์†Œํ™”ํ•˜์—ฌ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ์†๋„๋ฅผ ๋†’์ž…๋‹ˆ๋‹ค.

Tom's Hardware์— ๋”ฐ๋ฅด๋ฉด, ์„ฑ๋Šฅ ์ธก๋ฉด์—์„œ ๋งˆ์ดํฌ๋ก ์˜ HBM3e 12๋‹จ ์Šคํƒ์€ 1.2TB/s ์ด์ƒ์˜ ์„ฑ๋Šฅ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ๊ฒฝ์Ÿ์‚ฌ ์ œํ’ˆ๋ณด๋‹ค 50% ๋” ๋งŽ์€ ๋ฉ”๋ชจ๋ฆฌ ์šฉ๋Ÿ‰์„ ์ œ๊ณตํ•จ์—๋„ ๋ถˆ๊ตฌํ•˜๊ณ , ๋งˆ์ดํฌ๋ก ์˜ HBM3e๋Š” HBM3e 8๋‹จ ์Šคํƒ๋ณด๋‹ค ์ „๋ ฅ ์†Œ๋น„๊ฐ€ ์ ์Šต๋‹ˆ๋‹ค.

HBM์˜ ํ–ฅํ›„ ๋กœ๋“œ๋งต๊ณผ ๊ด€๋ จํ•˜์—ฌ, ๋งˆ์ดํฌ๋ก ์€ HBM4์™€ HBM4e๋ฅผ ํฌํ•จํ•œ ์ฐจ์„ธ๋Œ€ ๋ฉ”๋ชจ๋ฆฌ ์†”๋ฃจ์…˜์„ ๊ฐœ๋ฐœ ์ค‘์ด๋ผ๊ณ  ํ•ฉ๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ์ฐจ๊ธฐ ๋ฉ”๋ชจ๋ฆฌ ๊ธฐ์ˆ ์€ ์„ฑ๋Šฅ์„ ๋”์šฑ ํ–ฅ์ƒ์‹œ์ผœ ๋ธ”๋ž™์›ฐ ๋ฐ ๋ฃจ๋นˆ ์•„ํ‚คํ…์ฒ˜์— ๊ธฐ๋ฐ˜ํ•œ ์—”๋น„๋””์•„์˜ GPU์™€ ๊ฐ™์€ AI ํ”„๋กœ์„ธ์„œ์˜ ๊ณ ๊ธ‰ ๋ฉ”๋ชจ๋ฆฌ ์ˆ˜์š” ์ฆ๊ฐ€์— ๋Œ€์‘ํ•˜๋Š” ์„ ๋‘์ฃผ์ž๋กœ์„œ์˜ ๋งˆ์ดํฌ๋ก ์˜ ์ž…์ง€๋ฅผ ๊ณต๊ณ ํžˆ ํ•  ๊ฒƒ์ด๋ผ๊ณ  ๋ณด๊ณ ์„œ๋Š” ๋ฐํ˜”์Šต๋‹ˆ๋‹ค.