https://www.youtube.com/watch?v=DiGB5uAYKAg

GTC 2023 Keynote with NVIDIA CEO Jensen HuangWatch NVIDIA CEO Jensen Huang unveil a host of accelerated computing breakthroughs -- from AI training to deployment, semiconductors to software libraries, s...www.youtube.com


1. NVIDIA H100 NVL With NVLink


๋ฐ”๋กœ ์ „์˜ HGX A100 ๋ณด๋‹ค GPT-3 ํ”„๋กœ์„ธ์‹ฑ์— ์žˆ์–ด์„œ 10๋ฐฐ ๋น ๋ฅธ ๋†ˆ ๋ฐœํ‘œํ•จ. ์–ธ์–ด๋ชจ๋ธ ํ”„๋กœ์„ธ์‹ฑ์— ํŠนํ™”๋œ ๋†ˆ์ž„.

2.
Grace Hopper

์ƒˆ๋กœ์šด ์Šˆํผ์นฉ ๊ทธ๋ ˆ์ด์Šค ํ˜ธํผ๋Š” ์ดˆ๋‹น 900GB์˜ ์†๋„๋กœ ๊ทธ๋ ˆ์ด์Šค CPU๋ž‘ ํ˜ธํผ GPU๋ฅผ ์—ฐ๊ฒฐ ํ•ด ์คŒ.
์ถ”์ฒœ ์‹œ์Šคํ…œ์ด๋‚˜ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์„ ์œ„ํ•œ ๊ฑฐ๋Œ€ ์ธ๊ณต์ง€๋Šฅ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค๋ฅผ ์œ„ํ•ด ์•„์ฃผ ์ด์ƒ์ ์ผ ์ œํ’ˆ

3. DGX H100 And Cloud Infrastructure


NVIDIA DGX Cloud๋ฅผ ์ด์šฉํ•ด์„œ ์ž‘์€ AI ์Šคํƒ€ํŠธ์—…๋“ค๋„ ์ƒˆ๋กœ์šด AI ์ œํ’ˆ ๋งŒ๋“ค ์ˆ˜ ์žˆ๊ฒŒ ๋„์™€์ค„ ๊ฑฐ์ž„

4.
NVIDIA AI Foundations


์–ด๋„๋น„๋“ฑ์˜ ์—ฌ๋Ÿฌ ํšŒ์‚ฌ๋“ค๊ณผ ํ˜‘๋ ฅํ•ด์„œ ์ฐฝ์˜์ ์ธ ์ฐจ์„ธ๋Œ€ AI ์ƒ์„ฑ ์ œํ’ˆ์„ ์œ„ํ•œ ๊ธฐ์ˆ ์„ ๋ฐœ์ „์‹œํ‚ค๊ณ  ์žˆ์Œ


5. ๊ธฐํƒ€ ๋ฐœํ‘œ๋“ค

- ์‹ ์•ฝ ๊ฐœ๋ฐœ๊ณผ ์˜๋ฃŒ ๊ธฐ๊ธฐ ์†Œํ”„ํŠธ์›จ์–ด ๋ฐœ์ „์— ๊ฐ€์†ํ™” ๋„์›€์„ ์ฃผ๊ณ  ์žˆ๋‹ค (NVIDIA BiNeMo)
- NVIDIA ์˜ด๋‹ˆ๋ฒ„์Šค ํด๋ผ์šฐ๋“œ๋กœ 4000์กฐ์˜ ์ž๋™์ฐจ ์‹œ์žฅ์„ ๋””์ง€ํ„ธํ™” ์‹œํ‚ค๊ณ  ์žˆ๊ณ  ๋ฐ˜๋„์ฒด ๊ฐœ๋ฐœ์„ ๊ฐ€์†ํ™” ํ•˜๊ณ  ์žˆ๋‹ค.
- ์ƒˆ๋กœ์šด ๋”ฅ๋Ÿฌ๋‹ ์ถ”๋ก  ํ”Œ๋žซํผ ๋ฐœํ‘œ. ๋น„๋””์˜ค, ํ…์ŠคํŠธ ๋“ฑ ์œ ์ฆˆ์ผ€์ด์Šค๋งˆ๋‹ค ๋”ฐ๋กœ ์ตœ์ ํ™” ํ•ด์„œ AI ๋Œ๋ฆด ์ˆ˜ ์žˆ๊ฒŒ ํ•ด์คŒ. ์Šค๋ƒ…์ฑ—๋„ ๊ณ ๊ฐ ์ค‘ ํ•˜๋‚˜.

- ๋”ฅ๋Ÿฌ๋‹ ์ถ”๋ก  ํ”Œ๋žซํผ์˜ ํด๋ผ์šฐ๋“œ ์„œ๋ฒ„ GPU์ค‘ ํ•˜๋‚˜์ธ L40 ๊ฐ™์€ ๊ฒฝ์šฐ๋Š” ๊ธฐ์กด์˜ T-4๋ณด๋‹ค 10๋ฐฐ ์„ฑ๋Šฅ ํ–ฅ์ƒ

- NVIDIA ADA RTX GPU๋กœ ์ž‘๋™ํ•˜๋Š” ์›Œํฌ์Šคํ…Œ์ด์…˜ ์ถœ์‹œ. AI, ๊ทธ๋ž˜ํ”ฝ, ๋ฌผ๋ฆฌ ์‹œ๋ฎฌ๋ ˆ์ด์…˜ ๋“ฑ์— ํŠนํ™”๋œ ์ž‘์—…์šฉ ์ปดํ“จํ„ฐ ์ถœ์‹œํ•จ.
- ์ƒˆ๋กœ์šด NVIDIA์˜ OVX ์„œ๋ฒ„ : ์˜ด๋‹ˆ๋ฒ„์Šค๋ฅผ ์œ„ํ•ด ์ตœ์ ํ™”๋œ ์„œ๋ฒ„ ๋ฐœํ‘œํ•จ
- ๋งˆ์†Œ Azure์™€ ํ˜‘์—…ํ•ด์„œ Azure ํ†ตํ•ด์„œ ์˜ด๋‹ˆ๋ฒ„์Šค ํด๋ผ์šฐ๋“œ ์ด์šฉํ•  ์ˆ˜ ์žˆ์Œ
- Cuda Quantum : ์–‘์ž์ปดํ“จํ„ฐ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๊ฐœ๋ฐœ์„ ์œ„ํ•œ ํ”Œ๋žซํผ ์ถœ์‹œ