https://www.youtube.com/watch?v=DiGB5uAYKAg
GTC 2023 Keynote with NVIDIA CEO Jensen HuangWatch NVIDIA CEO Jensen Huang unveil a host of accelerated computing breakthroughs -- from AI training to deployment, semiconductors to software libraries, s...www.youtube.com1. NVIDIA H100 NVL With NVLink
๋ฐ๋ก ์ ์ HGX A100 ๋ณด๋ค GPT-3 ํ๋ก์ธ์ฑ์ ์์ด์ 10๋ฐฐ ๋น ๋ฅธ ๋ ๋ฐํํจ. ์ธ์ด๋ชจ๋ธ ํ๋ก์ธ์ฑ์ ํนํ๋ ๋์.
2. Grace Hopper
์๋ก์ด ์ํผ์นฉ ๊ทธ๋ ์ด์ค ํธํผ๋ ์ด๋น 900GB์ ์๋๋ก ๊ทธ๋ ์ด์ค CPU๋ ํธํผ GPU๋ฅผ ์ฐ๊ฒฐ ํด ์ค.
์ถ์ฒ ์์คํ
์ด๋ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ์ ์ํ ๊ฑฐ๋ ์ธ๊ณต์ง๋ฅ ๋ฐ์ดํฐ๋ฒ ์ด์ค๋ฅผ ์ํด ์์ฃผ ์ด์์ ์ผ ์ ํ
3. DGX H100 And Cloud Infrastructure
NVIDIA DGX Cloud๋ฅผ ์ด์ฉํด์ ์์ AI ์คํํธ์
๋ค๋ ์๋ก์ด AI ์ ํ ๋ง๋ค ์ ์๊ฒ ๋์์ค ๊ฑฐ์
4. NVIDIA AI Foundations
์ด๋๋น๋ฑ์ ์ฌ๋ฌ ํ์ฌ๋ค๊ณผ ํ๋ ฅํด์ ์ฐฝ์์ ์ธ ์ฐจ์ธ๋ AI ์์ฑ ์ ํ์ ์ํ ๊ธฐ์ ์ ๋ฐ์ ์ํค๊ณ ์์
5. ๊ธฐํ ๋ฐํ๋ค
- ์ ์ฝ ๊ฐ๋ฐ๊ณผ ์๋ฃ ๊ธฐ๊ธฐ ์ํํธ์จ์ด ๋ฐ์ ์ ๊ฐ์ํ ๋์์ ์ฃผ๊ณ ์๋ค (NVIDIA BiNeMo)
- NVIDIA ์ด๋๋ฒ์ค ํด๋ผ์ฐ๋๋ก 4000์กฐ์ ์๋์ฐจ ์์ฅ์ ๋์งํธํ ์ํค๊ณ ์๊ณ ๋ฐ๋์ฒด ๊ฐ๋ฐ์ ๊ฐ์ํ ํ๊ณ ์๋ค.
- ์๋ก์ด ๋ฅ๋ฌ๋ ์ถ๋ก ํ๋ซํผ ๋ฐํ. ๋น๋์ค, ํ
์คํธ ๋ฑ ์ ์ฆ์ผ์ด์ค๋ง๋ค ๋ฐ๋ก ์ต์ ํ ํด์ AI ๋๋ฆด ์ ์๊ฒ ํด์ค. ์ค๋
์ฑ๋ ๊ณ ๊ฐ ์ค ํ๋.
- ๋ฅ๋ฌ๋ ์ถ๋ก ํ๋ซํผ์ ํด๋ผ์ฐ๋ ์๋ฒ GPU์ค ํ๋์ธ L40 ๊ฐ์ ๊ฒฝ์ฐ๋ ๊ธฐ์กด์ T-4๋ณด๋ค 10๋ฐฐ ์ฑ๋ฅ ํฅ์
- NVIDIA ADA RTX GPU๋ก ์๋ํ๋ ์ํฌ์คํ
์ด์
์ถ์. AI, ๊ทธ๋ํฝ, ๋ฌผ๋ฆฌ ์๋ฎฌ๋ ์ด์
๋ฑ์ ํนํ๋ ์์
์ฉ ์ปดํจํฐ ์ถ์ํจ.
- ์๋ก์ด NVIDIA์ OVX ์๋ฒ : ์ด๋๋ฒ์ค๋ฅผ ์ํด ์ต์ ํ๋ ์๋ฒ ๋ฐํํจ
- ๋ง์ Azure์ ํ์
ํด์ Azure ํตํด์ ์ด๋๋ฒ์ค ํด๋ผ์ฐ๋ ์ด์ฉํ ์ ์์
- Cuda Quantum : ์์์ปดํจํฐ ์๊ณ ๋ฆฌ์ฆ ๊ฐ๋ฐ์ ์ํ ํ๋ซํผ ์ถ์
์ ๋ถ ํธ์ฌ๋ค
์๋น๋์๋ ๋ณผ๋๋ง๋ค ๋ณํ ๋์ฒ ๋ฅ๋ ฅ์ด ์ง์ง ๋น ๋ฅด๋ค ๋๋๋ค. ์๋น์์ฉ GPU๋ก ์ฝ์ธ ์ฑ๊ตดํ๊ณ ์ฐ๊ตฌ์์์ ์ฐ๋๊น ๋ฐ๋ก ์ฝ์ธ์ฉ/AI์ฉ ๋ฐ๋ก ๋ด๋๋๋ ์ด์ ์์ ์ธ์ด๋ชจ๋ธ ํนํ์ฉ๊น์ง ๋ด๋๋ค
์ด๋ฒ ์์์์ ํฉํ์ฅ์ด ChatGPT๋ผ๋ ๋จ์ด๋ฅผ ๋ช ๋ฒ ๋งํ๋์ง ์ธ์ด ๋ณด๊ณ ์ถ๋ค ใ ใ ใ ใ ใ