triva๋ ๋ด๊ฐค์์๋ ๋๋๋ถ๋ฆฌ๋ ๋ณ์ ์. (ํต๊ณ๋ฌผ๋ฆฌํ, ์ํ, ์ํ ์ํ๋๋ฒ, ํ๋ก๊ทธ๋๋ฐ ๊ฐค๋ฌ๋ฆฌ ๋ฑ๋ฑ)
๊ทธ๋ฅ ์๊ธฐ ํ๊ณ ์ถ์ ๋ง๋ง ํ๊ณ ์ค๋ช ํด์ฃผ๋ฉด ์์๋ฃ๋ ์ฒ ํ๋ฉด์ ๋ด์ผ ์์ ๋๊ฐ์ ๋ง ํ๋๋ผ.
์ฃผ์ฅํ๋ ๋ด์ฉ์ ๋์ถฉ ๋ด๊ฐ ์๊ฐํ ์งํ ์๊ณ ๋ฆฌ์ฆ์ด ์ธ์์์ ์ต๊ณ ์ผ!๋ ์ธ์ ๋ชจ๋ ๊ฒ์ ์ธ๊ณผ๋ก ์ด๋ฃจ์ด์ ธ ์๋ค, ์ธ๋ฐ ๊ตฌ์ฒด์ ์ธ ๋ด์ฉ์ ํ๋๋ ์์.
๋ฅ๋ฌ๋ ์ด์ผ๊ธฐ
๋ฅ๋ฌ๋ ํ๋ ์์ํฌ๋ ํ ์ํ๋ก์ฐ์ ํ์ดํ ์น๊ฐ ์ ๋ช ํจ.
ํ ์ํ๋ก์ฐ๋ณด๋ค๋ ํ์ดํ ์น๊ฐ ๋ชจ๋ธ์ ๋ฏ๊ณ ์น๊ณ ๋ง๋ณด๊ณ ์ฆ๊ธฐ๊ณ ์์ ํ๊ธฐ๊ฐ ์ฉ์ดํจ.
ํ์ง๋ง ๊ทผ๋ณธ์ ์ผ๋ก ํฐ ์ฐจ์ด๊ฐ ์์ผ๋ฏ๋ก ์๋ฌด๊ฑฐ๋ ํด๋ ๋๋๋ฐ... ํ๋๋ง ํด์ผํ๋ค๋ฉด ํ์ดํ ์น๋ฅผ ์ถ์ฒํจ.
๋ณธ์ธ์ ํ ์ํ๋ก์ฐ๋ก ๋ฌด์ง์ฑ ์ ๋ฌธํ๋ค๊ฐ ๋ ผ๋ฌธ ๊ตฌํ์ฒด ๋ณด๋ฉด์ ํ์ดํ ์น๋ฅผ ์ ๋ฌธํ๋๋ฐ, ์ด์ ๋ ํ์ดํ ์น๋ฅผ ๋ ์ ํธํจ.
์ผ๋จ ์๋ฌด ์ฑ ์ผ๋ก๋ ์ด๋ก ์ ์ธ ๋ถ๋ถ์ ๋์ถฉ ํ์ด๋ณด๊ณ , ๋ฐ๋ก ์๋์ ํํ ๋ฆฌ์ผ์ Google CoLab์ผ๋ก ํด๋ณด๋๊ฑธ ์ถ์ฒํจ.
๋ถ๋ฅ๊ธฐ ํ์ตํ๊ธฐ
https://tutorials.pytorch.kr/beginner/blitz/cifar10_tutorial.html
ํ์ง๋ง ๋ฅ๋ฌ๋์ด ๋์ธ๋ฅผ ํ ์ง๊ธ์ ์๋ง์ ํํ ๋ฆฌ์ผ์ด ์๊ธฐ ๋๋ฌธ์ ์๋ฌด๊ฑฐ๋ ํด๋ ํฐ ์๊ด์ ์๋ค.
์ฑ ๋ญ๊ณ ๋ฅผ์ง ๋ชจ๋ฅด๊ฒ ์ผ๋ฉด ๊ทธ๋ฅ https://wikidocs.net/book/2788 ๋ณด์.
์ฝ๋ฉ์ ์ด๋ป๊ฒ ํ๋์ง ๋ชจ๋ฅด๊ฒ ์ผ๋ฉด ์๋์ ์ฝ๋ฉํ๋ผ๊ณ ๋ ๊ธ์ ๋ณด์.
์ผ๋จ ์ด๋ ๊ฒ ํ ๋ฒ ํด๋ณด๊ณ ๊ทธ๋ค์์ ์ด์ฌํ ๊ฒ์ํด์ ์ด๊ฒ์ ๊ฒ ์ฝ๋ฉ์์ ๋๋ ค๋ณด๋ฉด ์ข๋ค.
๊ทธ๋ฆฌ๊ณ ์ฌ์ค
1. ๋ฐ์ดํฐ ์ฉ๋์ด ๋ง๋ค.
2. ๋ชจ๋ธ์ด ๋ฌด๊ฑฐ์์ 12์๊ฐ ์ด์ ๊ณ์ ๋๋ ค์ผํ๋ค
3. ํ์ํ ํจํค์ง๋ฅผ ํ๋ํ๋ ๋ค์ด๋ฐ์์ค์ผ ํ๋ ๊ฒฝ์ฐ
์ด๋ฐ ์กฐ๊ฑด ์์ด ๊ทธ๋ฅ ์ฌ์ฌํ์ด๋ก ์์ ๋ชจ๋ธ๋ค๋ง ๋๋ ค๋ณผ๊ฑฐ๋ฉด RTX 3060 ์ด์์ผ๋ก ์ฌ๋ผ๊ฐ์ง ์์ผ๋ฉด ์ฝ๋ฉ์ผ๋ก ์ถฉ๋ถํ๋ค.
๋ RTX 2060 ๊ฐ์ง๊ณ ์์ง๋ง ํ๊ฒฝ์ค์ ํ๊ธฐ ๊ท์ฐฎ์์(์๋์ฐ์) ๊ทธ๋ฅ ์ฝ๋ฉ์์ ์ญ ๋๋ฆฐ๋ค.
๊ทธ๋๋ ๊ตณ์ด ์๊ธฐ ์ปด์์ ํ๊ฒฝ์ค์ ํ๋ ค๋ฉด ์์์ผ ํ๋ ๋ ๊ฐ์ง๋ ๋ค์๊ณผ ๊ฐ๋ค.
1. ํ์ด์ฌ ํจํค์ง ๊น๋ฆฐ๊ฑฐ ํ์ธ์ pip list, cuda ๊น๋ฆฐ๊ฑฐ ํ์ธ์ python -m torch.utils.collect_env
2. ๊ทธ๋ํฝ ๋๋ผ์ด๋ฒ๋ ์ด์ฉ ์ ์๋๋ฐ cuda, cudnn์ anaconda ๊น์์ conda๋ก ๊น๋ฉด ํธํ๊ฒ ๊น ์ ์๋ค.
Sagemaker studio lab๋ ์จ๋ดค๋๋ฐ JupyterLab์ด๋ผ์ ๋ ์ข์์ค ์์์ผ๋ ์ด๊ฒ ์๊ทผ colab๋ณด๋ค ๋ถํธํ๊ฒ.. cifar10 ๋ฐ๋ค๊ฐ ๋ป๋๋ผ;
ํ์ง๋ง D2L์ด๋ผ๊ณ ๊ต์ฌ ํ๋๋ฅผ ๋ฐ๋ผ๊ฐ๋ฉด์ ์ค์ต์ฉ์ผ๋ก Sagemaker Studio Lab์ ์ธ ์ ์๋๋ฐ ์ด๊ฑด ๊ด์ฐฎ์๋ณด์์.
๋๋ ๋ ผ๋ฌธ ๊ตฌํ๋ ๋ชจ๋ธ ํ๋ ์ฐพ์์ ๋๋์ ๋ฐ์ดํฐ(200G ์ด์)๋ก ๋๋ ค๋ณด๊ณ ๋ฐ๊ฟ๋ณด๋ฉด์ ์ค๋ ฅ์ด ์ ค ๋ง์ด ๋์๋๋ฐ,
์ด๊ฑธ ํ๋ ค๋ฉด ์ข์ GPU + ์ถฉ๋ถํ ์คํ ๋ฆฌ์ง๊ฐ ํ์ํด์ ํ์ง์ ์ข ํด์ผํ๋ค. ๋ฌด๊ณผ๊ธ ํ๋ด์!
https://cs231n.github.io/
http://web.stanford.edu/class/cs224n/index.html#coursework
๋ค๋ฅธ ๋ฅ๋ฌ๋ ๊ฐค๋ฌ๋ฆฌ ์ ์ ์ ๋ํ ๋น๋์ ์ผ๊ฐ์ฃผ์ธ์.
๋๋ ํ๊ณ ์ถ์ ๋ง์ ํ๊ณ , ๋ฐฉ์นจ์ ๋งค๋์ ๋ค์ด ๊ฒฐ์ ํ ์ผ์ด์ง์.
๋ค๋ฅธ ๊ฐค๋ฌ๋ฆฌ์์ ํผํด๋ฅผ ์ฃผ๋ ์ ์ ๋ค์ ๋ํด์ ์ธ์งํ๊ณ ์์ต๋๋ค. ์ ํฌ ๋ฅ๊ฐค ์ด์์ง์ ์พ์ ํ ๋ฅ๊ฐค ์ ์ง๋ฅผ ์ํด ์ต์ ์ ๋ค ํ ๊ฒ์ ๋๋ค.
๋ฌธ์ ๊ฐ ์๋ ๊ฒ์๊ธ ๋ฐ ์ ์ ๋ ๊ณต์ง์ ์ ๋ฌธ๊ณ ๋ฅผ ํตํด ๋ง์ํด์ฃผ์๋ฉด ๋น ๋ฅธ ์ฒ๋ฆฌ๊ฐ ๊ฐ๋ฅํฉ๋๋ค~