https://arxiv.org/pdf/2203.15556v1.pdf
๋ฅ๋ง์ธ๋๊ฐ ์๋ก ๋ง๋ ๋ํ์ธ์ด๋ชจ๋ธ.์น์ง๋ผ
gpt3์ ํ๊ฒ๋ ์์ธ์ธ scaleing law๋ฅผ ๊ฐ์ ํ์ฌ ๋ ์ ์ ๊ณ์ฐ๋๊ณผ ๋ ์ ์ ํ๋ผ๋ฏธํฐ๋ก ๋ ๋์ ์ฑ๋ฅ์ ๋ฌ์ฑ
๊ทผ๋ฐ ๋ฅ๋ง์ธ๋ ์ดใ ใฒ๋ค ์ ๋ฒ์ gopher๋ก ์ง๋จ๋ ์ด๋ฒ์๋ ์น์ง๋ผ๋ ธ ์ด๊ฒ๋ค ๋ค์ด๋ฐ ๋ค ์ค์น๋ฅ๋ก ์ง๋ค
๋ฅ๋ง์ธ๋๊ฐ ์๋ก ๋ง๋ ๋ํ์ธ์ด๋ชจ๋ธ.์น์ง๋ผ
gpt3์ ํ๊ฒ๋ ์์ธ์ธ scaleing law๋ฅผ ๊ฐ์ ํ์ฌ ๋ ์ ์ ๊ณ์ฐ๋๊ณผ ๋ ์ ์ ํ๋ผ๋ฏธํฐ๋ก ๋ ๋์ ์ฑ๋ฅ์ ๋ฌ์ฑ
๊ทผ๋ฐ ๋ฅ๋ง์ธ๋ ์ดใ ใฒ๋ค ์ ๋ฒ์ gopher๋ก ์ง๋จ๋ ์ด๋ฒ์๋ ์น์ง๋ผ๋ ธ ์ด๊ฒ๋ค ๋ค์ด๋ฐ ๋ค ์ค์น๋ฅ๋ก ์ง๋ค
์ฐธ๊ณ ๋ก ์ด๋ฒ์ ์น์ง๋ผ ํ๋ผ๋ฏธํฐ ๊ฐฏ์ 700์ต๊ฐ์
์ด ๋ ผ๋ฌธ์์ ๊ฐ์กฐํ๋ ๋ด์ฉ์ค ํ๋๋ ๋ชจ๋ธ์ด 2๋ฐฐ ์ปค์ง๋ฉด ํ์ตํ๋ ๋ฐ์ดํฐ์(์์ด ํ ํฐ ์) ๋ํ 2๋ฐฐ ์ปค์ ธ์ผํ๋ค๋๊ฑฐ์.
๋ฅ๋ง์ธ๋ ์ฐ๊ตฌ๊ฐ ๋๋จํ๊ธด ํ๋ฐ ์ด๋ฆ์ด ์ข... ใ ใ
์ใ ใ ์ด๋ฆ ๋ค์ด๋ดใ ใ ๋ด๊ฐ๋ณผ๋ ์ด๊ฑฐ ์นดํผํ๊ฑฐ ๊ฐ์๋ฐ
์ฐข์น ๋ผ ใ ใ