์ ์ฒด ๋ํ์ ์ปจํ ์คํธ๋ฅผ ํ์ ํด์ ๋ํํ๊ธฐ ๋ณด๋ค
๋ฐ๋ก ์ ์ง๋ฌธ์ ๋ฐ์ด์ด์ค๊ฐ ๋๋ฌด ๊ณผํ๊ณ
๊ธ์ ํธํฅ๋ ์ข ์ด์ํ ๋ฐฉํฅ์ผ๋ก ๊ฐ๊ฑฐ๊ฐ๊ณ
ํน์ ๋จ์ด, ํน์ ๋ด์ฉ์ ๋ํ ๋ฐ์ด์ด์ค๊ฐ ๋๋ฌด ์ปค์ ์ฌ์ฉ๊ฐ์ด ๋จ์ด์ง๋๋.
3~4.5๊น์ง ๊ณ์ ์ ์ํด์๋ ๋ํ๋ฒ๊ณผ ๋๋ฌด ๋ฌ๋ผ์ ์ ์์ด ์๋๋๊ฑด๊ฐ
์ฌ๊ธฐ๊ฐ ์ฝ๋ฉ๊ฐค์ด๋ผ์ ํ๊ฐ๊ฐ ์ข์๊ฑฐ์
ํ ํฌ์ชฝ์์๋ ์ํ๊ฐ ๋ง์ ใ ใ - dc App
๊ฒ์, ์ฝ๋ฉ sota ๋ ์ด๋๋งํด์ ๋ง์๋ฌ
instruction ์ํ๋ ๋ฐฉํฅ์ผ๋ก ์ค์ ์ ํ๋ฉด ํด์๋ผ์ prompting๋ง ํ๋ฉด ๋จ
์ธ์คํธ๋ญ์ ๋ณด๋ค ํ ํฐ ์๋ฒ ๋ฉ ๋จ๊ณ self attention ๊ณผ์ ์, bias ํตํด์ ๊ฐ์ค์น๋ฅผ ์ฃผ์์ด. ๊ฑฐ๊ธฐ์ overbias ๋๋ ๊ฒฝ์ฐ๊ฐ ๋ง๋ค๋ ๊ฒ ๋ด ์๊ฐ์. ์ธ์คํธ๋ญ์ ๋ ๊ฒฐ๊ตญ ํ๋กฌํํธ๋ ๊ฐ์ ๋จ๊ณ์ ์ฒ๋ฆฌ๋๊ธฐ ๋๋ฌธ์ ์ธ์คํธ๋ญ์ ์ด ๋ ๊ตฌ์ฒด์ ์ด๊ณ ์์ธํ ์ ๋ก ํธํฅ์ด ์ง์ด์ง. ๊ธฐ์กด์๋ ์ถ๊ตฌํ๋ ๋ฐฉํฅ์ด ์ฌ๋๊ณผ ๊ฐ์ ๋ฐฉ์์ ์ฌ๊ณ ์๋ค๋ฉด ์ง๊ธ์ ๋ ๊ธฐ๊ณ์ ์ด๋ผ ๋ณผ ์ ์๋๊ฑฐ
๊ทธ๋ฌ๋ ์ ์กฐ์ ํ๋ฉด ๋๋ค ์, attention์ ์ ํ๋ค - ์ ๊ตํ๊ฒ ๋งฅ๋ฝ์ ๋ณผ ์ ์๋ค ๋๊น, ์์น ์๋ ๊ฒ์ด ์๊ฑฐ๋ ๋ฐ๋ผ๋ ํํ๊ฐ ์์ผ๋ฉด ๋ฏธ๋ฆฌ ๋ฃ์ด๋๋ฉด ์ ๋ฐ๋ฅธ๋ค๊ณ
๋ง์. ๊ฐ์๋ง์ ์๋ก ๋ค๋ฅด๊ฒ ํ๊ณ ์๋๊ฑฐ. attention ๊ณ ๋ คํด์ prompt๋ฅผ ์ง๋ฉด ๋จ. ๊ทธ๊ฒ ์์ฐ์ค๋ฝ์ง ์๊ณ ์ผ๋ฐ์ ์ธ ์ฌ๋์ ์๊ฐ๊ตฌ์กฐ์ ์ฐจ์ด๊ฐ ์์ด ์ฌ์ฉ๊ฐ์ ํด์น๋ค๋๊ฑฐ์.
๋ค๋ง ๋ฐ์ดํฐ ๋ง์ + ์ค์ผ์ผ ์๋จ -> attn ์ํจ์ด๋ผ์, (vit์์๋ ๋น์ท) ๊ฐ์๋ก ์๊ตฌํ๋๋ฏ