์ฌ๊ธฐ์ ๊ธฐ์ ์ธ๊ณต์ง๋ฅ ์ธ๊ณต์ง๋ฅ ํ๋๋ฐ ๊ทธ๊ฒ ๋ญ์ง ๊ฐ๋ณ๊ฒ ์ค๋ช ์ ํ๋ฉด (๋ด๊ฐ) ์ฌ๋ฐ์ ๊ฒ ๊ฐ์์ ๋์ ์ด๊ฒ ...
๊ฐ์คํ๊ณ ์์ ~ย
์ธ๊ณต์ง๋ฅ์ ์๋ ์๋ฆฌ.ย
๋ณดํต ์ฝ๋ฉ์ด๋ผ๋ ๊ฒ์ ์๊ณ ๋ฆฌ์ฆ์ ๊ธฐ๋ฐ์ผ๋ก ์๋ํจ. ๊ฐ๋ น ์ด๋ค ์ซ์๊ฐ ์ ๋ ฅ๋์์ ๋ ์ง์์ธ์ง ํ์์ธ์ง ํ๋ณํ๋ ์ฝ๋๋ฅผ ์ง๋ ค๊ณ ํ๋ ์ํฉ์ ๊ฐ์ ํ์.

2๋ก ๋๋ ๋ณด๊ณ ๋๋์ด ๋จ์ด์ง๋ฉด ์ง์ ์๋๋ฉด ํ์๋ผ๋ ๊ฐ๋จํ ๋ก์ง์ ์๊ฐํด๋ผ ์ ์๋ค. ์ด๊ฒ '์ผ๋ฐ์ ์ธ' ์ฝ๋ฉ์ ํ๋ ๋ฐฉ๋ฒ์ด๋ค. ์๊ณ ๋ฆฌ์ฆ(๊ท์น)์ ์ธ์์ ์ํ๋ Task๋ฅผ ์ํํ๋ ๊ฒ์ด๋ค. ๊ทธ๋ฌ๋ ์ธ๊ณต์ง๋ฅ์ ๋ค๋ฅด๋ค. ์ ํ๋ฆฌ ํํผ ๊ต์๊ฐย ์ฒ์ ๊ณ ์ํ๋๋ฐ ์ธ๊ฐ์ ๋ด๋ฐ์ ๋ชจ๋ฐฉํ ๊ฐ์ ๋ด๋ฐ์ ๋ง๋ค๊ณ ํ์ต์ ์ํจ ๊ฒ์ด๋ค.

์ ๋ ฅ๊ฐ(๊ทธ๋ฆผ์์์ x,y)๋ฅผ ๋ชจ๋ธ(f())์ ๋ฃ์ผ๋ฉด ์์ธก๊ฐ์ด ๋์จ๋ค. ์ด๋ ์ ๋ต๊ฐ๊ณผ ์์ธก๊ฐ์ ์ฐจ์ด๋ฅผ loss(์์ค)์ด๋ผ๊ณ ๋ถ๋ฅธ๋ค. ์์ค ํจ์๋ loss๋ฅผ ์ค์ฌ์ฃผ๋ ๋ฐฉํฅ์ผ๋ก model f()์ ํ๋ผ๋ฏธํฐ๋ฅผ ์ ๋ฐ์ดํธ ํ๋ค. ์ด๋ฌํ ๊ณผ์ ์ ์ต์ ํ๋ผ๊ณ ๋ถ๋ฅธ๋ค.
์ f(x)๊ฐ ์์ธํ ์ด๋ป๊ฒ ์๊ฒผ๋์ง๋ฅผ ๋ด์ผํ๋๋ฐ ๋ค์ ๊ทธ๋ฆผ๊ณผ ๊ฐ์ด ์๊ฒผ๋ค.

x๋ผ๋ ์ ๋ ฅ๊ฐ๋ค์ด ๋ค์ด์ค๋๋ฐย ๊ฐ์ค์น(w)๋ฅผ ๊ณฑํด์ ๋ํ๋ค. ๊ทธ ์ดํ ๊ทธ ๊ฐ์ activation_function์ ๋ฃ์ ๋ค์ ๋์จ ์์๋ฅผ ์ถ๋ ฅํ๋ ์์ฃผ ๊ฐ๋จํ ๊ตฌ์กฐ๋ฅผ ๊ฐ์ง๊ณ ์๋ค.ย
activation_function ์ด ํ ๋ง์ด ๋ง์ ๋ถ๋ถ์ธ๋ฐ ์ง๊ธ์ ๊ทธ๋ฅ ๊ฐ๋ตํ๊ฒ x์ w๋ฅผ ๊ณฑํ๊ณ ๋ํ ๊ฐ์ด ์์์ ๊ฐ theta๋ฅผ ๋๊ธฐ๋ฉด 1์ ์ถ๋ ฅํ๊ณ 0์ ์ถ๋ ฅํ๋ ํจ์๋ผ๊ณ ํ์.
๊ทธ๋ฅ ๊ณฑํ๊ณ ๋ํ ๋ค์์ ๊ฐ ๋น๊ตํด์ 1 or 0์ ๋ด๋ณด๋ด๋๊ฒ ์ธ๊ณต์ง๋ฅ์ด๋ผ๊ณ ? ใ
ใ
๋ง์ต๋๋ค.ย
ex) ์ค๋ก๋ฅผ ํตํด ์๋๊ณผ์ ์ ์ดํด๋ณด์.ย

ย x, y๋ผ๋ ์ ๋ ฅ๊ฐ์ด ๋ค์ด์ด, ๊ฐ์ค์น๋ 1์, theta ๊ฐ์ 1์.
๊ทธ๋ฌ๋ฉดย x + y ๋ผ๋ ์์ด ๋ง๋ค์ด์ง๊ณ ๊ทธ ๊ฐ์ด 1์ ๋๊ธฐ๋ฉด 1 ์๋๋ฉด 0์ด๋ผ๋ ๊ฐ๋จํ ์์ด ๋ง๋ค์ด์ง.
๊ธฐํ์ ์ผ๋ก ํํํ๋ฉด 0์ ์ถ๋ ฅํ๋ ๋ถ์ 1์ ์ถ๋ ฅํ๋ ๋ถ๋ฅผ ๋ถ๋ฆฌํ๋ ๊ธฐ๋ฅ์ ์ํํ๋ค๊ณ ๋งํ ์ ์์.
์ ํ ๋ถ๋ฆฌ์ฑ์ด ์ ์ค์ํ๋๋ฉด ALS๋ผ๋ ์ต์ ๋จ์ ์ฐ์ฐ์ ์ํํ๋ ์ปดํจํฐ ์ฅ์น๊ฐ ์๋๋ฐ ALS๊ฐ NAND ์ฐ์ฐ์ ํตํด ๋ง๋ค์ด์ ธ์์.
๊ทธ๋ฐ๋ฐ ์ ํ ๋ถ๋ฆฌ๊ฐ ๋จ์ NAND ์ฐ์ฐ์ ์ํํ๋๊ฒ ๊ฐ๋ฅํ๋ค๋ ์๋ฏธ๊ฐ ๋์ ์์ฃผ ์๋ฏธ๊ฐ ์์
์ธ๊ณต์ง๋ฅ์ ํ
ย ์์ฃผ ๋ฌด์๋ฌด์ํ ์ผ์ด ์ธ๊ณต๋ด๋ฐ์ ์ฌ์ฉํ๋ฉด ๊ฐ๋ฅํด์ง. ๊ฐ๋ น ๊ฐ์ ๊ณ ์์ด๋ฅผ ๋ถ๋ฅํ๋ ํ๋ก๊ทธ๋จ์ ๋ง๋ค๊ณ ์ถ๋ค๊ณ ํ์.
๊ทธ๋ฌ๋ฉด ๊ธฐ์กด ์ฝ๋ฉ ๋ฐฉ์์ ๋ฐ๋ฅด๋ฉด ๊ฐ์ ๊ณ ์์ด๋ฅผ ๊ตฌ๋ณํ๋ ์๋ฒฝํ ๊ธฐ์ค์ '์๊ณ ๋ฆฌ์ฆ; ํ ์์ผ์ผํจ. ์ด๊ฒ ๊ฐ๋ฅํ๋ ธ? ใ ใ ย ์์ฃผ ์ด๋ ค์.
๊ทธ๋ฐ๋ฐ ์ธ๊ณต์ง๋ฅ์ ์ฌ์ฉํ๋ฉด ๊ฐ๋ฅํด์ง.
์ฐ์ ๋ชจ๋ธ์ด 1์ ์ถ๋ ฅํ๋ฉด ๊ทธ ์ด๋ฏธ์ง๋ ๊ณ ์์ด๋ผ๋ ์๋ฏธ๊ณ 0์ ์ถ๋ ฅํ๋ฉด ๊ฐ์์ง๋ฅผ ์๋ฏธํ๋ ๊ฒ์ด๋ผ๊ณ ์ ์ ํจ.
๊ทธ๋ฆฌ๊ณ ์ด๋ฏธ์ง ํฝ์ ํ๋ํ๋๋ฅผ ์ซ์๋ก ์นํํด์ย ์ธ๊ณต๋ด๋ฐ๋ค์ด ๋ชจ์ธ ๊ณต๊ฐ์ ๋ฃ์ด์ค.
๊ทธ๋ฌ๋ฉด ๊ทธ ๊ฐ๋ค์ ๊ฐ์ค์น๊ฐ ๊ณฑํด์ง๊ณ ๋ํด์ง๊ณ ACTIVATION_FUNCTION์ ๋ฃ์ด์ง๊ณ ๋ฅผ ๊ณ์ ๋ฐ๋ณตํด์
์กด๋ ์ด์ํ ๊ฐ์ดย ์ถ๋ ฅ๋ ย ๊ฑฐ์.ย
๋ง์ฝ ๋ฃ์ด์งย ์ด๋ฏธ์ง๊ฐ ๊ณ ์์ด์๋ค๋ฉด ์ ๋ต๊ฐ์ 1์ผ ๊ฑฐ์์.
๊ทธ 1๊ณผ ์กด๋ ์ด์ํ ๊ฐ์ ์ฐจ์ด๋ฅผ ๊ตฌํ ๋ค์์ ๊ทธ ๊ฐ์ ์ค์ฌ์ฃผ๋ ๋ฐฉํฅ์ผ๋ก
๊ฐ์ค์น ๊ฐ์ ์ ๋ฐ์ดํธํจ.
๊ทธ ๊ณผ์ ์ ์กด๋ ๋ฐ๋ณตํ๋ฉด ์ด๋ผ๋ผ๋ผ? ์ด๋๋ง ๊ณ ์์ด ์ด๋ฏธ์ง๋ฅผ ๋ฃ์์ ๋ ๋ชจ๋ธ์ ์ถ๋ ฅ๊ฐ์ด 1์ด ๋๊ฒ ๋จ.
์ธ๊ณต์ง๋ฅ์ ํ๋์ ์กด๋ ๊ธด ์์์ ๋ง๋ค์ด ๋๊ฒ ์ง. WX + W2X2 + W3X3 + ... + WN XN
์ ์์์ ์๋ฏธ๋ ์ธ๊ฐ์ด ์ดํดํ์ง ๋ชปํ๊ฒ ์ง๋งย ย ์ด์ฉ๋ ์๋ฒฝํ ๊ณ ์์ด์ ๊ฐ์์ง๋ฅผ ๊ตฌ๋ณํ ์์ด๋ผ๋ ๊ฒ์.. << ์ด๊ฒ ๋ฅ๋ฌ๋์ ํ์ด๋ค ์ด๊ฑฐ์ผ
๋ง์น๋ฉฐ
ย ์์ฝํ๋ฉด ์ ์ธ๊ณต๋ด๋ฐ๋ค์ด ์กด๋๊ฒ ๋ง์ด ๋ชจ์ธ ๊ณณ์ ์
๋ ฅ๊ฐ์ ๋ฃ์ด์ฃผ๋ฉด ๊ทธ ๊ฐ๋ค์ ๊ฐ์ค์น๋ฅผ ๊ณฑํ๊ณ ํฉ์น๊ณ ํน์ ํ ํจ์์ ๋ฃ์ด์ฃผ๋ ์์
์ ํตํด ์์ธก๊ฐ์ ๋ด๋์ ์ ์์.
๊ทธ ๊ฐ๊ณผ ์ ๋ต๊ฐ ๊ณผ์ ์ฐจ์ด๋ฅผ ๊ตฌํ ๋ค์์ ๊ทธ ๊ฐ์ ์ค์ฌ์ฃผ๋ ๋ฐฉํฅ์ผ๋ก ์ธ๊ณต๋ด๋ฐ(ํจ์)๋ค์ ์ ๋ฐ์ดํธ ํจ.
๊ทธ๋ฌ๋ฉด ์๋ฒฝํ๊ฒ ์ฃผ์ด์ง Task๋ฅผ ์ํํ๋ ๋ชจ๋ธ์ด ์์ฑ๋จ.
๊น๊ฐ๋ฏผ๊ต์ฌ.
๊ทธ๋ฅ๋ฐ์๋ฅ์์ฝ์ด๋ผ.