VisualThinker-R1-Zero: First ever R1-Zero's Aha Moment on just a 2B non-SFT Model
SFT๋์ง ์์ 2B ๋น์ ๋ชจ๋ธ์์ deepseek์ r1 zero๊ฐ ๋ณด์ฌ์ค ์ฑ๊ณผ๋ฅผ ์ ์ฌํ๊ฒ ์ฌํํจ
๋จ์ํ ์์ ๋ชจ๋ธ์์ TTC๊ฐ ์ ์๋ํ๋ค๋๊ฑธ ๋์ด์ ์ด ๋ชจ๋ธ์ด ํฐ ์๋ฏธ๋ฅผ ๊ฐ์ง๋ ์ด์ ๋
์ด๋ ๊ฒ๋ ์์ ๋ชจ๋ธ์์๋ ์ด๋ฏธ์ง๋ฅผ ์ธ์ํ๊ณ ์ด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์ถ๋ก ํ๋๊ฒ ๊ฐ๋ฅํ๋ฉฐ
์ด๊ฒ ์ฆ๋ฅ๋ sft๊ฐ ์๋ rl์ ํตํด ์ป์ด์ง ์ฑ๊ณผ๋ผ๋๊ฑฐ์!
์ฌ์ฌ ๋ชจ๋ฐ์ผ์๋ ์ ์ ํ์ฌ๊ฐ ๋์ค๋๋ฐ
์๊ฐ์ฅ์ ์ธ์ฉ์ผ๋ก ์ข์๋ฏ? ์ฌ์ง ๋ถ์ํด์ฃผ๋ ai๊ฐ ์ง๊ธ๋ ์๊ธด ํ์ง๋ง ์ถ๋ก ํ์ฌ๋๋ฉด ์ธ์๋ฅ ์ด ์ข์์ง๊ฑฐ์๋
https://x.com/_akhaliq/status/1896776372711997701?t=tncpynAth4ojM1YGboN-ug&s=19
ในใ ํฅ๋ฏธ๋กญ๋ค?
์ง์ฐ RL์ ์ ๊ทธ์์ฒด๋ค ๋ง๋ ์ฌ๋ ๋ ธ๋ฒจ์ ๋ฐ์์ผํ