https://www.aitimes.com/news/articleView.html?idxno=160163
๋ฏธ์คํธ๋ AI, ์ฒซ ์ฝ๋ ์์ฑ ๋ชจ๋ธ '์ฝ๋์คํธ๋' ์ถ์ํ๋์ค์ ๊ฐํ ์คํํธ์ ๋ฏธ์คํธ๋ AI๊ฐ ์ฒซ๋ฒ์งธ ์ฝ๋ ์์ฑ ์ธ๊ณต์ง๋ฅ(AI) ๋ชจ๋ธ โ์ฝ๋์คํธ๋(Codestral)โ๋ฅผ ๊ณต๊ฐํ๋ค. ๋ฏธ์คํธ๋์ ์ฝ๋์คํธ๋์ด ๊ฐ๋ฐ์๋ค์ ์ฝ๋ฉ ์ค๋ ฅ์ ํฅ์์์ผ ์ํฌํ๋ก์ฐ๋ฅผ ๊ฐ์ํ๊ณ ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ตฌ์ถํ ๋ ์๊ฐ๊ณผ ๋ ธ๋ ฅ์ ์ ์ฝํ๋ ๋ฐ ๋์์ด ๋๋ค๊ณ ์ฃผ์ฅํ๋ค.ํ ํฌํฌ๋ฐ์น๋ 29์ผ(ํ์ง์๊ฐ) ๋ฏธ์คํธ๋์ด 80๊ฐ ์ด์์ ํ๋ก๊ทธ๋๋ฐ ์ธ์ด๋ก ํ๋ จํ 220์ต ๋งค๊ฐ๋ณ์์ ์ฝ๋ ์์ฑ AI ๋ชจ๋ธ โ์ฝ๋์คํธ๋ 22Bโ๋ฅผ ์คํ ์์ค๋ก ์ถ์ํ๋ค๊ณ ์๊ฐํ๋ค.์ฝ๋์คํธ๋ 22B๋ 3๋ง2000๊ฐ ํ ํฐ์ ์ปจํ ์คํธ ์ฐฝ์ ์ ๊ณตํ๋ฉฐ, ์ฝ๋ฉ ๊ธฐ๋ฅ์ ์๋ฃwww.aitimes.comํ๋์ค์ ๊ฐํ ์คํํธ์ ๋ฏธ์คํธ๋ AI๊ฐ ์ฒซ๋ฒ์งธ ์ฝ๋ ์์ฑ ์ธ๊ณต์ง๋ฅ(AI) ๋ชจ๋ธ โ์ฝ๋์คํธ๋(Codestral)โ๋ฅผ ๊ณต๊ฐํ๋ค. ๋ฏธ์คํธ๋์ ์ฝ๋์คํธ๋์ด ๊ฐ๋ฐ์๋ค์ ์ฝ๋ฉ ์ค๋ ฅ์ ํฅ์์์ผ ์ํฌํ๋ก์ฐ๋ฅผ ๊ฐ์ํ๊ณ ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ตฌ์ถํ ๋ ์๊ฐ๊ณผ ๋ ธ๋ ฅ์ ์ ์ฝํ๋ ๋ฐ ๋์์ด ๋๋ค๊ณ ์ฃผ์ฅํ๋ค.
ํ ํฌํฌ๋ฐ์น๋ 29์ผ(ํ์ง์๊ฐ) ๋ฏธ์คํธ๋์ด 80๊ฐ ์ด์์ ํ๋ก๊ทธ๋๋ฐ ์ธ์ด๋ก ํ๋ จํ 220์ต ๋งค๊ฐ๋ณ์์ ์ฝ๋ ์์ฑ AI ๋ชจ๋ธ โ์ฝ๋์คํธ๋ 22Bโ๋ฅผ ์คํ ์์ค๋ก ์ถ์ํ๋ค๊ณ ์๊ฐํ๋ค.
์ฝ๋์คํธ๋ 22B๋ 3๋ง2000๊ฐ ํ ํฐ์ ์ปจํ ์คํธ ์ฐฝ์ ์ ๊ณตํ๋ฉฐ, ์ฝ๋ฉ ๊ธฐ๋ฅ์ ์๋ฃํ๊ณ , ํ ์คํธ๋ฅผ ์์ฑํ๊ณ , ๋ถ๋ถ ์ฝ๋๋ฅผ ์ ๋ ฅํ ์ ์์ ๋ฟ๋ง ์๋๋ผ ์ฝ๋๋ฒ ์ด์ค์ ๋ํ ์ง๋ฌธ์ ์์ด๋ก ๋ต๋ณํ ์ ์๋ค.
๋ฏธ์คํธ๋์ ์ด ๋ชจ๋ธ์ ํ๊น ํ์ด์ค์ ์คํ ์์ค๋ก ๊ณต๊ฐํ์ง๋ง, ์ฝ๋์คํธ๋ ๋ฐ ๊ฒฐ๊ณผ๋ฌผ์ ์์ ์ ํ๋์ ์ฌ์ฉํ๋ ๊ฒ์ ๊ธ์งํ๋ค. ๋์ ๋ฏธ์คํธ๋์ ์ ๋ฃ API๋ฅผ ํตํด ์ฝ๋์คํธ๋์ ์์ ์ ์ฉ๋๋ก ์ฌ์ฉํ ์ ์๋ค.
๋ ๊ด์ฌ ์๋ ๊ฐ๋ฐ์๋ ๋ฏธ์คํธ๋์ ๋ฌด๋ฃ ์ฑ๋ด '๋ฅด ์ค(Le Chat)'์์ ๋ชจ๋ธ์ ์ง์นจ ๋ฒ์ ๊ณผ ์ฑํ ํด ์ฝ๋์คํธ๋์ ๊ธฐ๋ฅ์ ํ ์คํธํ ์๋ ์๋ค.
์ฝ๋์คํธ๋์ ์ผ๋ถ ๋ฒค์น๋งํฌ์์ '์ฝ๋๋ผ๋ง 70B' '๋ฅ์ํฌ ์ฝ๋ 33B' ๋ฐ '๋ผ๋ง 3 70B'์ ๊ฐ์ ๊ฒฝ์ ์ ํ์ ์ฑ๋ฅ์ ๋ฅ๊ฐํ์ง๋ง, ํญ๋ฐ์ ์ธ ์์ค์ ์๋ ๊ฒ์ผ๋ก ๋ํ๋ฌ๋ค.
ํ์ด์ฌ ์ฝ๋ ์์ฑ์ ํ๊ฐํ๊ธฐ ์ํด ์ค๊ณ๋ ๋ฆฌํฌ๋ฒค์น(RepoBench)์์ ์ฝ๋์คํธ๋์ 34%์ ์ ํ๋ ์ ์๋ก ์ธ๊ฐ์ง ๋ชจ๋ธ๋ณด๋ค ์ฑ๋ฅ์ด ๋ฐ์ด๋ฌ๋ค. ํ์ด์ฌ ์ฝ๋ ์์ฑ์ ํ๊ฐํ๋ ํด๋จผ์ด๋ฐธ(HumanEval)๊ณผ ํ์ด์ฌ ์ถ๋ ฅ ์์ธก์ ํ ์คํธํ๋ ํฌ๋ญ์ค์ด๋ฐธ(CruxEval)์์ ๊ฐ๊ฐ 81.1%์ 51.3%์ ์ ์๋ก ๊ฒฝ์ ์ ํ์ ๋ฅ๊ฐํ๋ค.
C++, C ๋ฐ ํ์ ์คํฌ๋ฆฝํธ์ ๋ํ ํด๋จผ์ด๋ฐธ์ ๋ชจ๋ธ ์ฑ๋ฅ์ ์ต๊ณ ๋ ์๋์์ง๋ง, ๋ชจ๋ ํ ์คํธ๋ฅผ ํฉ์น ํ๊ท ์ ์๋ 61.5%๋ก ๊ฐ์ฅ ๋์์ผ๋ฉฐ ํนํ ๋ผ๋ง 3 70B์ 61.2%๋ฅผ ์์ฐ๋ค. SQL ์ฑ๋ฅ์ ๋ํ ์คํ์ด๋(Spider) ํ๊ฐ์์๋ 63.5%์ ์ ์๋ก 2์๋ฅผ ์ฐจ์งํ๋ค.
๋ฏธ์คํธ๋์ ๋ผ๋ง์ธ๋ฑ์ค, ๋ญ์ฒด์ธ, ์ปจ๋๋ด๋ท๋ฐ๋ธ, ํญ๋์ธ, ์ ํธ๋ธ๋ ์ธ์ค ๋ฑ์ ๊ธฐ์ ๋ค์ด ์ด๋ฏธ ์ฝ๋์คํธ๋ ํ ์คํธ๋ฅผ ์์ํ๋ค๊ณ ๋ฐํ๋ค.
ํํธ ์ฝ๋ ์์ฑ AI๋ ์ต๊ทผ ์น์ดํ ๊ฒฝ์์ด ๋ฒ์ด์ง๋ ๋ถ์ผ๋ค. ์ง๋ 3์์๋ ํ๊น ํ์ด์ค๊ฐ ์๋น๋์, ์๋น์ค๋์ฐ ๋ฑ ๋น ํ ํฌ๋ค๊ณผ ํ๋ ฅ, ์คํ ์์ค ์ฝ๋ ์์ฑ ๋ํ์ธ์ด๋ชจ๋ธ(LLM) '์คํ์ฝ๋2(StarCoder2)' ์๋ฆฌ์ฆ๋ฅผ ์ถ์ํ๋ค. ํนํ ๋ฉํ๋ ์ง๋ 1์ โ์ฝ๋ ๋ผ๋ง 70Bโ๋ฅผ ์คํ ์์ค๋ก ์ถ์, ๊ธฐ์กด ์ ๋ฃ ์๋น์ค์์ ๊ฒฝ์์ ์๊ณ ํ๋ค. ๋ฐ๋ฉด MS๋ ๊ธฐ์กด ์ฝ๋ ์์ฑ ๊ธฐ๋ฅ์ ํ์ฅํด ๊ธฐ์ ์ฉ์ผ๋ก ์ ํฉํ๊ฒ ๋ง๋ '์ฝํ์ผ๋ฟ ์ํฐํ๋ผ์ด์ฆ'๋ฅผ ์ 39๋ฌ๋ฌ์ ์ ๋ฃ ๋ชจ๋ธ๋ก ์ถ์ํ๋ค.
ํนํ 3์์๋ ์ฝ๊ทธ๋์ ์ด ์ต์ด์ ์ฝ๋ ์์ฑ AI ์์ด์ ํธ '๋ฐ๋น'์ ์ ๋ณด์๊ณ , ์ด์ด ์ฝ๋์์ด ๋น์ทํ SW ๊ฐ๋ฐ์ฉ AI ์์ด์ ํธ๋ฅผ ๋ด๋์๋ค.
์ต๊ณ ์ ๋ชจ๋ธ์ด๋ ๋์ด ๊ณ ์ค๊ธ ์ถ๋ก ๋ ์๋๊ณ ์ฝ๋ ์ถ๋ ฅ ์ ์ค๋ฅ ์์ 50%๋๋ฅผ ๋งด๋๊ณ ์์ผ๋ ์์ง ๊ฐ ๊ธธ์ด ๋ฉ๋ค