๊ทธ๋ฆฌ๊ณ ๊ฐ์๊ธฐ The Information ๊ธฐ์ฌ๊ฐ ํ๋ ์ฌ๋ผ์ค๋๋ฐ...
๊ทธ๋ฆฌ๊ณ ์ฝ์์, ์๋ฒฝ 3์.
๋ด๋ดํ๊ฒ ๋ฐํํ๋ ๊ทธ๋ค...
"O3 ๋ชจ๋ธ์ ์์ฃผ ์์ฃผ ๋๋ํ ๋ชจ๋ธ์ ๋๋ค. ๊ทธ๋ฆฌ๊ณ O3 Mini ๋ชจ๋ธ๋ ๋ฏฟ์ ์ ์์ ์ ๋๋ก ๋๋ํ ๋ชจ๋ธ์ด์์."
----------
SWE-bench Verified (Software Engineering):
์ค์ GitHub ์ด์๋ฅผ ๋ฐํ์ผ๋ก ํ์ฌ, ์ฝ๋๋ฒ ์ด์ค๋ฅผ ์์ ํ์ฌ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ ์ ์๋์ง๋ฅผ ํ๊ฐ. ์ํํธ์จ์ด ๊ฐ๋ฐ์๋ก์ ์ถฉ๋ถํ ์์ฐ์ ์ธ์ง๋ฅผ ํ์ธ.
Codeforces (Competition Code):
ํ๋ก๊ทธ๋๋ฐ ๊ฒฝ์ ๋ํ. ๋ค์ํ ๋์ด๋์ ์๊ณ ๋ฆฌ์ฆ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ๋ฅ๋ ฅ์ ํ๊ฐ. ๋ค์ํ ์๊ณ ๋ฆฌ์ฆ ๋ฌธ์ ๋ฅผ ํจ๊ณผ์ ์ผ๋ก ํด๊ฒฐํ ์ ์๋์ง๋ฅผ ํ์ธ.
๋ชจ๋ 0-shots
Github ์ด์, ์ค์ ํ๋ก๋ํธ์ ๋ํ ์ค์ง์ ์ธ ํด๊ฒฐ ๋ฅ๋ ฅ์ด 71%๊น์ง ์ฌ๋ผ๊ฐ๋ค๋ ๊ฒ์ ์๋ฏธํจ๊ณผ ๋์์,
์ ์ธ๊ณ ์์ 0.2% ๊ตญ์ ์ ์ธ ๊ทธ๋๋๋ง์คํฐ๊ธ ์ค๋ ฅ(์ ํํ๋ ์ ์ธ๊ณ 175์)์ ์๊ณ ๋ฆฌ์ฆ ๋ฌธ์ ํด๊ฒฐ ๋ฅ๋ ฅ์ ๋ณด์ ํ๋ค๋ ๊ฒ์ ์๋ฏธ.
AIME 2024 (Competition Math):
์ค๊ณ ๋ฑํ์ ์ํ ๊ฒฝ์ ๋ํ. ๊ธฐํํ, ์กฐํฉ๋ก , ์ ์๋ก , ๋์ํ ๋ฑ ๋ค์ํ ๋ถ์ผ์์ ์ฐฝ์์ ์ด๊ณ ๋ ๊ณ ๋์ ๋ ผ๋ฆฌ๋ ฅ๊ณผ ์ฌ๊ณ ๋ ฅ์ ์๊ตฌํ๋ ๋ฌธ์ ๋ค๋ก ๊ตฌ์ฑ๋๋ฉฐ, ์ฌ๊ธฐ์ ๋ง์ ์ ๋ฐ๋๋ค๋ ๊ฒ์ ์์ฌ ์ค์ ์์ฌ์ด์ ์ถํ ์ํ์ ์ ๊ณ๊ฐย ๋ ์๋ค๋ง์ด ๊ฐ๋ฅํจ. ์ ์ด์ ์์ํ๋ ๊ฒ๋ถํฐ๊ฐ AMC๋ผ๋ ๋ํ์์ ์์ 5% ๋ฏธ๋ง์ด์ด์ผ์ง๋ง ์์ ๊ฐ๋ฅ.
Questions (GPQA Diamond) (Phd-level Science):
๋ฐ์ฌ ์์ค์ ์๋ฌผํ, ๋ฌผ๋ฆฌํ, ํํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ๋ฅ๋ ฅ์ ํ๊ฐ. ํด๋น ๋ถ์ผ์ ๋ฐ์ฌ๋ค์กฐ์ฐจ ํ๊ท 65%์ ์ ๋ต๋ฅ ๋ฐ์ ๋ฌ์ฑํ์ง ๋ชปํจ.
ํด๋น ๋ถ๋ฌธ๋ค์ ์์ด์ ๋๋ต์ ์ผ๋ก ์ธ๊ฐ ์ ๋ฌธ๊ฐ๋ฅผ ํ์ฐธ ๋ฐ์ด๋์๋ค๊ณ ๋ณผ ์ ์๊ฒ ๋ค.
EpochAI Frontier Math (Research Math):
60๋ช ์ด์์ ์ต๊ณ ๊ธ ์ํ์๋ค์ด ์ฐธ์ฌํ์ฌ ๋ง๋ ์ญ๋๊ธ ์ํ ๋ฌธ์ ๋ค. 14๋ช ์ ๊ตญ์ ์ํ์ฌ๋ฆผํผ์๋ ๊ธ๋ฉ๋ฌ๋ฆฌ์คํธ์ ํ์ฆ์ ์์์๋ค(ํ ๋ ์ค ํ์ค, ํฐ๋ชจ์ ๊ณ ์์ค, ๋ฆฌ์ฒ๋ ๋ณด์ฒ๋)์ด ๋จธ๋ฆฌ๋ฅผ ์ธ๋งค๊ณ ๋ง๋ ์ํ ์ํ. ์ ๋ฌธ ์ํ์๋ ๋ฑ ํ ๋ฌธ์ ํด๊ฒฐ์ ์ ์๊ฐ๋ถํฐ ์ ์ผ์ด ์์. ๋จ์ํ ํจํด ๋งค์นญ์ด๋ ๊ธฐ์กด ํ์ต ๋ฐ์ดํฐ๋ง์ผ๋ก๋ ํด๊ฒฐํ ์ ์๋ ์ง์ ํ ์ํ์ ์ถ๋ก ๋ฅ๋ ฅ์ ์ธก์ .
๊ธฐ์กด์ ๋ชจ๋ AI๋ค์ 2.0%์ ์์ค๋ฐ์ ์ ๋์๋๋ฐ, o3๋ 25.2%๊น์ง ๋์ด์ฌ๋ ธ๋ค.
ARC-AGI:
์ผ๋ฐ์ธ๊ณต์ง๋ฅ(AGI)์ ํต์ฌ์ธ ์ถ์ํ์ ์ถ๋ก ๋ฅ๋ ฅ์ ์ธก์ ํ๋ ํ ์คํธ. ๋จ์ํ ํจํด ๋งค์นญ์ด๋ ํต๊ณ์ ํ์ต์ด ์๋, ์ง์ ํ ์ง๋ฅ์ ์ธก์ ํ๊ณ ์ ์ค๊ณ.
์ธ๊ฐ ํ๊ท ์์ค์ 70%.
ARC Prize ์ฐฝ๋ฆฝ์์:
"OpenAI์ o3 ๋ชจ๋ธ์ ARC-AGI ๋ฒค์น๋งํฌ์์ ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ณด์ฌ์ฃผ๋ฉฐ, ๊ธฐ์กด LLM์ ํ๊ณ๋ฅผ ๊ทน๋ณตํ๊ณ ์ง์ ์ฌ์กฐํฉ ๋ฅ๋ ฅ์ ํฅ์์์ผฐ์ต๋๋ค. ์ด๋ ๋จ์ํ ์ฑ๋ฅ ํฅ์์ ๋์ด, AI๊ฐ ์๋ก์ด ๊ณผ์ ์ ์ ์ํ๋ ๋ฅ๋ ฅ์ด ํฌ๊ฒ ๋ฐ์ ํ์์ ๋ณด์ฌ์ค๋๋ค. ARC Prize๋ ์๋ก์ด ๋ฒค์น๋งํฌ๋ฅผ ํตํด AI ์ฐ๊ตฌ ๋ฐ์ ์ ๊ณ์ํด์ ์ถ์งํ ๊ฒ์
๋๋ค."
๋๋จธ์ง
Structured Outputs:
๊ฐ๋ฐ์๊ฐ ์ ๊ณตํ ์คํค๋ง์ ๋ฐ๋ผ ์ถ๋ ฅ์ ์ ํํ๊ฒ ๊ตฌ์กฐํํ๋ ๋ฅ๋ ฅ. JSON, ๋ฐ์ดํฐ๋ฒ ์ด์ค, ์๋ํ๋ ์ฒ๋ฆฌ ๋ฑ์ ์ ํฉํ ์ผ๊ด๋ ํ์์ ์ถ๋ ฅ์ ๋ณด์ฅ.
Function Calling:
์ธ๋ถ ๋๊ตฌ๋ API์ ์ํธ์์ฉํ ์ ์๊ฒ ํด์ฃผ๋ ๋ฅ๋ ฅ. ํ ์คํธ ์์ฑ์ ๋์ด ์ค์ ์์ ์ ์ํํ๊ณ ๋ฐ์ดํฐ๋ฅผ ๊ฒ์ ๋ฐ ์ฒ๋ฆฌํ ์ ์์.
Function Calling with Structured Outputs:
Function Calling๊ณผ Structured Outputs์ ๊ฒฐํฉํ ๊ณ ๊ธ ๋ฅ๋ ฅ.
LiveBench Coding:
๋ค์ํ ์ฝ๋ฉ ๋ฅ๋ ฅ ํ๊ฐ ์ํ. ๋ฌธ์ ์ดํด ๋ฅ๋ ฅ, ๊ธฐ์กด ์ฝ๋ ๊ธฐ๋ฅ ํ์ , ๋๋ฝ๋ ๋ถ๋ถ ์์ฑ ๋ฅ๋ ฅ ๋ฑ์ ๋ค์ํ ๋ฌธ์ ๋ค๋ก๋ถํฐ ํ๊ฐ.
ํด๋น ๋๊ธ์ ์ญ์ ๋์์ต๋๋ค.
์ด์ 1๋ ๋จ์
2025 ๊ฐ์ฆ์~~~
์์ง 2025๋ ์๋๋ฐ ์ง๋ฆฌ๋ค
์์จ๋ฐ๊ฐ๋ฏธ์ณค๋ค ใ ใ ใ ใ ใ ใ ใ ใ ใ ใ
ใ ใ