์–ด์ œ๋ถ€ํ„ฐ ์‹œ์ž‘๋œ ์‹ฌ์ƒ์น˜ ์•Š์€ ๋ถ„์œ„๊ธฐ





















๊ทธ๋ฆฌ๊ณ  ๊ฐ‘์ž๊ธฐ The Information ๊ธฐ์‚ฌ๊ฐ€ ํ•˜๋‚˜ ์˜ฌ๋ผ์˜ค๋Š”๋ฐ...








๊ทธ๋ฆฌ๊ณ  ์•ฝ์†์˜, ์ƒˆ๋ฒฝ 3์‹œ.






๋‹ด๋‹ดํ•˜๊ฒŒ ๋ฐœํ‘œํ•˜๋Š” ๊ทธ๋“ค...




"O3 ๋ชจ๋ธ์€ ์•„์ฃผ ์•„์ฃผ ๋˜‘๋˜‘ํ•œ ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. ๊ทธ๋ฆฌ๊ณ  O3 Mini ๋ชจ๋ธ๋„ ๋ฏฟ์„ ์ˆ˜ ์—†์„ ์ •๋„๋กœ ๋˜‘๋˜‘ํ•œ ๋ชจ๋ธ์ด์—์š”."




----------






SWE-bench Verified (Software Engineering):


์‹ค์ œ GitHub ์ด์Šˆ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ํ•˜์—ฌ, ์ฝ”๋“œ๋ฒ ์ด์Šค๋ฅผ ์ˆ˜์ •ํ•˜์—ฌ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ๋Š”์ง€๋ฅผ ํ‰๊ฐ€. ์†Œํ”„ํŠธ์›จ์–ด ๊ฐœ๋ฐœ์ž๋กœ์„œ ์ถฉ๋ถ„ํžˆ ์ƒ์‚ฐ์ ์ธ์ง€๋ฅผ ํ™•์ธ.


Codeforces (Competition Code):


ํ”„๋กœ๊ทธ๋ž˜๋ฐ ๊ฒฝ์Ÿ ๋Œ€ํšŒ. ๋‹ค์–‘ํ•œ ๋‚œ์ด๋„์˜ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๋Š” ๋Šฅ๋ ฅ์„ ํ‰๊ฐ€. ๋‹ค์–‘ํ•œ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋ฌธ์ œ๋ฅผ ํšจ๊ณผ์ ์œผ๋กœ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ๋Š”์ง€๋ฅผ ํ™•์ธ.


๋ชจ๋‘ 0-shots


Github ์ด์Šˆ, ์‹ค์ œ ํ”„๋กœ๋•ํŠธ์— ๋Œ€ํ•œ ์‹ค์งˆ์ ์ธ ํ•ด๊ฒฐ ๋Šฅ๋ ฅ์ด 71%๊นŒ์ง€ ์˜ฌ๋ผ๊ฐ”๋‹ค๋Š” ๊ฒƒ์„ ์˜๋ฏธํ•จ๊ณผ ๋™์‹œ์—,



์ „์„ธ๊ณ„ ์ƒ์œ„ 0.2% ๊ตญ์ œ์ ์ธ ๊ทธ๋žœ๋“œ๋งˆ์Šคํ„ฐ๊ธ‰ ์‹ค๋ ฅ(์ •ํ™•ํžˆ๋Š” ์ „์„ธ๊ณ„ 175์œ„)์˜ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋ฌธ์ œ ํ•ด๊ฒฐ ๋Šฅ๋ ฅ์„ ๋ณด์œ ํ–ˆ๋‹ค๋Š” ๊ฒƒ์„ ์˜๋ฏธ.




AIME 2024 (Competition Math):


์ค‘๊ณ ๋“ฑํ•™์ƒ ์ˆ˜ํ•™ ๊ฒฝ์‹œ ๋Œ€ํšŒ. ๊ธฐํ•˜ํ•™, ์กฐํ•ฉ๋ก , ์ •์ˆ˜๋ก , ๋Œ€์ˆ˜ํ•™ ๋“ฑ ๋‹ค์–‘ํ•œ ๋ถ„์•ผ์—์„œ ์ฐฝ์˜์ ์ด๊ณ ๋„ ๊ณ ๋„์˜ ๋…ผ๋ฆฌ๋ ฅ๊ณผ ์‚ฌ๊ณ ๋ ฅ์„ ์š”๊ตฌํ•˜๋Š” ๋ฌธ์ œ๋“ค๋กœ ๊ตฌ์„ฑ๋˜๋ฉฐ, ์—ฌ๊ธฐ์„œ ๋งŒ์ ์„ ๋ฐ›๋Š”๋‹ค๋Š” ๊ฒƒ์€ ์˜์žฌ ์ค‘์˜ ์˜์žฌ์ด์ž ์ถ”ํ›„ ์ˆ˜ํ•™์˜ ์‹ ๊ณ„๊ฐ€ย ๋  ์ž๋“ค๋งŒ์ด ๊ฐ€๋Šฅํ•จ. ์• ์ดˆ์— ์‘์‹œํ•˜๋Š” ๊ฒƒ๋ถ€ํ„ฐ๊ฐ€ AMC๋ผ๋Š” ๋Œ€ํšŒ์—์„œ ์ƒ์œ„ 5% ๋ฏธ๋งŒ์ด์–ด์•ผ์ง€๋งŒ ์‘์‹œ ๊ฐ€๋Šฅ.


Questions (GPQA Diamond) (Phd-level Science):


๋ฐ•์‚ฌ ์ˆ˜์ค€์˜ ์ƒ๋ฌผํ•™, ๋ฌผ๋ฆฌํ•™, ํ™”ํ•™ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๋Š” ๋Šฅ๋ ฅ์„ ํ‰๊ฐ€. ํ•ด๋‹น ๋ถ„์•ผ์˜ ๋ฐ•์‚ฌ๋“ค์กฐ์ฐจ ํ‰๊ท  65%์˜ ์ •๋‹ต๋ฅ ๋ฐ–์— ๋‹ฌ์„ฑํ•˜์ง€ ๋ชปํ•จ.



ํ•ด๋‹น ๋ถ€๋ฌธ๋“ค์— ์žˆ์–ด์„œ ๋Œ€๋žต์ ์œผ๋กœ ์ธ๊ฐ„ ์ „๋ฌธ๊ฐ€๋ฅผ ํ•œ์ฐธ ๋›ฐ์–ด๋„˜์—ˆ๋‹ค๊ณ  ๋ณผ ์ˆ˜ ์žˆ๊ฒ ๋‹ค.




EpochAI Frontier Math (Research Math):


60๋ช… ์ด์ƒ์˜ ์ตœ๊ณ ๊ธ‰ ์ˆ˜ํ•™์ž๋“ค์ด ์ฐธ์—ฌํ•˜์—ฌ ๋งŒ๋“  ์—ญ๋Œ€๊ธ‰ ์ˆ˜ํ•™ ๋ฌธ์ œ๋“ค. 14๋ช…์˜ ๊ตญ์ œ์ˆ˜ํ•™์˜ฌ๋ฆผํ”ผ์•„๋“œ ๊ธˆ๋ฉ”๋‹ฌ๋ฆฌ์ŠคํŠธ์™€ ํ•„์ฆˆ์ƒ ์ˆ˜์ƒ์ž๋“ค(ํ…Œ๋ Œ์Šค ํƒ€์˜ค, ํ‹ฐ๋ชจ์‹œ ๊ณ ์›Œ์Šค, ๋ฆฌ์ฒ˜๋“œ ๋ณด์ฒ˜๋“œ)์ด ๋จธ๋ฆฌ๋ฅผ ์‹ธ๋งค๊ณ  ๋งŒ๋“  ์ˆ˜ํ•™ ์‹œํ—˜. ์ „๋ฌธ ์ˆ˜ํ•™์ž๋„ ๋”ฑ ํ•œ ๋ฌธ์ œ ํ•ด๊ฒฐ์— ์ˆ˜ ์‹œ๊ฐ„๋ถ€ํ„ฐ ์ˆ˜ ์ผ์ด ์†Œ์š”. ๋‹จ์ˆœํ•œ ํŒจํ„ด ๋งค์นญ์ด๋‚˜ ๊ธฐ์กด ํ•™์Šต ๋ฐ์ดํ„ฐ๋งŒ์œผ๋กœ๋Š” ํ•ด๊ฒฐํ•  ์ˆ˜ ์—†๋Š” ์ง„์ •ํ•œ ์ˆ˜ํ•™์  ์ถ”๋ก  ๋Šฅ๋ ฅ์„ ์ธก์ •.



๊ธฐ์กด์˜ ๋ชจ๋“  AI๋“ค์€ 2.0%์˜ ์ˆ˜์ค€๋ฐ–์— ์•ˆ ๋˜์—ˆ๋Š”๋ฐ, o3๋Š” 25.2%๊นŒ์ง€ ๋Œ์–ด์˜ฌ๋ ธ๋‹ค.



ARC-AGI:


์ผ๋ฐ˜์ธ๊ณต์ง€๋Šฅ(AGI)์˜ ํ•ต์‹ฌ์ธ ์ถ”์ƒํ™”์™€ ์ถ”๋ก  ๋Šฅ๋ ฅ์„ ์ธก์ •ํ•˜๋Š” ํ…Œ์ŠคํŠธ. ๋‹จ์ˆœํ•œ ํŒจํ„ด ๋งค์นญ์ด๋‚˜ ํ†ต๊ณ„์  ํ•™์Šต์ด ์•„๋‹Œ, ์ง„์ •ํ•œ ์ง€๋Šฅ์„ ์ธก์ •ํ•˜๊ณ ์ž ์„ค๊ณ„.


์ธ๊ฐ„ ํ‰๊ท  ์ˆ˜์ค€์€ 70%.



ARC Prize ์ฐฝ๋ฆฝ์ž์™ˆ:


"OpenAI์˜ o3 ๋ชจ๋ธ์€ ARC-AGI ๋ฒค์น˜๋งˆํฌ์—์„œ ๋›ฐ์–ด๋‚œ ์„ฑ๋Šฅ์„ ๋ณด์—ฌ์ฃผ๋ฉฐ, ๊ธฐ์กด LLM์˜ ํ•œ๊ณ„๋ฅผ ๊ทน๋ณตํ•˜๊ณ  ์ง€์‹ ์žฌ์กฐํ•ฉ ๋Šฅ๋ ฅ์„ ํ–ฅ์ƒ์‹œ์ผฐ์Šต๋‹ˆ๋‹ค. ์ด๋Š” ๋‹จ์ˆœํ•œ ์„ฑ๋Šฅ ํ–ฅ์ƒ์„ ๋„˜์–ด, AI๊ฐ€ ์ƒˆ๋กœ์šด ๊ณผ์ œ์— ์ ์‘ํ•˜๋Š” ๋Šฅ๋ ฅ์ด ํฌ๊ฒŒ ๋ฐœ์ „ํ–ˆ์Œ์„ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค. ARC Prize๋Š” ์ƒˆ๋กœ์šด ๋ฒค์น˜๋งˆํฌ๋ฅผ ํ†ตํ•ด AI ์—ฐ๊ตฌ ๋ฐœ์ „์„ ๊ณ„์†ํ•ด์„œ ์ถ”์ง„ํ•  ๊ฒƒ์ž…๋‹ˆ๋‹ค."




๋‚˜๋จธ์ง€


Structured Outputs:


๊ฐœ๋ฐœ์ž๊ฐ€ ์ œ๊ณตํ•œ ์Šคํ‚ค๋งˆ์— ๋”ฐ๋ผ ์ถœ๋ ฅ์„ ์ •ํ™•ํ•˜๊ฒŒ ๊ตฌ์กฐํ™”ํ•˜๋Š” ๋Šฅ๋ ฅ. JSON, ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค, ์ž๋™ํ™”๋œ ์ฒ˜๋ฆฌ ๋“ฑ์— ์ ํ•ฉํ•œ ์ผ๊ด€๋œ ํ˜•์‹์˜ ์ถœ๋ ฅ์„ ๋ณด์žฅ.


Function Calling:


์™ธ๋ถ€ ๋„๊ตฌ๋‚˜ API์™€ ์ƒํ˜ธ์ž‘์šฉํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•ด์ฃผ๋Š” ๋Šฅ๋ ฅ. ํ…์ŠคํŠธ ์ƒ์„ฑ์„ ๋„˜์–ด ์‹ค์ œ ์ž‘์—…์„ ์ˆ˜ํ–‰ํ•˜๊ณ  ๋ฐ์ดํ„ฐ๋ฅผ ๊ฒ€์ƒ‰ ๋ฐ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Œ.


Function Calling with Structured Outputs:


Function Calling๊ณผ Structured Outputs์„ ๊ฒฐํ•ฉํ•œ ๊ณ ๊ธ‰ ๋Šฅ๋ ฅ.


LiveBench Coding:


๋‹ค์–‘ํ•œ ์ฝ”๋”ฉ ๋Šฅ๋ ฅ ํ‰๊ฐ€ ์‹œํ—˜. ๋ฌธ์ œ ์ดํ•ด ๋Šฅ๋ ฅ, ๊ธฐ์กด ์ฝ”๋“œ ๊ธฐ๋Šฅ ํŒŒ์•…, ๋ˆ„๋ฝ๋œ ๋ถ€๋ถ„ ์™„์„ฑ ๋Šฅ๋ ฅ ๋“ฑ์„ ๋‹ค์–‘ํ•œ ๋ฌธ์ œ๋“ค๋กœ๋ถ€ํ„ฐ ํ‰๊ฐ€.