o1-preview와 동일한 성능
SWE-bench Verified는 코딩 벤치마크에서 꽤 신뢰할만한 벤치마크임 (OAI 자체적으로 개선한 벤치마크이기도 하고)
전체적으로 시스템 카드 보고 있는데
경쟁 대회들 점수 오른 것 대비 시스템 카드에 나온 점수들은
o1-preview보다 떨어지고 한 것도 많아서
실체감을 해봐야 알겠네...
o1-preview와 동일한 성능
SWE-bench Verified는 코딩 벤치마크에서 꽤 신뢰할만한 벤치마크임 (OAI 자체적으로 개선한 벤치마크이기도 하고)
전체적으로 시스템 카드 보고 있는데
경쟁 대회들 점수 오른 것 대비 시스템 카드에 나온 점수들은
o1-preview보다 떨어지고 한 것도 많아서
실체감을 해봐야 알겠네...
겨울이다
전에 유출됐을때 답 나왔자너
근데 swe벤치는 결국은 토큰 한계 때문에 코스트 개선에 파격적으로 성공하는게 아니라면 같은 넘버링에선 크게 상승하기 어렵지않나?