[일반] Gpt5(오리온)은 o2 발사대 같은데

[한입두입(shanny6706)]

단순히 스케일만 키우는 건 한계가 있다는게 요 2년간 증명됐다고 보는데 파라미터 10배로 늘린다는 루머나 o1(스트로베리)으로 합성데이터 뽑아내서 그걸로 학습했다고 유의미한 도약이 있을 거 같지는 않음


아니면 에이전트 최적화 모델 같은 거려나?




도파민 다 떨어져간다

[엉덩이팡팡(thief2270)]

난 네생각이랑은 다르게 합성데이터로 학습하면 o1의 일부를 계승한거랑 비슷하게 도약있을거같음. 그리고 애초에 투트랙인데 걍 용도가다른거지. - dc App

[익명(175.206)]

음? 그런데, 스케일 키우는 게 한계가 아직 없다는 게 중론이지. 다만, 효율성이 떨어지니까 아직 안 하는거고.

[익명(175.206)]

아 물론, 파라미터 10배 정도는 별 효과는 없지. 다만 저쪽에서 말하는 다음 파라미터는 만배였던가. 천배였던가.

[한입두입(shanny6706)]

단순 스케일만 키우는건 한계가 있으니까 2년간 벤치 제자리 걸음이었지 오픈ai에사 아라키스 프로젝트 접은 이유도 모델 커져도 큰 차이 없어서 접었다고 하고

[익명(wanted7407)]

큰차이가 없어서 접은 게 아니라 비용문제때문에 접었다고 뉴스에 떡하니 있는 데 그걸 오해해서 보노

[한입두입(shanny6706)]

뭔 뉴스 말하는거임? 그거 유위미한 성능 향상이 보이지 않다고 구글도 논문 발표했는데 그것 때문에 한참 과적합 이야기 나왔었는데 그때 특갤 안함?

[익명(wanted7407)]

매일 하는 데 뭔 개소리노 아라키스 비용효율 문제로 접었다 했지 성능은 언급도 안함

[익명(wanted7407)]

내 아래 댓글이나 대답해 그래서 니가 말하는 유의미한 도약이 저 벤치마크 기준으로 몇점인데

[한입두입(shanny6706)]

?? 매일하는데 구글 논문을 못봤다고? ㅋㅋ 개웃기네 그때 아라키스 프로젝트 폐기 나오면서 나온이야기가 구글 1000조 파라미터? 과적합 때문에 성능 떨어진다는 거였는데

[익명(wanted7407)]

논문 아카이브좀 가져와보라

[익명(wanted7407)]

1000T 파라미터는 어디 조현병이노 ㅋㅋ 그 정도 실험하려면 100조는 꽂아야지

[한입두입(shanny6706)]

이새끼 진짜 그 당시에 특갤 안한 좆뉴비새끼였네
https://m.dcinside.com/board/thesingularity/365138
이거나 봐라

[익명(wanted7407)]

그럼 니 생각엔 mmlu 95 이상 이하+arc벤치마크 50이상 이하 대봐 유의미한 도약이 어느정도인지 니 생각 좀 말해보셈

[한입두입(shanny6706)]

애초에 추론이 안되는 Gpt5 기본 성능으로 mmlu 90 턱걸이거나 미달일거임 추론모델 덕분에 겨우 mmlu 93찍었는데

[익명(wanted7407)]

ㅋ

[익명(wanted7407)]

Gpt5 나오고 나서 보자 기본 성능 90 턱걸이? ㅋ