However, on a number of benchmarks, improvements are actually discontinuous, meaning that the improvements from 8B to 62B are very modest, but then jump immensely when scaling to 540B.
[일반] 이거 8b->62b에서는 능력별로안오르다가 540b되면서 급기능 향상한것
익명(49.166)
2022-04-05 20:03
추천 4
댓글 7
다른 게시글
-
늒네인데 2025가 정배인 이유좀 [3][일반] 익명(x9z7w2vfoc6d) | 22.04.05추천 1
-
기호주의자들이 연산을 옹호하지 않는게 아님 [6][일반] 익명(143.248) | 22.04.05추천 0
-
특이점이란걸 알아버리면 안됬다[일반] 익명(x9z7w2vfoc6d) | 22.04.05추천 3
-
언어모델 패스웨이같은것은 발표하기전에는 다른연구자들은 모름?? [2][일반] 익명(49.166) | 22.04.05추천 0
-
알파고 때의 충격을 또 느끼고 싶다 [10][일반] 익명(117.123) | 22.04.05추천 4
-
떡밥 좀 큰거 나오니까 숨어있던 특붕이 다 티나오내 [1][일반] 익명(210.106) | 22.04.05추천 4
-
군대갔다가 졸업하면 2028년인데 ㅋㅋㅋㅋㅋ [4][일반] 익명(211.209) | 22.04.05추천 0
-
아직 한발 남았다...[일반] 익명(49.172) | 22.04.05추천 1
-
근데 패스웨이저거 논문발표하기전엔 [2][일반] 익명(49.166) | 22.04.05추천 0
-
당장 내일 아침에 초지능 탄생할수도 있음 [5][일반] 익명(183.106) | 22.04.05추천 8
파라미터 더올리면 또 기능나오는것아님?
스케일링이 무서운 이유임
게다가 이게 peak가 아니라는게 기대됌
거기에 나오는 나무 gif가 표현을 잘한 것 같음
https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=77600&page=1
나도 비유잘한것같음
100조개 파라미터면 어떨까? 궁금함