[일반] 큰 모델이 작동한다는 걸

[익명(125.191)]

선형충들은 몰랐음

오히려 큰 모델은 과적합으로 이어진다면서 만들지 말라고 가르치던 시절도 있었음

기술발전 최대 걸림돌이 선형충이다.


일리야 좀 보고 배워라

[익명(49.166)]

큰모델 과적합되던거 그로킹으로 해결되지 않았음?

[익명(125.191)]

그로킹 현상도 큰 모델이 좋다고 처음 주장하던 시기와 비슷한 상태임 말도 안 되는 소리라고 반발하다가 결국 증거가 쌓이면서 인식이 바뀌게 될 수도 있음

[익명(49.166)]

큰모델 처음엔 안좋다고 주장하다가 증거쌓이면서 인식바뀜??

[익명(125.191)]

Gpt3 전까진 큰 모델이 성능 더 나쁠거라 보는게 학계정설이었음 전통적인 머신러닝 관점으로 딥러닝 해석하는 전문가들 개털리는중

[익명(49.166)]

Gpt3가 큰모델의가능성을 밝혀줬네

[익명(222.103)]

큰 모델이 작동할 수 있다는 가능성을 열어준게 resnet이랑 batch normalization임