[일반] FEEL THE AGI는 유래가 어디임???

[트라야누스(14.32)]

이거랑 자매품으로 Scale Is All You Need 유래도 알려줘

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[트라야누스(14.32)]

일리야가 원조임? ㄷㄷ

[익명(221.154)]

수츠케버가 오픈ai에서 외치고 다닌 구호임

[트라야누스(14.32)]

오오

[익명(221.144)]

22년쯤이라던가. 일리야가 돌아댕기다가 직원들 만나면 했다는 구호 같은거라고 알고 있음. 스케일 어쩌구는. 원래는 트랜스포머 설명하는 기념비적인 논문. Attention is all you need 라는 게 17년도에 나왔고 그 이후로 Attention 부분만 바꾸고 뭔가 강조하는 밈 같은 게 생김. 논문 제목 그렇게 자주 썼을 걸.

[익명(221.144)]

논문 제목 어그로가 자주 끌려서 쓰긴 했다는데 연구자들 사이에선 제목 어그로 때문에 더 깐깐히 평가하게 된다는 카더라. 근데 스케일은 그냥 큰 게 좋구나. 인건 아니고 llm에서 크기를 키웠더니 없던 능력이 생김. 창발성이라고. 이전엔 무조건 크다고 좋은 건 아니었을걸. 과적합도 있고 장단이 있었는데 llm에서 파라미터랑 학습데이터 크면 성능이 오르기만

[익명(221.144)]

하면서 현재로썬 개선되기만 하는 마법의 방법.

[트라야누스(14.32)]

재밌게 잘 읽었습니다 감사합니다