[일반] 근데 특갤 너무 메신저 지향적이긴 하다

[젤시러(position4791)]

누가누가 이런말을 했대~ 와 진짜?? (무조건 저명한 사람이면 정설)

이새끼 요즘 아가리만 터는데 어떻게 믿어 ㅅㅂ (약간 꺾이면 곧바로 태세전환)

우리들 자체가 아는 베이스가 너무 없는게 문제인듯.. ㅋㅋㅋ ㅠ

[익명(58.224)]

레딧애들 댓글보고 판단한다는데 뭔 말이 더 필요함 논문을 주면 논문을 읽어야하는데 저런 애들은 평생가도 저럼

[익명(120.142)]

레딧 댓글에 논문 저자가 등판하면 얘기가 다르지

[익명(58.224)]

논문 저자가 한 말은 별 내용 아님

[익명(1.234)]

나는 봐도 모르겠는데 뭔 내용인지 설명좀

[익명(shore1232)]

논문 보고 판단하는건 힘들지 상식적으로.. 논문을 읽고 큰그림 내에서 그 파편화된 지식들을 판단하는건 어려움

[익명(183.96)]

그로킹이 바람직하지 않은 현상이고 그로킹된 llm이 일반화하는 llm을 의미하는게 아니라는 내용임

[익명(58.224)]

그로킹이 바람직하지 않은 현상이라는건 또 뭐냐..와... GROKKING AS THE TRANSITION FROM LAZY TO RICH TRAINING DYNAMICS 논문 말하는거면 그 논문의 핵심은 훈련 초기 - 간단하게 학습하는 lazy 훈련 / 훈련 후기 - 복잡한 것을 학습하는 rich 훈련 으로 나눌때 후자로 갈때 그로킹이 발생한다는게 핵심이고 근본적으로 가중치 감소랑 무관하다고 지적할 뿐이다. 그로킹은 경험적으로 발견되는 일종의 트랜스포머와 비슷한 양상임. 183.96 이 말한 일반화는 우리가 말하는 그 일반화가 아니고 트레이닝 데이터 외, 분포외 데이터셋에서 유효할 때 그걸 가지고 모델의 일반화라고 하는거임.. 하..

[익명(ancestor7224)]