최근 며칠 동안 머릿속을 맴돌던 "스킬 이슈"라는 말을 그냥 참을 수가 없네요 ?
농담은 제쳐두고, 이건 좀 믿기 힘들어요. [Mis]information이라고 불리는 이유를 이제 좀 알 것 같네요.
LLM(대형 언어 모델) 확장 법칙이 느려졌다고 말하는 건 마치 하드웨어에 관한 무어의 법칙이 느려졌다고 말하는 것과 비슷해요. 모두가 그렇게 말하지만, 기업들은 항상 한계를 우회해 왔죠. 인간이 쓴 모든 텍스트를 온라인에서 다 사용했다고 해도, 뭔가 다른 것을 찾아낼 겁니다.
그리고 아니요, OpenAI에 문제가 있을 수는 있어도 스킬 이슈는 아닙니다.
https://x.com/hyhieu226/status/1855409898097672435
저 사람도 더 인포 미스 인포라고 까는거 보면 업계에서 이미지가 별로인듯?
농담은 제쳐두고, 이건 좀 믿기 힘들어요. [Mis]information이라고 불리는 이유를 이제 좀 알 것 같네요.
LLM(대형 언어 모델) 확장 법칙이 느려졌다고 말하는 건 마치 하드웨어에 관한 무어의 법칙이 느려졌다고 말하는 것과 비슷해요. 모두가 그렇게 말하지만, 기업들은 항상 한계를 우회해 왔죠. 인간이 쓴 모든 텍스트를 온라인에서 다 사용했다고 해도, 뭔가 다른 것을 찾아낼 겁니다.
그리고 아니요, OpenAI에 문제가 있을 수는 있어도 스킬 이슈는 아닙니다.
https://x.com/hyhieu226/status/1855409898097672435
Simply cannot resist uttering the sticky phrase in my mind for the last few days: "Skill issue" 🤣
— Hieu Pham (@hyhieu226) November 10, 2024
Okay, jokes aside. I find this hard to believe. I kind of get why they are called The [Mis]information.
Saying that the scaling law for LLMs has slowed down is like saying that… https://t.co/nSlZkSfGAh
저 사람도 더 인포 미스 인포라고 까는거 보면 업계에서 이미지가 별로인듯?
더인포 적중률 100% 아니었나
그록은 라마나 잡고 씨부리라하셈
저게 근데 기레기가 제목을 저렇게써서 그렇지 내용은 보면 결국 OAI에서도 해결하기 위해 노력했다는 내용이긴함 ㅋㅋ 이 사람이 말한 '뭔가 다른 것을 찾아내기 위해서' 그리고 OAI는 찾아낸듯
글만 보면 이 사람도 무지성 스케일링 딸깍질로는 슬슬 둔화된다고 생각하는 것 같은데? 지금까지야 웹 데이터가 구하기 쉬우니까 이걸 대량으로 때려박았지만 이건 슬슬 거의 다 쓰기도 했고 저품질이라 빅테크들은 다른 형태의 고품질 데이터를 투입함으로써 극복할 거라고 말하는 거고
그록성능개선부터 ㅋㅋ - dc App