[일반] 결국 새로운 아키텍처가 나와야 한다는거 아님?

[익명(183.98)]

스케일링 법칙이 더이상 통하지 않는다는거고

스케일링 법칙을 유지하기 위해선 새로운 아키텍처, 알고리듬이 나와야 하는거 아니냐?

반도체가 계속 아키텍처 바꿔가면서 무어의 법칙을 유지하는 것처럼

[ㅇㅇ 1(175.118)]

아직 추론이 살아있음

[메론맛콜라가먹고싶어(victim4811)]

o3까지 추론으로 잘만왔음 ㅋㅋ

[익명(scene3440)]

일단 추론 모델이고 뭐고 베이스 모델이 멸망하면 한계가 명확함. 다른 아키텍처, 알고리즘은 새로운 트랜스포머급 혁명이 등장하란 보장도 없고 그냥 겨울이 아니라 빙하기다.

[메론맛콜라가먹고싶어(victim4811)]

추론으로도 안되면 그때 다른 방법이 나오겠지 과학쪽은 안된다 안된다 해도 항상 꾸준하게 발전해왔음

[익명(scene3440)]

지금까지 있어 왔던 여러 차례의 AI 빙하기를 생각하면 그런 별 근거 없는 낙관은 ㅆㅎㅌㅊ