스케일링의 법칙이 계속 유효하면 좋겠지만
스케일링 상승폭에 비해 성능 향상폭이 더 유의미해야할것같음
지금 기준으론 텍스트 생성에 쓰이는 비용이 너무 비쌈
스케일링만 높여서 성능이 좋아지는건 축복같으면서도 아쉬움
전기 존나 조금먹고 성능 존나 좋은게 튀어나왔으면 좋았을텐데
스케일링의 법칙이 계속 유효하면 좋겠지만
스케일링 상승폭에 비해 성능 향상폭이 더 유의미해야할것같음
지금 기준으론 텍스트 생성에 쓰이는 비용이 너무 비쌈
스케일링만 높여서 성능이 좋아지는건 축복같으면서도 아쉬움
전기 존나 조금먹고 성능 존나 좋은게 튀어나왔으면 좋았을텐데
그냥 일종의 치트키라는 느낌 아님? 효율 개선도 가능하고 스케일링도 가능한데 스케일링으로 AGI 혹은 재귀적 효율 개선이 가능한 수준을 달성하면 끝이니까
치트라기보단, 전략?
근데 그게 어느 시점인지 정확히 모르는게 함정. 만약 재귀개선까지 가능하려면 이것보다 훨씬 더많이 필요하면 어캄.
그럼 정작 agi는 있는데 너무 비싸서 인간쓰는게 차라리 나은 상황이 올까봐 걱정임
그때 가서 효율 개선하면 되는거 아님? 둘 중 하나는 포기해야되는것도 아니고.