성능이 큰 증가폭으로 올라가는 건 1.5B 모델의 코딩 작업 정도고 나머진 증가폭이 그렇게 크지 않거나 오히려 성능이 떨어지는 경우도 많음
1.5B ~ 8B 수준의 크기에서도 이렇게 아쉬운 결과가 나오는데 혁신적인 아키텍쳐 개선이라 부르기엔 너무 애매한 듯
성능이 큰 증가폭으로 올라가는 건 1.5B 모델의 코딩 작업 정도고 나머진 증가폭이 그렇게 크지 않거나 오히려 성능이 떨어지는 경우도 많음
1.5B ~ 8B 수준의 크기에서도 이렇게 아쉬운 결과가 나오는데 혁신적인 아키텍쳐 개선이라 부르기엔 너무 애매한 듯
이건 원샷이아니라 좀 여러번 돌려서 평균치를 내봐야알겟네