[일반] 근데 클로드 모델이 8b, 중간 72b, 큰 405b로 나뉘어졌다던데

[익명(6upcqvjd8tfu)]

정황상 sonnet 3.5가 72b 아닌가?

근데 라마 3.1 405b보다 벤치가 높은게 이해가 안되는데

[익명(orangestar1122)]

파라미터만 늘리는건 효율떨어지기도하고 그것보단좀더클걸

[익명(175.206)]

다 같은데 파라미터만 크면, 더 큰 모델이 보통 더 좋지만... 쟤네 둘 차이는 성능 차이가 확연히 있을 정도의 차이는 아닐거고 저정도 급에서는 모델 크기보다는 데이터의 품질이 영향 많이 주는 것 같음. 더 양질의 데이터를 맥이면 되고, 뭐 그외 자기들만의 노하우가 있겠지. 경량화모델들도 GPT3.5 뛰어 넘은 것들 많잖아.

[익명(110.145)]

클로드꺼 파라메터 사이즈 유출된게 있음?