1.
찌라시에 의하면 이번 라마3의 파라미터는 약 100b이다.(라마2는 70b)


반면 gpt5의 예측 파라미터는 최대 5000b이다.
약 50배차이가 난다.(gpt4는 1760b이다)

라마는 스케일(용량)을 최적화를 시키는 것인데
Gpt는 무대포로 걍 다 집어넣는것이다.
그렇기에 Gpt4,5는 오픈소스가 불가능하다.

2.
이번 싸움이 볼만한 가장 큰 이유가

라마3: h100 35만대 사용
Gpt5: a100 + h100 짬뽕해서 50만대 사용
이기때문 훈련된 gpu는 비등비등하다.
Gpt4는 h100 1만대를 사용했다

그래서 나는 라마3가 성능이 gpt4의 1.5배정도 할것으로 예상함.

다 쓰니까 현타 존나오내 왜썻지...
찌라시나 풀고 감