[일반] 메타 5엑사플롭스니까 엔비디아h100은

[익명(49.166)]

18엑사니까 메타보다좋은것임?

Tpuv5는 어느정도일까

5엑사로도 100조패러미터 쌉가능이라던데

[익명(183.104)]

"이라던데"

[익명(49.166)]

[익명(1.239)]

그래프코어의 500조 매개변수용 하드웨어가 10엑사라고 하니까 단순계산으로 보면 1엑사당 50조 규모인데 메타의 RSC는 5엑사니까 최대 250조 규모가 가능하겠지. 엔비디아의 경우 FP8 기준으로 18엑사라고 하니 FP16은 9엑사쯤 되겠지. 매개변수로는 450조가 가능하거나 FP8로 정밀도가 떨어지는 대신 900조까지 학습시킬 수 있으려나...

[익명(49.166)]

인공지능에는 fp상관없다던데 정밀도

[익명(49.166)]

근데 이렇게플롭스높은 컴으로 훈련기간은 어느정도임? 한달되나

[익명(1.239)]

나도 잘 몰라. 근데 보통 내세우는 스펙들은 대체로 FP16인듯. FP8은 거대모델 학습속도를 높이는데 좋긴 한데 패널티가 정확히 뭔지는 모르겠다. 뭔가 잃는게 있겠지 연산정밀도가 낮으면

[익명(49.166)]

빨리출시해서 학습시켜보면 좋겠다 뭐가나올지