[일반] 10^20 FLOPs = 50,000 H100s

[익명(121.158)]

https://x.com/nearcyan/status/1719133004101259649?s=20

this is how I came up with "50,000 H100s"

obviously adjust the calculations accordingly pic.twitter.com/GpmRGMbPYl

— near (@nearcyan) October 30, 2023

H100 하나당 2000 테라플롭스로 잡고 계산(fp16)

현재는 2개의 회사만이 이 기준을 충족하는 클러스터 보유중

[부패하는유전자!!!(sansss2015)]

h100이 2000테라플롭스라고...?

[익명(121.158)]

피크 성능 말하는거라 실제론 그거보단 좀 떨어질듯

[익명(14.6)]

h100 fp16 2페타 맞음 tf32가 1페타고

[부패하는유전자!!!(sansss2015)]

[이 댓글은 게시물 작성자가 삭제하였습니다.]

이 댓글은 게시물 작성자가 삭제하였습니다.

[이 댓글은 게시물 작성자가 삭제하였습니다.]

이 댓글은 게시물 작성자가 삭제하였습니다.