[일반] TPU가 쩔긴 쩌나본데

[익명(119.70)]

트위터에서 우연히 본 사진인데
출처: https://x.com/Jukanlosreve/status/1943384440451010626/photo/1

LLAMA 3.1-400B를 학습하는데 드는 칩 값(노란색)이랑 전기세(파란색)라는데

엔비디아의 폭리가 없으니 가성비가 미쳐날뛰네

[익명(finished8146)]

저렇게 단순히 볼 수가 없음 엔비디아 말고 tpu나 다른 gpu 쓰는 순간 인프라 세팅이나 백엔드 구축에 드는 비용은 칩 값보다 훨씬 큼 그리고 구글 tpu는 공개된 자료도 적고

[글쓴 ㅇㅇ(119.70)]

뭐 맞기는 함 엔비디아가 괜히 회사 차원에서 먼저 슈퍼컴퓨터 만들어서 '야 잘돌아간다' 인증해주고 파는 건 아니니

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[글쓴 ㅇㅇ(119.70)]

물론 거저는 아니겠지만 장기적으로는 훨씬 낫다 생각하기는 함 엔비디아가 워낙 많이 남겨먹기도 하고 하는 거 보면 앞으로도 더 많이 남겨먹을 것 같아서