[%] 엔비디아 칩이 ai에 필수는 아님?

[지피지기(knon0501)]

앤트로픽이 gpu 안쓰고 tpu쓴다던데

[노는게제일좋아(aig0016)]

범용적으로 가장 좋은 선택지 아님? 비싸고 기다리는 거 꼬우면 딴 거 쓰는 거지

[익명(143.248)]

GPU 전공 대학원생임. 필수는 아닌데 전반적으로 가장 좋은 건 맞음. TPU가 전력 효율이 좋다는 말도 있는데 그게 하드웨어 사용률이 잘 나올 때 얘기고, 요즘 LLM 추론같은게 온갖 최적화 기법 생기고 복잡해져서 그래프로 딱 깔끔하게 컴파일이 안되는 경우도 많음.

[개추34댓22(2xvkdqoe893r)]

엔비디아것보다 자체 하드웨어가 좋으려면 일단 하드웨어값이 절반이여야 고려할 가치가 생김. 생태계가 약헤서 삽질하기 때문에 gg - dc App