[일반] 백만토큰이 대단한거네

[피씨(220.86)]

백만토큰 쓰려먼 비램 120기가

이거 개인이 쓸 토큰량이 아니구나

[ㅇㅇ 1(169.211)]

4090 다섯 장만 있으면 되는데?

[피씨(220.86)]

그러지말고 그냥 잼민이 쓰자 ㅋㅋ

[익명(battery5752)]

모두 가정에 h100 2장씩은 있지않나요?

[피씨(220.86)]

줏어쓸 수 있는 가격대로 내려오면 좋겠다

[점심밥(yield0917)]

[특갤용(silent5244)]

그래도 저정도면 많이 낮아진거임

[ㅇㅇ 2(211.109)]

저것도 onnx에 vllm 이런 조합이면 32기가로 떡침

[ㅇㅇ 3(58.120)]

생각보다 싸네