[일반] 맥 32gb로 gemma 26b돌아가긴함 ?

[익명(124.51)]

이번에 wwdc때 떨이나오면 32gb 하나 살까싶은데 

[ㅇㅇ 1(112.154)]

32gb든 64gb든 양자화하면 돌아가고 안하면 안 돌아가는 거지. 64gb도 26b fp16으로는 돌리기 힘듦

[글쓴 ㅇㅇ(124.51)]

그정둔가.. 그럼 그냥 포기데스

[익명(mediate2590)]

대역폭뺨한대 맞아보면 울부짖으며 지피티한테 엉덩이나 흔들거임

[글쓴 ㅇㅇ(124.51)]

포기ㅠㅠ