이게 실제로 로컬AI안돌려본사람들은 영상이 얼마나 연산자원 소모하는지

[썬컷5.4(here5502)]

감을 못잡는듯

짤 20장이 영상 5초랑 비빈다고 해야 이해하려나

그것도 gguf로 최대한 양자화해서 줄인걸로

[하늘바라기(function8845)]

최고퀄 짤 20장 = 그냥 영상 5초

[p치스(peaches1350)]

[gozaus(gozauss)]

양자화는또머임ㄷㄷㄷ

[썬컷5.4(here5502)]

용량 줄이는 기술 있음

[썬컷5.4(here5502)]

@썬컷5.4 약간의 성능 저하를 감수하고 모델 용량을 극적으로 줄여버릴 수 있음. 예를 들어 큐웬 27b 모델은 대충 57gb정도인데 Q4_M정도로 양자화하면 성능의 90%정도를 유지하면서(벤치상 주장) 16gb정도로 줄여짐

[미야악(miyaku)]

사실 영상자체가 이미지의 연속이기도 하고 그걸 안일그러지게 연속적으로 해야하고

[SEELE(rareal)]

내가 집에서 로컬 돌리는데 한 장에 대충 2, 3분은 먹는ㄷ

[썬컷5.4(here5502)]

1024*1024에 업스케일링 2배 먹임? 3060샤로 그렇게 돌리면 대충 그정도 나올텐데

[썬컷5.4(here5502)]

1.5배정도로도 충분히 크니까 1.5배로 해봐

[SEELE(rareal)]

@썬컷5.4 에ㄷ 그치만 2배퀄이 아니면 만족이 안 되는ㄷ

[썬컷5.4(here5502)]

@SEELE hiresfix를 배율 낮게 잡는 대신 디테일러를 돌리라고