[잡소리] 16B면 파라미터 적은편임?

[익명(landofooo)]

verilog HDL 생성모델 찾았는데

훨씬 더 잘 만들어진 것 보고싶다

애초에 근데 데이터셋이 많지 않아서 학습시 애로사항이 있을법하긴 하다만

근데 글탭이 애매하네 

[ERR0R(err0r2190)]

유머글에 올리면 지나가는 고수가 알려줄거임 - dc App

[익명(landofooo)]

오 근데 사람없지않나

[ERR0R(err0r2190)]

팩트로 때리지마 - dc App

[익명(landofooo)]

[ramune(jin073131)]

개적은거임. gpt-4가 170몇b인걸로 암 - dc App

[익명(landofooo)]

글쿠만 로컬에서 돌릴수 있나 돌려보고싶은데

[언어모델(iu6d7eybc3gs)]

16B면 qlora 적용하면 A6000에서 학습 될거 - dc App

[익명(landofooo)]

해보고싶은데 A6000이 없네... 4090이라도 사고싶다

[G갤러 1(221.150)]

막 그렇게 적은 건 아닌데;;; 윗댓글들 뭐지 LLM이면 16B 쪼끄만거 맞는데 Verilog HDL 목적만으로만 사용되는 모델이라면 나름 큰거임 어디서 본건지 논문이나 링크 좀 주면 더 알려줄 수 있음

[익명(landofooo)]

https://huggingface.co/shailja/fine-tuned-codegen-16B-Verilog
이건데 사이트에선 사이즈크다고 안돌아가더라고... 내가가진것도 하드웨어 딸려서 쓰고싶어도 못쓸듯

[G갤러 1(221.150)]

아뭐야 finetuned LLM이잖어;; 16B면 많이 멍청함

[G갤러 1(221.150)]

그리고 16B가 다른 LLM 모델에 비해 작다는 거지 돌리려면 얼마나 비싼데...;; 허깅페이스에서 당연히 안 돌아가지 도둑놈 심보야?

[익명(landofooo)]

첨해본거라그런데 도둑놈심보라니..