[일반] 혹시 LLM에 대해 좀 아는 사람??

[ㄹㅇ(133.106)]

만약에 지금 GPT4 코드 다 풀어주면


개인이 그거가지고 검열같은거 커스터마이징하는거 가능한가?
아니면 그정도하는것도 전ㅡ공자수준으로 공부해야됨?

[익명(210.113)]

하드웨어 딸려서 개인이 못돌림

[ㄹ(133.106)]

조금 경량화해서 4090정도로 돌릴수있게한다 치고 ㅇㅇ;

[ㅇㅋ(59.9)]

택도없음

[ㄹ(133.106)]

아니 꼭 GPT4 아니더라도 GPT3.5나 그것보다 경량이라고 치고...

[익명(219.249)]

gpt는 택도없고 로컬용 오픈소스쪽 알아보셈

[익명(39.119)]

제한하는 부분은 LLM 아키텍처와 관련된 게 아니고 그냥 inference 과정에서 별도의 제한 코드가 삽입된 정도일텐데 그거는 그냥 프로그래밍 스킬만 있으면 가능할듯

[김규진(erd7nf4lpe3)]

짧은 지식으로 이것저것 하는거 가능함

[김규진(erd7nf4lpe3)]

근데 위에 누가 언급했듯이 초고가의 그래픽카드로 돌려대야 겨우 쓸만한 정도로 돌아갈 수준이라서

[익명(211.214)]

응 그거 전공자 수준임 전공자들 중에서도 석박 이상은 돼야지 일반인은 택도 없어. 그리고 openai에서 굴리는 글카가 nvidia a100 1만개였나?