[일반] 폐쇄 환경에서 쓸수 있는 ai있음?

[익명(minor3191)]

ai 활용해서 문서작성같은거 어시스트 써보고 싶은데

보안이 중요해서 인터넷 환경은 아님

대신 하드웨어나 서버구축은 따로 할수 있을정도로 예산이 있음

[익명(114.202)]

잇는데 인터넷 환경이면 로컬로 돌려야하는거잖아 아무리 서버구축해도 성능이 구린 건 어쩔수가 없음 돌리는 서버가 문제가 아니라 애초에 패러미터도 적고 데이터도 적은거라 학습의 수준이 달라

[익명(114.202)]

*인터넷 환경이 아니면

[익명(minor3191)]

역시 어렵구나 고마워...

[익명(119.207)]

라마 7b 성능은 구림

[익명(minor3191)]

있긴 있구나 일단 테스트는 해봐야겠다 고맙따리

[콜라조무사(tkatjdrhdghkrnr123)]

진짜로 제대로 써먹으려면 라마3 400b 기다리고 그걸 양자화 없이 돌릴수있어야함