[%] 니들 llm 껴가지고 서비스하는거있음?

[익명(115.94)]

코드짜는거말고 서비스에 적용하는거

속도도 속도인데 지피티든 잼민이든 가격 ㅈㄴ사악한거같은디

이게맞나

[노는게제일좋아(aig0016)]

저성능이 아닌 이상 llm 서비스 직접 구축하는 것 보다는 저게 훨씬 저렴할텐데...

[엘리시아JS(182.231)]

그래픽카드 vram , ai 모델 파라메터 양 , 개인이 흡족할정도로 박을꺼면 최소 500이상임 다만 특정 서비스에 집중적으로 사용하게된다면 vram 모델 타협하고 교육시키면 되긴하지만 유치원생 정도 지능 가진 AI 탄생이됨 , 이걸 서비스에 적용하게되면.. 답이없다는결론 결국 전자로 돌아가지만 이 또한 서비스에 적용하게되면 속도때문이라도 최소 5천 이상은 들지않을까싶다