사람 쓰는게 더 쌀 거 같은데
기업 채용 점차 또 늘지 않을까
인공지능도 결국 돈 앞에 가로막히게 되는건가 ㅇㅅㅇ
모든건 돈이여 ㅇㅅㅇ
@루도그담당(118.235) 돈내놔 ㅇㅅㅇ
ai를 포기하는게 아니라 로컬에서 돌리는게 더 주목받을 수도 있다고 봄 대형언어모델을 적은 vram으로 돌리는 방법들도 속속 나오고 있고
ㄹㅇ 이가
@루도그담당(118.235) 로컬에서 하면 느리긴 할거 같은데 아무튼 양자화부터 시작해서 꾸준히 방법들은 나오고 있는듯함 ai에게 "llm을 적은 vram으로 돌릴 수 있게 하는 방법"이라고 물어봐도 알려주고
지금 나는 클로드 맥스 쓰는데도 생산성 고려하면 저렴한 가격이라고 생각해 토큰이 얼마나 비싸질지는 알 수 없는 노릇이지만 아무리 그래도 사람 인건비 보다는 저렴할 거라 생각해
모든 건 비용의 문제다 단순히 돈이 필요한 것 뿐만 아니라 (절감의 문제까지 ← 요새 제일 흔함)
인공지능도 결국 돈 앞에 가로막히게 되는건가 ㅇㅅㅇ
모든건 돈이여 ㅇㅅㅇ
@루도그담당(118.235) 돈내놔 ㅇㅅㅇ
ai를 포기하는게 아니라 로컬에서 돌리는게 더 주목받을 수도 있다고 봄 대형언어모델을 적은 vram으로 돌리는 방법들도 속속 나오고 있고
ㄹㅇ 이가
@루도그담당(118.235) 로컬에서 하면 느리긴 할거 같은데 아무튼 양자화부터 시작해서 꾸준히 방법들은 나오고 있는듯함 ai에게 "llm을 적은 vram으로 돌릴 수 있게 하는 방법"이라고 물어봐도 알려주고
지금 나는 클로드 맥스 쓰는데도 생산성 고려하면 저렴한 가격이라고 생각해 토큰이 얼마나 비싸질지는 알 수 없는 노릇이지만 아무리 그래도 사람 인건비 보다는 저렴할 거라 생각해
모든 건 비용의 문제다 단순히 돈이 필요한 것 뿐만 아니라 (절감의 문제까지 ← 요새 제일 흔함)