나머지 대기업들도 싹다 gpt api 쓰던데 순수 모델 연구하는 곳이 있을려나.
30b 짜리 모델 연구하는데만해도 대충 계산하면 이렇게 아님?
30b * 32f * 4(param + sgd momentum) /8bit = 480vram인데
한번 학습하는데 필요한 A100 80GB 짜리 5개 필요한거 아님?
거기가 여러 방향으로 연구 진행해볼려면 적어도 30개는 있어야할테도 A100 80이 3000인거 계산하면 9억 정도가 필요한데 이미 이 선에서 부터 돈이 너무 드는데. 거기다 유지비용도 많이들고 대기업 넘어가면 100b 도 그냥 넘어갈거고 그럼 H200짜리나 B200짜리도 필요할텐데 대기업 말고 순수 모델 연구 가능한곳이 있는지 궁금함
우리 대표는 AI 대표 기업 만들어자고 순수 모델 연구 하자 하다가 예상 비용 1000억 보고 아가리 닥치고 Gpt api 사용하자던데 도대체 다들 어떻게 Research 가는거냐
대기업 RD도 순수 모델 연구는 커녕 RAG 연구하는데 이럴줄 알았으면 비전을 갔어야 했나.
도대체 다들 RD나 RESEARCH 취직하면 어디로 취직함?
뤼튼이 아니라 업스테이지 아님?
맞네 업스테이지도 있네
하이퍼클로바는 노력은 가상한데 나머지는 왜넣었냐? 뤼튼이 연구를 한다고? 삼통사 따위가 모델 연구를 해?
그럼 뭐 소꿉장난임?
그럼 아니냐? 남들 다 아는걸로 파인튜닝 해놓고 벤치딸딸이 치는게 소꿉질이지
그것도 안하는곳이 널렸는데 말해 뭐함.
튜닝도 안하는곳이 천지인데
삼성 함 - dc App
내가 하고픈 말은 그게 맞냐는 거임. 그렇게 손으로 셀수 있을만큼 기업수가 적다는게 문제라는거임
한해 쏟아지는 Ai석사들이 몇명인데 그런 탑티어군 대기업만 Research 자리가 얼마나 있다고.
뤼튼도 gpt api아니냐 - dc App