A100 이상 글카를 써야하는데
1대 1시간 대여료가 대충 2달러임
아니면 사서써야하는데 대당 수천만원이고
그런게 최소 수천대 필요하고 최소 3주는 돌려야함
프론티어 모델 얘기하는거 아니고 최소임 ㅇㅇ
익명(w1bxkomq1y2o)2024-03-22 12:23
답글
양질의 데이터 얻기위한 인건비나 전기세까지 생각하면 따따블이지
익명(w1bxkomq1y2o)2024-03-22 12:24
파라미터 수조개 모델 돌리기 위한 데이터 센터(심지어 반도체 성장세가 미쳐서 우위 점하려면 매번 업글 해줘야함)
어지간한 공장보다 많이 소모되는 전력이랑 냉각수(미국 전체 전기 소모 5% 이상을 AI 데이터센터가 먹는다는 연구결과도 있음, 내년엔 15% 가까이 될 예정)
평균 연봉 10억대는 우스운 AI 전문 인력 수십명
이외에도 학습을 위해 데이터 라벨러 등 많은 인력이 필요함
익명(211.220)2024-03-22 12:26
전기세랑 서버가 어마어마하게 많이 들음
익명(115.161)2024-03-22 12:42
데이터센터가 하늘에서 뚝 떨어지진 않으니까. 유지하는 거랑 전기비, 연구원 인건비, 각종 운영비 등도 많이 나갈 거고.
전기세가 비율이 좀 크지 - dc App
그 학습에 쓰이는 데이터센터부터 가격이 어마어마함
아 학습비용이 데이터센터 가격도 포함이었음?
하드웨어비용 에너지비용 냉각비용
엔비디아가 씹좆비싸게 팔아서 많이듬 - dc App
이게 마따 황회장 욕심쟁이련
A100 이상 글카를 써야하는데 1대 1시간 대여료가 대충 2달러임 아니면 사서써야하는데 대당 수천만원이고 그런게 최소 수천대 필요하고 최소 3주는 돌려야함 프론티어 모델 얘기하는거 아니고 최소임 ㅇㅇ
양질의 데이터 얻기위한 인건비나 전기세까지 생각하면 따따블이지
파라미터 수조개 모델 돌리기 위한 데이터 센터(심지어 반도체 성장세가 미쳐서 우위 점하려면 매번 업글 해줘야함) 어지간한 공장보다 많이 소모되는 전력이랑 냉각수(미국 전체 전기 소모 5% 이상을 AI 데이터센터가 먹는다는 연구결과도 있음, 내년엔 15% 가까이 될 예정) 평균 연봉 10억대는 우스운 AI 전문 인력 수십명 이외에도 학습을 위해 데이터 라벨러 등 많은 인력이 필요함
전기세랑 서버가 어마어마하게 많이 들음
데이터센터가 하늘에서 뚝 떨어지진 않으니까. 유지하는 거랑 전기비, 연구원 인건비, 각종 운영비 등도 많이 나갈 거고.