나는 요즘 이런 식의 대화들을 점점 더 자주 보게 된다.
“당신은 A100에서 실험을 돌렸죠. 하지만 H100이나 블랙웰에서는 그 문제들이 그렇게 심각하지 않습니다.”
또는 “오래된 하드웨어에서의 평가 결과는 성능이 떨어져서 이제는 실제 프로덕션 환경에 맞지 않습니다.”
이런 말을 들으면, 오늘날의 머신들이 5년 이상 유효하기는 어렵다는 생각이 든다. 감가상각 비용도 급격히 늘어날 가능성이 있다.
더 중요한 점은, 학계와 산업계의 격차가 계속 벌어질 것이라는 것이다. 학계가 수백만 달러짜리 컴퓨팅 자원을 가지지 못한다는 이유만으로, 그 연구 결과들이 산업 현장에서 즉시 활용되지 못하게 된다면 말이다.
그런 이유로
학계 연구 결과도 의미 없어짐
근데 gpu가 보통 산업계가 학계보다 몇배는 많잖아 미국 국립연구소 제외하면 지금도 슬슬 연구에 도움되는데 그럼 앞으론 산업계에서 진행하는 연구 or 밀어주는 연구 개발속도가 훨씬빠르겟네
몇배 수준이 아니고 몇백배에서 몇천배 수준임
gpu가 중요하면 그록이 그 모양이겠냐
그록4 쓸만한데?
GPU 중요하긴한데 만능은 아님 그랬으면 그록이 나머지 다 씹어먹고 1등했겠지
gpu가 중요했기 때문에 여기까지 따라올 수 있었던 거임
그록4에 투입된 컴퓨팅이 gpt5를 넘어섰는지는 모르지 아 물론 연구원들 실력도 중요하지
이거 일리야가 한 말 있음
정작 메인스트림 모델들은 경량화되고 있는 추세임. gpt4 시절만 해도 1~2T 정도하던게 200b 정도로 줄었고 그정도 파라미터에서 계속 발전하고 있음.