엑사 스케일 구축한 테슬라, 메타만 봐도 코랩 프로의 1000000배 성능이야.
걔네가 1달 걸릴 거 코랩으로는 8만3천년 해야된다고
위키백과 FLOPS#cost_of_computing 보면 gflops당 0.04달러인데,
이거로 엑사급을 맞추려면 481억이야.
뿐이야? 2027에 만들어질 인텔 제타스케일 컴퓨팅은 어떻고.
그걸로 1달 할 일이면 엑사팟으로도 83년 4개월을 해야돼.
지금 코랩 프로로 1년 돌릴 거? 0.0315초면 끝남 ㅋㅋㅋ
이야, 초당 31번은 할 수 있겠네 ㅋㅋ 이쯤이면 레이턴시가 더 길지 ㅋㅋㅋ
지금부터 계속 코랩 돌려도 제타컴으로 0.2초컷임 ㅋㅋ
지금 시작해서 모델 하나에 일주일 걸려가며 학습하는 사람들이나
그때 시작해서 모델 하나에 컴파일된 C언어 프로그램 급으로 학습하는 사람들이나
실력차이는 거기서 거기일거라는게 개 빡치는 부분임 ㅋㅋ
일반 연구원들은 마이크로소프트 싱귤러리티가 싸게 나오기를 바라는 수 밖에 없어.
기도메타 가즈아 ㅋㅋ
지금 연구하는 논문들은 컴퓨터 램 128기가 할 때 명령어 하나 줄이려고 1년씩 고민하던 사람들이랑 다를 바 없는거임 ㅋㅋ
스케일링이 미래다
예전에 마리오에서 용량 맞추려고 나무랑 수풀 같은 스프라이트로 만들고 컬러 팔레팅으로 사용하던 거 생각나네 ㅋㅋ 그때 얼마나 기상천외한 트릭들이 넘쳤는지 암? 그게 모두 채신기술이였다구
그게 지금으로부터 딱 40년 전임 ㅋㅋ
나무랑 수풀이래 ㅋㅋ 나무랑 구름임
https://pgr21.com/humor/367474
기가 => 킬로 ㅋㅋㅋ 아무래도 이 글 쓸때 정신이 나갔나봄
ㅈㄴ 널널하네 생각했던중 ㅋㅋㅋㅋ - dc App
솔직히 내가 개발자중에서도 -근본- 소리 듣는 PS러인데, 일 하면서 DP 한 번 써 본 적 없음 ㅋㅋㅋ 심지어 요즘 메타는 웹브라우저 베이스 개발이잖아 ㅋㅋ 이 무슨 성능 낭비란 말인가.
그런데 이런 말 하면 주변 사람들 피식 웃고 지나감. 모두 알거든. 이딴 소리보다 개발 기간 짧은게 훨씬 중요하다는 걸 말이야 ㅋㅋ 딥러닝도 똑같을거야. '그깟 모델 하나 더 배워서 뭐한담 ㅋㅋ 자원 부어서 개발 빨리 하는게 이득임'하는 날이 올거다
<너도 언젠가는 늙은이가 될게다> - 베르나르 베르베르 '나무', '황혼의 반란' 마지막 문장
딥러닝 자체가 통계를 회피할라고 계산이랑 데이터에 의존하는거 아님?
그러면 딥갤이 왜 있겠냐? 지금은 레이어 하나가 아쉬워서 모델에 의존하니까 그런거지 - dc App
글쎄; 결국 그 큰 자원 효과적으로 쓰려면 학계 연구가 뒷받침이 되어야 한다고 생각함 100억짜리 장비 대충 생각나는 구조 아무거나 테스트 하는데 한달 못 쓰잖아... 기존에 발표된 논문에서 검증된 방법론을 더 발전시키는데 기업인거지