이전 모델이 1000억 규모였으니까 10배만 해도 1조
인간 시냅스가 100조니까 1000배하면 휴먼스케일
이왕 조단위 넘어서는 거 100조까지 찍어보려 하는듯
10조 이상 모델 학습시키려면 현재 하드웨어로는 비용이나 학습시간이 많이 필요하다던데 OpenAI가 어느 정도의 슈퍼컴 가지고 학습 중인지 모르겠어. 멀티모달 모델이라 1조만 넘어도 엄청난 퍼포먼스 나올거 같은데 빨리 출시 좀 됐으면..
최적화만 잘 한다면 못할 것도 없다고 봄 openAI 짬이 있지
10조 이상 모델 학습시키려면 현재 하드웨어로는 비용이나 학습시간이 많이 필요하다던데 OpenAI가 어느 정도의 슈퍼컴 가지고 학습 중인지 모르겠어. 멀티모달 모델이라 1조만 넘어도 엄청난 퍼포먼스 나올거 같은데 빨리 출시 좀 됐으면..
최적화만 잘 한다면 못할 것도 없다고 봄 openAI 짬이 있지