[일반] 그런데 parameter 수 7t가 좀 많은 편이냐

[딥삣삐(211.224)]

gpt한테 물어봐도 안 가르쳐 줄려고 하고 다른데 가서 물어봐도 안 가르쳐 줄려고 하네

그것하고 별개로 7t짜리 multimodal model은 만들거

[딥삣삐 1(126.194)]

gpt5.1 parameter 개수는 공개된 적 없지만 7t보다 무조건 작음

[글쓴 딥삣삐(211.224)]

그래도 7t짜리는 무조건 만들려고

[딥삣삐 1(126.194)]

ㅇㅇ ㅎㅇㅌ ㅋㅋ

[익명(175.236)]

작성자만 대답해봐 근데 7t가 숫자로 몇임?

[글쓴 딥삣삐(211.224)]

7 trillion 7조개

[익명(175.236)]

화이팅!

[익명(124.197)]

실행에 옮기지도 않을 거면서 똥글은 왜 자꾸 쓰는 거임

[글쓴 딥삣삐(211.224)]

시도는 해 봤는데 자꾸 에러만 떠서 내가 파이썬 에러 해결할 능력도 안 되서

[익명(124.197)]

@글쓴 딥삣삐(211.224) 근데 어쩌라고

[익명(sled3916)]

파이썬 에러 해결할 능력도 안되는데 어떻게 쳐 만들려는거임 - dc App

[익명(112.121)]

돈 많아?

[글쓴 딥삣삐(211.224)]

돈 없는데

[익명(118.235)]

8b만해도 bfloat16 모델 메모리에 올리는데만 16gb 쓰이는데 7t면 대충 천배정도 더 쓰이겠지? 니가 컴퓨터 램값 vram값으로 16tb를 써야한다는 뜻이니 잘 해봐라

[딥삣삐 2(49.164)]

GPT4이후로 파라미터 1조개 넘었을 거란 추정만 있는데 혼자서 빅테크의 7배짜리 모델을 돌리겠다고... 화이팅!

[딥삣삐 3(60.69)]

GPT한테 7T parameter LLM을 학습하고 싶은데 chinchilla optimal한 데이터 토큰 수랑 학습에 필요한 FLOPS가 어떻게 되는지 질문하고, 이걸 2달 안에 학습 끝내려면 MFU40% 기준으로 H100 몇장이 필요한지 물어봐라.