그래도 써볼수만 있으면 오케입니다
18000b 이게 말이되는 사이즈인가 .?
GPT-4.5가 당시에 5(orion)으로 불렸던 모델이 풀리는건데 당시 공식 비교사진을 보면 거의 정확히 GPT4의 10배 크기였음 - dc App
이미 2023년에 100배 모델도 개발했음 ㅋㅋ
해당 댓글은 삭제되었습니다.
말도 안되는 소리같겠지만 순수 체급으로 기존 추론모델들 뺨때기 날리는 성능일 수도 있지 - dc App
저 사이즈면 프로구독자도 한도매기겠는데?
프로 사용자는 하루 100회는 쓸 수 있겠지 - dc App
말도 안되는 소린게, 18000B면 bf16 단순 계산해도 1명에게 응답하는데 H100 550개가 필요함.
H100 550개면 대략 220억원임
알트만이 0.5 올라가면 10배 스케일이랬고 공식 고래짤도 있잖아 - dc App
참고로 4o가 150~200b 수준임.
저정도면 기업 전용으로만 그것도 한도 칼같이 해서 풀어야할듯
그래도 써볼수만 있으면 오케입니다
18000b 이게 말이되는 사이즈인가 .?
GPT-4.5가 당시에 5(orion)으로 불렸던 모델이 풀리는건데 당시 공식 비교사진을 보면 거의 정확히 GPT4의 10배 크기였음 - dc App
이미 2023년에 100배 모델도 개발했음 ㅋㅋ
해당 댓글은 삭제되었습니다.
말도 안되는 소리같겠지만 순수 체급으로 기존 추론모델들 뺨때기 날리는 성능일 수도 있지 - dc App
저 사이즈면 프로구독자도 한도매기겠는데?
프로 사용자는 하루 100회는 쓸 수 있겠지 - dc App
말도 안되는 소린게, 18000B면 bf16 단순 계산해도 1명에게 응답하는데 H100 550개가 필요함.
H100 550개면 대략 220억원임
알트만이 0.5 올라가면 10배 스케일이랬고 공식 고래짤도 있잖아 - dc App
참고로 4o가 150~200b 수준임.
저정도면 기업 전용으로만 그것도 한도 칼같이 해서 풀어야할듯