GPT-4o에게 물어봤는데

블랙웰 B100으로 학습하면

H100에 비해

이론상 추론 속도 30배, 토큰 비용 25배 감소, 전력 효율 25배 개선 학습속도 2배 이상 개선
정도인데

현실적 기대치론


추론:10~15배

토큰 비용 감소:5~10배

전력 효율 개선:6~12배

학습 속도:1,5~1,8배

으로
종합적 성능 판단을 하자면

1.정확도
2.속도
3,비용
4.처리 량
5. 모델 크기 , 파라미터 수 대비 효율

다 합쳐서 전체적으로

호퍼 H100으로 학습한 GPT-4 대비 6~10배의 수준의 실질적 성능 향상을 보인다 함

(같은 갯수로 학습한 경우)

실제로 6~10배 성능 향상이라 추측하는데 좋지 않음?

난 대만족할듯

- dc official App