???? 맥북으로 학습을 돌린다고?

[익명(betabyte7)]

실화임? Cuda 지원안해줘서 학습속도 개처참할텐데;

[익명(211.234)]

걍 파이토치 쓰지

[익명(betabyte7)]

파이토치랑은 전혀관련없음 Cuda 내부에 트랜스포머 계열 행렬연산처리 최적화가 있음 rtx3000번대부터 그게 탑재됐고 그래서 학습속도차이가 그냥 어마무시하게 차이남 맥북은 학습용이 절대네버아님

[익명(betabyte7)]

심지어 맥북은 bf16도 지원안하지않나 애초에 이제 맥북은 저무는 노트북임

[익명(211.234)]

GPU값 폭등하고 램값 폭등하고 노트북으로 학습 돌리려면 맥북이 통합 메모리라 나음 그것보다 더 좋은 성능 원하면 처음부터 노트북을 안썼을거고

[익명(betabyte7)]

절대아님 ㅋㅋ 학습속도만 10배넘게차이남 ㅋㅋ

[익명(211.234)]

bf16 fl16 차이가 많이남? 많이 안나면 fp16쓰면 되지

[익명(211.234)]

Apple M2부터 bf16 지원하는데

[익명(betabyte7)]

엄청차이남 그리고 그뿐만이 아님 파편화방지같은 vuda 생태계에서만 쓸수있는게 진짜 차이심함 l4 <-> a100 40gb 차이만 봐도알수있음

[에이도비(edit2mkv)]

10배까진 안나. 그 정도까지 가려면 정밀도 희생을 해야 나지