머숨 머숨들의 휴식공간
전체 베스트 최근 ⚔ 토론장

[일반] 405B m2 맥스튜디오 후기 ㄷㄷㄷ

익명(121.190) 2024-07-31 16:27:00 추천 2

m4 칩 기반으로 내년에 나오면  405b  Q4 는 쉽게 돌리겠네 



https://www.youtube.com/watch?v=_9vP7CS3TI4

Llama 3.1 405B 4bit running on 2 m2 ultra cluster

Sharding Llama 3.1 405B 4bit via mlx-sharding over 2 m2 ultra.

www.youtube.com



댓글 5

  • M2에 천만원태우는놈이잇내

    익명(orangestar1122) 2024-07-31 16:32:00
  • 답글

    연구원이겠지

    익명(121.190) 2024-07-31 16:34:00
  • 답글

    연구비로 쓰는 거면 내돈 아니지

    mendako(symptom5559) 2024-07-31 17:42:00
  • 자세히 보니 m2 울트라 2대 연동해서 돌리네 ㄷㄷㄷ

    익명(121.190) 2024-07-31 16:44:00
  • m4 extreme 나오면 쩔겟네

    익명(59.8) 2024-07-31 18:38:00

다른 게시글

  • 알파프루프 내기 전에 지미애플이 수학 관련 트윗 했었지?

    [일반] 익명(220.127) | 24.07.31
    추천 1
  • 2030년대생들은 성인되도 결혼 아예 안하고 애도 안낳을듯...

    [5]
    [일반] 익명(61.35) | 24.07.31
    추천 0
  • 보이스모델 늦게 내는게 짜치지만 그래도 oai가

    [2]
    [일반] 익명(175.199) | 24.07.31
    추천 0
  • 구글이 이번에 올림피아드에서 쓴 알파지오메트리2 성능

    [2]
    [일반] 익명(175.199) | 24.07.31
    추천 1
  • 샘알트만 vs 구영배

    [1]
    [일반] xmr(1.220) | 24.07.31
    추천 0
  • 팩트는 12월에 앤트로픽 신모델이 나온다는거임

    [3]
    [일반] 익명(hell4911) | 24.07.31
    추천 0
  • 특갤 수준이 심각한건 알겠음 ㅇㅇ...

    [9]
    [일반] 익명(1.240) | 24.07.31
    추천 0
  • 팩트) 보이스는 구글에서도 이미 개발 중임

    [10]
    [일반] mendako(symptom5559) | 24.07.31
    추천 1
  • 확실히 하사비스가 최고야

    [1]
    [일반] 익명(112.133) | 24.07.31
    추천 1
  • 이번 보이스 공개로 여기애들 희망회로 개박살 났을듯

    [3]
    [일반] 익명(1.224) | 24.07.31
    추천 1
목록으로