본문 바로가기
숨터 가볍게 읽는 공간
이미지 차단
전체 베스트 최근
← thesingularity 게시판

[일반] 라마 3 하드웨어 요구사항이 레딧에 있던데

익명(210.178) 2024-04-25 02:01 추천 0
https://www.reddit.com/r/MachineLearning/comments/1cb3ge1/d_how_to_and_deploy_llama_3_into_production_and/

디스크 16GB

VRAM 20GB

내가 컴알못이라 그런데 어떤 글카가 필요해?

그리고 저런 컴터면 얼마면 돼? (본체만)


댓글 9

  • V램 20기가짜리 글카가 있나?ㄷㄷ

    익명(118.235) 2024-04-25 02:03
  • 답글

    4090

    익명(223.38) 2024-04-25 02:06
  • 답글

    ㄴ 대충 글카만 300만원이네

    익명(210.178) 2024-04-25 02:08
  • 답글

    ㄴ 외장형은 310만원

    익명(210.178) 2024-04-25 02:09
  • 7900xt가 비램 20기가네 근데 암드여도 됨??

    익명(218.155) 2024-04-25 02:40
  • 그건 8b 버전이고 70b는 160gb vram 필요하다 함 ㅋㅋㅋ 현실적으로 거의 불가능

    익명(115.138) 2024-04-25 02:56
  • 답글

    양자화 하면 35gb정도라서 4090 2대 정도면 돌린다는 카더라는 보긴 했는데, 당연히 넘겨버림 ^오^

    익명(175.206) 2024-04-25 05:47
  • 젤 꾸진라마면 4090하나고 더 좋은 라마면 못돌림

    익명(115.143) 2024-04-25 05:23
  • 뭘 할건데? 그냥 가지고 놀 거면 굳이 FP16으로 돌릴 필요가 있나?

    익명(61.73) 2024-04-25 11:38

다른 게시글

  • 제미니 얘는 강점이 뭐임? [5]
    [일반] 익명(175.212) | 24.04.25
    추천 0
  • 미국에서 도입된 새로운 초당적 AI 법안
    [일반] 익명(116.120) | 24.04.25
    추천 2
  • 미래꽃 트윗 한잔 들이키고 잘까? [3]
    [일반] 익명(112.144) | 24.04.25
    추천 0
  • 내가 왜 특이점을 바라는지 알음? [4]
    [일반] 익명(59.9) | 24.04.25
    추천 5
  • (유사)완몰가의 순차적 미래 예측 [1]
    [일반] 익명(116.38) | 24.04.25
    추천 4
  • 여기는 특이점 달라고 땡깡부리는 곳이고 [7]
    [일반] 익명(1.237) | 24.04.25
    추천 7
  • 현재 AI는 그냥 자동구글링 수준인듯 [2]
    [일반] 익명(lead4935) | 24.04.25
    추천 0
  • 아무 희망없는 미래였으면 죽어도 안억울할거 같은데 [9]
    [일반] 익명(59.9) | 24.04.25
    추천 0
  • 언제오는거야..? 특이점 [16]
    [일반] KURO(sister5176) | 24.04.25
    추천 3
  • 여기에 왜 로컬돌리는얘가 없음? [12]
    [일반] 갤럭시빠(zkgxjfsgkxjrzkhc648) | 24.04.25
    추천 0
목록으로
읽기 전용 미러