[일반] 128GB VRAM 상품들이 하나둘 나오고있지

[익명(orangestar1122)]

옛전에는 맥에 금칠한 통합메모리 풀업글때리는게 유일한 선택지였지만

GB10 미니PC 라던가 라이젠 AI MAX 통합메모리라던가 VRAM 확보할방법이 많이많이 늘고있음

근데 저거 램 때려박으면 모션그래픽작업이나 홈서버정돈 쓸수있겠지만 솔직히 어지간한사람들은 AI만을 위해서 사는걸텐데

가성비가 끔찍한건 둘째치고 대역폭이슈로 속도도 안나올것같은걸

저는 아무리봐도 로컬AI는 보안 외에 무슨용도가있는지모르겠삼

[익명(119.70)]

로컬로 맛깔나게 굴릴라면 DGX STATION정돈 사야하지 않을까 솔직히

[특특이(ehdehddlfks)]

진짜 그냥 "나만의 AI" 라는 상징성 말고는 장점이 없긴하지

[fewweekslater(slim4567)]

개인만족의 영역

[ㅇㅇ 1(59.29)]

근데 일반인이 체감할 수 있는 최대 성능이랑, 인류 혹은 기업이 체감할 최대 성능은 달라서.... 로컬로도, 일반인의 최대 성능이 나오기만 한다면 그때 본격적으로 보편화 될 것 같긴 함. 물론 아직 한참 남은 것 같고, 아키텍쳐 혁명이 일어나면 또 달라질수도 있고

[익명(fine0748)]

뭐 시도 자체에도 의의가 있고 점차 나아질거라고 생각함

[리루파(sktkdqls2)]

128만 되도 80b 모델 거뜬히 돌리는데 개인들은 로컬을 탈옥딸숭이들도 많이 쓰고 개인 변호사들이나 이런데서도 많이 쓸듯 사실관계만 넣으면 딸깍 한방에 고소장 변론서 뭐 이런거 다 나오니까. 고객 민감정보도 업로드 안해도되고. 자영업자들은 다 로컬써서 손해볼일이 없음.