생각이 들어버림
애플실리콘 기기들이 통합램의 강점으로
새롭게 떠오른다고 함 이번에 M5이 엄청나게
LLM등 AI에서 성능이 좋아지면서 앞으로 잘하면
AI 온디바이스용 기기로 많이 팔릴 수도 있다고 생각함
애플은 진짜 미리 인텔버리고 애플실리콘으로 전환한 게
잘한선택이었음
생각이 들어버림
애플실리콘 기기들이 통합램의 강점으로
새롭게 떠오른다고 함 이번에 M5이 엄청나게
LLM등 AI에서 성능이 좋아지면서 앞으로 잘하면
AI 온디바이스용 기기로 많이 팔릴 수도 있다고 생각함
애플은 진짜 미리 인텔버리고 애플실리콘으로 전환한 게
잘한선택이었음
쿠다 없으면 그냥 병신임 amd가 힘 못쓰는 이유이기도 하고
추론용이면 크게 상관 없음
웤스용으론 나름 잘 나갈지도 모름 엔비 암드가 이쪽방면에 손 놓고 있는 건 아니라 어케댈진 봐야겟지만 경쟁력은 잇음
지금 다들 자체 설계하는 추세인데 굳이 애플 걸 쓸 이유가 없음 애초에 애플이 다른 회사에 칩을 팔만큼 재고가 남는 것도 아니고
@ㅇㅇ1(118.35) 애플이 칩을 타사에 판다는 게 아니라 애플실리콘 맥을 산다는 거지
@메론맛콜라가먹고싶어 개인이 ai 돌리려고 맥을 산다고? 그냥 엔비디아 digits 사고말지
MLX라고 애플도 만들어놓은거 있는데 성능 상당히 괜찮음
@ㅇㅇ1(118.35) 엔비디아도 만능은 아님 24GB 32GB V램달린 거 엄청 비싼 건 알테고 애초에 맥이 떠오른 이유가 통합램때문임 V램과 시스템램을 통합해서 사용할수 있어서 128GB램 모델을 사용하면 거의 120GB가까이 VRAM으로 할당하는 것도 가능함 200B 모델 이런 거 엔비디아로 돌리려면 꿈도 못 꾸는데 맥으로는 가능함
nvidia dgx spark도 128g까지 되고 여러개 병렬로 묶을수 있어
@ㅇㅇ 그러니까..
@ㅇㅇ1(118.35) 디지트 개쓰레기다. 그거 살자에 엔비디아 토르 사라
https://blog.comfy.org/p/comfyui-on-nvidia-dgx-spark
@ㅇㅇ 찾아봤는데 이거 통합램이긴한데 LPDDR5X임 대역폭 맥이랑 비교도 안되는 거임..
Dgx는 맥미니한테도 밀리는 창렬로 이미 판명남
그런데 벤치에서는 맥보다 잘나오던데
@ㅇㅇ 그니깐 그게 CUDA빨인 거고 M5는 M4대비 많이 좋아졌도 빨리 업그레이드되는편이니 기대 된다는 거지
근데 아직은 m5도 4070이랑 좋은 승부 하는 정도라서
아직 프로와 맥스는 나오지도 않았음 엔비디아는 2년마다 업그레이드 되는데 M시리즈는 1년마다 업그레이드 돼서 교체주기가 빠른 것도 장점
차라리 RYZEN AI MAX가 더 나아보이는데 벤치가 digits보다 잘나오는 결과도 있고 중국제 싼 미니pc사면 싸게 구할 수 있으니
라이젠도 가능성있어보임