맥 스튜디오로 사람들이 하려던 것을 완벽히 지원하는 시스템임


CPU와 GPU가 공유하는 RAM이 128GB

이 정도면 80b대 모델을 정확도 손실 마지노선 급인 fp8으로 돌릴 수 있는 수준임


NVIDIA에 의하면 2대 병렬 연결까지 지원한다고 하는데

그럼 200b대 모델도 돌릴 수 있음

ChatGPT의 답변속도의 절반 정도에 해당하는 15tok/s까지 가능하다고 함


참고로 블랙웰 96gb에 80b짜리 모델 올리면 30tok/s정도 나온다 (2천만원)