[📪정보] 맥미니 정리

[익명(economy0682)]

1. 지금 맥미니 대란 왜 일어남?

요즘 핫하다는 openclaw(구 moltbot) 쓰기에 좋다는 이야기가 퍼졌음.

몰트봇 개발자가 애초에 맥으로 쓰고있는거같기도 하고 맥미니 자체가 가성비좋기도 하고

2. 근데 왜 사지말라함?

"몰트봇을 돌리기 위해서 맥미니를 사겠다" 라는 사례가 많이 보이기 때문

몰트봇같은 작은 앱은 맥미니수준의 수-퍼 파워가 전혀 필요가 없음. 초스피드 동영상 렌더링 기능을 얘네가 쓸일이 있겠음?

맥미니가 필요한 사람들은 애초에 가성비제품이었기 때문에 진즉 가지고있었을 테고 맥미니가 필요가 없는데 잘은 모르겠지만 좋아보여서 산다? 대학 입학하는 여대생이 맥북산다그러면 그램이나 쥐어주는게 당연한거임

3. 로컬 LLM 돌릴 수 있는거 아님?

맥 = 로컬 LLM 돌리기 좋다는 소리가 왜 나왔는지부터 봐야됨

로컬 LLM을 돌릴경우 파라미터 수만큼의 메모리(VRAM)이 필요함. 부족해도 억지로 설정해서 돌릴수야 있지만 병목으로 속도가 심각하게 느려짐

제일 성능좋고 많이쓰는 엔비디아 GPU를 쓸경우 소비자 제품에서 VRAM을 확보하기가 매우 어려움. 애시당초 VRAM 자체를 짜게 주기도 하고 여러대 연결하는건 한계도 있고 가격도 많이나가고...

근데 맥은 통합 메모리라는 기술을 사용함. CPU와 GPU가 메모리를 공유하기 때문에 CPU용 램을 늘리면 그걸 자연스럽게 VRAM으로도 사용할 수 있고, 소비자도 128GB짜리 메모리 제품을 살 수 있기때문에 현재 시장에서 구할 수 있는 제품 중 가장 VRAM이 큰 제품 중 하나인거임

그러니까 맥의 메모리 이점을 쓰려면 사실상 128GB 모델을 사야함. 500만원 태울 자신 있으면 사셈

그렇게 사면 또 돈값을 하느냐? 아님. 일단 저 소리가 나온게 시장에 엔비디아 지포스, 맥 두개밖에 없을 때인데 기업들도 바보가 아니라서 128GB짜리 제품을 꽤 만들었음. 엔비디아 DGX Spark나 AMD AI MAX+ 395같은것들

구체적인 성능은 비교해봐야겠지만 맥미니 M4에는 뉴럴 가속기가 없음. 메모리 병목을 해결하기는 좋지만 절대적인 성능으로는 딱히 이점이 없다는것임.

그래도 사두면 돌릴수는 있지않느냐? 요즘 오픈소스 SOTA 모델들은 300B ~ 600B정도 크기가 되고, 이정도 모델을 손실 없이 돌리려면 128GB로는 부족함. 256GB ~ 512GB를 만들기 위해 여러 대를 사서 클러스터를 만들던가 해야함

아 그러면 작은 모델을 쓰면 되지 않느냐? 많이 나오는말이 32GB짜리를 사서 GPT-OSS 20B를 돌리겠다인데... 크기가 이정도로 줄어들면 성능이 상상 이상으로 문제가 많음. 20B정도는 기업입장에선 꼬마수준이라 무료로 써볼수있게 해놓고있으니 걍 한번 써보셈

써보기: https://gpt-oss.com/

설령 GPT-OSS 20B를 돌려보고 싶다고 해도 이건 워낙 싸기때문에 API로도 거의 무료, 몰트봇을 돌려도 푼돈으로 끝낼 수 있음

Cerebras 등 NPU업체에서는 무려 초당 2000토큰짜리 서비스를 지원함 (GPT출력 속도의 20배 정도)

4. 그래도 맥미니 가성비아님?

수-퍼 가성비지

원래도 M1~ 시리즈가 엄청 가성비였는데 최근 램값 폭등으로 레전드 가성비가 됨. 윈도우는 두배 올랐는데 얜 그대로야

근데 가성비라고 50 ~ 100 하는걸 덜컥 사야될 이유도 딱히 없는거임. 자전거타고다니는사람이 가성비 소형차 사지 않는것처럼

소비에 가성비보다 앞서는건 목적이랑 부합하냐는거임

갠적으로는 맥미니M5가 나오면 구매할 계획이 있음. K-EXAONE을 돌려보고 싶은데 이건 라이센스때문에 API에서 제대로 서비스를 안하거든? M5는 뉴럴 가속기도 붙어서 성능도좋고 엑사원까진 돌릴수있다는거임

또는 RAG때문에 임베딩모델 정도 쓰겠다하면 좋은 선택임. 얘네는 API쓰면 추론시간보다 딜레이가 더 나오기때문에

5. 그럼 양놈들은 왜삼?

굳이굳이 핑계를 대자면 맥을 쓸경우 iMessage 연동과 음성 UX가 사용 가능함

근데 보통 몰트봇은 UX 편한 에이전트 / 몰트북 장난감용이잖아 그거하나때문에 굳이 맥미니를?

맥미니 가성비때문에 눈도장찍어놨다가 핑계생기니까 샀다는게 학계의 정설

6. 그래서 뭐 사면 됨?

"몰트봇을 돌리기 위해서"라는 목적이라면...

1) 클라우드에 익숙하다면 클라우드 서비스를 쓰셈. AWS같은거

2) 라즈베리 파이나 N100을 사서 리눅스를 까셈

라즈베리 파이는 살짝 딸릴수도 있지만 N100의 경우 램 16기가까지 쓸수 있기때문에 셀프호스팅 앱 정도야 여러개 띄워놓고 24시간 돌려도 아무런 문제가 없음

하는김에 OpenWebUI같은것들도 써보셈

저는 리눅스를 모르는데요 <- 그럼 몰트봇 원래 못써 GPT 찾아봐

[ㅇㅇ 1(14.33)]

정리잘했노.. openclaw 맥에서 하는데도 노드버전 찐빠나고 의존성 지랄나서 염병했음

[익명(economy0682)]

바이브코딩으로 만든 앱 종특이야 불필요하게 무거움 + 그래서 오류잘남

[ㅇㅇ 2(59.6)]

애초에 m5가 ultra가 안나오는이상 k-exaone 235B돌릴려면 4tok/s는 나올까싶다. 우선 기본m5 봤을때 그정도 성능향상은 없을꺼고, ultra는 심지어 m4도 안나옴 맥으로는 신형울트라 나와도 기껏해야 100B가 한계라봄. 대역폭 한계가 너무 명확하기도 하고

[ㅇㅇ 3(39.123)]

조금 다른 내용이간한데 난 컴퓨터 킬때마다 자동으로 openclaw-gateway.cmd 켜지게 해서 손 안대고 있음. 어차피 자고있을때 자동을 돌릴 프로그램이 없기도 하고. 뭔짓할지도 모르기도 하고.

[ㅇㅇ 4(211.107)]

부자들이라 m4사서 갖고놀다가 한 달후에 80퍼 가격으로 팔아줄 예정이래

[익명(economy0682)]

이왕 할거면 M5로 해주

[익명(sudden9813)]

정리 ㅆㅅㅌㅊ네 오라클도 무료로 뭐 서버 주는걸로 아는데 추가하면 좋을듯

[익명(computer7715)]

그거 주긴주는데 가입이 개빡세고귀찮음

[익명(sudden9813)]

@ㅇㅇ 귀찮아도 맥미니랑 비교하면 꽁짜니깐..

[익명(cord6110)]

깔끔하다

[aa(film3201)]

이거 보고 장바구니 삭제했다 ㅇㅇ

[개발용더미(sy1mn1t4y83k)]

죽어가던 애플에 생기가 돈다

[ㅇㅇ 5(175.200)]

내가 딱 이거 궁금했는데 지금 llm gpt_oss 20b 정도를 고빈도 호출로 돌릴 24시간 저전력 서버 찾고 있었는데 램값 오르더라도 m5 기다리는게 나을거 같네 ㄳㄳ

[우개(1425vv)]

저걸로 로컬? api나 코덱스 불러서 쓰지 않나? 맥미니 쓰라는 이유는 기존 개인 pc 보안 때문에 중요 자료 없는 서브컴에 쓰라는건데 그 중에 가성비가 좋은게 맥미니라서 뜬거고

[ㅇㅇ 6(119.192)]

개소리 맥미니만큼 안정적으로 리눅스 24시간 내내 돌리는거 없음+맥os 탄탄한 기본기때매 유행타는거지 라즈베리파이니 클라우드니 헛소리하고있네

[익명(economy0682)]

이건 또 뭔소리야 서버용은 업데이트 호환성있는 맥보다 리눅스가 훨 나은데 맥으로 리눅스 돌린다는건 또 뭐임 어디서부터 잘못알고있는거임

[익명(economy0682)]

호환성 문제

[ㅇㅇ 6(119.192)]

유닉스계열말하는거임 그니까 만약에 무언가 24시간 돌리고싶어하는애는 라즈베리니 n100이니 하는거보다 맥미니사는게 무조건 나음 안정성 때문에 맥미니 뜨는거라니까 하드웨어적인 완성도가 안정성에 얼마나 중요한데 라즈베리를 쓰라그럼

[익명(economy0682)]

라즈베리는 애시당초 개발보드니 그렇다치고, 맥과 리눅스의 차이는 유닉스라고 퉁칠수있을정도로 작지 않음. 애초에 맥은 다윈 커널에다가 업데이트때마다 호환성 리스크가있어서 서버로 사용하기 적절하지 않음. 안정성측면에서도 맥미니가 N100보다 딱히 우월한점이 없음 N100은 뭐 픽 꺼지는줄암? 3년내내 청소안해도 문제없음

[ㅇㅇ 6(119.192)]

@ㅇㅇ n100 나온지 3년이 안됐다 니 많이 써라...

[익명(economy0682)]

잘 쓰고 있어요 앞으로는 이상한거 주워듣고 아무튼 맥이 최고임이라고 정보글에 시비털지 마세요

[ㅇㅇ 6(119.192)]

@ㅇㅇ 병신이 한끼 식사로 8천원 볶음밥이 인기더라라는 글에 볶음밥 왜먹음? 라면은 800원인데 이런 병신글 써놓고 정보글이라하네ㅋㅋ

[익명(economy0682)]

왜 앱등이들은 해보지도 않은거에 아는척하면서 애플 외 제품은 1970년대에 머무른다고 생각할까? 서버는 리눅스가 표준이에요~ 뭐 아는척도 기초가 있어야하지 아무말비유하면서 욕박기~

[익명(182.227)]

진짜 좆병신새낀가 유닉스 = 리눅스라고 대충 어디서 들었나보네

[ㅇㅇ 7(61.77)]

맥에서 oss 120b 돌려보면 올라가긴 하는데 너무 느려서 좀 그럼

[익명(abundant0266)]

앱등이들 바이럴이었구나

[청나라상인(floor8142)]

별개로 M4 Max 128기가하고 dgx spark하고 비교한거 보면 M4 Max가 훨씬더 빠름. 가격은 dgx가 더 비싸고. dgx는 대역폭 문제가 확실히 있음. dgx를 써야하나? cuda 쓰고싶은 사람 외에 전혀 살필요없음 근데 오픈클로때매 4-500이상을 태운다? 글쎄.

[ㅇㅇ 8(118.42)]

20년형 램 8gb M1 칩 탑재된 맥북으론 못 쓰나?

[죠르딩(strange1745)]

집에서 잠들어있던 m1 맥미니 꺼낼때가 온건가?

[ㅇㅇ 9(221.165)]

내가 이틀동안 삽질한걸 깔끔하게 정리해줬네. 128기가램 달 돈으로 토큰값내는게 이득.

[ㅇㅇ 10(1.217)]

병신련아 몰트봇 아니고 openclaw 오픈클로야

[익명(economy0682)]

이새낀 걍 글을 안읽노

[HANDANI(handanikr)]

뭐 그래도 unified memory니까 일반 PC에서 SSD + RAM + VRAM 섞고 양자화 모델 굴리는 것 보다는 성능이 높게 나오지 않을까 싶긴 함. 근데 다른 걸 떠나서 맥미니 M4가 역대급으로 이쁘게 잘 빠져서 탐나긴 해.

[ㅇㅇ 11(218.235)]

굴려본 입장에선 느려서 굳이 싶던데 - dc App

[익명(landofooo)]

맥북프로 m5 프로 맥스 모델이 빨리 나와야하는데

[익명(shanguslover)]

그냥 메모리 환율 다 씹창나서 지금이라도 사야하나? 하는 타이밍에 적절한 용도도 생겨서 인기폭발인듯 고성능 저전력 서브피시는 그냥 로망이 있음