애플은 그래픽 v램하고 d램메모리도 통합으로 쓰고있어서
맥북 울트라 에서는 192기가램 이런것도 되고
거기서 오픈소스 80b짜리 모델도 돌려낼수 있을정도로 압도적
물리력을 보유하고있는데(윈도우는 v램 5090해봐야 32기가 ㅠㅠ)
80b짜리도 초당 10토큰정도 뿜어낼수있는데 이정도만해도 개인용도로는 진짜 대박적인건데..
아니 이색기들은 대체 뭘하는건지 도저히 알수가없음.
걍 오픈소스라도 갖다가 박기에는 또 자존심이 허락을 안하는건지
뭔지..
그냥 적당한 모델에 아이폰에다가 램좀 올리고 4b짜리만 갖다 넣어도 왠만한거 다할수 있을텐데.
시리에다가 뭐 꿀이라도 발라놨나.. 몰카로 협박당하는중인가..
애플실리콘 m시리즈 진짜 명작이긴한데
거대 언어모델급도 돌릴수있는 무력을 보유하고 심심이급 시리와 공생중..
파운데이션 모델 개발하려다가 다 실패했을듯 ㅇㅇ 오픈소스는 아직 성에 안차는것같고 특히 랩틸리언꺼는 절대 안쓰려고할듯 ㅋㅋ
당연히 오픈소스 급은 성에 안차겠지만 시리는 그냥 심심이잖아.. ㅠㅠ 그냥 오픈소스 적당한거 인수해다가 마개조해서 쓰면될건데.
좋게보면 장인정신 나쁘게보면 똥고집으로 보이는 특유의 침 바른거 마음에 들 때까지 다듬기 행동이 독인 것 같기도 하고
단순 램이 문제가 아니라 HBM 하고 엔비디아가 제어하는 컨트롤러로 차이가 심하지 않음? 지금 엔비디아 GPU 시장 거의 독점하다시피하는 것이 HBM 을 제어하는 컨트롤러 능력이 따라올 수가 없다고 하는데
그거야 애플이 ai기업도 아니고 gpt4.5급 만들고.그럴필요는 없고 할능력도 없고.. 그냥 온디바이스에서 몇년째 심심이만 쓰냐 그거니까..
전략도 실패 다들 클라우드 집중하는데 온디바이스만 파서 더 그럼 결국 데이터승부에서 뒤쳐짐 오픈이 미래였음
Apple reportedly tests AI models that match ChatGPT's capabilities in internal benchmarks
https://the-decoder.com/apple-reportedly-tests-ai-models-that-match-chatgpts-capabilities-in-internal-benchmarks/