[일반] 채굴도 전용칩으로 하면 80배 빠르다는데? ai는?

[미네르바의부엉..(hitherewherehere)]

그래픽 카드 같은 게임용도로 만들어진 사실상 용도에 안맞는 물건이 아니라

오직 ai용도로 특화되어 만든 전용칩으로 하면 속도는 80배고 전기는 절반이랬나

스마트폰에도 전용 ai칩 내장하면 전기는 얼마 안먹으면서

속도는 4090 10배정도 나오고 충분히 가능한거 아님?

잘 몰라서 전자 전문가 없음? 

[익명(59.20)]

그래서 스마트폰 npu 있잖아

[krosco(neter002)]

이미 몇 년 전부터 플래그십 폰에는 뉴럴넷 전용 프로세서 탑재되어 있음 - dc App

[미네르바의부엉이(hitherewherehere)]

헐??? 스마트폰으로 로컬 ai 하나도 못봤는데 왜 넣었누? 고성능임??? 그런거 사이즈업하고 전기 더 먹게해서 일반 개인 pc용으로는 왜 안팔지...

[krosco(neter002)]

아이폰의 경우는 아이폰10 부터 AP에 통합된 뉴럴 프로세서 들어갔는데 모바일용이니까 당연히 저전력에 성능은 낮지. LLM 같은 거 돌리는 건 불가능하고 카메라 보정이나 사진 분류 같은 데 쓰임 - dc App

[krosco(neter002)]

요즘 폰은 카메라로 문서 찍으면 글자만 인식해서 텍스트 따주거나 사진에서 특정 객체 윤곽만 오려내 주기도 하잖아 그런 게 다 로컬로 돌아가는 AI임 - dc App

[krosco(neter002)]

최근에 애플이 특허 낸 거 보면 모바일에서 로컬 LLM 돌리는 방향으로 개발 중인 거 같긴 함. 언제 나올지는 미지수지만 - dc App

[미네르바의부엉이(hitherewherehere)]

아.... 신기하네. 근데 그럼 왜 컴퓨터는 게임 카드? 로 ai 함???

[미네르바의부엉이(hitherewherehere)]

그 전용칩이 아니라 더 강력한 컴퓨터는 왜 게임칩으로 ai하지?

[krosco(neter002)]

그래픽카드도 다중코어 구조라서 AI에 적합한 프로세서고 요즘 AI개발 제대로 하는 곳은 다 글카 안쓰고 AI 전용 하드웨어 씀. 엔비디아 A100 같은 거 - dc App

[익명(175.206)]

그래서 여러 기업이랑 스타트업들이 AI 전용 칩 만들겠다고 하고 있을 걸.