Google coral TPU 4tops가 풀-로드 하면 소비전력 2W인데 (1TOPS 당 0.5W)


1시간 내내 돌리는 것도 아니고


폰 배터리가 5000mah면 18.5Wh


쉬는 시간 없이 돌린다고 해도 기타 부품 고려 했을 때 5시간은 거뜬하니까


실제 소비 전력은 얼마 안됨


그리고 4 TOPS면 실시간 통역도 일반 사용자 수준에선 차고 넘치는 성능이니까

뭐 통화 하루종일 할 것도 아니고


폰 제조사에 따라 NPU로 들어갈지 TPU로 들어갈지 몇 TOPS로 들어갈 지 다 다른데


대부분의 일반 사용자 수준에선 이 정도 성능도 온디바이스AI로는 차고 넘침



CPU로만 구동 된다는 Bitnet도 모델 학습은 GPU로 하고 추론만 CPU로 돌리는 건데

모델 학습까지 폰으로 하겠다는 납븐 생각은 ㄴㄴㄴ