ios 안드로이드 그 안드로이드말고 그 기계인간 안드로이드 질문인데
인간처럼 말하고 사고하고 행동하고 하려면 우리가 생각하는 것처럼 LLM같은게 물리적으로 박혀있어야 하는건데
그러면 이게 물리적으로 LLM이 몸에 있어서 로컬로 돌린다는 얘기가 되는데 물리적으로 LLM을 인간 몸 정도에 담을 수 있나?
막 데이터 센터같이 엄청 많은 물리적 장소가 필요한거 아님?
아니면 지금 SSD 크기에 막 페타바이트 수준으로 넣을 수 있는 기술이 발전하면 자연스레 안드로이드도 가능해지는 순서려나
아니면 실시간 무선 통신으로 얘가 계속 실시간으로 데이터 주고받으면서 행동한다던지...
궁금한데 누구 설명해줄 사람 있나
클라우드에 업로드하면되는거아님? 서버 따로있고
안됨.. 레이턴시때문에 무조건 로컬에서 돌아가야해 클라우드는 통신속도 지연 끊김등등 너무 많은 제약이 잇음
지금 개발 방향 다 클라우드 아닌가 로컬인게 있음?
안그래도 무게니 배터리니 하드웨어 골치인데 로컬을 어케할지 감도 안오는데 차라리 클라우드가 가능성 높지
굳이 인간인척 숨길필요없으면 가방같은 사각디자인에 기업용 ssd는 지금 122테라바이트까지 나왔다며 크기도 작던데 그런거 1~3년치 데이터 담길정도만 구비하고 3년 이후 데이터는 다 클라우드로 보내면 되는거 아닐가 아님말고
@ㅇㅇ 로컬 LLM 사양 검색해보면 대충 감올거임 ㅋㅋㅋ
@ㅇㅇ1(14.4) 용량이 아니라 사양?
나도 궁금해 누가설명해조
그 정도 수준으로 가려면 기술이 더 발전해야겠지 지금은 공장에서 반복 작업 하는 정도가 목표 행동 빼고 대화만 하는건 더 빨리 나오긴 하겠다
양자화한 작은 모델은 스마트폰에서도 작동하니까 지금도 가능하지 않음? 물론 성능은 데이터센터에서 돌아가는 모델보다 한참 떨어지겠지만