지금이야 AI가 대세니까 각국의 정부나 기업에서 미친듯이 투자를 해서 AI기업들이 본전은 뽑고 있는 건데
실상을 보면 현황 유지도 어려운 상황이라 점점 BM 빡세게 조지고 있고
현재의 LLM 비즈니스 모델는 넷플릭스마냥 유료 구독은 하되 사용은 안 하는 사람이 많아야 하는데
유료 구독을 할 만한 사람들은 거의 풀로 땡길 정도로 쓰고 있어서
AI열풍이 사그라들고 투자 줄면 이놈들 지금보다 더 세게 묶을 텐데
핸드폰에서 이어폰이나 충전기 빠지는 것처럼 하나둘씩 없어지지 않을까
그렇다고 로컬 LLM이 클라우드 LLM 따라잡는 날이 그렇게 금방 올 것 같지도 않고
5년전의 갤럭시보급형폰을쓰는사람마냥 1년정도 뒤떨어진 찐따모델쓰면되죠 하하
1년 정도 뒤떨어진 모델이라고 필요한 하드웨어 스펙이 가벼워진 건 아니라서 지금이야 싸게 받고는 있지만 굳이 무료로는 안 풀지 않으려나
뒤떨어진찐따모델은 가중치공개하고그냥풀던데 음식물찌꺼기주워먹는거죠
로컬 모델 작은것들도 2년 전 최고 모델 수준이니까 지금같은 구조는 아니어도 싸지긴 할듯
핸드폰 스펙이 그렇듯이 AI 스펙도 어느 정도 임계점에 도달하면 상승폭이 많이 줄 것 같아서 그럼 그렇게 되면 로컬 모델의 컨텍스트 길이 한계상 집에서 돌리는 건 한계가 올 텐데...
@TS기원 으음 사실 한계점이 있긴 하죠 특히 지식 크기는 모델 크기 따라가는거고... 근데 그걸 RAG로 극복하고, 복잡한 데에서만 비싼 모델 쓰는 식으로 쓸 것 같음 (업무용으론)
@TS기원 결국 무작정 성능 상승에서 사용성 개선으로 방향이 바뀔거라는 뜻 ㅇㅇ...
@하늘바라기 그게 합리적인 방향성이긴 한듯 기업들도 LLM보다는 CPU에 가벼운 NPU 탑재하고 소형 보조 AI기능 넣는 식으로 대응하니까