우리가 llm 돌려볼 때 돌리는 것까지는 어떻게든 가능한데 컨텍스트가 늘어나면 vram을 기하급수적으로 더 리로드 하더라고.

우리가 하는 모든 것들을 보고 느끼고 함께 하려면 이것을 위해 24시간 몇일 동안의 모든 정보를 계속 수집하고 가져오고 하려면 vram이 지금보다 수천배는 더 필요할 것 같다.

그래서 지금 앞으로는 그 메모리가 정말 중요해질 것 같다. gpu가 아무리 연산속도가 빠르다고 해도 거기에 넣을 수 있는 정보의 양이 적을 수 밖에 없으면 활용도는 떨어짐.