[%] llm 백만 콘텍스트 기술 공개되었다.

[익명(112.169)]

양자화 시키면  비디오카드 40ram 이면 얼추 돌아간다는 글이 있네

https://github.com/LargeWorldModel/LWM 

https://github.com/LargeWorldModel/LWM

GitHub - LargeWorldModel/LWM

로컬라마 돌리는거 관심있고 gpu 두둑하면 a100정도면 테스트해볼만함.