175B짜리 GPT3나 기타 아류작들도 기억력 금붕어수준이라 대화에 많아도 2048~4096토큰밖에못쓰는데 무식하게 스케일을연구할게아니라 신경망구조를 변경하던가 새로운 신경망을 만들어야하는데 그게안되는거잖아