언어 모델이라고 하니깐 사람들이 이 단어에 집중해서


정말 앵무새처럼 단어 예측만 할 줄 아는지 암.


중요한 건 llm의 작동 방식인데 말이지.


어텐션이라는 매커니즘이 가지는 강력함을 잘 모르는 것 같아


뇌 쪽은 공부안해봐서 조심스럽긴하지만


직관적으로 봤을 때는 사람의 정보처리보다 훨씬 효율적으로 보인다



트랜스포머 논문 보다가 든 생각