단어를 벡터로 만들고 벡터간에 뺄셈,덧셈,곱셈 등을 할수있다는데
애초에 단어가 그런 연산이 가능한지, 또 그런연산 외에 다른연산이 가능할지도 모르는데
왜 벡터로 만드는거임??
만들수 있는 유사한 수학적 객체가 벡터밖에 없나?
단어를 벡터로 만들고 벡터간에 뺄셈,덧셈,곱셈 등을 할수있다는데
애초에 단어가 그런 연산이 가능한지, 또 그런연산 외에 다른연산이 가능할지도 모르는데
왜 벡터로 만드는거임??
만들수 있는 유사한 수학적 객체가 벡터밖에 없나?
기본적으로는 매우 고차원의 sparse한 one-hot벡터를 차원축소해서 작은 차원의 밀집된 실수벡터로 만드는거임 R^n 의 벡터가 컴퓨터로 다루기 가장 편한 대상이라 그렇게 쓰는거지
이미지는 픽셀 하나하나를 feature로 취급해서 feature space를 만들듯 자연어에선 단어 하나하나를 feature로 취급해서 feature space로 만듬. 근데 이렇게 하면 쓸데없이 차원만 크고 너무 sparse하니까 embedding vector를 씀 - dc App
분포로도 임베딩함 word2gauss라고 있음