처음 딥러닝 공부하기 시작했을 때 씨발 트랜스포머 보고 이게 뭔 개소린가 했는데 벡터를 직관적으로 이해하고 받아드리니깐 난이도가 미친듯이 내려감.
벡터는 결국 정보를 여러 차원으로 분해해 수학적으로 표현한 것.
단어 벡터 = 단어를 여러 차원으로 분해해 수학적으로 표현한 것.
단어 벡터의 각 차원은 단어 그 자체의 특징을 의미. 예를 들면, 단어가 단수/복수인가? 명사/동사인가?
위치 벡터 = 단어의 "위치"를 여러 차원으로 분해해 수학적으로 표현한 것.
위치 벡터의 각 차원은 단어 위치의 특징을 의미. 예를 들면, 절대적으로 이 단어가 문장의 몇번째에 위치하는가? 어느 단어로부터 얼마나 떨어져 있는가?
물론 딥러닝 특성상 저 벡터들의 차원이 무엇을 의미하는지 알 수 없지만 직관적으로 유추해 볼 수는 있음.
결정적으로 벡터와 벡터를 더하거나 곱한다는 것을 "정보를 섞거나 조합하는 것이다"라는 것을 직관적으로 이해하게됨.
단어 벡터 + 위치 벡터 = 단어의 의미 + 단어의 위치 = 문맥.
이런식으로 쉽게 받아드려지는듯;;
삣삐세요?
단어 벡터의 각 차원 예시 보고 쭉 내림 ㅋㅋ
딥러닝은 각 기능이 모듈로 나뉘어 졌고 모듈 간 정보전달을 벡터나 행렬, 텐서로 하는 거야 일종의 데이터 묶은 규약 각 기능이 모듈로 되어 있고 모듈 간 통신 규약이 텐서로 일정하므로 다루기가 쉬워진 것
걍 공대가라
넌 도대체 뭘 배운거고 뭐가 난이도가 내려간거냐??? - dc App
벡터공간을 직관적으로도, 추상적으로도 이해할 수 있는 능력이 중요함. $\mathbb{R}^n$ 유클리드 공간에서야 흔히 생각하는 기하학적 직관이 통하는데, 당장 함수공간 (예시: 힐베르트 공간, 바나흐 공간)만 보더라도 기하학적 직관이 전혀 통하지 않음. 대수적 구조와 그 위에서 정의된 연산의 유사성은 있지만 (예시: 내적), 직관은 도구로만 사용한 채로 벡터공간의 추상적인 논리를 엄밀하게 이해하는 게 제일 중요한 듯. 내적으로 정의되는 '직교'의 개념이 유클리드 공간에서는 기하학적으로 바라볼 수 있어서 인간의 인식에 있어서 매우 직관적이지만, 함수공간에서는 기하학적으로 해석할 수 있는 여지가 없음.
자연어처리공부하면 제일먼저배우는게 임베딩공간인데 그걸 이제야 받아들이기 시작한거면 요즘애들 트랜스포머부터 박치기하냐?
예시에 끼워맞추지말고 2,3차원 데이터를 차원을 늘리고 줄일때 어떤변화가있는지 좀더 힘내서 고찰해보면좋을듯 아보카도의자 같은 튜토리얼 붙잡으면 도움될수도 지금은 너무 한아키텍쳐에 매몰되있다