https://arxiv.org/pdf/2004.10151 2020년 emnlp main 논문
### 논문 요약: "Experience Grounds Language" (경험이 언어를 뒷받침한다)
**저자**: Yonatan Bisk 외 다수
**출처**: arXiv:2004.10151v3 [cs.CL], 2020년 11월 2일
#### **핵심 주장**
이 논문은 언어의 의미가 단순히 텍스트의 통계적 패턴에서 비롯되는 것이 아니라, 물리적 세계와 사회적 상호작용에 뿌리를 두고 있다고 주장합니다. 현재 대규모 텍스트 기반 언어 모델은 뛰어난 성능을 보이지만, 언어의 깊은 의미를 완전히 이해하려면 물리적 맥락과 사회적 맥락을 통합해야 한다고 강조합니다. 이를 위해 저자들은 **다섯 가지 세계 범위(World Scopes, WS)**를 제안하며, 이를 통해 자연어 처리(NLP) 연구의 방향을 제시합니다.
#### **다섯 가지 세계 범위 (World Scopes)**
1. **WS1: 말뭉치 (Corpus)**
- 전통적인 NLP의 시작점으로, 정제된 텍스트 데이터(예: Penn Treebank)를 활용.
- 의미는 문맥 내 단어 분포에 의존하며, 제한된 맥락만 제공.
2. **WS2: 인터넷 (Internet)**
- 현재 NLP의 주류로, 대규모 웹 데이터를 사용.
- 풍부한 텍스트 기반 의미를 학습하지만, 물리적·사회적 경험은 반영하지 못함.
3. **WS3: 지각 (Perception)**
- 시각, 청각 등 감각 데이터를 포함한 다중 모달 학습.
- 예: "고양이는 조용히 착지한다"와 같은 물리적 지식을 언어에 연결.
4. **WS4: 구체화 (Embodiment)**
- 로봇이나 에이전트가 환경과 상호작용하며 언어를 학습.
- 예: "오렌지는 야구공처럼 굴릴 수 있다"와 같은 물리적 행동 이해.
5. **WS5: 사회적 상호작용 (Social)**
- 인간과의 협력 및 대화를 통해 의도와 맥락을 학습.
- 예: "너 진짜 한심하다!"의 사회적 뉘앙스 이해.
#### **주요 내용**
- **문제 제기**: 텍스트만으로 학습된 모델은 "라디오로 언어를 배울 수 없다"는 직관처럼 한계가 명확합니다. 저자들은 인터넷(WS2)이 현대의 라디오 역할을 하지만, 여전히 경험적 기반이 부족하다고 봅니다.
- **해결책**: 언어 이해를深化시키려면 WS3(지각), WS4(구체화), WS5(사회적 상호작용)로 연구 범위를 확장해야 합니다. 이를 통해 언어가 단순한 통계가 아닌 실제 세계와 연결될 수 있다고 주장합니다.
- **비판**: 현재 NLP는 주로 WS2에 머물며, 성능은 높지만 의미의 깊이와 일반화 능력에서 한계가 있습니다. 예를 들어, "세라믹 접시와 종이 접시 중 어느 것이 프리스비로 더 적합한가?"와 같은 질문은 텍스트만으로는 답변 불가.
#### **결론 및 제언**
저자들은 NLP가 인간 수준의 언어 이해로 나아가려면, 시각·로봇 공학·사회적 맥락을 활용한 연구가 필요하다고 결론짓습니다. **World Scopes**는 이러한 맥락적 언어 이해를 위한 로드맵으로, 점진적이지만 의도적인 접근을 촉진합니다. 컴퓨터 비전, 로봇 공학, 시뮬레이터 등의 발전을 활용해 WS3~WS5로의 전환을 제안하며, 커뮤니티가 경험 기반 언어 학습에 집중할 것을 권장합니다.
갤떡밥 5년전에도 나온 얘기인데, 이미 인지하고 어떤쪽으로 발전하는게 좋은지 학술적으론 합의된 상황임
댓글 0