[📪정보] 앤드류 응" 거대 언어 모델은 세상을 이해합니다"

[익명(asdf045)]

https://www.deeplearning.ai/the-batch/issue-209/

AI는 오랫동안 이해라는 개념과 씨름해 왔습니다. 철학자 John Searle은 1980년에 Chinese Room Argument를 출판했습니다. 그는 사고 실험을 제안했습니다. 기호 조작을 위한 규칙 책이 있는 방에 혼자 있는 영어 사용자를 상상해 보십시오. 그 사람은 중국어를 이해하지 못합니다. Searle은 컴퓨터가 이 사람과 같다고 주장했습니다. 중국어를 이해하는 것 같지만 실제로는 그렇지 않습니다.

시스템 응답으로 알려진 일반적인 반론은 차이니즈 룸 시나리오의 어떤 부분도 중국어를 이해하지 못하더라도 사람, 규칙서, 종이 등의 전체 시스템은 중국어를 이해한다는 것입니다. 마찬가지로 내 뇌의 단일 뉴런은 기계 학습을 이해하지 못하지만 내 뇌의 모든 뉴런 시스템은 기계 학습을 이해하기를 바랍니다. 여기 에서 볼 수 있는 Geoff Hinton과의 최근 대화에서 LLM이 세상을 이해한다는 개념은 우리 둘 다 동의한 요점이었습니다.

철학이 중요하긴 하지만 그런 논쟁이 끝없이 이어질 수 있고 차라리 코딩에 시간을 할애하기 때문에 철학에 대해 거의 쓰지 않습니다. 현재 세대의 철학자들이 LLM이 세상을 이해하는 것에 대해 어떻게 생각하는지 잘 모르겠지만, 우리가 경이로운 시대에 살고 있다는 것은 확신합니다!

[초전반도체(baejun10)]

근데 그게 우리가 이해하는 방식은 아닐듯 GPT가 이해하는 세상은 인터넷 세상이지

[익명(asdf045)]

언어모델이 세상을 이해하는 방식은 사람과 다르다고 솔트룩스 대표도 말했음. 근데 그 방식이 사람보다 훨씬 뛰어난거지

[익명(61.82)]

멀티모달이나 센서 얘기가 나오는게 그래서긴 하지...기본적으로 실제 세상과 소통할 수 있어야 한다고