[일반] 님들 중국어 방 논점은 어케 생각함

[익명(bandage3477)]

현 llm이 사고하고 언어를 이해하는 것이 아니라 사전(빅데이터) 읽고 출력을 입력에 끼워맞춘다는 거

[ㅇㅇ 1(221.157)]

영어 사전학습 데이터도 중국어 데이터 성능과 지식에 매우 큰 영향력을 끼치기때문에 사실이 아님 - dc App

[ㅇㅇ 1(221.157)]

사실 번역 데이터셋이 따로 없이 거의 모든 언어를 각 나라 문맥에 맞도록 번역 가능한 것도 이 때문임 - dc App

[익명(bandage3477)]

아니 중국어 영어는 비유일 뿐이고 현 llm이 자연어를 이해하는 과정을 말하는 거임

[약팔이아님(vital7966)]

아무 의미가 없음 사람이 중국어 방처럼 추론하지 않는다는 근거가 없음

[익명(222.107)]

념글 일리야 발언대로면 저 과정에 이해가 필요한다는 거 아닐까

[익명(sigh9970)]

영국인은 중국어를 이해하지 못하지만 중국어 방이라는 체계는 중국어를 이해함. 뉴런이 한국어를 이해하지 못하지만 우리의 뇌는 한국어를 할 수 있는 것처럼

[Xayin(cosmic666)]

중국어방 논증에서 방 안의 사람은 중국어를 몰라도 입출력을 메뉴얼에 따라 처리해서 겉보기엔 중국어를 이해한 것처럼 보인다고 주장하잖아. 보통 여기에 이어지는 논증이 비트겐슈타인의 딱정벌레, 퀄리아 등등으로 '이해'라는 개념의 모호성을 지적하는데 LLM이 이 논증을 확장시켜줬다고 생각해. 중국어방이 번역을 아무리 잘 하더라도 번역에는 정답이 없기 때문에 번역 스타일을 바꾸고 싶을 수 있잖아. 그런데 중국어방이 기존 번역과 새로운 번역 요구사항에 대응하려면 자신의 작업에 대한 메타인지가 필요해. 그런데 중국어방 같은 시스템이 그게 가능할까? LLM도 마찬가지일수도 있어. 입력에 대한 답변이 데이터셋에 내재된 확률분포에따라 출력될 뿐이라면 단순히 가중치만 바꾼다고 메타인지를 해서 환각을 극복할 수 있을까?

[익명(compact5711)]

다음 토큰을 예측하기 위해 이해라는 과정을 모방한다면 그것은 이해인 것이 아닐까 라는 생각도 드네