[📪정보] 언어모델이 인간처럼 추론한다는 증거 논문

https://arxiv.org/abs/2207.07051

Language models show human-like content effects on reasoning tasksAbstract reasoning is a key ability for an intelligent system. Large language models (LMs) achieve above-chance performance on abstract reasoning tasks, but exhibit many imperfections. However, human abstract reasoning is also imperfect. For example, human reasoning is affected by our real-world knowledge and beliefs, and shows notable "content effects"; humans reason more reliably when the semantic content of a problem supports the correct logical inferences. These content-entangled reasoning patterns play a central role in debates about the fundamental nature of human intelligence. Here, we investigate whether language models $\unicode{x2014}$ whose prior expectations capture some aspects of human knowledge $\unicode{x2014}$ similarly mix content into their answers to logical problems. We explored this question across three logical reasoning tasks: natural language inference, judging the logical validity of syllogisms, and the Wason selection task. We evaluate state of the art large language models, as well as humans, and find that the language models reflect many of the same patterns observed in humans across these tasks $\unicode{x2014}$ like humans, models answer more accurately when the semantic content of a task supports the logical inferences. These parallels are reflected both in answer patterns, and in lower-level features like the relationship between model answer distributions and human response times. Our findings have implications for understanding both these cognitive effects in humans, and the factors that contribute to language model performance.arxiv.org

1. 언어모델은 순수한 논리적 추론이 아니라 통계적인 직관과 귀납적인 추론에 의존하는 문제가 있음

2. 근데 좆간의 추론 능력도 알고보니 그런식임

3. 근거는 언어모델과 좆간 둘다 학습한 ‘내용’이 얼마나 정확하고 논리적인가 여부에 따라 추론 정확도가 달라짐(순수한 논리 머신이면 내용에 관계없이 항상 논리적으로 정확한 추론을 해내야됨)

4. 좆간의 직관적 편견은 논리 교육을 거쳐도 일부만 제거됨. 즉 좆간의 추론능력은 직관과 귀납에 의존하고 이는 필수적임

5. “추론”이란건 그냥 통계적 패턴을 직관적으로 학습하고 형성하는 것임

- dc official App

이게 맞지.

불안장애환자(smkimo) 2023-10-30 20:46

이제 스케일만 키우면 되겠네

익명(112.171) 2023-10-30 20:47

작년꺼지롱

익명(gpt2030) 2023-10-30 21:04

거기에 삼단논법이나 개념의 추상화나 요번에 나온 개념 조합 뭐 이정도만 하면 웬만한 인간지능은 다 정복됨. 인간지능 별거 없음

익명(rechido) 2023-10-30 21:23

맞다

부패하는유전자!!!(sansss2015) 2023-10-30 21:35

디시콘발사대(fcbjsjmu1t9f) 2023-10-30 21:42

도로시냥(slzpdnjsxnf) 2023-10-30 22:01

데이비드 흄이 맞고 칸트가 틀렸단건가

익명(58.140) 2023-10-30 22:11

답글

귀납은 단순히 귀납만이 아니라 그 추론을 위한 체계가 선행해야한다면 또 틀리진 않을 수도 있음 그냥 자료가 주어져서 땡이 아니라 그걸 어떻게 조정하느냐의 문제도 있으니까 적어도 타뷸라 라사는 존재하지 않는다는 점에서는 순수 경험론은 아님

익명(118.235) 2023-10-31 01:44

요약하면 좆공지능만 병신인게 아니라 좆간도 병신인거

익명(tambusrin) 2023-10-30 22:18

[📪정보] 언어모델이 인간처럼 추론한다는 증거 논문

댓글 10

다른 게시글