'자극의 빈곤'은
놈 촘스키(이 새끼는 씨발 뭐 어디 안 끼는 곳이 없어)가 주장한 건데
대충 "아~ 완벽한 문법의 언어를 유아가 듣질 않어유~ 틀린 것도 많이 들음 ㅋㅋ 심지어 옳은 정보를 다양하게 접하지도 못해~"
라고 주장한 거임. (이건 뭐 그렇게 틀린 말은 아니라고 생각)
근데 애새끼들 그래 커도 나중가면 말 잘하네???
이건 좆간 대가리에 언어습득장치(LAD)가 있어서 그렇다고 주장함.
요로한 비스무리한 개념을 지지하는 사람들을 '생득주의자'라고 함.
뭐 이와 관해서는 철학사 영원히 끊이지 않는 선험주의 vs. 경험주의 떡밥까지도 흘러가긴 한다만 그건 내쳐두고
어쨌든 위 글에서 언급하는 연구 논의는 두 가지 정도로
1. 생득주의 개패버리기
2. 어? 61시간 어치만 학습 시켰는데도 LLM 말 잘하는데요???
임.
뭐 생득주의야 숯가마 3초 감자 같이 존나 뜨거운 새끼라 빠도 많고 까도 많으니
빨리는 것도 일상이고 쳐맞는 것도 일상이라 그렇다쳐도
고작 애새끼 활동시간(이게 애새끼 공부타임 61시간이 아니라, 걍 애새끼 뒹굴고 개좆지랄하는 하루 한 시간 어치 분량의 VLOG를 61일치를 학습 시킨 거.) 좀 학습 시켰다고
기존 석학들이 개지랄하면서 학습 시킨 것보다 뛰어난(단순히 초기라 할 지라도) 모습을 보였다...?
어디서 스캠 타는 냄새 솔솔 난다 씨발.
그리고 LLM의 학습 원리(그러니까 아주 깊은 경우에서)도 해명하기 어려운데
그거 가지고 우리 LLM 학습 잘했어요 우쭈쭈하기도 부족하고
동시에 그런 관계로 자극의 빈곤과 LAD를 뒤집기도 어려움.
LAD는 앞으로도 더 쳐맞을 예정이지만 이 정도 가지고는 어렵지.
알파고 등장 시기에 LAD 길로틴 처형식 들어가나 싶었는데
결국 학자들의 LLM 이해에 따라서 다시 LAD 모가지가 길로틴 아래 들어갔다 나왔다 하는
무현 피스톤 운동 중인 시대라서 앞으로도 이럴 거긴 하지만...
어쨌든 저 연구로 언어학계에 큰 파장이 올 일은 없으리라 보임.
결론이 뭐임?
걍 저 글에서 언급하는 연구 결과에 대해서 말한 거임. 언어학계에 파장이 엄청 크다 그러길래 그 정도로 라고 하기에는 부족하며 이미 유사하게 실패한 사례들도 꽤 쌓인 상태임.
결국 영어 비디오 한개만 백번 돌려보고 영어 말문이 트였다 이런건 사실이었네 - dc App
학자들의 LLM 이해에 따라서 다시 LAD 모가지가 길로틴 아래 들어갔다 나왔다 하는 무현 피스톤 운동 중 - dc App
이 문장 좀 웃기네 - dc App
결국 LLM이 LAD관짝에 못을 박을지 못박을지는 LLM에 대한 이해가 더 되어야 한다는거군 - dc App
ㅇㅇ 아니면 갑자기 세상이 미쳐서 집단적으로 두개골 뚜껑 따서 인간 뇌 연구를 하거나.
두개골 딴다고 뭐 안될거같은데. 두개골 따서 연구됐음 중국에서 사형수들 두개골 다 땄을 듯 - dc App
중국에서 사형수 대가리 따서 LAD연구 하기에는 가성비가 딸려 ㅋㅋ
나 저 글 쓴 사람인데, 그니까 (실험이 맞다 쳐도) AI의 학습 구조를 인간에게 대입할 수 있다는 결론이 나오지 않는 이상 학계에서 논의하는 것 자체가 힘들다는 거임? 걍 평범한 학부졸업생이라 ㅈㅅ
그것도 맞고. 일단 제일 큰 문제는 LLM의 학습 원리를 깊은 수준에서 이해를 하지 못했다는 거임. 저 논문이 옳으려면, 1)LLM의 학습원리가 명확하게 해명되어야 함. 2)해명에서 LLM의 지능과 학습 과정은 인간의 정의 또는, 인간의 것과 동등해야 함.
근데 2)는 제쳐두더라도, 1)이 아직 해결이 안 되었는데 저 정도로 LAD 모가지를 땄다는 건 동의하기 쉽지 않음.