이거임 ㅋㅋㅋㅋㅋㅋ
보자마자 통쾌하네
순수 추론능력 즉 IQ 수치값으로 환산해서 표현하자면 90~100 정도 되는느낌
우리가 LLM 에게 원하는건 얼마나 많이 아냐 가 아니라 얼마나 똑똑해질수 있는가를 따지는거 잖아
그런데 그게 GPT4 선 IQ100 정도에서 멈췄다는거임
가장 최신 모델인 4o 도 추론능력만 따지고 보면 gpt4 에서 그닥 차이가 없음
더 많은 데이터로 인해서 글쓰기 능력자체는 수려해짐 ㅇㅇ
[일반] 현재 LLM 을 제일 잘 표현하는 말
익명(221.167)
2024-06-05 17:24
추천 5
댓글 42
다른 게시글
-
KoreaTime june 7th [5][일반] 야상섹상(pck3990529) | 24.06.05추천 0
-
언젠가 GPT에서 nsfw 허용한다고 한거 팩트임? [3][일반] 익명(1.237) | 24.06.05추천 0
-
내일 큰거 오는거 맞아? [3][일반] 익명(210.113) | 24.06.05추천 0
-
근데 생각해보면 완몰가도 ASI 이후에 나올거같은데 [2][일반] 익명(125.137) | 24.06.05추천 0
-
트위터에 chubby 이 사람 누구임 [2][일반] 익명(125.208) | 24.06.05추천 0
-
다른거 다 필요없고 번역만 정확하게 해줌 좋겠음 [1][일반] 익명(106.102) | 24.06.05추천 0
-
ai시대가 와도 대체가 안되는 가치 [5][일반] 웰빙킴(killerbow) | 24.06.05추천 0
-
LLM 성능 광고에서 걸러야하는 거 [4][일반] 익명(118.235) | 24.06.05추천 0
-
인공지능 시대에 일단 사회의 부를 부자들에게 집중시켜야 함 [1][일반] dsdasdasas(121.147) | 24.06.05추천 0
-
근데 박사시험 합격 이거 그냥 [3][일반] 익명(shore1232) | 24.06.05추천 2
변호사 시험 답지를 다 외운 초딩? 제법 유능할 것 같은데
이해를 한게 아니라 외운거잖슴
실제로 100수준이라했음
Gpt5 나와야 이제 뭐가 좀 되나 싶을듯
거품인거 같으면 거품이다에 배팅을 하면 됌
외워서 하는거면 어떻게 코딩을 개인사용자에게 맞춰서 하노.. - dc App
왜냐하면 기계의 데이터 암기 용적용량은 인간의 해마와는 차원이 다른 크기를 가지고 있거든
데이터에 없고 조금만 창의적으로 빗겨나갈려고 해도 그 내용을 처리하기 힘들어함
정밀도를 요구하는 작업이 아니면 충분히 창의적이긴 함 - dc App
결국 은 그것도 데이터 역추적을 하다보면 있는 데이터라는결론이남
니 말대로라면 외운게아니라 '이해' 한거라면 그리고 이것의 추론능력의 근거라고 한다면 합성데이터의 수익감소는 말이안됨 합성데이터로 재학습시키다보면 결국은 수익감소에 막혀서 똑같은 산출물만 나오게됨
나는 이미 있는 데이터를 끌어다 쓰는것도 창의의 한 영역이라고 보는 입장이긴함. 일단 이글 예시는 말이 안되는 소리라고 생각함. 암기랑 적용을 잘 구분하셔야할듯 - dc App
?
그게 왜 말이 안됨? 너보고 지금 갖고 있는 수학 지식만 갖고 수학을 공부하라고 하는 거나 다름 없는데, 추론 능력 여부와 관계없이 수익 감소는 필연적이지
그렇다면 합성데이터로 재학습시에 생기는 수익감소는 어떻게 생각함
내가 생각하는 추론 능력의 가장 큰 근거는 생각 사슬 Chain of Thought의 유의미성임. 이게 유효하다는 사실 자체가 추론 능력의 존재성을 증명한다고 생각함
그니깐 합성데이터로 재학습시에 생기는 수익감소에 대해 얘기한 건데?
생각의 사슬로 만들어낸 산출값을 재학습하고 다시 그 산출값을 생각의 사슬로 엮어서 내놓은 산출물들의 결과가 수익감소인데
나도 그 이야기하는건데?
내 말 핀트 재정리해서 네 언어로 얘기해 보셈 뭐가 안 맞는데?
너 지금 나랑 이야기가 안 맞물리고 있는거같은데
ㅇㅇ 나도 공감함 서로 정리 좀 해 보자
나는 지금의 트랜스포머가 인간과 똑같은 지능의 형태를 가지고 있다고 생각안함
내 입장은 이거임. 1. 추론 능력은 존재함. 왜냐하면 Chain of Thought가 유의미한 효과를 가지기 때문임 2. 합성 데이터의 재학습으로 인한 소득 감소는 추론 능력의 부재를 증명하지 못함. 추론 능력을 가졌다 하더라도 인간에 비유해서 생각했을 때 소득 감소는 필연적이기 때문임
어 ... 나는 추론능력이 없다고 말한적이 없는데
'순수 추론능력 즉 IQ 수치값으로 환산해서 표현하자면 90~100 정도 되는느낌" <-- 본문 참조
27 ㅇㅇ 얘는 대체 갑자기 무슨소리하는거임? LLM 한테 해마가 있다고 말한적이없는데?
니 말대로라면 외운게아니라 '이해' 한거라면 그리고 이것의 추론능력의 근거라고 한다면 합성데이터의 수익감소는 말이안됨 << 난 이 문장에 대해 얘기하는 건데
"왜냐하면 기계의 데이터 암기 용적용량은 인간의 해마와는 차원이 다른 크기" <-- 다시읽어봐
저 말이 추론능력의 부재를 설명하진못하는데
답답해서 ㅈㅈ
아니 저말이 추론능력의 부재를 설명하지 못한다니까?
27 얘는 갑자기 낑겨서 무슨말하는거냐
LLM 이 해마가 있다고 말한적도 없는데 갑자기 지혼자 급발진버튼누르노
왜냐하면 특정 분야에 대해서 이해할려면 그 분야가 요구하는 추론능력의 '수준' 이 있어야 함 그런데 그러한 수준에 맞지도 않는데 LLM 이 가지고 있는 추론수준에 맞지 도 않는 데이터를 낑겨서 집어 넣을경우 그 데이터가 요구하는 문제에 대해선 맞출순 있으나 그 데이터가 조금이라도 응용될경우 힘들어한다는게 지금 내 말임
그래서 추론수준에 맞지도 않는 데이터를 강제적으로 끼워집어넣었을때 이 데이터에서 산출할 수 있는 양질의 합성데이터가 결국은 수익감소로 인해서 막힐수 밖에 없다는거임
그래서 나는 LLM 을 암기력이 뛰어난 경계선 지능장애라고 표현하는거고 본인이 가지고 있는 천문학적인 데이터에 대해서 완벽하게 활용하지 못하고 있다는게 내감각인거임
아인슈타인급 지능에 수학지식을 집어넣으면 엄청난 성과를 낼 수 있겠지 하지만 경계선 지능장애군에게 수학지식을 부어넣어봤자 이 지식에 대한 활용범위가 아인슈타인급 지능을 가진 사람에 비해서 당연히 열등할 수 밖에 없다는거고 거기서 발생되어지는 '비효율적인 수익감소' 는 필연적이지
그래서 저 사료에 나와있는 초등학생에게 변호사 시험 달달외우게 했다의 말의 진의가 추론능력에 맞지도 않는 데이터를 집어넣으면 그 데이터를 활용할 수 있는 활용범위가 축소 될 수 밖에 없다는게 저 말인거지 니가 지금 이야기 하고자하는 '추론능력의 부재' 를 설명하는게 아니란거임
"니 말대로라면 외운게아니라 '이해' 한거라면 그리고 이것의 추론능력의 근거라고 한다면 합성데이터의 수익감소는 말이안됨" <-- 이 말은 지금 현재의 LLM 이 어려운 지식을 이해할 수 있을만큼 이해력이 뛰어난게 아니다 라는것을 말하는거임 이 말은 '추론능력의 부재' 를 말하는게 아니라 '지능의 열등함' 을 표현하는 말임 이해안됨?
도대체 인간의 뇌는 어떻게 이루어져 있는 건지 다시 한번 놀라움을 느끼네
달달외우게하고 동일한 시험문제로 시험보면 저말이 맞는데, 학습하지 않은 새로운 문제도 잘푸니 전혀다른거지