수학?
[일반] 현재 LLM 이 못하고 있는게 머임?
익명(125.141)
2023-10-01 23:05
추천 0
댓글 12
다른 게시글
-
루머)오픈ai는 gpt4보다 더 강력한 모델을 숨기고 있다 [5][일반] 익명(211.59) | 23.10.01추천 2
-
노가다를 대체한다는건 건축 설계방법부터 바꾸는거지 [1][일반] 익명(112.185) | 23.10.01추천 0
-
살짝 뒷북이지만 존카맥은 강화학습 기반으로 agi 만들려나봄[일반] 익명(219.249) | 23.10.01추천 1
-
신약의 개발도 중요하지만 가격도 중요한데... [1][일반] 슈퍼130클..(y3xxqs89b55t) | 23.10.01추천 0
-
바드는 업데이트 됐다면서 왜 더 엉망임[일반] 익명(112.186) | 23.10.01추천 0
-
상하차로봇도 만든거보면 꼭 몸쓰는 일이라고 늦게 대체되진 않을듯 [3][일반] 익명(116.35) | 23.10.01추천 0
-
나는 패턴이 반복되면 너무 쉽게 질리는 사람임 [9][일반] 익명(138.199) | 23.10.01추천 1
-
달리3로 야짤뽑을 생각하지 말고 [4][일반] 익명(115.138) | 23.10.01추천 0
-
추석때 가족한테 바보취급당함 [17][일반] 익명(14.55) | 23.10.01추천 5
-
불과 8개월 전에 말했으면 정신-병자 소리 들었을 말 [2][일반] 익명(14.53) | 23.10.01추천 0
everything
LLM 자체만 보면 얘는 다음에 올 단어 확률예측기라서 수학은 못품. 인간이라면 1+1 다음에 당연히 2라고 생각하지만 GPT는 2일확률 90% 3일확률 35% 이런식임... 방정식의 해는 하나인데 확률을 어디있음? 그래서 수학에는 쓸수없는 모델이고 아무리 스케일을 올려도 계산은 못해냈음. 그래서 알트만이 도입한게 플러그인이고
말랑한 손을 수쳔년 단련해서 바위를 깨려 하기보단 곡괭이를 만드는 편이 낫긴 하지
그렇지.. 알트만이 뭔가 새로운 알고리즘이 또 필요하다고 한게 이런 뜻 같음.
https://m.dcinside.com/mini/linear/8789
https://m.dcinside.com/board/thesingularity/358729
이게 자릿수에 따라 양상이 달라지기도 하고 아직 미지의 분야라 llm의 한계를 단정하긴 힘들다 특히 미래의 모델이라면 더욱
흠... 사칙연산은 되는데 아직 llm 이 이론을 만들어내고 이런건 아직 안되나보네 물론 발전속도봐서는 곧 될거같긴한데
그게 알트만이 공개적으로 말하고 다니는 목표임
글쿠만... 그냥 학계에서 할일이 뭐가 남아있나 궁금해서 물어봄 아직 할게 그래도 좀 남아있나보네
굳이 이야기하면, 대표적으로 수학. 코딩도 다른 분야에 비해선 낮은 편이라고 함. 그리고, 장기기억 문제. 토큰 한계 문제. 추론하는 것처럼 보이긴 하는데 진짜 추론인가 아닌가. 흔히 말하는 환각. 환각이랑 수학 문제는 일반적인 LLM은 해결 못 하는 문제라 했던 것 같고, 그래서 수많은 아이디어가 모이고 연구되고 있는거지. 근데 이 분야가 너무너무너무 빨라서 해결 불가능한 문제. 이런 것도 아직 없을 겨. 역사가 너무 짧고, 연구가 활발함. 어느 연구소에서 갑자기 '해결' 할수도 있지.
혹시 읽을만한 페이퍼나 레퍼런스 좀 알려주셈 매우 감사 ㅜㅜ