인간 마냥 새로운 걸 학습해서 해결하는 법을 전혀 모르잖아.
결국 그냥 인간이 손수 일일이 레이블링한 수많은 데이터로 달달 외운 자료 한정해서 매우 고도화된 합성 능력을 보여주는 거지, agi의 형태와는 거리가 멀다고 봄.
말은 존나 잘하고 코딩도 존나 잘하는데 사전 훈련되지 않은 형태의 과제를 수행하는 꼴을 보셈. 저게 어케 사람이냐. 앵무새나 까마귀도 저것보단 더 잘할 것 같음.
여태 많은 갤러들이 "llm은 추론만 해결하면 agi는 따 놓은 당상이다" 라고 믿어왔고 o1이 그 추론의 포문을 열면서 llm이 역시 정답이라고 생각했겠지만, 이것은 우리가 인간의 관점에서 생각하는 추론, 즉 범용 지능으로부터 비롯된 추론과는 거리가 매우 멀다고 봄.
인간이 실제 llm 수준의 언어적, 수학적 추론 지능을 가지고 있었다면 포켓몬 게임 플레이 따위의 과제는 정말 아무렇지 않게 했을 거임.
현재의 상황을 볼 때, 결국 llm은 범용 인공 지능, 인공 일반 지능(agi) 라기보단 그저 특정 분야에 한정해서 특화되어 있는 매우 협소한 지능이라고 보는 게 맞다고 봄. 이것자체로도 정말 많은 도움을 주지만, llm에 돈 때려박는다고 마법처럼 agi가 나올 거라는 기대는 글쎄..
얀르쿤 말처럼 아키텍쳐 극복 없이는 llm은 지금처럼 추론 벤치딸이나 치는 신세를 면하지 못하리라 생각함.
지금도 많은 갤러들은 "대충 어느정도 수준에만 이르면 지능이 폭발해서 agi 달성할 거임" 라고 생각하고 있겠지만 진지하게 고찰해보셈.
지금의 놀라운 추론 수준을 가지고도 새로운 형태의 과제 수행 능력이 이토록 처참한 수준인데, 이 방향으로 계속 나아간다고 해서 우리가 막연히 기대하는 그 지수적 발전이 이루어질 수 있을까?
애초 그 가설이 들어맞기 위해선 이미 '범용 지능'의 관점에서 유의미한 수준의 진보가 관찰 되어야하는데, 그럴 기미조차 보이지 않는 것 같음.
감히 예상컨대 GPT-4.5도 기본 베이스가 다르지 않은 이상, 벤치딸 그 이상의 무언가를 보여주진 못하리라 생각함.
o1이 나오면서 얀르큔이 틀렸다고 생각했지만, 역설적으로 추론 모델은 얀르쿤의 옳음을 증명했다고 보는 게 맞는듯.
- dc official App
이미 지수발전 초입임 ㅅㄱ
싹다가속 ㅅㄱ
내가 세상을 왕따시키고 있다!
비행기로는 달에 갈 수 없다
차라리 llm의 한계점이 명확했으면 좋겠음. 특이점은 한발자국 멀어지는거긴한데, 적어도 다시 동일선상에서 경쟁할 수 있잖아. 지금 상황에서 agi가 출현한다고 쳐도 미래가 창창하고 밝다고 확신 못하겠음.
이런글 쓸때는 레퍼런스 하나라도 넣어라 없으면 축.리웹에서 나 전공잔데~ 하면서 빅테크 개발진 무시하는거랑 똑같은거임
비행기로는,,달에,,갈수업다,,
트랜스포머가 데이터셋에서 유도되는 확률 분포를 모사하는 신경망이기 때문에 근본적인 제약이 있지. 앞으로도 LLM의 성능은 더 좋아지고 운용비용도 더 싸지고 하드웨어도 발전해서 훨씬 더 광범위하게 사용되고 생산성도 높일 거라는 건 의심하지 않지만 분명 다음 패러다임이 또 올 것도 확실하지. 지금 SOTA급 모델 가진 회사들도 이미 다음 스텝 다 준비하고 있음
그럴 수도 있고 사실 이게 한국인 입장에선 최선이지. llm이 진짜로 agi asi 로 가는 열쇠였고 미 중이 바로 도달해버리면 한국은 뭐 끝이지. 동남아 국가랑 동급 될듯
솔직히 난 이 정도 수준에서 멈췄으면 좋겠다. 남들보다 LLM 훨씬 잘 써먹는 사람이라 다른 사람 퍼포먼스에서 압도 할 수 있거든. 지금보다 더 똑똑해지고 자율적으로 뭔가 할 수 있는 수준이 되면, 나의 비교우위가 없어짐 ㅎㅎㅎ
llm은 걍 채팅 - dc App
데이터를 스스로 학습하지 못하니까 그래서 학자들이 재귀개선을 연구하고 있는거 아님? 그리고 데이터를 합성해서 결과물을 출력하는건 인간도 결국 비슷한 원리 아닌가 굳이 ai만 내려쳐야할 이유를 모르겠음. 딥 리서치는 이미 그대로 뽑은걸로 B급 저널 심사 통과할수 있는 수준인거 보면 좁고 높은 지능이 맞는것 같은데 - dc App
당연한 말