[📪정보] 특이점이 반드시 올 수밖에 없는 이유 (어그로 아님, 정보글)

[익명(61.255)]

동물들은 이미 자연계에 존재하는 AGI이고 특이점에 중요한 건 단순 AGI가 아닌 재귀개선 가능한 범용 지능임.

이미 자연계에 존재하는 '꼬마선충 - 제브라피쉬 - 개미 - 쥐 - 닭 - 원숭이 - 인간'을 보면 서로 지능의 차이가 존재하고 있음.

즉 각 종들의 커넥톰을 구축하고 서로 분석해서 지능의 차이를 불러오는 원인을 파악하고 

그 원인을 유기뇌 보다 최소 10만배 빠른 반도체에서 구동시키면 초지능이 나오는 거임.

빌 게이츠: "초지능이 미래에 나올것. 개발자들이 우리 뇌의 알고리즘을 ㅈㄴ 빠른 컴퓨터로 돌리게 되면 이미 그건 초지능임"

https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=135938&exception_mode=recommend&page=2

빌게이츠 오늘자 새로운 블로그 업데이트 : AI의 시대

현재 LLM 방식은 언제 한계가 올지 모름 단순 알고리즘 조금 개선하고 스케일을 열심히 늘려가고 있지만 어느 순간 지능의 질적 향상이 멈출 수도 있음.

https://www.edaily.co.kr/news/read?newsId=02728966619311912&mediaCodeNo=257

구글AI, 인간 뇌지도 제작에 도전한다

"인간의 뇌를 매핑한다면 100엑사바이트(1억0485만7600테라바이트) 데이터가 발생한다."

그리고 가장 중요한 부분이 인간 커넥톰 용량은 약 100엑사바이트고 

이건 전인류가 뒤질 때까지 달려들어 역공학 해도 못 하는 수준의 데이터 규모임.

그래서 특이점을 위한 AGI를 위해선 커넥톰을 역공학 해야 했는데 역공학 하기 위해선 AGI가 필요한 모순이 발생했음.

근데 그 부분을 이번 LLM이 중간 연결다리를 하는 인공지능이 된 거고 

LLM의 발전이 정체될 때쯤이면 인간 뇌 커넥톰과 다른 종들의 커넥톰이 이미 구축된 상태일 거고

그 커넥톰 데이터를 LLM으로 분석해서 지능의 차이를 만드는 원인을 파악하면 됨

빌 게이츠: "2년 안에 AI가 수학적 실수하거나 추상적인 추론 못하던게 아주 크게 개선될 것"

인간이 현재 수준의 과학적 발전을 이룰 수 있던 건 '추상적 추론'이 가능했기 때문인데 

최근 빌 게이츠 블로그에서 2년 안에 추상적 추론 부분이 아주 크게 향상될 거라고 함. 

GPT-4가 1년 전부터 테스트하던 모델이니 이미 빌 게이츠는 GPT-5의 편린을 봤을 거고 이 부분은 거의 확정이 아닌가 싶음, 

즉 앞으로 2년 후부턴 인공지능이 유의미한 과학적 발견을 할 수 있다는 뜻이고 그건 커넥톰 분야에 있어서 아주 큰 호재임.

그러니깐 이 글의 핵심은 '하늘을 날기 위해 새처럼 날개짓을 할 필요없이 새가 나는 원리에서 영감을 얻어 비행기를 만들면 된다' 의 논쟁의 핵심이었던

뇌의 정보 처리 과정에서 영감을 얻어서 인공지능을 개발하는 것만으로 특이점 도달에 충분한가

아니면 뇌를 완전히 역공학 해내야 특이점에 도달 가능한가 이 논쟁의 결말이 이제 어느쪽으로 가던 특이점이 올 수밖에 없다로 결론났기 때문임.

https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=136483&exception_mode=recommend&page=1

GTC 젠슨황과 일리야 서츠키버 : AI의 현재와 미래

https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=137364&exception_mode=recommend&page=1

그러니깐 현재 GPT하고 AGI 타임라인 정리해보면 이거임?

https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=136963&exception_mode=recommend&page=1

MS GPT-4 논문에서 이 부분이 재밌네

일리야 서츠키버: "GPT가 텍스트들의 상관관계만 배우는 것으로 보일 수 있지만 사실은 세상을 이해하고 나타내는 월드 모델을 형성하고 있음"

딥 러닝의 3대 석학 중 한 명이면서 CNN을 만든 얀 르쿤이 LLM 모델은 달에 못 가는 기술이라고 우리는 로켓이 필요하다.

"AGI를 위해선 실제 세상을 이해하는 모델이 필요하다" 라고 비판했었는데..

언어 = 인간이 세상을 설명하고 의사소통 하기 위해 만든 도구이기에 언어를 잘 하는 것이 실제 세상을 이해하는 것과 맞닿아있음.

GPT-4가 그냥 다음 단어나 예측 잘 하는 빈깡통인줄 알았는데 알고보니

언어 모델 = 세상 모델이고

얀 르쿤이 허구한 날 하던 소리인 "AGI를 위해선 실제 세상에 대한 이해를 가진 모델이 필요하다" 가 해결됨.

그리고 '2년'이라는 기간을 알트만, 빌 게이츠, 일리야 수츠케버가 공통적으로 언급하고 있다는 점.

LLM 모델로 특이점 도달에 실패해도 LLM 자체가 커넥톰 역공학의 중간 연결다리가 되어 

다음 수확 가속 발전의 양분이 된다는 점을 보면

우리는 이미 피할 수 없는 특이점으로 가는 궤도에 올라섰다는 게 이 글의 결론이다.

인생 즐겜 모드로 살자 애들아.

[익명(121.175)]

그래서 언제쯤인데 - dc App

[익명(182.222)]

그건 다 알아 몇십년전 폰노이만이 이미 필연적이라고 함 중요한건 언제냐는거지

[잔상k(rkdwlgn)]

특이점이 온다 - dc App

[뭐냠(tupa159)]

얀 르쿤은 언어가 문제라고 말한 거는 아닌 거 같고... 현재 LLM의 토큰화가 문제라고 말했던 거 같음. ... 아무튼, 현재 LLM이 멀티모달에 로봇까지 결합되면, 앞으로 기술 발전은 더 빨라지겠지...

[MoonChild(aowlr2001)]

[ㅇㅋ(219.241)]

일리야 서츠키버: "GPT가 텍스트들의 상관관계만 배우는 것으로 보일 수 있지만 사실은 세상을 이해하고 나타내는 월드 모델을 형성하고 있음" 이말이 제일 공감된다, 난 텍스트간의 상관관계일뿐으로 보이겠지만 애초에 그게 인간이 언어로 자기들 인식체계를 축약해놓은거임 ㅇㅇ

[익명(27.255)]

ㄹㅇ..

[익명(211.222)]

결국 재귀발전>지능폭발이 핵심인데 2년 안에 그게 될거라는 코멘트는 아니었음

[익명(211.214)]

특이점은 빡센거지 agi가 2~3년 내 도달 가능 지점이 된 것만으로 이미 특붕이들은 기세당당해져도 됨ㅋㅋ지난 3년동안 미친놈 취급받던 거 대가리 깨부수러 가면 된다

[익명(61.255)]

얀 르쿤이 허구한 날 하던 소리인 "AGI를 위해선 실제 세상에 대한 이해를 가진 모델이 필요하다" 가 해결됨. <- 이부분 글에 근거가 없네 뭐가해결됐단거임? gpt4는 상식 없는 깡통맞는데

[익명(61.255)]

그리고 llm을 누가 뇌지도 만드는데 쓰는지좀 알려줘라. ' 그 커넥톰 데이터를 LLM으로 분석해서 지능의 차이를 만드는 원인을 파악하면 됨 ' 이건 그냥 코끼리를 냉장고에 넣으려면 냉장고 문 열고 코끼리 넣고 냉장고 문 닫으면 된다는 급의 무책임한 소리 아님?

[익명(211.214)]

일단 gpt-4가 단순 깡통이 아니라 추론이 가능함 이를 바탕으로 멀티모달 학습을 통한 성능 향상으로 인간의 일을 대부분 대체할 수 있는 agi레벨까지 가는 건 가능하다는 거임 이제 재귀발전이 가능한 asi로 가기 위해선 여러가지 시도가 필요할텐데 gpt5든 다음버전이든 그게 도움이 될 수 있다 이런 건 니 말대로 뇌피셜은 맞음 그래도 희망회로는

[익명(211.214)]

돌려볼 수 있다는 거지

[익명(61.255)]

ㄴ 결국에 희망회로라고 인정할거면 논리전개는 왜하는거임.. gpt4 바탕으로 agi간다는것도 희망회로중 하나고. 나는 본문에 해결됐다고 적힌 부분이 아무런 근거가 없어서 댓단거임 gpt4가 깡통인것도 사실이지만

[익명(218.152)]

그놈의인간일대체는왤케꿈꾸는거임?ㅋㅋ 그럴일없음 - dc App

[익명(211.214)]

아니 agi는 희망회로가 아니라 확정이라고 agi를 뭐로 생각한 거임? agi는 인간의 대부분의 일을 할 수 있는 범용성을 가진 인공지능-이거는 이미 도달 직전이라고 희망회로가 아니라;; 본문은 그 agi가 어떻게 asi로 가는 지에 대한 희망회로고

[익명(61.255)]

ㄴ 내 댓글 논점이랑 달라서 굳이 길게 얘기하고싶진 않은데 agi가 확정이라는 직접적인 증거좀 줬으면 좋겠다. 난 agi가 안온다고 한적없음 gpt4 기반으로 agi를 달성할 수 있다는게 직접적인 증거가 없다는거지

[익명(61.255)]

다시말하지만 내가 댓글을 단 이유는 본문에 두가지 부분에서 논리 비약이 너무 심한 부분이 눈에 띄어서 단 거임.

[익명(211.214)]

일단 gpt-4 기반이 아니라 다음 버전을 얘기하는 거임 gpt의 기반이 언어모델인 데 여기서 재귀개선과 장기기억에 관한 논문들이 쏟아져나오고 있고 이걸 적용시킨 다음버전에서 agi달성이 가능하다는 거고 얀르쿤에 대한 완벽한 반박이 되는 거임 그리고 gpt-4또한 멀티모달이 가능해지면서 얀르쿤의 말도 일정부분 반박 가능한 거고

[익명(211.214)]

Gpt4가 중요한 건 멀티모달이 가능하다는 거고 이 다음버전에서 멀티모달을 통한 더 많은 학습량과 새로운 재귀개선,장기기억 기법까지 적용하면 달성 가능하다는 거지 뇌지도 부분은 뇌피셜 맞는 데 첫번째는 가능한거임

[익명(61.255)]

ㄴ 너가 gpt4 바탕으로 agi가 가능하다길래 답글 단 거임. 앞으로 ㅈㄴ 많이 발전한다는 건 맞는데 이게 agi '확정'이라는 단어를 쓸만한 근거는 아닌거같다 직접적인 증거도 아니고

[익명(61.255)]

그리고 최근 나온 장기기억 논문들이랑 agi랑 무슨상관이냐. 언어모델의 입출력이 길어진거랑 범용지능도달이랑 무슨 상관임 몰라서 묻는다

[익명(61.255)]

하여간에 본문 글은 허점투성이. 이게 내가 원래 하려던 말의 전부다 agi가 등장할지는 나야 모르고

[알파(macom1122)]

글쓴이랑 아이피 같은거 우연이지? - dc App

[익명(211.214)]

장기기억은 맥락 이해를 바탕으로 한 추론에 매우 필수적인 요소라 반드시 필요/ gpt4는 다음버전의 기반이 되는 거라 그렇게 적은 거고 직접적인게 아니라 못 받아들이겠다면 기다려보면 됨 다음버전은 인간 일 대부분을 대체 가능하게 만들꺼임

[YorushiKanyewest(yorushika12)]

개같이 와바박 추천

[익명(103.249)]

https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=138176&page=1

[익명(103.249)]

아직도 빈깡통 드립 치는 애들이 있네...

[익명(138.199)]

처음에 대규모 언어 모델(LLM)이 다음 단어를 확률 높게 예측하는 빈깡통이라고 인공지능 대가들이 대부분 비판했었음 그 비판의 대장이 인공지능 3대 석학 중 하나였던 얀 르쿤이고 선형충들이 이 얀 르쿤 의견으로 무장해서 GPT-3 때 빈깡통이라고 존나 깜 나도 물론 얀 르쿤 의견에 동의했고 GPT-3 때 같이 비판했었음

[익명(138.199)]

근데 규모를 계속 확장하다 보니깐 언어만 잘 하게 만들었던 챗봇이 다른 것들도 잘 하는 거임 개발자조차 원인을 모름, 근데 언어란게 사람들이 세상을 설명하고 의사소통 하기 위해 만든 도구임 자기들의 인식체계를 축약해논 도구. 그래서 마소 프로토타입 GPT-4 논문 보면 알겠지만 텍스트 모델 GPT-4한테 그림 그리기나 다른 걸 시켜도 잘 함 단순 빈깡통이면 불가능 했던 일인데 즉 인간의 인식체계를 축약해논 언어를 대규모로 스케일업 하니 세상을 이해하고 나타내는 월드 모델이 형성된 거임.

[익명(138.199)]

그리고 이러한 예측이 최근에 오픈AI 수석 개발자 일리야가 GPT가 텍스트들의 상관관계만 배우는 것으로 보일 수 있지만 사실은 세상을 이해하고 나타내는 월드 모델을 형성한다고 인터뷰 하면서 확정됨. 이미 오픈AI는 마소한테 조 단위의 투자를 받았고 결과를 냈고 그 투자한 마소에서 프로토 타입 AGI라는 논문까지 냈는데..

[익명(1.241)]

ㅅㅂ추천을 안 누를수가 없네

[익명(210.105)]

글이 진짜 사실인지 아닌지는 모르지만 언어가 세상을 이해하는 도구고 언어모델 만으로도 세상을 이해할 가능성이 생겼다는 게 철학을 담은 SF소설이 현실시 된 것 같아서 재밌네

[익명(alice1900)]

[익명(61.97)]

GPT-0 논문 설명 글이 이 글의 언어와 이해가 왜 관계가 깊은지 이해 하는데 도움이 될듯
https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=138278&page=1

[익명(211.211)]

게임끝

[익명(119.67)]

뇌 역공학을 딥러닝이 얼마나 빠르게 효율적으로 수행할 수 있을지는 아직 미지수임. 물론 특갤 초기시절에 딥러닝을 뇌 역공학에 써먹으면 된다고 행복회로 돌리던 시절에 비하면 기술이 훨씬 발전해서 그때보단 가능성이 높아졌지만 이게 뇌를 역공학할 만큼의 역량이 충분하냐는 별개의 문제라 아직 두고봐야함

[익명(103.249)]

2년 = 핵심 LLM + 멀티모달 + 플러그인 스토어. 내가 보기엔 '2년'이란 기간을 자꾸 언급하는 거 보면 이미 심적 확신은 있는 거 같음 단지 핵심은 LLM이 맞지만 거기에 + 약간의 멀티모달이고 현재 GPT가 플러그인 스토어를 만들어서 플랫폼화 중인데 이게 흥해서 다양한 특화 인공지능 API들이 여기에 올라와서 GPT랑 연결될 때 GPT는 모듈식 AGI로서 완성되고 모듈식이기에 단일 모델로 완벽한 범용성을 띄는 건 아니니 현재 방식만으론 안 되고 몇 개 아이디어가 더 필요하다고 말하는 거고 그 아이디어란게

[익명(103.249)]

2년 후 추론이 더 완벽해진 GPT가 플러그인 스토어에 올라온 특정 분야 특화 인공지능의 API를 긁어다 그 입출력을 추론하고 피드백 하면서 재귀개선 하는 거일듯 이런건 심적 확신이니 언론에 나와서 말할 게 못 됐을 거고 ㅇㅇ GPT-4는 플러그인 스토어와 합쳐지면서 모듈식 AGI의 시작인 거고 GPT-5는 그 플러그인 스토어에 올라온 것들의 입출력을 추론하고 피드백하면서 재귀개선 ~어쩌면 그정도 수준의 심적 확신을 가지고 있을듯

[익명(138.199)]

2년 = 핵심 LLM + 멀티모달 + 플러그인 스토어.
https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=138743&exception_mode=recommend&page=1