특이점이란게 기술이 기술을 발전시키는 순간이 와서 급격한 발전이 있는거잖아
근데 이 특이점의 핵심이 결국 ai인거 같던데 레이 커즈와일의 논리는 인간수준의 ai를 개발하면 이 ai가 스스로를 개량하기 시작해서 어마어마한 지능을 가지게 될거라고 하더라고
여기서 궁금한게
지능이란거에 한계가 없나?
지능 = iq는 아니지만 예시를 위해 그렇다고 가정하면 iq가 1000 2000 10000 10000000 이렇게 무한히 증가할 수 있는거임? iq가 200이나 300쯤에 막혀있을수도 있잖아
특이점이 온다에서는 이 부분을 간단한 규칙으로 아주 복잡한 규칙도 생성할 수 있다는 점을 보여주면서 ai가 더 똑똑한 ai로 자가개량이 가능하고 동시에 무한히 지능이 확장된다고 설명하던데 이걸 지능과 동일시 할 수 있을지 좀 의문이 듬
복잡도 = 지능은 아니니깐
난 책을 읽으면서 개인적으론 gpt-3로 인해서 인간수준 or 뛰어넘는 ai의 등장은 생각보다 금방 등장할거 같긴한데 초지능이나 특이점이라는 개념에 대해선 좀 의문이 많이 생기더라고
근데 이 특이점의 핵심이 결국 ai인거 같던데 레이 커즈와일의 논리는 인간수준의 ai를 개발하면 이 ai가 스스로를 개량하기 시작해서 어마어마한 지능을 가지게 될거라고 하더라고
여기서 궁금한게
지능이란거에 한계가 없나?
지능 = iq는 아니지만 예시를 위해 그렇다고 가정하면 iq가 1000 2000 10000 10000000 이렇게 무한히 증가할 수 있는거임? iq가 200이나 300쯤에 막혀있을수도 있잖아
특이점이 온다에서는 이 부분을 간단한 규칙으로 아주 복잡한 규칙도 생성할 수 있다는 점을 보여주면서 ai가 더 똑똑한 ai로 자가개량이 가능하고 동시에 무한히 지능이 확장된다고 설명하던데 이걸 지능과 동일시 할 수 있을지 좀 의문이 듬
복잡도 = 지능은 아니니깐
난 책을 읽으면서 개인적으론 gpt-3로 인해서 인간수준 or 뛰어넘는 ai의 등장은 생각보다 금방 등장할거 같긴한데 초지능이나 특이점이라는 개념에 대해선 좀 의문이 많이 생기더라고
현 시점에서 지능에 상한선이 있을 거라고 생각할 이유가 전혀 없으니까 - dc App
지능에 상한선이 있는지 없는지를 모르는데도 없다고 가정하는건 너무 오바아님? 진짜 그런거면 너무 종교같잖아
그렇게 따지면 상한선이 있다는 근거가 없는데 아무튼 상한선이 있을 거라고 믿는 것도 터무니없는 건 마찬가지잖아 - dc App
어차피 근거가 없다면 지능에 개선의 여지가 많다고 믿는 게 훨씬 생산적인 가정이지 - dc App
공학적인 가정은 그렇지만 과학적인 가정은 그렇지 않잖아 그런 시각에서의 의문임
따지고 보면 내가 언급한 진화의 허술함이 인간 수준을 크게 능가하는 지능이 존재할 수 있다는 가정의 간접 증거가 될 수 있지. 반면 이미 지능의 한계에 가깝다는 가정은 개연성이 아주 낮고. 그럼 과학적으로도 어느쪽이 더 그럴싸한 가정인지는 뻔한 거 아님? - dc App
엄밀하게 따지자면 그런 가정은 과학적인 가정이 아니긴하지 동전을 던져서 앞면이 100번 연속 나왔다 할지라도 다음번 확률은 반반이잖아
과학은 개연성과 확률로 하는게 아니니깐 근데 나도 지능의 한계가 있다면 인간지능보다는 훨 높은 차원에 지능의 한계가있다고 생각하긴함
근데 레이 커즈와일이 왜 지능의 한계가 없다고 단정지었는지 특이점이 온다라는 책에는 명확한 근거가 없어서 여기 올려본거임
순전히 물리학적, 정보 이론적 관점에서 보면 양자 상태를 논리 게이트로 쓰는 컴퓨터가 있다면 데스크톱만한 컴퓨터가 인류 전체를 능가하는 정보 처리 능력을 가질 수도 있음 - dc App
연산력과 지능은 조금 다른개념이 아님?
적어도 지금까지 알려진 바에 따르면 근본은 같음 - dc App
연산력과 지능 소프트웨어는 다르지 우주가 설계한 인간지능 소프트웨어에 무한한 연산력을 땨려박으면 인간 100명 1000명 1억명 1조명이 머리맞대고 토론하는거지만 그렇다고 원숭이 1억명이 토론한다고해서 인간 1명을 뛰어넘진 않잖아
즉 지능 = 소프트웨어고 연산력 = 명수라고 생각해야지
생물학적으로 보면 진화는 어디까지나 생존과 번식에 유리한 방향으로 종을 변화시키는 압력에 불과한데, 자연 진화의 산물인 인간의 두뇌가 지능의 한계에 육박하는 수준이라는 건 가능성이 낮은 얘기지 - dc App
ㅇㅇ 나는 인간의 지능이 지능의 한계라곤 생각안함 근데 지능이 한계없이 무한히 개선가능한지가 의문인거임
무한한 지능 팽창은 불가능할 수 있지. 우주기 유한하다면 지능의 기반이되는 물리적 재료를 확장하는 데 한계가 있을 테니까. 하지만 고작 인간 지능을 기준으로 잡는다면 거의 무한해 보일 정도로 끊임없이 개선하는 건 가능하겠지 - dc App
지능의 상한이 있는지 없는지 모른다면 특이점이나 초지능같은 개념보다 완몰가 노화역전 영생같은 과학기술 그 자체가 더 중요한게 아닌가 싶음
그건 초지능이 있으면 그런 연구도 훨씬 빨리 진행될 테니까 초지능의 출현을 기본 가정으로 삼는 거지 - dc App
인간 지능에 한계가 있으니까 언젠가는 인류의 능력 만으로는 해결 불가능한 난제에 가로막힐 지도 모르지. 만약 영생이나 완몰가가 그런 종류의 과제라면? 그게 아니라도 실현하는 데 백년 이상 걸리는 일이라면? 그때가 바로 초지능이 필요한 순간이지 - dc App
1조마리의 생쥐가 모인다해서 간단한 미분조차 할수없는거 처럼 결국 아주 핵심은 연산력이 아닌 지능이라 생각함
1조마리의 생쥐가 힘을 합쳐서 미분을 해본 적이 없는데 불가능한지 어떤지를 어떻게 아냐. 생쥐 1조 마리가 모여 있어도 걔들 사이에 정보를 교환할 수단이 없으면 쥐 한마리 수준을 넘어서는 지성은 발휘할 수 없음 - dc App
서로 언어가 다른 원시인 백만명을 모아 놔도 간단한 미분조차 못함. 지식도 없고 서로 정보교환 하고 협동할 수단이 없으니까. 그렇다고 해서 그게 인간한테 지능이 없다는 증거임? - dc App
흠 정보의 교환적 측면으로 봐도 생쥐 1조마리가 모여서 미분을 풀어낼거라 생각하진 않는데 니 말을 듣고나니깐 진짜 그런건지 궁금하긴 하네
근데 이 쥐 1조마리의 연산력을 가진 존재와 쥐 1조마리가 정보교환을 완벽하게하면서 합쳐진 덩어리를 비교해보면 이 두 존재의 지적 능력이 동일하다고 가정할수 있음?
예를 들어 재생산 능력 같은 걸 제외하고 특정 목적에 최적화된 형태라면 현대 문명 수준에서도 자연 생명체를 능가하는 기계를 만들 수 있음. 그런데 오직 지능만이 우주에서 가능한 퍼포먼스의 한계에 도달한 수준이다? 그럴 리가 있나 - dc App
지능과 연산력이 근본적으로 같다는 거에는 동의하기 힘든게 컴퓨터의 연산능력 아무리 발전시켜도 그 연산력을 활용하는 소프트웨어가 없으면 그저 계산기에 불과하잖아 그리고 나는 이 소프트웨어의 성능이 지능이라고 생각함 그리고 당연히 최악의 경우 인간지능이 지능의 한계일수도 있지만(우주가 설계한 생물학적 지능 소프트웨어) 당연히 이 경우는 아닐 확률이 매우 높다고
생각하긴함 근데 결국 돌고돌아 지능의 개선이 가능할지라도 ( 우주가 설계한 생물학적 소프트웨어를 뛰어넘는 소프트웨어 개발) 이 수준이 어느정도까지 열려있는지는 미지수가 아닌가?
지능의 종류에는 한계가 있을 수도 있음. 지능이란 결국 현실에 존재하는 문제들과 한세트로 발달하는 거라서 해결해야할 문제가 아무것도 없다면 지능도 측정할 방법이 없음. 하지만 지능의 양적 한계는 없다고 봐야지. 인간이 아주 복잡한 일을 하나 처리하는데 일주일이 걸린다면 AGI는 하루만에 1천건을 처리하고, 초지능은 하루만에 10조 건을 처리하고, 초지능에서 더욱 더 확장된 버전은 하루만에 100해 건을 처리할 수도 있겠지. 처리하는 일과 발휘하는 지능의 종류는 유사하지만 지능의 양적 수준은 차원이 다르지. 그런 점에서는 지능의 한계는 없다고 봄.
어떠한 소프트웨어가 있다면 당연히 연산력만 무한이라면 맞는말이긴 함 현존하는 최고수준의 지능 소프트웨어는 우주가 설계한 생물학적 인간지능이라 생각하는데 이걸 뛰어넘는 소프트웨어가 등장할지, 그리규 이 소프트웨어의 성능이 무한히 열려있을지는 의문이라 생각하고 그렇다면 특이점이라는 개념에 집착할 필요가 없다고 생각함
완몰가 영생 노화역전은 인간수준의 소프트웨어와 무한한 연산력으로 충분히 가능하다고 생각하기때문에
있을지 없을지는 모르지. 인간지능 수준으로는 대답할 수 없는 질문들이 차고 넘치는데 그것들 중 하나라고 생각함. - dc App
아무도 모름, 지금 당장 컴퓨터가 정보 처리하는 양이 인간을 뛰어넘는데 컴퓨터가 직관력이 필요한건 못하잖아. 인간 뇌에 대한 비밀을 풀어야 초지능도 가능할거라고 봄. 단지 연산력만 높인다고 되는게 아니라
니 문과지
수학관데
소프트웨어가 성능을 제한한다해도 하드웨어가 미치면 미친 클럭(시긴) 빨로 처리 기능할 수 있어서 ㅇㅇ 인간 한명 수준의 인공지능이 1초에 1백년 어치의 일을 처리할 수 있다고 생각하면 됨.
무엇보다 스스로 업데이트하는 수준이면 가속된 시간 빨로 지능이 스스로 올라가니까.. 진화하는 속도가 빠른 인공지능이 중요한거임