뭐든지 한계점이란게 있는거고,
그 한계점에 가까워지면서 발전속도도 급격하게 느려지지 않노
100m 신기록이 계속 단축되곤 있지만
아무리 그래도 인간이 5초만에 달릴순 없을거고
마라톤도 1시간안에 완주하는건 불가능할거잖아?
벤치프레스를 500키로 드는 사람은 없을거고 말이야
근데 기술은 끊임없이 발전하고
오히려 점점 더 빠르게 발전한다는 보장은 어떻게 하는거임?
지금까지는 물리적 한계점보다 훨씬 못한 기술력이었으니까
가파르게 발전해온거지만
머지않아 그 한계점에 봉착할 가능성도 분명히 있지않음?
그 한계점이 강인공지능 이후라면 나도 참 좋겠지만
강인공지능이 물리적으로 불가능하다면?
그 한계점에 거의 다 온 상태라면??
한계점은 없지 계속 수많은 아이디어랑 발견이 계속되는 이상 멈추지 않을것임
어케 알어 그걸... 한계는 없다고 누가 보장해주는것도 아니고
한계점은 있는데 어디가 한계인 지 모름. 레커도 특이점이 온다에서 서술했다시피 기술적 특이점도 결국 어느 시점에서 한계에 봉착하여서 기하급수적 성장이 점차 느려질 것이라 봤음.
이러한 한계점이 있는 이유는 모든 것의 경우의 수, 즉 아이디어, 상상력... 생각할 수 있는 모든 것들은 유한하기 때문임. 물론 우주 법칙을 마음대로 조작, 즉 현실조작이 가능한 경지까지 올라갔을 때의 이야기고. 그 전에 우주 법칙을 넘어서지 못하면 1차적으로 그 안에서 놀아야 함.
기하급수적 발전이 영구히 계속될거라고는 얘기할 수 없음. 하지만 또 그렇지 않는다고도 단정할 수 없음. 레커가 말하는 지수함수적 발전도 여러가지 사례들을 보고 발견해낸 발전 패턴이지 절대적인 법칙이 아니고, 뭐든지 한계가 있다, 흥망성쇠와 부침이 있다는 것 역시도 인간들이 여러 현상을 경험하면서 발견해낸 패턴일 뿐임. 다행이도 물리적 한계는 양자컴퓨터를 논외로 하더라도 인간의 뇌 하드웨어 수준(10페타플롭스-연산력이 절대기준은 아니지만 그냥 쓰도록 하겠음)의 몇십억배 수준(초지능)의 하드웨어를 만드는데 까지는, 좀 더 어렵고 비용이 들 뿐이지 절대적인 자연법칙의 한계는 아님. 현재 0.1나노미터 공정까지도 장기적 로드맵으로 두고 있는 것을 보면 가능하다고 봄.
또 하드웨어가 아닌 소프트웨어 알고리즘 쪽은 물리적인 한계는 없을 것이고 인간의 지능만으로는 더 이상 개선을 할 수 없는 난해함에 봉착할 수도 있지만 딥러닝의 도움만으로도 이전에는 도저히 엄두조차 못내던 일들을 해낼 수 있게 되었음. 인간 뇌에 대한 정교한 분석도 그 중 하나임. 인간의 마음은 860억개의 뉴런과 100조개의 시냅스라는 어마무시한 선별작업을 하려면 얼마나 걸릴 지 모르지만 인공지능은 가능함. 인공의식은... 의식에 대한 결론이 나지 않았으니 알 수 없지만, AGI 정도는 하드웨어적으로나 소프트웨어적으로나 '어떻게?'를 아직 모를 뿐 불가능이 아님. 쉽게 말해 비밀번호 푸는거랑 비슷함.
비밀번호만 맞추면 문은 열리는데, 비밀번호를 모르는 거지 물리학적으로 비밀번호를 맞추거나 문을 여는게 절대 불가능한 한계인 건 아니잖아?
일단 AGI만 개발되면, 초지능은 여러 양상으로 가능함. 그냥 비슷한 수준에서 컴퓨팅 자원만 몇십억배 이상 뻥튀기 하는 것도 초지능이고, 지구상의 온갖 동물들의 뇌를 연구해서 다양한 지능들을 전자화하여 적용하는 것도 초지능으로 가는 하나의 방법이고, AGI가 자기가 알아서 다양한 지능의 법칙을 발견하고 실험하면서 스스로의 지능을 팽창시켜나갈 수도 있는거고. 하드웨어는 인류 전체의 지능을 넘고도 남을 정도의 성능을 보장해주는데 그 안에서 과연 어떤 효율적인 지능시스템을 만들어낼지는 AGI이후에는 솔직히 인간은 극히 제한적으로만 알게 될 거 같음
기술발전이 이뤄질수록 더 새로운 기술분야가 개발되니까 그런거지 한분야만 따지면 한계가 있겠지만 - dc App
나도 물리법칙이 제한되어있으니 발전에 한계는 있을거라 생각함. 근데 그 한계가 엄~~청 멀리 있어서 특이점이 오기 전까지는 계속 지수적 발전할거라 생각함
근데 달리기랑 벤치프레스 비유는 좀 핀트가 많이 엇나갓다...
기술의 한계는 국소적 부분에서는 일어날 수 있지만 총체적으로는 대안기술이 등장해서 훨씬 더 전면적으로 발전할 거 같다.아직 발전 분야가 무궁무진하다.
기술발전을 100미터 달리기에 비교하는건 좀.. 여태까지의 기술발전이 100미터 달리기 기록줄이는 거였으면 컴퓨터는 트랜지스터가 아니라 진공관 쓰고 있어야되지 이제 트랜지스터도 더 못줄이겠으니까 양자컴퓨터 개발하는 세상인데 - dc App
기하급수적 성장은 이렇게 이해하면 됌. 100미터 달리기를 한다 치면, 처음에는 걸어가고, 그 다음은 달려가며, 자전거를 타고, 자동차를, 항공기를, 제트기를.... 이런 식으로 점차 빨라져. 왜 이런 형상이 벌어지는가 함은, 단순히 인간의 힘으로 달리는 게 아닌 인간이 쌓아왔던 기술을 바탕으로 점차 빠르게 발전할 수 있게 되니깐 그럼.
물론 위에 다른 대댓글에 적었다시피 한계는 존재할 거임. 100미터 달리기에서 광속을 뛰어넘지 못하는 것처럼. 물론 우리가 알고 있는 법칙 내에서기 때문에 미래의 초지능은 어떤 방법으로 광속을 뛰어넘을 지, 아니면 그것 조차도 광속을 뛰어넘을 수 없을 지 우리는 알 지 못함.