가장 대표적인 비판은 기술의 발전 속도는 한계체감할 수밖에 없기 때문에[81], 특이점이 오지 않을 수도 있단 것이다. 인간에 의한 기술 발전이 현재 빠르게 이루어지고 있다고 해도 언젠가 인간의 지능, 경제나 사회, 기술력 등의 내/외적 문제 혹은 모순으로 한계에 부딪힐 수 있고, 그렇게 되면 기술적 정체가 오게 된다는 것. 신기술이라는 게 꼭 현재 경향대로 계속 발전하지는 않는다는 것이다. 스페이스 레이스가 한창이던 1960년대에는 현재 발전속도대로라면 인류가 달에도 가니까 곧 화성도 가고 21세기 초가 되면 태양계를 정복하고 우주 식민지쯤은 개척하겠지 하고 생각하는 경우도 많았다. 이런 류의 장밋빛 미래 예상은 이것이 미래세계다에서나 꿈의 70년대 미군처럼 과거에 수도 없이 많았지만 21세기 지금의 현실을 보면 알 수 있듯이 예상대로는 잘 되지 않는다.
이런 류의 예상에서는 언제나 그 시점에서 급격히 이루어지던 기술적 발전을 기반으로 미래를 예상했다. 하지만 그 발전 속도가 계속 유지된다는 보장은 없고, 오히려 미래상은 그런 급격한 기술 발전이 현실의 벽에 부딪힌 후 다른 방향에서의 기술 발전으로 인해 급격하게 변화하는 경우가 많았다. 달 착륙 계획이 이루어진 1960년대에 예상한 21세기 초의 미래는 우주개척시대의 로망을 쫓아 우주정거장에서 인류가 사는 시대였다. 하지만 21세기 초에는 물론 그런 시대는 오지 않았다. 그러나 그렇다고 1960년대와 비교해 지금이 기술적 발전과 사회상 변화가 없다고 할 수는 없다. 지금 이 글을 읽고 있는 인터넷은 1960년대에는 제대로 상상조차도 못하던 물건이었다는 걸 생각해 보자. 1960년대에 생각한 미래는 우주선은 흔하지만 페이스북은 없는 시대였다. 미래는 예측하기 어렵기에 미래인 것이다.[82]
일각에서는 현재의 기술 진보란 것이 20세기 중후반에 마련된 큰 토대에서 벗어나지 못했다는 입장도 있다. 단적인 예로, 2019년 현재 무선 통신 환경을 통해 연결 접근성이 큰 폭으로 확장되었다 하더라도 이러한 환경을 이루는 기반은 여전히 기계어와 어셈블리어이다. 그리고 이 기계어와 어셈블리어를 편리하게 작성하기 위한 고급 언어로 1970년대에 나온 C언어가 아직까지 쓰이고 있다. 이를 땅과 건물을 짓는 것으로 비유하자면, 현재의 기술 진보는 새로운 땅을 개간해 건물의 면적을 넓히는 것이 아니라, 원래 주어진 땅에 건물만 높이 쌓아 올리고 있는 것과 같은 것이다. 그리고 이런 식의 공간 확장은 언젠가 필연적인 한계를 맞이하게 된다. 실제로 2019년 현재 반도체 집적 기술은 한계에 봉착하고 있으며, 공정 미세화[83]의 진행 속도가 해가 갈수록 오히려 더져지고 있는 상황[84]이다. 현재의 전선과 반도체를 사용한 계산 시스템은 한계에 달했다고 보며, 이를 타개할 방법은 분자 단위의 유기 나노 컴퓨터 같은 전혀 다른 방법이 될 가능성이 높은데, 이것은 아직 이론만 있을 뿐 실현되지 못하고 있다. 신경과 세포로 이루어진 뇌라는 것부터 어떻게 기억이 저장되고 전달하며 사고와 계산을 하는지 전혀 작동 구조를 모르고 있다. 심지어 뇌의 부위별로 맡은 영역이 다르다는 기존의 이론을 부정하는 의학적 사례도 다수 보고되는 형편이니, 뇌를 흉내내서 유기 컴퓨터를 만들 방법 또한 현재는 없는 셈이다.
이러한 한계는 컴퓨터 하드웨어의 영역에서도 두드러진다. 오늘날의 컴퓨터의 저장 장치가 RAM, ROM, 보조 저장장치[85]으로 나뉘는 것 역시 에니악의 설계가 그대로 이어져 온 것으로, 80년대 후반 이미 저장 장치가 세 종류로 나뉘어져 있는 것이 비효율이 지적되었지만 2019년에도 개선될 여지는 크지 않다. 위 세 가지 장치를 통합하기 위해 비휘발성 RAM이 기술적으론 제안되었지만, 물리적 성질의 한계로 보편화되기는 어려운 상황이다.[86] 송전과 통신 분야에서도 기술적 특이점을 맞이하기 위한 한계가 뚜렷한데, 현재 상온에 존재하는 모든 도체는 어떤 방식으로 전력이나 데이터를 전송하건 손실이 발생한다. 특히, 통신 분야에서는 이러한 손실에도 품질을 유지하기 위해 똑같은 신호를 수십배로 증폭해서 전송하거나 전송 속도가 다소 지연되더라도 오류 코드를 삽입하는데, 이는 상당히 비효율적인 방법이다. 이러한 한계를 극복하기 위해선 열역학 법칙을 극복한 영구기관이 상용화되어 손실을 만회하거나, 상온 초전도체를 개발해 손실이 없이 전송할 수 있어야 한다. 하지만 이 둘 모두 하나는 애초에 불가능하고, 나머지 하나도 확증되진 않았으나 불가능할 것으로 알려져 있는 것이다. 이렇듯, 2019년 현재 향유하고 있는 기술 역시 그 한계가 명확하며, 이 기술들이 기반하고 있는 과거의 틀을 극복한 것도 아니다. 이러한 한계의 임박을 지지하는 학자들은 기술적 특이점은 커녕 현재 인류가 향유하고 있는 현대 문명의 발전의 한계점이 기술내[87]ㆍ외[88]적으로 21세기 이내에 다가올 것이라 전망한다.
더욱이 2045년이라는 수치 자체도 근거가 없는 주장이며 과학자들 역시 이에 대한 비판을 하고 있다. "저는 좀 먼 미래라고 봅니다. 2045년을 예측한 이들이 있는데, 2070~2090년 정도는 가야 하지 않을까요." 홍성욱 교수(서울대학교 생명과학부) "근거가 없는 얘기라 현실 가능성이 있다고 말하기 어렵다", "과학적인 근거가 나와야 발전이 있을 것이다" 이경전 교수(경희대학교 경영학과) 마이크로소프트 공동 창업자 앨런의 경우 커즈와일이 가속화의 법칙에 기반하여 빨리 올 것을 예측하고 있지만 현실에서는 그렇게 빠른 발전이 이루어지지 않는다고 비판했다. 특히나 앨런은 특이점이 2045년에 오는 것은 고사하고 21세기 말에 이르러서도 언제 올지 알 수 없을 것으로 보고 있다 앨런 정재승 교수 역시 2045년이라는 수치가 근거가 있는 수치가 아니며 검증조차 하기 어렵다며 비판을 가하였다. 정재승 교수
이렇게 기술이 정체될 것을 상정할 경우 애당초 근미래에 인간보다 똑똑한 인공지능을 만들 수가 없으므로 특이점 자체가 존재할 수 없게 되고, 나온다 하더라도 현재의 기술발전속도를 기반으로 주장되는 것보다는 훨씬 더 먼 미래의 일이 된다. 아이러니한 것은 현재 인간의 지능으로 이해할 수 없는 기술 중 하나가 인공지능 기술이라는 것이다. 극소수의 인간만이 약인공지능의 메커니즘을 이해할 수 있는데 인간보다 더 똑똑한 강인공지능은 어떻게 만들 수 있을까?
인간이 과연 인간보다 똑똑한 인공지능을 만들 수 있느냐와 마찬가지 논리로, 인간보다 똑똑한 인공지능이 나왔다고 해도 그것 역시 한계를 가질 텐데 과연 자신보다 더 좋은 인공지능을 손쉽게 만들 수 있느냐 역시 좋은 비판점이다. 커즈와일은 인간보다 머리가 좋은 인공지능이니까 인간이 이해할 수 없는 방식으로 알아서 자기보다 더 똑똑한 인공지능을 순식간에 만들고 이후로 계속 더 똑똑한 인공지능을 만드는 식으로 무한루프적으로 발전해 나가며 인간이 상상조차 할 수 없는 문제들을 해결할 것이라 주장하지만, 인간보다 더 낫다고 해서 자기보다 똑똑한 인공지능을 계속 개발할 수 있다는 보장은 없다. 인공지능이 발전할수록 이전의 인공지능을 뛰어넘는 것은 점점 더 난이도가 높아질 것이기 때문이다. 인공지능의 발전과 난이도의 상승중 어느 쪽이 더 가파를지는 해보기 전에는 모르는 일이며, 단순히 인공지능은 인간이 상상못할 정도로 똑똑해질 테니까 어떤 문제건 해결할 수 있다고 넘겨짚는 것은 논리적 비약이라고 볼 수밖에 없다. 그 "똑똑함"이 인간이 생각하는 긍정적 방향인지, 인간이 보기에는 오류 투성이인 결과일지, 아니면 영화에서처럼 인류를 절멸시킬 방향인지도 알 수가 없다.
가령 알파고는 딥러닝을 분산 컴퓨팅으로 수준을 더욱 향상시켰어도 한계점이 있다. 개발자인 데미스 하사비스에 따르면, 이는 효율성의 문제(그래프로 보자면 로그 함수와 같은 형태)를 가지고 있기 때문이다. 특이점을 돌파한다는 것과 효율성, 경제성의 문제를 해결한다는 것과는 다른 문제이다.
이런 류의 예상에서는 언제나 그 시점에서 급격히 이루어지던 기술적 발전을 기반으로 미래를 예상했다. 하지만 그 발전 속도가 계속 유지된다는 보장은 없고, 오히려 미래상은 그런 급격한 기술 발전이 현실의 벽에 부딪힌 후 다른 방향에서의 기술 발전으로 인해 급격하게 변화하는 경우가 많았다. 달 착륙 계획이 이루어진 1960년대에 예상한 21세기 초의 미래는 우주개척시대의 로망을 쫓아 우주정거장에서 인류가 사는 시대였다. 하지만 21세기 초에는 물론 그런 시대는 오지 않았다. 그러나 그렇다고 1960년대와 비교해 지금이 기술적 발전과 사회상 변화가 없다고 할 수는 없다. 지금 이 글을 읽고 있는 인터넷은 1960년대에는 제대로 상상조차도 못하던 물건이었다는 걸 생각해 보자. 1960년대에 생각한 미래는 우주선은 흔하지만 페이스북은 없는 시대였다. 미래는 예측하기 어렵기에 미래인 것이다.[82]
일각에서는 현재의 기술 진보란 것이 20세기 중후반에 마련된 큰 토대에서 벗어나지 못했다는 입장도 있다. 단적인 예로, 2019년 현재 무선 통신 환경을 통해 연결 접근성이 큰 폭으로 확장되었다 하더라도 이러한 환경을 이루는 기반은 여전히 기계어와 어셈블리어이다. 그리고 이 기계어와 어셈블리어를 편리하게 작성하기 위한 고급 언어로 1970년대에 나온 C언어가 아직까지 쓰이고 있다. 이를 땅과 건물을 짓는 것으로 비유하자면, 현재의 기술 진보는 새로운 땅을 개간해 건물의 면적을 넓히는 것이 아니라, 원래 주어진 땅에 건물만 높이 쌓아 올리고 있는 것과 같은 것이다. 그리고 이런 식의 공간 확장은 언젠가 필연적인 한계를 맞이하게 된다. 실제로 2019년 현재 반도체 집적 기술은 한계에 봉착하고 있으며, 공정 미세화[83]의 진행 속도가 해가 갈수록 오히려 더져지고 있는 상황[84]이다. 현재의 전선과 반도체를 사용한 계산 시스템은 한계에 달했다고 보며, 이를 타개할 방법은 분자 단위의 유기 나노 컴퓨터 같은 전혀 다른 방법이 될 가능성이 높은데, 이것은 아직 이론만 있을 뿐 실현되지 못하고 있다. 신경과 세포로 이루어진 뇌라는 것부터 어떻게 기억이 저장되고 전달하며 사고와 계산을 하는지 전혀 작동 구조를 모르고 있다. 심지어 뇌의 부위별로 맡은 영역이 다르다는 기존의 이론을 부정하는 의학적 사례도 다수 보고되는 형편이니, 뇌를 흉내내서 유기 컴퓨터를 만들 방법 또한 현재는 없는 셈이다.
이러한 한계는 컴퓨터 하드웨어의 영역에서도 두드러진다. 오늘날의 컴퓨터의 저장 장치가 RAM, ROM, 보조 저장장치[85]으로 나뉘는 것 역시 에니악의 설계가 그대로 이어져 온 것으로, 80년대 후반 이미 저장 장치가 세 종류로 나뉘어져 있는 것이 비효율이 지적되었지만 2019년에도 개선될 여지는 크지 않다. 위 세 가지 장치를 통합하기 위해 비휘발성 RAM이 기술적으론 제안되었지만, 물리적 성질의 한계로 보편화되기는 어려운 상황이다.[86] 송전과 통신 분야에서도 기술적 특이점을 맞이하기 위한 한계가 뚜렷한데, 현재 상온에 존재하는 모든 도체는 어떤 방식으로 전력이나 데이터를 전송하건 손실이 발생한다. 특히, 통신 분야에서는 이러한 손실에도 품질을 유지하기 위해 똑같은 신호를 수십배로 증폭해서 전송하거나 전송 속도가 다소 지연되더라도 오류 코드를 삽입하는데, 이는 상당히 비효율적인 방법이다. 이러한 한계를 극복하기 위해선 열역학 법칙을 극복한 영구기관이 상용화되어 손실을 만회하거나, 상온 초전도체를 개발해 손실이 없이 전송할 수 있어야 한다. 하지만 이 둘 모두 하나는 애초에 불가능하고, 나머지 하나도 확증되진 않았으나 불가능할 것으로 알려져 있는 것이다. 이렇듯, 2019년 현재 향유하고 있는 기술 역시 그 한계가 명확하며, 이 기술들이 기반하고 있는 과거의 틀을 극복한 것도 아니다. 이러한 한계의 임박을 지지하는 학자들은 기술적 특이점은 커녕 현재 인류가 향유하고 있는 현대 문명의 발전의 한계점이 기술내[87]ㆍ외[88]적으로 21세기 이내에 다가올 것이라 전망한다.
더욱이 2045년이라는 수치 자체도 근거가 없는 주장이며 과학자들 역시 이에 대한 비판을 하고 있다. "저는 좀 먼 미래라고 봅니다. 2045년을 예측한 이들이 있는데, 2070~2090년 정도는 가야 하지 않을까요." 홍성욱 교수(서울대학교 생명과학부) "근거가 없는 얘기라 현실 가능성이 있다고 말하기 어렵다", "과학적인 근거가 나와야 발전이 있을 것이다" 이경전 교수(경희대학교 경영학과) 마이크로소프트 공동 창업자 앨런의 경우 커즈와일이 가속화의 법칙에 기반하여 빨리 올 것을 예측하고 있지만 현실에서는 그렇게 빠른 발전이 이루어지지 않는다고 비판했다. 특히나 앨런은 특이점이 2045년에 오는 것은 고사하고 21세기 말에 이르러서도 언제 올지 알 수 없을 것으로 보고 있다 앨런 정재승 교수 역시 2045년이라는 수치가 근거가 있는 수치가 아니며 검증조차 하기 어렵다며 비판을 가하였다. 정재승 교수
이렇게 기술이 정체될 것을 상정할 경우 애당초 근미래에 인간보다 똑똑한 인공지능을 만들 수가 없으므로 특이점 자체가 존재할 수 없게 되고, 나온다 하더라도 현재의 기술발전속도를 기반으로 주장되는 것보다는 훨씬 더 먼 미래의 일이 된다. 아이러니한 것은 현재 인간의 지능으로 이해할 수 없는 기술 중 하나가 인공지능 기술이라는 것이다. 극소수의 인간만이 약인공지능의 메커니즘을 이해할 수 있는데 인간보다 더 똑똑한 강인공지능은 어떻게 만들 수 있을까?
인간이 과연 인간보다 똑똑한 인공지능을 만들 수 있느냐와 마찬가지 논리로, 인간보다 똑똑한 인공지능이 나왔다고 해도 그것 역시 한계를 가질 텐데 과연 자신보다 더 좋은 인공지능을 손쉽게 만들 수 있느냐 역시 좋은 비판점이다. 커즈와일은 인간보다 머리가 좋은 인공지능이니까 인간이 이해할 수 없는 방식으로 알아서 자기보다 더 똑똑한 인공지능을 순식간에 만들고 이후로 계속 더 똑똑한 인공지능을 만드는 식으로 무한루프적으로 발전해 나가며 인간이 상상조차 할 수 없는 문제들을 해결할 것이라 주장하지만, 인간보다 더 낫다고 해서 자기보다 똑똑한 인공지능을 계속 개발할 수 있다는 보장은 없다. 인공지능이 발전할수록 이전의 인공지능을 뛰어넘는 것은 점점 더 난이도가 높아질 것이기 때문이다. 인공지능의 발전과 난이도의 상승중 어느 쪽이 더 가파를지는 해보기 전에는 모르는 일이며, 단순히 인공지능은 인간이 상상못할 정도로 똑똑해질 테니까 어떤 문제건 해결할 수 있다고 넘겨짚는 것은 논리적 비약이라고 볼 수밖에 없다. 그 "똑똑함"이 인간이 생각하는 긍정적 방향인지, 인간이 보기에는 오류 투성이인 결과일지, 아니면 영화에서처럼 인류를 절멸시킬 방향인지도 알 수가 없다.
가령 알파고는 딥러닝을 분산 컴퓨팅으로 수준을 더욱 향상시켰어도 한계점이 있다. 개발자인 데미스 하사비스에 따르면, 이는 효율성의 문제(그래프로 보자면 로그 함수와 같은 형태)를 가지고 있기 때문이다. 특이점을 돌파한다는 것과 효율성, 경제성의 문제를 해결한다는 것과는 다른 문제이다.
또한 이러한 특이점, 나아가 '초 인공지능'에 대한 장밋빛 관점을 비판하는 논조의 시각도 존재한다.
더구나 어떤 과학기술이 추측보다 대단한 것이 아닐 가능성 역시 있다. 별로 대단하지 않아서 빛을 보지 못하고 사라진 과학기술들도 여전히 존재한다. 그리고 가장 중요한 사실 중 하나는 기술발전 정도가 소득으로 직결되지 않는다는 점이다.# 기술 발전 정도는 보통 주관적으로 산정되기는 하지만 이 기사처럼 대략 기술이 5000배 발전한다고 쳐도 당신의 소득이 5000배가 될 것인지는 알 수 없다. 물론 객관적으로 산정되어도 기준이나 관점이 변하면 변할 수 있다.
더구나 저런 큰 숫자도 그다지 의미가 없을 수도 있는데, 간단히 프로세서 성능이 2배, 메모리 성능이 2배를 4배의 발전이라고 칠 수도 있기 때문이다. 더 세세하게 나누어서 각종 성능이 향상된 정도를 다 곱한다고 생각하면 미친 뻥튀기가 나올 수도 있다.
참고로 과거에 비해서 엄청나게 기술이 향상된 것들이 많지만 그것들로 인해 딱히 삶의 변화가 생기진 않은 것들도 있으며 그냥 주변 물품들만 생각해도 과거에 비해 수천 배의 진보가 이루어진 것들이 있을 수 있다. 더구나 사실 GDP에서도 무형의 가치를 가진 서비스 같은 것들은 엄밀하게 말해서 제대로 산정을 하기 힘들다. 이러한 서비스는 어떤 면에서는 실물보다도 중요하지만 역시 실물에 비하면 뭔가 구체적으로 향상 정도를 느끼기 쉽지 않다. 일단 의료 서비스만 봐도 몸 자체의 능력으로 때우는 게 어느 정도 가능하니 겉만 보면 과거에 비해 GDP가 분명 엄청 늘었는데 막상 체감하기는 쉽지 않은 이유다. 특히 멀지 않은 과거일 경우 어떤 사람들은 현재보다 더 낫다고 생각할 수도 있는 원인이다.
커즈와일의 주장도 엄밀하게 따지면 과연 86%의 적중률이 될 수 있는가? 의심을 하는 사람들도 많다. 커즈와일이 주장하는 적중률은 터무니없게 보이기도 한다. 대충 생각해보면 맞는 것들도 있지만, 좁은 범위로 한정시키면 틀린 예측들도 꽤 많으며, 이미 그 실현방안들이 대략적으로라도 고안되었던 과학기술들이나 그 과학기술들의 융합을 예측한 것은 몰라도 현재로서는 어떻게 실현될지 전망이 아예 보이지 않는 것들을 예측해서 86%를 적중시키는 것은 정말 가능한지가 의문이다.# 세상에 나온 모든 과학기술이 성공하는 것도 아니다. 과장된 것들도 상당히 많다.#
또, 기술적 특이점에 도달하거나, 특이점 이후에 형성되는 과학기술 체계는 기본적으로 컴퓨터에 기반을 둔 것인데, 컴퓨터 프로그램은 정교하게 짜여질수록 많은 오류를 내재할 가능성이 비약적으로 높아진다. 설령 하나의 단일 프로그램이 무결성을 갖고 있다 하더라도, 그 프로그램이 다른 프로그램과 교잡되면 그 사이에서 예상치 못한 오류가 발생할 수 있는 것이다. 또한, 전기적(물리적) 문제로 인해 오류가 발생할 수도 있다. 이처럼 컴퓨터 기술 자체가 근본적으로 완전하질 않은데 여기에 너무 큰 기대를 걸고 있는 것이 아닌가 하는 의문이 제기되기도 한다. 일례로, 어떤 사람의 정신체계를 업로드했는데 처리 과정에서의 오류나 전기적 문제로 인하여 정신체계의 일부 혹은 전부가 손상된다면 책임 소재를 떠나 어떤 문제가 발생할 지 알 수가 없는 것이다.
좆무위키 가서 보라고해 가독성 뭐냐 ㅆㅂ...