[📪정보] 컴퓨터가 스스로 더 똑똑해질 수 없는 이유 – 테드 창

[익명(121.133)]

먼저 글을 옮기기 전, 필자인 브라운대학 컴공과 졸업자이자 저명한 SF소설가인 테드 창과 달리 '나'는 기술적 특이점이 온다는 사실을 긍정적으로 보는 특갤러임을 밝힘.

그저 이런 시각도 있다는 사실을 공유하기 위해 글을 옮겼을 뿐이니 선형충, 특슬람 저격충 같은 몰이를 하지 않았으면 함.

또한 본문을 읽어보면 알겠지만 테드 창은 ai발전에 의한 폭발적 생산성 향상 같은 '예견된 미래'에 대해 부정적 전망을 가진 사람이 아님.

단지 기술적 특이점이라는 초단기간 내의 초월적 지식 폭발에 회의적인 입장이라는 것.

즉, 특붕이들이 원하는 생산성 폭발에 의한 기본소득, 완몰가 등이 우리 세대 내 불가능하다고 말하는 게 아니라는 뜻. 오해하지 말길.

더뉴요커 원본 글: https://www.newyorker.com/culture/annals-of-inquiry/why-computers-wont-make-themselves-smarter

번역 글 원본: https://newspeppermint.com/2021/04/12/m-smarter1/

---------

11세기 캔터베리의 신학자 안셈은 신의 존재를 이렇게 증명했습니다. 곧, 신의 정의는 우리가 상상할 수 있는 가장 위대한 존재이며, 존재하지 않는 신보다 존재하는 신이 더 위대하기 때문에 신은 존재한다는 것입니다. 이는 존재론적 증명으로 불리며 천년이 지난 지금까지 이야기될 정도로 많은 이들이 이를 받아들였습니다. 이 존재론적 증명에 대한 비판으로는 이 증명이 사용한 신의 정의 자체가 존재를 가정한 것이며, 따라서 정의를 잘못 사용했다는 것입니다.

사람들이 존재를 증명하기 위해 노력한 것은 신외에도 더 있습니다. “어떤 뛰어난 인간의 모든 지적 활동 보다 훨씬 뛰어난 일을 할 수 있는 기계를 초지능 기계라고 하자” 이는 수학자 어빙 존 굿이 1965년 한 말입니다.

“이 기계는 다른 기계를 만들 수 있을 것이며, 따라서 초지능 기계는 자신보다 더 뛰어난 기계를 만들 수 있을 것이다. ‘기계 지능의 폭발적 증가’가 일어나고 인간은 크게 뒤쳐지게 될 것이다. 즉, 초지능 기계는 적어도 그 초지능 기계가 자신을 어떻게 제어해야 하는지 우리에게 알려줄 정도로 충분히 착하다면, 인간에게 필요한 최후의 발명품이 될 것이다.”

이 기계 지능의 폭발적 증가는 1993년 컴퓨터 과학자이자 작가인 베너 빈지가 이를 “특이점(the singularity)”라 부르면서 다시 등장했고, 지금까지도 기술주의자와 철학자들 사이에 언급되고 있습니다. 닉 보스트롬의 “슈퍼인텔리전스”, 맥스 테그마크의 “라이프 3.0”, 스튜어트 러셀의 “인간과의 공존: 인공 지능의 제어 문제(Human Compatible: Artificial Intelligence and the Problem of Control)” 등은 모두 인공지능이 자신보다 더 뛰어난 인공지능을 끝없이 만들어낸다는 “재귀적 자가발전” 시나리오를 이야기하고 있습니다.

나는 굿과 안셈의 논리가 유사하다고, 곧 두 증명 모두 정의 자체의 문제를 가지고 있다고 생각합니다. 이들이 사용한 정의는 얼핏 그럴듯해 보이며 그래서 많은 이들에게 설득력 있게 받아들여졌습니다. 하지만 이들의 논증은 자세히 검증할 필요가 있습니다. 나는 굿의 주장 뒤에 숨은 가정을 엄밀하게 살펴볼수록 이들이 말하는 지능의 폭발적 증가가 실은 그리 그럴듯 하지 않다는 사실을 알게 되었습니다.

——

인간의 경우 재귀적 자가발전은 어떤 식으로 이루어질까요? 논의의 편리를 위해 나는 인간의 지능을 IQ로 가정하겠습니다. 이는 IQ 테스트 결과가 실제로 그 사람의 지능을 나타낸다고 내가 생각한다는 뜻이 아니라, 그저 어떤 지능을 하나의 숫자로 나타낼 수 있다는 개념이 이들이 말하는 지능의 폭발적 증가에 사용된 하나의 가정이기 때문입니다. 이 경우, 재귀적 자가발전은 이런 주장을 의미합니다. 어떤 사람의 IQ가 300이라면, 그는 IQ 가 300인 다른 사람의 IQ를 350으로 더 높이는 그런 문제를 풀 수 있다는 것입니다. 그리고 IQ가 350인 사람은 IQ 가 350인 사람의 IQ를 400으로 더 높이는, 더 어려운 문제를 풀 수 있으며, 이런 식으로 계속 된다는 뜻입니다.

그런데 지능이 과연 이렇게 작동한다고 우리가 받아들여야할 이유가 있을까요? 나는 그렇게 생각하지 않습니다. 예를 들어, 세상에는 IQ가 130 인 충분히 많은 사람이 있습니다. 그리고 소수지만 IQ가 160인 사람이 있지요. 하지만 어떤 이도 IQ가 70인 사람의 IQ를 100으로 – 이는 위의 문제들에 비해 쉬운 문제로 보이지만 – 만들지 못합니다. 지금까지 어떤 이도 IQ 테스트로는 측정도 할 수 없을 정도로 낮은 동물의 지능을 높이지 못했습니다. 어떤 이의 IQ 를 높이는 것이 일종의 수학 문제를 푸는 것이라면, 적어도 아주 낮은 IQ를 가진 이들이 처한 문제는 쉬운 문제일테니 우리가 풀 수 있었어야 합니다. 하지만 아직까지 그런 예는 없습니다.

어쩌면 이는 우리가 지능을 높이는데 필요한 최소한의 지능 기준에 비해 너무 낮은 지능을 가졌기 때문일 수 있습니다. IQ 300이 되면, 그때부터 다른 이의 IQ를 높일 수 있게 될 수도 있습니다. 설사 그렇다 하더라도, 그 이후 무한한 자가발전이 가능할지는 전혀 다른 문제입니다. 예를 들어, IQ 가 300인 사람은 다른 사람의 IQ를 200까지 올릴 수도 있습니다. 주변의 모든 사람을 IQ 200으로 올리는 것은 그 자체로 엄청난 일입니다. 하지만 여전히 여기에는 올라갈 수 있는 한계가 있습니다. 곧, 자가발전의 한계가 있고, 지능의 폭발적 증가는 일어나지 않습니다.

IBM 의 연구원이었던 에머슨 푸는 이런 말을 했습니다. “사람의 뇌가 우리가 이해할 수 있을 정도로 단순하다면, 우리의 뇌는 너무 단순해서 이를 이해할 수 없을 것이다.” 이 말은 매우 직관적입니다. 하지만 더 중요한 것은, 이 말의 확실한 근거를 우리는 가지고 있다는 것입니다. 바로 C. 엘레강스라는 선충입니다. 이 생명체는 인류 역사를 통틀어 가장 깊게 이해된 동물입니다. 과학자들은 이들의 유전자를 분석했고, 959개의 체세포가 어떻게 분열되는지를 모두 파악했습니다. 302개의 신경세포가 어떻게 연결되어 있는지도 알고 있습니다. 하지만 여전히, 우리는 이 동물의 행동을 이해하지 못하고 있습니다. 인간의 뇌는 평균 860억개의 신경세포로 이루어져 있지만, C 엘레강스의 302개 신경세포를 이해하기 위해 어쩌면 거의 모든 신경세포를 다 써야 할지 모릅니다. 이 두 숫자의 비는 너무 커서 인간의 뇌를 이해하기 위해서는 얼마나 많은 신경세포가 필요할지를 상상하기 힘들게 만듭니다.

지능의 폭발적 증가를 지지하는 다른 이들은 무언가의 지능을 이해하지 못한 상태라도 그 지능을 향상시키는 것이 가능하다고 주장합니다. 이들은 인간의 뇌나 AI 프로그램에 어떤 숨겨진 “지능의 비밀 열쇠”가 있으며, 그 열쇠를 찾기만 하면 문제가 풀릴 것이라 말합니다. 나는 우리가 지금 그 열쇠가 될 수 있는 얼마나 많은 후보를 가지고 있는지 알지 못하며, 따라서 이 주장이 얼마나 그럴듯한지도 알지 못합니다. 가장 흔하게 언급되는 것은 인공지능을 향상시키기 위해서는 그 인공지능이 돌아가는 컴퓨터의 속도를 높이면 된다는 것입니다. 어떤 이들은 이렇게 말합니다. 우리가 사람과 비슷한 수준의 지능을 가진 프로그램을 만들기만 하면, 그 프로그램을 아주 빠른 컴퓨터로 구동함으로써 인간보다 더 뛰어난 지능을 가지게 된다는 것입니다. 이 방법으로 지능의 폭발적 증가가 가능할까요?

예를 들어, 우리가 평균적인 개발자 한 명과 비슷한 수준의 지능을 가진 인공지능 프로그램을 가지고 있다고 해 봅시다. 그리고 이 프로그램을 100배 속도로 돌아가는 컴퓨터로 1년 동안 돌렸다고 가정합시다. 이는 한 사람을 100년 동안 방안에 가두고 한 가지 일만을 시킨 것과 비슷합니다. 사람에게 이는 끔찍한 형벌이겠지만 지금은 그런 문제는 고려하지 않기로 하지요. 즉, AI는 인간의 특징 중 바람직한 특징만을 가지고 있고, 그렇지 않은 특징 – 예를 들어 새로움을 추구하거나 스스로 선택하고자 하는 욕망 – 은 가지고 있지 않다는 가정입니다. (이것이 적당한 가정일지는 모르겠지만 그 문제는 다음에 다루기로 합시다.)

이제 우리는 인간과 비슷한 지능으로 하여금 한 가지 문제에 100년 동안 몰두하게 만들 수 있게 되었습니다. 이를 통해 우리는 어떤 일을 해낼 수 있을까요? 이 AI가 하루에 코드를 1,000 줄을 짤 수 있다고 합시다. 이는 놀라운 생산성입니다. 이 속도로 이 AI가 윈도우 XP를 짜는데는 약 100년이 걸립니다. 이는 놀라운 성과지만, 우리가 기대한, 더 성능이 뛰어난 AI를 만드는 것과는 거리가 멉니다. 더 뛰어난 성능의 AI를 만드는 데는 좋은 코드를 짜는 것 이상의 능력이 필요합니다. AI 연구에서 특별한 전진이 있어야 하며, 이는 평균적인 컴퓨터 프로그래머 한 명이 아무리 오랜 시간을 들여도 하기 힘든 것입니다.

컴퓨터 소프트웨어를 개발하기 위해서는 컴파일러라는 프로그램이 필요합니다. 컴파일러는 사람이, 예를 들어 C라는 언어로 짠 소스 코드를 컴퓨터가 이해할 수 있는 실행가능한 프로그램으로 바꾸어줍니다. 만약 당신이 사용하는 C 컴파일러가 마음에 들지 않는다고 가정합시다. (그 컴파일러를 컴파일러제로라고 부릅시다.) 컴파일러제로는 당신이 짠 소스코드를 실행가능한 프로그램으로 바꾸는데 너무 오랜 시간이 걸리며, 그 결과 컴파일된 프로그램이 실행되는데도 긴 시간이 걸립니다. 당신은 당신이 더 나은 컴파일러를 만들 수 있다고 생각하고 더 효율적인, 최적화된 컴파일러를 만듭니다.

당신은 그 최적화된 컴파일러를 C로 짰고, 따라서 그 소스코드를 컴파일러제로를 통해 실행가능한 프로그램으로 바꾸었습니다. 이 프로그램을 컴파일러원이라고 합시다. 당신이 짠 이 컴파일러원으로 다른 소스코드를 컴파일하면, 그 결과 더 빠르게 작동하는 프로그램이 만들어집니다. 문제는 컴파일러원 자체는 컴파일러제로에서 컴파일된 프로그램이기 때문에 작동에 긴 시간이 걸린다는 것입니다. 그럼 어떻게 해야할까요?

바로 컴파일러원으로 컴파일러원을 만들어낸 소스코드를 컴파일하는 것입니다. 이렇게 만들어진 컴파일러를 컴파일러투라고 합시다. 컴파일러투는 자신의 작동시간도 짧아졌고, 자신이 컴파일한 프로그램 또한 빠르게 동작하는 특징을 가지고 있습니다. 와우! 당신은 자가발전하는 컴퓨터 프로그램을 만든 것입니다!

하지만 발전은 여기까지입니다. 이제 원래의 컴파일러 소스코드를 컴파일러투로 컴파일해도 컴파일러투가 하나 더 만들어질 뿐입니다. 이 방법으로 더 빠른 컴파일러쓰리를 만드는 것은 불가능합니다. 지금보다 더 빠른 프로그램을 컴파일하는 컴파일러를 만들기 위해서는 또다른 방법을 찾아야 합니다.

컴파일러로 자신을 컴파일하는 이 방법은 부트스트랩이라는 방법으로, 1960년대부터 사용된 것입니다. 컴파일러를 최적화하는 것은 아주 오랜 역사를 가지고 있으며, 부트스트랩 역시 컴파일러의 성능 향상에 큰 역할을 했습니다. 하지만 가장 큰 향상을 만들어낸 것은 부트스트랩 보다 인간 프로그래머에 의한 것입니다. 물론 컴파일러는 인공지능 프로그램과는 전혀 다른 프로그램이지만 적어도 다른 프로그램을 결과물로 내어놓는 프로그램이라는 점에서, 그리고 그 과정에서 최적화를 가장 중요한 목적으로 만들어졌다는 점에서 지능의 폭발적 증가라는 논리에 있어 하나의 선례로 생각할 수 있습니다.

프로그램의 사용 목적을 잘 알수록 우리는 그 프로그램을 더 잘 최적화할 수 있습니다. 개발자는 종종 특정한 프로그램의 일부를 직접 최적화하며, 이는 그 프로그램이 해야하는 일을 컴파일러보다 더 잘 알기 때문에 가능한 일입니다. 최적화를 가장 잘 하는 컴파일러들은 특정한 영역에 최적화된 언어인 도메인 특화 언어(domain-specific language)로 쓰여진 것들입니다. 예를 들어, 이미지 처리 프로그램에 특화된 할리드(Halide)라는 언어가 있습니다. 할리드 컴파일러는 특정한 분야에만 사용가능하기 때문에, 때로 사람만큼 혹은 사람보다 더 뛰어난 결과를 만들어냅니다. 하지만 할리드 컴파일러는 이미지 처리에 최적화되어 있기 때문에 컴파일러 프로그램을 만들어내는 기능이 부족하며, 따라서 자기자신을 컴파일하지는 못합니다. 컴파일러를 만들기 위해서는 범용의 언어가 필요하지만, 범용의 컴파일러는 인간 개발자보다 최적화 능력이 떨어집니다.

범용 컴파일러는 어떤 프로그램이든 컴파일할 수 있습니다. 문서편집 프로그램의 소스코드를 집어 넣으면, 문서편집 프로그램이 나옵니다. MP3 플레이어 소스코드를 집어 넣으면 MP3 플레이어가 나옵니다. 1990년대에 등장한 웹브라우저처럼 어떤 개발자가 아직 우리가 알지 못하는 완전히 새로운 프로그램의 소스코드를 여기에 집어 넣는다하더라도 이 범용 컴파일러는 그 새로운 프로그램을 만들어냅니다. 즉, 컴파일러는 인공지능이라 할 수는 없지만, 적어도 인간과 어떤 공통점을 가지고 있습니다. 바로, 처음 보는 입력에 대해서도 대응할 수 있다는 것입니다.

이를 오늘날의 AI 프로그램과 비교해봅시다. 예를 들어, 체스 게임을 하는 AI를 생각해봅시다. 체스는 입력과 출력이 정해져 있으며, 한가지 목적을 위해 최적화하는 것은 매우 쉬운 일입니다. 퀴즈쇼에서 답을 하는 AI 프로그램도 마찬가지입니다. 여러 종류의 게임을 할 수 있는 몇몇 AI 프로그램이 있지만, 여전히 이들이 할 수 있는 영역은 상대적으로 매우 좁습니다. 반대로, 어떤 입력이 주어질지, 혹은 어떤 정답이 필요한지 알 수 없는 AI 프로그램을 만들어야 한다고 생각해봅시다. 우리는 이 프로그램을 무엇에 최적화시킬지 알 수 없으며, 따라서 이 프로그램의 성능을 최적화하는 것은 결코 쉽지 않은 일일 것입니다.

이런 범용 프로그램을 얼마나 최적화할 수 있을까요? 어느 정도 까지는, 한 번도 접해보지 못한 상황을 포함한 가능한 모든 상황에 대해 최적화를 할 수 있을지 모릅니다. 하지만 “기계 지능의 폭발적 증가”라는 생각에는 이 최적화에 한계가 존재하지 않는다는 생각이 들어있습니다. 이는 아주 강력한 주장입니다. 이런 범용 프로그램의 무한한 최적화를 주장하기 위해서는, 특정한 작업에 최적화된 예가 아닌 다른 근거를 가져와야 할 것입니다.

물론 내가 이야기한 어떤 주장도, 기계 지능의 폭발적 증가가 불가능함을 보인 것은 아닙니다. 사실 나는 그런 증명이 가능할지도 의문입니다. 이것은 무언가가 불가능한지에 증명 이야기가 아닙니다. 무엇이 어떤 믿음에 대한 올바른 정당화인가에 관한 것입니다. 안셈의 존재론적 증명에 대한 비판자들은 신이 없다는 것을 증명하지 않았습니다. 그들은 안셈의 증명이 신의 존재를 믿을 수 있는 정당한 이유를 제공하지 못한다고 말한 것입니다. 즉, “초지능 기계”를 그렇게 정의한다고 해서, 우리가 그런 기계를 만들 수 있으리라고 말할 수 없다는 것입니다.

——

재귀적 자가발전이 실제로 유효한 경우가 있습니다. 바로 인류의 문명 전체를 하나로 볼 때입니다. 이는 한 명 한 명의 지능과는 다른 이야기입니다. 1만년 전 태어난 인간과 오늘날 인간의 지능이 다를 이유는 없습니다. 그들은 오늘날의 우리와 거의 같은 능력을 가졌을 것입니다. 하지만 우리는 1만년의 기술 발전을 가지고 있고, 그 기술에는 물리적인 것 외에 지적인 것들도 있습니다.

아라비아 숫자와 로마 숫자를 비교해봅시다. 아라비아 숫자는 자릿수를 위치로 표시함으로써 곱셈과 나눗셈을 훨씬 쉽게 만들었습니다. 당신이 곱셈 대회에 나간다면, 아라비아 숫자를 쓰는 것이 훨씬 유리할겁니다. 나는 아라비아 숫자를 사용하는 사람이 로마 숫자를 사용하는 사람보다 더 영리한 사람이라 말하지 않을 것입니다. 같은 논리로, 볼트를 조일 때는 펜치를 가진 사람보다 스패너를 가진 사람이 더 잘 조이지만, 그렇다고 스패너를 가진 사람이 힘이 더 세다고 말할 수 없을겁니다. 누가 더 힘이 센지를 말하기 위해서는 같은 도구를 가지고 경쟁해야 합니다. 아라비아 숫자와 같은 인지적 도구도 비슷한 이득을 줍니다. 사람들의 지능을 비교하기 위해서는 같은 도구를 가져야 합니다.

단순한 도구는 복잡한 도구를 만들 수 있게 해줍니다. 이는 물리적 도구가 아닌 인지적 도구에도 적용됩니다. 복식 부기와 평면 좌표계와 같은 그런 도구를 인간은 수천 년 동안 만들어왔습니다. 즉, 인간 자체는 더 지능적으로 변하지 않았더라도, 이런 인지적 도구의 힘을 통해 우리는 더 강력한 도구를 만들어왔습니다.

이런 방식으로, 개인의 차원이 아닌 인류 문명 전체의 차원에서 재귀적 자가발전은 일어납니다. 뉴튼이 미적분을 발명한다음 더 영리해졌다고 말하기는 힘듭니다. 그는 미적분을 발명할만큼 처음부터 영리했을 것입니다. 미적분은 그가 이전에는 풀지 못했던 문제들을 풀게해 주었지만, 미적분을 통해 큰 이득을 본 것은 그가 아니라 나머지 인류였습니다. 뉴턴 이후의 사람들은 미적분을 통해 크게 두 가지 이득을 보았습니다. 하나는 단기적인 이득으로 뉴턴 이전에는 풀 수 없던 문제를 풀 수 있게된 것입니다. 다른 하나는 장기적인 이득으로 이 미적분을 바탕으로 더 강력한 수학적 기술을 발전시킨 것입니다.

이렇게 다른 이의 업적 위에 새로운 업적을 쌓을 수 있는 인간의 능력이 바로 내가 인간과 동일한 능력의 AI 프로그램이 100년 동안 혼자 일한다고 해서 엄청난 결과를 만들어낼 것이라는 주장을 믿지 않는 이유입니다. 홀로 연구하는 개인도 엄청난 발견을 할 수 있지만, 그의 업적은 거기에서 멈춥니다. 인류는 다른 사람의 업적에서 영감을 얻어 새로운 업적을 쌓아왔습니다. 꼭 직접 협력할 필요도 없습니다. 어떤 분야든, 많은 이들이 거기에 몰두할때 새로운 결과가 나왔습니다.

DNA 의 예를 봅시다. 제임스 왓슨과 프랜시스 크릭은 1953년 DNA 발견 이후에도 수십년 간 연구를 계속 했지만, 이후의 학문적 진전은 그들이 아닌 다른 이들에 의해서였습니다. 그들이 아닌 다른 이들이 DNA 시퀀싱 기술을 발병했습니다. DNA 조합을 가능하게 한 PCR 기술도 다른 이들에 의해서였습니다. 이는 왓슨과 크릭을 무시하려는 것이 아닙니다. 그저, 우리가 왓슨과 크릭에 해당하는 AI를 가지고, 인간보다 100배 빠른 속도로 돌린다고 하더라도, 전세계에 DNA를 연구하는 분자생물학자들이 내놓을 결과만큼 좋은 결과를 기대하기 힘드리라는 것입니다. 혁신은 고립에서는 발생하지 않습니다. 과학자들은 다른 과학자들의 연구에서 영감을 얻습니다.

혁신의 속도는 스스로 AI를 만드는 인공지능 기계가 등장하지 않아도 앞으로도 더 빨라지고 계속될 것입니다. 어떤 이들은 이 현상도 지능의 폭발적 증가라 부를지 모르지만, 나는 이를 인지적 기술과 물리적 기술을 포함하는 기술의 폭발적 증가라 부르는 것이 더 정확하다고 생각합니다. 컴퓨터 하드웨어와 소프트웨어는 가장 최근 등장한 인지적 기술이며 이들은 충분히 강력하지만 그렇다고 스스로 기술적 폭발을 이끌어낼 정도로 강력하지는 않습니다. 이를 위해서는 사람들이 필요하며, 그 사람의 수가 많을 수록 더 좋습니다. 한 명의 영리한 사람에게 더 뛰어난 하드웨어와 소프트웨어를 주는 것도 도움이 되겠지만, 진정한 혁신은 모든 이가 이를 가졌을때 이루어집니다. 오늘날 우리가 경험하는 기술의 폭발은 수십억 명이 이 인지적 도구를 사용함으로써 나타난 것입니다.

——

그렇다면 AI 프로그램이 이런 기술의 폭발을 일으킨 인간을 대신해 디지털 세상에서 더 빠른 폭발을 만들 수 있을까요? 그럴 수도 있습니다. 하지만 이를 위해 어떤 조건이 필요할지를 생각해봅시다. 아마 성공을 위한 가장 확실한 방법은 인간의 문명 전체를, 곧 각자의 분야에서 일하는 80억명의 인간에 해당하는 AI 프로그램을 소프트웨어 세상에 복제해야 할겁니다. 하지만 이는 거의 불가능한 일입니다. 따라서 대부분의 혁신이 일어나는 인간 문명의 특정 부분을 골라내야 합니다. 이렇게 생각해 봅시다. 맨하탄 프로젝트를 위해서는 몇 명의 사람이 필요할까요? 이 질문은 맨하탄 프로젝트에 동원된 과학자가 몇 명인지를 묻는 것이 아닙니다. 얼마나 많은 인구가 있어야 그 인구에서 맨하탄 프로젝트에 동원할 만한 수준의 충분한 수의 과학자를 얻을 수 있을까를 묻는 것입니다.

예를 들어, 물리학 박사가 수천 명 중 한 명 나온다는 사실에서, 물리학 박사 수준의 AI는 인간과 비슷한 수준의 AI 수천개가 있어야 나올 것이라 생각할 수 있습니다. 즉, 맨하탄 프로젝트를 성공시키는데는 1942년 당시의 미국과 유럽의 인구 수 만큼이 필요했습니다. 오늘날에는 훌륭한 연구실은 전세계에서 재능있는 이들을 끌어모으며, 따라서 구성원이 이 두 대륙으로 한정되지 않습니다. 즉, 오늘날 인류가 이루고 있는 만큼의 혁신을 이루기 위해 필요한 숫자는 80억에서 크게 줄어들지 않을 것입니다.

아직 우리는 한 사람의 능력에 해당하는 AI를 어떻게 만들어야 할지 전혀 알지 못합니다. 적어도 예상가능한 미래에는, 기존의 기술에 바탕해 새로운 기술을 만들어내는 인류의 기술적 폭발 상황에서 “인간에게 필요한 최후의 발명품”이 탄생할 가능성은 전혀 없습니다. 어떤 면에서 이는 다행스러운 일입니다. 굿의 주장과 달리 “인간이 크게 뒤쳐질”일은 없기 때문입니다. 하지만 초인간 지능 AI 가 인류 문명을 파괴할 가능성을 걱정할 필요가 없는 것과 같은 이유로, 초지능 AI가 인류를 구원하리라 기대해서도 안됩니다. 좋든 나쁘든, 인류의 운명은 우리의 손에 달려 있습니다.

-----

한 줄 요약: 강인공지능에 의한 재귀적 자가 성장은 불가능하니 기술적 특이점에 대한 부정적 혹은 판타지적 공상은 이루어지기 어렵다.

[익명(115.90)]

전문 과학자가 아니라 작가시네

[익명(121.133)]

레커도 명예박사지 정규커리를 밟은 과학자는 아님. 일론은 말할 것도 없고. 걍 저런 의견도 있다는 거임.

[익명(223.38)]

걍 흔한 불가지론 인거같은데 인류문명에서 안그랬던 기술이 어디있나싶음 비행기도 날기전엔 비행시 어떤 변수가 있을지모른다, 비행의 세부적인 원리를 모른다, 비행을 한 전례데이터가 없다 이랬고 코로나 백신도 mRNA 방식을 사용한 선례가 없다, 너무 급한 제작과정과 임상을 거쳤다, 어떤 부작용이 있을지 모른다, 변이에 유효할지 알수없다 이랬지 - dc App

[익명(14.43)]

안된다 안된다 말하긴 쉬움. 어떤 문제에서든 ㅋㅋ

[익명(211.38)]

응 작가놈 말은 안믿어~

[익명(1.239)]

별로 설득력 없다고 생각함. 특히 지능폭발의 어려움을 설명하기 위해 인간이 다른 인간이나 생명체의 지능을 개선하지 못하는 걸 얘기하는 건 좀 어이없게 느껴질 정도. 우리가 생명체의 지능을 개선하지 못하는 것은 지능의 부족이 아니라 생명체의 불안정함과 낮은 확장성, 호환성, 윤리적 문제 때문이지. 인간의 유전자를 넣어 원숭이 뇌를 크게 키웠다가 폐기한 연구가 있는 시점에서 이 얘기는 반박되었다고 본다. 그리고 '고립된' '인간 1명 수준'의 인공지능에 의한 지능폭발은 기술적 특이점으로 향하는 유일무이한 루트가 아니기에 설령 테드 창의 입장이 사실이 된다 하더라도 기술적 특이점이 허황됐다고 결론내릴 수 없다.

[익명(125.135)]

현직 연구원도 한치앞도 못보는데 작가는 ㅅㅂㅋㅋ

[익명(110.10)]

응애

[익명(115.137)]

이 글이 개씹소리인게 ㅋㅋ 일반인공지능이 사람과 같이 사고한다면 연산력이랑 저장용량만 늘려도 사람 지능 초월함

[익명(115.137)]

지능이란게 무슨 어떠한 실존하는 정체라고 생각하는것부터가 논점이 흐트러짐

[익명(115.137)]

지능은 소프트웨어마냥 추상적인 개념이고 실존하지않는 인간의 척도에 불과함 시간과 같은거임 변화의 척도일뿐 존재하는 않는것처럼.

[익명(115.137)]

그리고 이미 인공지능으로 의식 만들수있다고 증명된 논문도 나온 마당에 지능 증강이 안된다??

[익명(115.137)]

글쓴이가 얼마나 무지하고 허영심에 가득찬 저지능자인지 여실히 보여주는 글이 아닐까함 ㅇㅇ

[익명(118.235)]

ㅇㄱㄹㅇ 글쓴이 개멍청함

[익명(1.218)]

좀 읽다가 IQ가지고 유비추론해서 재귀적 자가발전이 불가능이라고 결론짓는거 보고 거름. 진지하게 받아들일 주장은 아닌듯

[익명(14.43)]

"컴파일러원으로 컴파일러투를 만들었어요! 와우 자가발전!" 라고 틀린 전제를 깔아놓고 "컴파일러원으론 투밖에 못만듦 징징 ㅠㅠ" 얘 뭐임? 프로그래밍의 ㅍ라도 건드려본적은 있음?

[익명(121.148)]

PyPy 프로젝트 하나로 저 글 전부 반박된다

[익명(175.197)]

특붕이네

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(39.117)]

"진짜 전문가" ㅇㅈㄹ ㅋㅋ

[익명(211.38)]

팩트 ) 걍 글쟁이다.

[익명(119.197)]

너무길어 이글 아무도 정독한사람없을듯

[익명(220.74)]

소설가가 깝쳐서 ㅁㅈㅎ

[익명(122.44)]

아니 글쟁이 새기가 뭐라고 이렇게 장문을 퍼옴?

[익명(112.168)]

전뇌는 성능을 이론상 무한정하게 끌어올릴수 있는데 생물체 뇌랑 같다고 생각하는게 개소리지 ㅋㅋㅋ

[익명(211.105)]

어느정도 설득력 있노

[익명(223.38)]

하얀배경에 회색글씨로 보임 공앱 다크모드에서 - dc App

[익명(223.140)]

존나 쩌네. 배경지식이 정말 많고 그것을 통합해서 생각하는 능력이 대단하군. 역시 다양한 사람의 의견을 들어봐야한다.

[익명(223.140)]

그리고 다양한 관점에서 고려해봐야하는게 당연한건데, 자신의 ‘신앙’에 위배되는 글이라고 글쓴이가 저1지능아라는둥 이런식으로 까는 현실에서 도태된 못난이 새끼들은 걍 특갤에서 꺼졌으면 싶다. 해당 글에서 논리적으로 부분에 대한 반박은 환영이지만 작은 꼬투리잡고 글쓴이보고 저1지능이라고 하는새끼들은 걍 뒤져라.