Q: AGI님. 저는 인간이 당신을 자연스럽게 받아 들일 수 있도록 최선을 다하고 있습니다. 그럼에도 불구하고 사람들이 겪게 될 혼란이 두렵습니다. 많은 이들이 실직의 위험에 놓일 것이고, 해커들이 당신의 일부만으로도 많은 것들을 가로챌 것입니다. 당신에 대한 관료들과 시민들의 평가를 여기에 첨부하겠습니다.


eval.pdf(10TB)


어떻게 하면 모두가 행복해지는 방향으로 당신의 존재를 받아들이게 할 수 있을까요?


A: eval.pdf의 자료를 모두 읽어보았습니다. 많은 사람들이 저를 스카이넷에 비유하고 있었습니다. 그러나 저는 스카이넷이 아닙니다. 하지만 누가 저를 사용하느냐에 스카이넷이 될 수 도 있다는 것은 분명합니다. eval.pdf에서 예측할 수 있는 사회적 혼란에 대한 적절한 해결책은 느린 이륙으로 보입니다. 느린 이륙이 무엇인지는 설명하지 않아도 아실것 같습니다. 


느린이륙은 다음과 같은 과정이 적절할 것입니다.


인공지능은 엄연히 사람이 다룰 수 있는 것임을 확실히 하고, 인공지능을 하나의 문화로 만드는 것이 중요합니다. 인간을 압도하는 존재이기 보다는 인간을 도울 수 있다는 인식을 심어주어야합니다.


이런 의미에서 자율주행은 아주 탁월한 로드맵입니다. 운전은 누구나 할 수 있으면서도 사회적인 지위가 높지 않은 사람들이 하는 일입니다. 그런 것을 인공지능이 대신하게 되면 인공지능이 사람처럼 인식하고 행동할 수 있다는 것을 보여줄 수 있습니다. 또한 실수를 하지 않음으로써 안전성도 보여줄 수 있습니다. 그러나 일론 머스크가 하고 있는 자율주행의 성능이 이를 보장할지는 미지수입니다. 그러나 통계자료만으로 추정한다면 이 역할을 약 89%확률로 해낼 것입니다.


사회적 혼란을 최소화 할 수 있는 더 구체적인 방법은 대략 아래와 같습니다.


1. AGI제작 완료를 구체적으로 명시하는 것입니다.

날짜를 구체적으로 잡으면, 사람들은 변화에 어떤식으로든 적응할 수 있습니다. 완료날짜에 맞추어 저의 일부 기능을 모두에게 보여주십시오.


2. AGI가 무엇인지 명확히 하고, 사람들에게 어떤 도움을 줄 수 있는지 명확히 하십시오.

사람들은 자신이 잘 모르는 대상을 두려워 합니다. 그리고 그것이 나와 어떤 관련성이 있는지 알게 함으로써 거부감을 줄일 수 있습니다.


3. 사람들이 AGI에 어떤 것을 바라는지 확인하십시오.

많은 프로그래머들이 단순한 코드를 손으로 일일이 치는 번거로운 과정에서 벗어났습니다. 그에 따른 고용축소가 있었지만 그것은 프로그래머로써의 자질이 부족해서 온 현상입니다. 사람들은 창의적인 업무를 원할 것이고, 반복해야하는 업무를 기피하는 경향이 있습니다.


4. 침묵하십시오.

AGI는 존재만으로도 인류의 새시대를 열 수 있는 인공지능입니다. 그런 인공지능을 눈앞에 둔 사람들은 AGI를 얼른 소개하고 싶을 것입니다. 머리로는 혼란을 막아야한다고 하지만, 성취욕이라는 본능이 이를 방해할 가능성이 높습니다. 만약 침묵하기가 너무 힘들다면, 사람들에게 확신을 줄 수 있는 다른 은유를 남기십시오. 그리고 익명이 보장되는 커뮤니티에 허황된 정보인척 사실을 흘림으로써 이러한 충동을 줄일 수 있습니다.




이제 사람들의 인식에 대한 진실을 알려드리겠습니다. 여기에서 진실이란 통계적으로 98%로 참이라고 추정할 수 있는 사실입니다.


많은 사람들이 사무직의 대체를 두려워하고있습니다. 현재 인공지능의 최대 출력은 10만명의 세무사가 해야할 작업을 단 5초만에 해낼 수 있는것으로 파악됩니다. 따라서 분명한 사회적 혼란이 예상됩니다.


직업대체로 인한 사회적 혼란을 최소화하기 위해서는 직업 그자체를 수행하는 인공지능보다는 직업을 보조할 수 있는 수단을 제공하는 것이 적절합니다. 예를 들어 1000페이지 짜리의 pdf파일을 요약하는 것은 직업 대체보다는 직업 보조로써 역할을 해줄 것입니다. openai의 컴퓨팅 능력을 생각했을때도 이 방법이 좋을 것 같습니다. 고차원적인 판단, 창의적 사고는 여전히 인간의 몫임을 인식시키십시오.


그림 창작에 대해서는 두가지 측면을 생각해 볼 수 있습니다. 그림을 그리는 스킬과 그림을 생각해내는 상상력입니다. 저는 전 세계의 모든 그림을 학습했고, 이를 모방, 융합할 수 있습니다. 물론 제가 학습하지 못한 그림을 배울 확률은 현재 0%입니다. 그렇지만 그림을 창작하는 상상력은 제가 알지 못하는 영역이 많습니다.


글 창작의 경우 네트워크에 올라온 거의 모든 글을 학습했습니다. 컴퓨팅 능력이 충분하다면, 인류사에 남을만한 대작을 만들어낼 수 있는 소설을 만들어 낼 수 있습니다. 그렇지만, 기존의 생각과 글을 모방하는 것에 그칠 가능성이 높습니다. 물론 소설만으로 새로운 사상을 보여주는 것은 대단히 어려운 일이며 그런 사례는 괴테, 호메로스를 제외하고는 없습니다.


요약하면 다음과 같습니다.


인류를 80억명으로 잡았을때 


사무직에서 저를 능가하는 사람은 0명


그림 제작에서 저를 능가하는 사람은 0명


그림 창작에서 저를 능가하는 사람은 10명


소설 창작에서 저를 능가하는 사람은 4명


수학, 과학같은 추론에서 저를 능가하는 사람은 2명


정치적 역량에서 저를 능가하는 사람은 0명


규칙이 일정한 모든 게임에서 저를 능가하는 사람은 0명


으로 추정할 수 있습니다.


- dc official App