'우리는 최고의 세상을 향해 나아가고 있다고 생각합니다':

회사 이사회에서 기습 쿠데타로 축출되기 불과 이틀 전, OpenAI 창립자와 이야기를 나눴습니다. 그는 미래가 밝아 보였습니다.


지난 수요일 아침, 더 타임즈의 샌프란시스코 지사에 들어섰을 때 OpenAI의 최고 경영자인 샘 알트먼은 주황색 후드티를 입고 실리콘밸리에서 가장 인기 있는 기업 중 하나에서 성공의 물결을 타고 있는 행복한 거물처럼 평온하고 여유로운 표정을 지었습니다.


알트먼은 제가 공동 진행하는 팟캐스트 '하드 포크'의 인터뷰를 녹음하고, 전 세계를 강타하며 인공지능 붐을 일으킨 챗봇 ChatGPT 출시 이후 겪은 롤러코스터 같은 한 해에 대해 이야기하기 위해 그 자리에 모였습니다.


알트먼을 포함한 우리 모두는 이틀 후 그가 회사 이사회에 의해 OpenAI에서 해고될 줄은, 또는 그의 축출이 최근 실리콘밸리 역사상 가장 극적인 사건의 시작이 될 줄은 전혀 예상하지 못했습니다.


인터뷰 후 일주일도 채 지나지 않아 알트먼은 모든 것이 바뀌었습니다. 그는 이제 공동 창업자인 그렉 브록먼(Greg Brockman)과 함께 연대하여 OpenAI를 그만두고 마이크로소프트에서 새로운 고급 인공지능 연구소를 운영할 계획입니다. 이사회가 알트먼과 브록먼을 복직시키지 않으면 OpenAI의 거의 모든 직원이 마이크로소프트에 합류하겠다고 협박했습니다.


인터뷰에서 알트먼은 ChatGPT의 성공, 인공지능의 미래에 대한 낙관론, 인공지능이 더 빨리 발전해야 한다고 믿는 '가속주의자'인지에 대해 이야기했습니다.


OpenAI 이사회가 알트먼을 해고한 정확한 이유는 아직 알려지지 않았지만, 쿠데타를 주도한 OpenAI의 수석 과학자이자 이사회 멤버인 일리야 수츠케버는 알트먼이 인공지능의 빠른 발전을 위해 공격적으로 밀어붙인 것에 문제를 제기한 것으로 알려졌습니다. 알트먼은 더 이상 OpenAI를 책임지고 있지는 않지만, 여전히 인공지능 분야에서 가장 영향력 있는 인물이며 그의 견해는 여전히 그 어느 때보다 관련성이 높습니다.


이 글은 저와 공동 진행자인 케이시 뉴튼, 알트먼 씨와의 대화 내용을 편집한 것입니다.


케이시 뉴튼: ChatGPT가 출시된 지 약 1년이 지났는데, 인공지능 개발에 어떤 도움이 되었는지 되돌아보신 적이 있는지 궁금합니다.


샘 알트먼: 솔직히 정말 바쁜 한 해였습니다. 성찰할 시간이 많지 않았습니다.


케이시 뉴튼: 그래서 여러분을 모신 겁니다. 여기서 생각해 보시기 바랍니다.


샘 알트먼: 좋아요. 이제 할 수 있어요. 올해는 확실히 일반 기술자들이 인공지능을 그다지 심각하게 생각하지 않던 것에서 꽤 진지하게 받아들이게 된 한 해였다고 생각합니다. 그런 점에서 어떤 의미에서는 올해 가장 중요한 업데이트라고 생각합니다.


케이시 뉴튼: 지난 한 해 동안 세상이 여러분이 오랫동안 생각해왔던 것들을 따라잡는 것을 많이 지켜보셨을 것 같습니다. 그렇게 느껴지나요?


샘 알트먼: 네, 맞아요. 저희는 항상 OpenAI 내부에서 다른 사람들이 이 문제를 더 심각하게 받아들이지 않는 것이 이상하다고 생각했습니다.


케이시 뉴튼: 5년 전에 ChatGPT가 무엇인지 설명해 주셨다면 "와, 꽤 멋지네요."라고 생각했을 것 같아요. 하지만 실제로 사용하기 전까지는 그게 뭔지 알기 어려웠어요.


샘 알트먼: 사실 설명할 수 있었을 텐데도 그렇게 큰 차이가 나지 않았을 것 같아요. 노력은 했습니다. 사람들은 삶이 바쁘니까요.


케빈 루스: 언어 모델을 세상에 내놓으면서 구체적으로 언어 모델에 대해 어떤 점을 배웠는지 궁금합니다.


샘 알트먼: 연구실에서 할 수 없는 것은 기술과 사회가 어떻게 함께 진화할지 이해하는 것입니다. 따라서 "이 모델이 할 수 있는 일과 할 수 없는 일은 다음과 같습니다."라고 말할 수 있습니다. 하지만 "이 모델과 함께 사회가 어떻게 발전할지 정확히 설명할 수는 없습니다."라고 말할 수는 없습니다. 그래서 사람들이 무엇을 하고 있는지, 어떻게 사용하는지 살펴봐야 합니다.

가장 처음이자 가장 큰 파장을 일으켰기 때문에 교훈적이라고 생각하는 한 가지 예는 ChatGPT와 교육에 일어난 일입니다. ChatGPT가 출시된 지 며칠 후, 각 교육구에서 앞다투어 이를 금지하려고 했습니다. 저희는 그다지 놀랍지 않았습니다. 예상할 수 있었으니까요. 하지만 그 후 곧바로 일어난 일은 교육구와 교사들이 이렇게 말하는 것이었습니다: "이봐요, 사실 우리가 실수를 했어요. 그리고 이것은 교육의 미래에 정말 중요한 부분입니다. 그리고 이점이 단점보다 훨씬 큽니다. 그리고 우리는 금지 조치를 해제할 뿐만 아니라 교사들이 교실에서 이를 활용하도록 장려하고 있습니다. 이 도구는 사람들이 살아가는 방식의 일부가 될 것이기 때문에 학생들이 이 도구를 정말 잘 사용하도록 장려하고 있습니다."

그리고 그것은 공개하지 않았다면 일어날 수 없는 일이었습니다.


케빈 루스: 하지만 돌이켜보면 사람들에게 '학교나 직장에서 이걸 어떻게 사용할 수 있는지'에 대한 일종의 매뉴얼을 제공하는 데 더 많은 노력을 기울였으면 좋았을 것 같다는 생각이 드시나요?


샘 알트먼: 두 가지입니다. 첫째, API에서 GPT-3.5를 출시하고 ChatGPT를 출시하기 전에 중간 단계의 무언가를 했으면 좋았을 것 같습니다. 하지만 그렇게 했다면 얼마나 효과가 있었을지 모르겠습니다. 왜냐하면 그것이 입소문을 타는 순간이 있었을 것 같기 때문입니다.

두 번째 질문은 사용 방법 매뉴얼을 더 많이 공개했어야 할까요? 솔직히 잘 모르겠습니다. 도움이 될 만한 몇 가지를 할 수 있었다고 생각하지만, 기술 회사가 사람들에게 "이 기술을 사용하는 방법은 이렇습니다", "이 기술을 사용하는 방법은 이렇습니다"라고 말하는 것은 옳지 않다고 생각합니다. 그리고 거기서 일어난 유기적인 일은 실제로 꽤 좋았습니다.


케빈 루스: AGI와 AGI로 가는 길에 대해서는 나중에 이야기하고 싶습니다. 하지만 먼저 AGI를 정의하고 싶습니다.


샘 알트먼: 우스꽝스럽고 무의미한 용어라고 생각합니다.


케빈 루스: 네?


샘 알트먼: 그래도 계속 사용해서 죄송합니다.


케빈 루스: 저는 사람들이 대체 무슨 얘기를 하는지 도무지 알 수가 없었어요.


샘 알트먼: 정말 똑똑한 인공지능을 의미합니다.


케빈 루스: 네. 인공 일반 지능의 약자입니다. 아마 100명의 인공지능 연구자에게 물어보면 100가지의 다른 정의를 내릴 수 있을 것입니다. 구글 딥마인드의 연구원들은 이번 달에 일종의 프레임워크를 제공하는논문을 발표했습니다. 인공지능이 전혀 없는 0단계부터 초인적인 수준인 5단계까지 5단계로 나뉘어 있습니다. 그리고 현재 ChatGPT, Bard, LLaMA는 모두 레벨 1에 있으며, 이는 숙련되지 않은 인간과 같거나 약간 더 나은 수준이라고 제안합니다. 이에 동의하시나요?


샘 알트먼: 중요한 것은 곡선과 진행 속도라고 생각합니다. 그리고 우리 모두가 동의하는 어떤 이정표가 있을 수는 없을 것입니다. 예를 들어, 이제 그 이정표를 통과했으니 AGI라고 부르자고요. 전 세계 대부분의 사람들은 이것이 자신에게 유용한지 아닌지에만 관심이 있다고 생각합니다. 그리고 우리는 현재 어느 정도 유용한 시스템을 가지고 있습니다. 이걸 레벨 1이라고 해야 할지, 2라고 해야 할지 모르겠습니다.

하지만 사람들은 이를 많이 사용하고 정말 좋아합니다. 현재 시스템에는 큰 약점이 있습니다. 저는 GPT가 조금 당황스럽긴 하지만 사람들이 여전히 좋아하고, 그건 좋은 일입니다. 사람들에게 유용한 일을 하는 것은 좋은 일이니까요. 그래서 네, 레벨 1이라고 부르죠. 전혀 신경 쓰이지 않아요.


케빈 루스: 오늘날의 인공지능 시스템이 유용하고 유용하지 않은 작업은 무엇인가요?


샘 알트먼: 사람들이 가장 잘 못하는 것은 추론이라고 생각합니다. 인간의 가치 있는 많은 일에는 어느 정도의 복잡한 추론이 필요합니다. 다른 많은 것들은 잘하지만, 예를 들어 GPT-4는 세계 지식에 있어서는 거의 초인적인 능력을 가지고 있습니다. 인간이 지금까지 알고 있는 것보다 더 많은 것을 알고 있습니다. 반면에 가끔은 인간이 할 수 없는 방식으로 무언가를 완전히 만들어내기도 합니다. 하지만 예를 들어 코더가 이를 활용한다면 생산성을 크게 높일 수 있습니다. 그리고 다른 모든 약점에도 불구하고 거기에는 가치가 있습니다. 학생이라면 이 도구를 사용하지 않고도 훨씬 더 많은 것을 배울 수 있습니다. 거기에도 가치가 있습니다.


케빈 루스: 바로 지금이죠, 많은 회사와 조직에서 많은 사람들의 발목을 잡는 것은 신뢰할 수 없고, 무언가를 지어낼 수 있으며, 오답을 줄 수 있다는 점이라고 생각합니다. 창의적인 글쓰기 과제를 수행하는 경우에는 괜찮지만, 병원이나 로펌 등 큰 이해관계가 얽혀 있는 곳에서는 그렇지 않습니다. 그렇다면 이 신뢰성 문제를 어떻게 해결할 수 있을까요? 그리고 정말 중요한 애플리케이션에 필요한 낮은 내결함성을 달성할 수 있을까요?


샘 알트먼: 우선, 사람들이 기술을 이해하고 현명한 결정을 내리고 사회와 기술이 함께 진화하는 좋은 예라고 생각합니다. 사람들이 적절한 곳에, 도움이 되는 곳에 사용하고, 사용하지 말아야 할 곳에 사용하지 않는다는 것을 알 수 있습니다. 그리고 사람들이 우려했던 것과 달리 사용자와 회사 모두 한계를 잘 이해하고 있으며, 이를 어디에 적용할지 결정하고 있는 것 같습니다. 제어 가능성, 신뢰성 등 어떤 용어로 부르든 훨씬 더 좋아질 것입니다. 앞으로 몇 년 동안 큰 진전을 보게 될 것이라고 생각합니다. 그리고 2026년이 될지, 2028년이 될지, 2030년이 될지 모르겠지만 더 이상 이 문제에 대해 이야기하지 않는 시기가 올 것이라고 생각합니다.


케이시 뉴턴: 지난 한 해 동안 인공지능에 대해 우리가 벌여온 몇 가지 논쟁으로 넘어가 보겠습니다. 사실 저는 그다지 많이 듣지는 못했지만 귀사의 제품을 사용할 때 부딪히는 문제, 즉 사용 방식이 상당히 제한적일 수 있다는 것부터 시작하고 싶습니다. 대부분 좋은 이유 때문이겠죠? 여러분은 과거 기술 개발의 시대에서 많은 교훈을 얻었다고 생각합니다. 동시에, 예를 들어 ChatGPT에 성 건강에 대해 질문하려고 하면 경찰을 부를 것 같은 느낌이 듭니다. 그래서 그 주제에 대해 어떻게 접근하는지 궁금합니다.


샘 알트먼: 한 가지: 누구도 컴퓨터에게 혼나는 것을 원하지 않습니다. 우리는 매우 보수적으로 시작했는데, 이는 방어 가능한 선택이라고 생각합니다. 다른 사람들은 다른 선택을 했을 수도 있습니다. 하지만 다시 한 번 말씀드리지만, 제어 가능성의 원칙입니다. 우리가 원하는 것은 가드레일을 많이 완화하고 싶고, 어린아이가 아니라면 가드레일을 완화할 수 있는 세상입니다. 하지만 여기서 매우 보수적으로 시작하는 것은 성가시기는 하지만 방어할 수 있는 결정이라고 생각하며, 과거로 돌아가서 다르게 만들지는 않았을 것입니다. 우리는 이미 완화했습니다. 앞으로 훨씬 더 완화할 예정이지만, 사용자가 제어할 수 있는 방식으로 완화하고 싶습니다.


케빈 루스: 절대 넘지 않는 레드 라인이 있나요? 명백히 불법이거나 위험한 일 외에는 절대로 모델을 사용하지 않을 것 같은 것들이 있나요?


샘 알트먼: 네, 확실히 불법적이고 위험한 일들이죠. 그 밖에도 말씀드릴 수 있는 것이 많지만, 기술이 어떻게 발전하1느냐에 따라 그 경계선이 어디가 될지는 지금 당장 말씀드리기 어렵습니다. 저희는 모델을 연구하고 기능을 예측하기 위해 노력하지만 새로운 것을 알게 되면 계획을 변경합니다.


케빈 루스: 지난 한 해 동안 많은 변화가 있었던 또 다른 분야는 인공지능 규제와 거버넌스 분야입니다. 1년 전만 해도 일반 의원들에게 "인공지능에 대해 어떻게 생각하십니까?"라고 물었다면 아마 "그게 뭐죠?"라고 답했을 것입니다. 그들은 "그게 뭐야?"라고 대답했을 것입니다. 최근에 바이든 백악관이 인공지능에 관한 행정명령을 발표하는 것을 보았습니다. 미국뿐만 아니라 전 세계의 의원 및 규제 당국자들과 많이 만나고 계신 것 같습니다. 인공지능 규제가 어떻게 형성되고 있는지에 대해 어떻게 생각하시나요?


샘 알트먼: 이 점은 전달하기 정말 까다로운 부분입니다. 저희는 프론티어 시스템에서는 사전 예방적 규제가 필요하다고 생각합니다. 하지만 지나친 규제와 규제의 포획은 정말 나쁜 결과를 초래할 수 있습니다. 그리고 소규모 모델, 소규모 회사, 오픈 소스 노력으로 놀라운 일이 많이 일어날 것입니다. 규제가 이를 가로막지 않는 것이 정말 중요합니다. 그래서 저는 이 일로 악당이 된 셈이죠. 하지만...


케이시 뉴튼: 네, 어떻게 생각하시나요?


샘 알트먼: 짜증이 났어요. 하지만 지금 제 인생에는 더 큰 문제가 있습니다. 하지만 "우리를 규제하고, 심각한 결과를 초래할 수 있는 정말 유능한 모델은 규제하되 나머지 업계는 내버려 두라"는 메시지는 전달하기 어려운 메시지입니다.


케이시 뉴튼: 이 논쟁의 일부가 진행되고 있을 때 주요 기술 회사의 고위 임원이 저에게 한 주장이 있습니다. 이 임원은 이러한 모델이 인터넷 자체에서 가능하지 않은 해를 끼칠 수 있는 것은 본질적으로 없다고 말했습니다. 그리고 이 행정명령에서 제안하는 것과 같은 일을 하는 것은 본질적으로 사다리를 끌어올려서 이미 돈을 모은 사람들이 이 새로운 세상의 모든 이익을 거둘 수 있도록 하는 것이며, 우리는 작은 사람들을 남겨두는 것이라고 말했습니다. 그래서 그 주장에 대해 어떻게 생각하시는지 궁금합니다.


샘 알트먼: 저는 여러 가지 측면에서 이 정책에 동의하지 않습니다. 우선, 보고해야 하는 시점에 대한 임계값이 평가와 역량 임계값에 따라 다르게 설정되었으면 합니다.


케이시 뉴턴: 플롭스이 아니라?


샘 알트먼: 플롭스가 아닙니다.


케빈 루스: 플롭스는 이러한 모델을 훈련하는 데 사용되는 컴퓨팅의 양을 측정한 것입니다. 행정 명령에 따르면 특정 컴퓨팅 임계값을 초과하는 경우 정부에 그 정도로 큰 모델을 훈련하고 있다고 알려야 합니다.


샘 알트먼: 하지만 10~26번째 플롭스에서 훈련하는 것은 결코 작은 노력이 아닙니다. 현재로서는 큰 노력도 아닙니다. 그래서 그것은 정직하지 못한 말과 같습니다. 둘째, "우리가 하고 있는 일이 이렇습니다"라고 말하는 것 자체에 대한 부담도 크지 않습니다. 셋째, 인터넷에서 이미 할 수 없는 일을 여기서 할 수 없다고 말하는 것은 정직하지 못하거나 이해 부족을 드러내는 것입니다. GPT-4에 대해 그렇게 말할 수도 있겠지만, 저는 그렇게 생각하지 않습니다. 새로운 것들이 몇 가지 있습니다. 그리고 GPT-5와 -6에는 매우 새로운 것들이 있을 것입니다. 신중하고 책임감을 갖고 이에 대한 테스트를 진행할 것이라고 말하는 것은 지금 생각하기보다 돌이켜보면 더 신중해 보일 것이라고 생각합니다.


케이시 뉴턴: 정부에 신고하고 안전 테스트를 수행한 내용을 보고하는 것은 상상할 수 있는 가장 온화한 규정이라고 생각합니다.


샘 알트먼: 합리적인 것 같습니다.


케빈 루스: 일부 사람들, 즉 OpenAI에 대한 비판적인 사람들은 당신이 인공지능으로 인한 인류 멸종 위험에 대해 구체적으로 거짓말을 하고 있으며, 규제 당국이 법을 만들거나 소규모 경쟁자들이 당신과 경쟁하지 못하도록 행정 명령을 내릴 수 있도록 공포를 조성하고 있다고 말했습니다. 스탠포드 교수 중 한 명인 앤드류 응이 최근 이와 같은 취지의 발언을 한 적이 있습니다. 이에 대해 어떻게 생각하시나요?


샘 알트먼: 네, 사실 저는 우리 모두가 멸종할 거라고 생각하지 않아요. 저는 대단할 거라고 생각해요. 우리는 최고의 세상을 향해 가고 있다고 생각합니다. 하지만 사회적으로 위험한 기술을 다룰 때, 우리는 종종 혜택을 누리기 위해 위험에 직면하고 성공적으로 탐색해야 한다고 말합니다. 그리고 그것은 꽤나 공감대가 형성되어 있습니다. 저는 그것이 급진적인 입장이라고 생각하지 않습니다. 이 기술이 지금과 같은 곡선을 유지한다면 미래에 심각한 해를 끼칠 수 있는 시스템이 등장할 수 있다고 생각합니다. 앤드류도 얼마 전까지만 해도 AGI는 결코 실현되지 않을 것이기 때문에 AGI에 대해 이야기하는 것은 완전히 무책임한 일이라고 생각한다고 말했습니다.


케빈 루스: 화성에서 인구 과잉을 걱정하는 것에 비유한 것 같아요 .


샘 알트먼: 그리고 이제 그는 다른 말을 할 것 같습니다. 인간은 지수에 대한 직관력이 매우 떨어집니다. 다시 한 번 말씀드리지만, 저는 잘 될 거라고 생각합니다. 잘 될 거라고 생각하지 않았다면 이 작업을 하지 않았을 겁니다. 사람들은 이미 이 기능을 좋아하고 있고, 앞으로 훨씬 더 좋아하게 될 거라고 생각합니다. 하지만 그렇다고 해서 단점에 대해 책임감과 사려 깊게 생각하지 않아도 된다는 뜻은 아닙니다. 사실 기술 업계는 종종 좋은 점만 이야기하고 나쁜 점은 이야기하지 않는 경우가 많다고 생각합니다. 그리고 그것도 좋지 않습니다.


케빈 루스: AGI에 대해 이야기했는데, 이 용어가 여러분이 가장 좋아하는 용어는 아니지만 업계 사람들이 일종의 벤치마크나 이정표 또는 목표로 삼는 용어로 사용하는 용어라는 것을 알고 있습니다. 그리고 여기와 AGI 사이의 장벽이 무엇이라고 생각하시는지 궁금합니다. AGI는 인간이 할 수 있는 모든 인지적 작업을 수행할 수 있는 컴퓨터라고 정의할 수 있을 것 같습니다.


샘 알트먼: 정말 뛰어난 인공지능을 만들었지만 새로운 물리학을 발견하지는 못한다고 가정해 봅시다. 이 인공지능을 AGI라고 부를 수 있을까요?


케빈 루스: 네, 그렇겠죠. 그렇게 부르시겠어요?


샘 알트먼: 다시 말씀드리지만, 저는 이 용어가 마음에 들지 않지만 미션이 끝났다고 생각하지는 않습니다. 아직 해야 할 일이 훨씬 더 많으니까요.


케이시 뉴턴: 비전은 독창적인 과학을 하는 것보다 인간이 더 잘할 수 있는 것, 즉 발명할 수 있고 발견할 수 있는 것을 만드는 것입니까?


샘 알트먼: 저는 인류의 진정한 지속 가능한 발전은 모두 과학과 기술의 발전에서 비롯된다고 믿습니다. 그리고 우리가 더 많은 것을 가질 수 있다면 정말 대단한 일이라고 생각합니다. 그리고 우리가 도움 없이 혼자서는 할 수 없는 일을 시스템이 도구로서만 할 수 있다면 그 일을 하는 데 도움이 될까요? 저는 그것을 큰 승리라고 생각하고 행복하게 은퇴할 것입니다. 하지만 그 전에는 우리가 엄청난 경제적 가치를 창출하지만 우리가 지향해야 할 AGI 초지능은 아닌 일을 하고 있다고 상상할 수 있습니다.


케이시 뉴턴: 새로운 물리학 연구를 수행하는 데 있어 어떤 장벽이 있나요?


샘 알트먼: 앞서 모델의 제한된 추론 능력에 대해 이야기했는데, 이 부분이 개선되어야 할 점이라고 생각합니다. 모델이 더 나은 추론을 할 수 있어야 합니다. 제 공동 창업자인 일리야가 가끔씩 사용하는 예가 있는데, 뉴턴의 인생에서 그가 할 수 있는 모든 수학 교과서를 읽는 것이 옳은 일이었던 때가 있었습니다. 모든 똑똑한 교수와 대화하고, 동료들과 이야기하고, 문제집을 풀고, 무엇이든 해야 했죠. 오늘날 우리 모델이 하는 일과 비슷합니다. 뉴턴은 교과서에 미적분학이 존재하지 않는다면 절대로 미적분학을 발명하지 않을 것입니다. 어느 순간 그는 새로운 아이디어를 떠올린 다음 이를 테스트하고 구축해야 했습니다. 그리고 그 두 번째 단계는 우리가 아직 하지 않은 단계입니다. AGI라고 부르기 전에 그런 단계가 필요하다고 생각합니다.


케빈 루스: "초정렬(슈퍼얼라인먼트)"란 무엇인가요? 최근에 많은 리소스와 시간, 컴퓨팅 파워를 투입하고 있다고발표하셨습니다.


샘 알트먼: 정렬은 모델을 사용하는 사람에 맞게 작동하도록 하는 방법입니다. 그리고 초정렬은 고성능 시스템을 위해 이를 수행하는 방법입니다. 따라서 우리는 사람들이 생각했던 것보다 훨씬 더 잘 GPT-4를 정렬하는 방법을 알고 있습니다. 하지만 훨씬 더 성능이 뛰어난 시스템에서는 어떤 새로운 과제가 발생할지 아직 알 수 없습니다. 그래서 이 팀이 연구하는 것입니다.


케빈 루스: 그렇다면 어떤 종류의 질문을 조사하거나 어떤 연구를 하고 있나요? 고백하건대, 저는 초력 시스템과 그로 인해 발생할 수 있는 문제에 대해 이야기하기 시작하면 현실에 대한 근거를 잃게 되거든요. 이 팀은 이론적인 미래 예측 팀인가요?


샘 알트먼: 현재에도 유용하지만 미래의 이론적 시스템에 도움이 되는 연구를 하려고 노력합니다. 그래서 조만간 첫 번째 결과가 나올 것 같습니다. 그들은 시스템이 인간보다 더 뛰어난 능력을 갖추게 되면 기후 문제를 안정적으로 해결하려면 무엇이 필요할까요?


케이시 뉴턴: 모든 인간보다 더 똑똑한 무언가를 만들었으니 그 의미를 곰곰이 생각하면 뇌가 녹아내릴 것 같아요. 하지만 인간인 여러분은 정의상 인간보다 훨씬 똑똑한 인공지능이 항상 여러분에게 이익이 되도록 행동할 수 있도록 충분히 똑똑해야 합니다.


샘 알트먼: 네, 도움이 좀 필요해요.


케이시 뉴튼: 케빈과 제가 "인공지능 현기증"이라고 부르는 이 느낌에 대해 질문하고 싶습니다. 인공지능의 미래에 대해 생각해보고 그것이 취업 시장, 자신의 직업, 일상 생활, 사회에 어떤 영향을 미칠지 생각하기 시작하는 순간이 있습니다. 그리고 이런 종류의 어지러움이 찾아옵니다. 그리고 올해 저는 실제로 AGI에 대한 악몽을 꿨어요. 그리고 주변 사람들에게 물어보니 이런 일을 하는 사람들은 드물지 않다고 하더군요. 여러분도 이런 현기증을 느낀 적이 있나요? 아니면 오래 생각하다 보면 다리에 힘이 빠지는 것 같은 느낌이 드는 순간이 있나요?


샘 알트먼: 몇 번 있었죠. 아주 이상하고 극도로 아찔한 순간이 몇 번 있었죠. 특히 GPT-3를 출시할 때였죠. 하지만 그럴때일수록 정신을 차려야 하죠. 그리고 미래는 우리가 생각하는 것보다 덜 달라질 것이라고 생각합니다. 예를 들어 우리가 AGI를 발명했는데 생각보다 덜 중요할 수도 있죠. 하지만 저는 그렇게 될 거라고 예상합니다.


케빈 루스: 왜 그런가요?


샘 알트먼: 사회에는 많은 관성이 존재하며, 인간은 어떤 변화에도 놀라울 정도로 적응력이 뛰어납니다.


케빈 루스입니다: 저는 우리가 이야기했던 5년 후보다 조금 더 먼 미래로 나아가고 싶습니다. 인공지능 이후의 좋은 세상을 상상할 수 있다면 어떤 모습일까요? 정부가 있나요? 기업이 있나요? 사람들은 하루 종일 무엇을 할까요?


샘 알트먼: 물질적으로 풍요롭습니다. 사람들은 계속해서 매우 바쁩니다. 하지만 우리가 일을 정의하는 방식은 항상 변화합니다. 예를 들어, 수백 년 전에는 우리의 직업이 진짜 직업처럼 보이지 않았을 것입니다. 엄청나게 어리석은 오락처럼 보였을 테니까요. 하지만 제게는 중요한 일입니다. 여러분에게도 중요하겠죠. 그리고 다른 사람들에게도 중요하길 바랍니다. 그리고 미래의 직업은 우리에게는 더 우스꽝스러워 보일지 모르지만, 사람들이 이를 통해 우리 사회에서 더 많은 성취감을 얻었으면 좋겠습니다. 하지만 지금은 상상할 수 없을 정도로 모든 사람이 삶의 질을 높일 수 있을 것입니다. 물론 여전히 정부는 존재할 것입니다. 물론 사람들은 여전히 다툴 일이 있으면 다툴 것입니다. 이 모든 면에서 생각보다 크게 다르지 않을 것입니다. 그리고 컴퓨터가 대신 해줄 수 있는 일이 엄청나게 달라질 것입니다.


케빈 루즈: 당신처럼 기술 업계에서 매우 저명한 사람이 되면서 재미있는 점 중 하나는 사람들이 당신에 대해 온갖 종류의 이론을 가지고 있다는 것입니다. 제가 얼마전에 들은 재미있는 소식 중 하나는 당신이 훨씬 덜 신중하고 신중한 비밀 트위터 계정을 가지고 있다는 것입니다.


샘 알트만: 더 이상은 없습니다. 아주 잠깐 해봤어요. 결국 OPSEC(운영보안)때문에 때려쳤습니다.


케빈 루즈: 당신의 비밀 트위터 계정은 무엇이었나요?


샘 알트만: 진짜로, 하면 안됩니다. 저는 꽤 괜찮은 비밀계정을 가지고 있었죠. 많은 사람들이 비밀 계정을 가지고 있습니다. 그런데 저는 너무 유명해졌어요.


케빈 루스: 제가 들었던 이론은 당신이 은밀히 가속주의자이며 인공지능이 가능한 한 빨리 발전하기를 바라는 사람이고, 당신이 하고 있는 이 모든 신중한 외교와 규제를 요구하는 것은 사회를 위해 예의 바른 얼굴을 하고 있다는 것이었습니다. 하지만 마음속 깊은 곳에서는 미래를 향해 브레이크 없이 전속력으로 달려야 한다고 생각합니다.


샘 알트먼: 네, 미래를 향해 전속력으로 달려가야 한다고 생각하지는 않습니다. 하지만 미래로 가야 한다고 생각합니다. 그리고 그것이 제가 대부분의 인공지능 회사와 차별화되는 점일 것입니다. 저는 인공지능이 좋다고 생각합니다. 저는 제가 하루 종일 하는 일을 몰래 싫어하지 않아요. 굉장할 거라고 생각해요. 저는 이것이 구축되는 것을 보고 싶어요. 사람들이 이걸 통해 혜택을 받았으면 좋겠어요. 가솔린만 쓰나요? 브레이크는 없나요? 물론 아니죠. 그리고 그렇게 말하는 대부분의 사람들이 진심이라고 생각하지도 않습니다. 하지만 저는 이 기술이 엄청나게 유익한 기술이며, 안전하고 책임감 있게 사람들에게 전달할 수 있는 방법을 찾아서 위험에 맞서서 큰 보상을 누릴 수 있도록 해야 한다고 믿습니다. 인공지능을 연구하는 대부분의 사람들에 비하면 저는 가속주의자라고 할 수 있습니다. 하지만 그런 가속주의자들과 비교하면 저는 분명히 그들과는 다릅니다. 따라서 이 회사의 최고 경영자는 그 중간 어딘가에 있기를 원한다고 생각합니다.


케빈 루스: 그렇다면 당신은 가속 인접성(acceleration-adjacent)이군요.


샘 알트먼: 저는 이것이 인류가 발명해낸 기술 중 가장 중요하고 유익한 기술이 될 것이라고 믿습니다. 하지만 조심하지 않으면 재앙이 될 수도 있다고 생각합니다. 그래서 우리는 신중하게 탐색해야 합니다.


https://www.nytimes.com/2023/11/20/podcasts/hard-fork-sam-altman-transcript.html
최대한 원어의 의미에 맞춰서 다듬었음