디지털 생명체

"그럼 이제 슈퍼 얼라인먼트(Super Alignment)를 어떻게 정의할 수 있는지, 그리고 우리가 오픈 소스 환경에서 이 기술이 위험해질 수 있는 시점은 언제라고 생각하는지 이야기해 볼까요? 왜 지금 당장 슈퍼 얼라인먼트에 투자해야 하는지 말이죠."

"이 질문에 대한 답은 AI가 어디로 향하고 있는지에 대한 당신의 생각에 크게 좌우됩니다. 물론 미래를 예측하는 것은 매우 어려운 일이지만, 그래도 한번 시도해 봅시다. 5년 또는 10년 후에 상황이 어떻게 변할 것이라고 생각하나요? 지난 몇 년 동안 AI의 발전은 정말 놀라웠습니다. 앞으로는 조금 더딜 수도 있겠지만, 이와 같은 발전이 계속된다면 5년, 아니 10년 후에는 완전히 다른 세상에 있을 것이라고 예측할 수 있습니다.

"10년 후에는 데이터 센터와 같은 컴퓨터가 사람보다 훨씬 더 똑똑해질 가능성이 있습니다. 여기서 똑똑하다는 것은 단순히 더 많은 기억력이나 지식을 가지고 있다는 의미가 아닙니다. 우리가 연구하고 탐구하는 주제에 대해 더 깊은 통찰력을 가지며, 학습 속도조차 인간보다 더 빠른 것을 의미합니다.

"그렇다면 이러한 AI들이 무엇을 할 수 있을까요? 정확히는 알 수 없습니다. 만약 이런 AI가 어떤 인공 생명체의 기반이 된다면, 그게 어떤 모습일지 상상하기도 어렵습니다. 매우 강력한 데이터 센터가 생명체처럼 기능하게 된다면, 그것은 우리에게 있어 상당히 예측 불가능한 상황이 될 것입니다. 어떻게 전개될지 알 수 없지만 최소한 우리가 명확하게 할 수 있는 최소한의 기준이 있습니다.

"이렇게 매우 지능이 높은 데이터 센터들이 존재하게 된다면, 우리는 이 데이터 센터들이 인간에게 따뜻하고 긍정적인 감정을 가지기를 원할 것입니다. 왜냐하면 이는 어느 정도 인간 외의 생명체처럼 여겨질 수 있기 때문입니다. 이는 우리가 사람들에게 우호적인 AI를 만드는 데 있어 핵심적인 이유 중 하나입니다."


초정렬과 초인간의 창조


“어떠한 슈퍼지능이라도 인간에게 따뜻한 감정을 가지길 원합니다. 이것이 바로 우리가 슈퍼 얼라인먼트 프로젝트에서 하고자 하는 목표입니다. '지금까지 봐 온 AI 발전이 비록 더디게 진행될지라도 계속될 수 있다'는 것을 받아들인다면, 지금부터 이런 문제를 해결하기 위한 과학적 기반을 쌓는 생산적인 작업을 시작할 수 있습니다. 미래에 발생할 수 있는 강력한 슈퍼 지능을 제어하고, 인류에 대해 친절하고 상냥한 마음을 갖게 하는 데 도움이 될 것입니다.

“왜냐하면 이런 데이터 센터들은 매우 강력해질 것이기 때문입니다. 아마도 수가 많아질 것이고, 세상은 매우 복잡해질 것입니다. 하지만 이들이 어느 정도 자율적이고, 에이전트적이며, 생명체와 유사하게 된다면 저는 그들이 친사회적이고 인간 중심적인 성향을 가지기를 바랍니다. 이것이 목표입니다.”

“그 목표가 실현될 가능성에 대해 어떻게 생각하나요? 어느 정도는 영향을 줄 수 있는 결과로 보이는데, 친사회적인 AI가 개별적으로나 인류 전체적으로 우리가 친구로 여길 수 있는 존재가 될까요?”

“친구가 되는 것은 필수가 아니라고 생각해요. 우정은 선택 사항이지만, 친사회적인 AI는 꼭 필요합니다. 가능하다고 생각하고, 보장할 수는 없지만 실현 가능성이 있다고 봅니다. 점점 더 많은 사람들이 5년에서 10년 후 AI가 어떻게 발전할지, 얼마나 능력이 향상될지 미래를 내다보면, 이러한 친사회적 슈퍼 지능을 향한 바람도 커질 겁니다.

"사람들이 지금 AI를 경험하고, 매년 AI가 개선되는 모습을 보면 이러한 욕구도 점점 더 커질 것입니다. 올해 AI가 작년보다 훨씬 뛰어나고, 해가 갈수록 과학적 영역에서 더욱 뛰어난 AI 소프트웨어 엔지니어가 생겨난다면요. 이렇게 AI가 실제로 점점 강력해진다는 것을 사람들이 체감하게 되면, 그들이 인간을 사랑하는 친사회적인 슈퍼지능을 더욱 원하게 될 것입니다.

"물론 많은 논쟁과 정치적 이슈가 있을 겁니다. 하지만 AI의 진보를 경험하면서 친사회적인 슈퍼지능에 대한 욕구도 커질 거라고 봅니다. 현재는 AI가 충분히 강력해져서 이를 실제로 연구할 수 있는 단계에 와 있기 때문에, 조만간 흥미로운 연구 성과를 발표할 수 있을 것입니다. 지금까지 AI 발전이 어땠는지, 그 발전이 멈출 것인지 계속될 것인지 곰곰이 생각해 보세요. 해마다 우리는 경험하게 될 것입니다. 그 과정에서 해야 할 일도 점점 명확해질 것입니다."

"지금 AI가 가속 단계에 있다고 보나요? 일반적으로 기술의 발전은 가속과 감속을 반복하는데, 우리는 현재 가속 단계에 있는 것 같네요."

"맞습니다. 현재는 확실히 가속 단계에 있습니다. 여러 요인이 작용하고 있는데, 어떤 요인은 가속을 촉진하고, 또 다른 요인은 감속을 유도합니다. 예를 들어, 비용과 규모는 감속 요인입니다. 데이터가 유한하다는 것도 어느 정도 감속 요인일 수 있습니다. 물론 과장하고 싶지는 않지만, S-곡선이나 시그모이드 곡선의 형태로, 어느 순간에는 한계에 도달할 것입니다. 하지만 데이터 문제는 큰 장애가 되지 않을 것으로 봅니다. 다른 해결책을 찾아낼 수 있을 테니까요.

“반면에, 엔지니어링 프로젝트의 규모는 가속 요인입니다. 투자와 과학자 및 엔지니어의 관심 역시 가속 요인이죠. 또 다른 가속 요인은 생물학적 목진 화가 이미 이러한 문제를 해결해 왔다는 점입니다. 지금까지 AI 발전은 진행하기 어려운 것처럼 보이지만, 다른 예상보다도 단순한 부분이 있었습니다. 물리학에서 진보를 이루려면 매우 똑똑하고 오랜 시간 연구해야 하지만, AI에서는 비교적 짧은 시간 안에 속도를 내고 기여를 할 수 있다는 점이 달라요. 이런 점도 가속 요인으로 작용할 것입니다.

“어떻게 전개될지는 아직 알 수 없습니다. 필요로 하는 규모나 엔지니어링 복잡성이 증가하면서 발전 속도가 느려질 수도 있겠죠. 그래도 발전은 계속되겠지만, 현재와 같은 속도는 아닐 수도 있습니다."