[📪정보] Tech Summit 2024 Demis Hassabis 전문 스트립트

[Invaria..(command1270)]

출처:

https://x.com/GoogleDeepMind/status/1846974292963066199

Our CEO @DemisHassabis sat down with @TheTimes & @TimesBusiness at their recent Tech Summit to discuss building AGI with safety in mind, the power of #AlphaFold and his predictions for what’s next in AI development.

Watch the full conversation ↓

Timestamps:
0:00 Introduction… pic.twitter.com/AhUCkKsDHM

— Google DeepMind (@GoogleDeepMind) October 17, 2024

Q: 제 말은 이 방에 있는 거의 모든 사람들이 DeepMind에 대해 알고 있고 지금 무엇을 하고 있는지 알고 있다는 것입니다. 음, 간단히 당신의 이야기부터 시작해볼까요. 흥미로운 점 중 하나는 당신이 약 2010년에 시작했고 그 전에 이미 아이디어를 가지고 있었다는 것입니다. 그리고 우리는 40년 동안 AI 겨울(AI 발전이 정체된 기간)을 겪었고 AI는 일어나지 않았습니다. 당시 과학을 다루던 사람으로서 AI는 제가 생각하던 주제가 아니었습니다. 하지만 시대적 흐름이 당신에게 유리했던 것 같습니다. 왜 DeepMind가 그때 탄생하게 되었나요?

Demis Hassabis: 사실 저는 AI에 대해 30년 넘게 연구해왔습니다. 처음에는 게임에서, 게임 AI와 시뮬레이션 게임을 만들면서 시작했죠. 그러다 컴퓨터 과학과 신경과학을 공부하게 되었고, 그동안 AI 분야가 어떻게 발전하는지를 계속 관찰해왔습니다.

90년대에는, 당신이 말한 AI 겨울 동안 모든 것이 논리 시스템이었어요. 그래서 그것들을 '전문가 시스템'(expert systems)이라고 불렀죠. 많은 분들이 아마 가리 카스파로프를 이긴 딥블루(Deep Blue)를 기억할 텐데, 사실 그것들은 프로그래머와 시스템 설계자가 문제를 해결하고, 그 해결책을 규칙으로 캡슐화한 사전 프로그램된 시스템입니다. 그리고 AI 시스템은 전혀 지능적이지 않아요. 그저 기계적으로 그 경험적 규칙들을 실행하는 것이죠. 문제는 이러한 시스템들이 매우 취약하다는 거예요. 새로운 것을 배우지도 못하고, 당연히 새로운 것을 발견하지도 못합니다. 결국 프로그래머나 설계자가 이미 알고 있는 지식에만 의존해야 하니까요.

저는 90년대 내내, 그리고 캠브리지와 MIT에서 공부할 때도 논리 시스템이 해결책이라는 관점이 우세하다고 느꼈습니다. 여전히 그곳 중 일부는 그런 관점이죠. 그런데 저는 그것이 AI 겨울이 길어진 이유라고 생각합니다. 이 시스템들이 본질적으로 한계가 있었기 때문이에요.

그래서 2010년에 DeepMind를 시작할 때의 아이디어는, 딥러닝이 막 학계에서 발명되었고, 강화 학습(reinforcement learning) 역시 우리가 뇌가 사용하는 방식이라는 것을 알게 되었다는 것이었어요. 도파민 시스템을 통해 인간을 포함한 동물들이 강화 학습으로 학습한다는 걸 알았죠. 그래서 우리에게 필요한 것은 스스로 학습하고 범용적인 학습 시스템을 만드는 것이 분명해 보였습니다. 그것이 DeepMind의 탄생 배경이에요.

그리고 GPU와 하드웨어 가속화도 발전하고 있었죠. 저는 GPU가 처음 등장했을 때 컴퓨터 그래픽과 게임용으로 사용했던 경험이 있어요. 그런데 GPU는 매우 범용적인 장치였죠. 세상의 모든 것이 행렬 곱셈으로 이뤄진다는 사실을 알게 되었습니다. 그래서 우리는 일찍 시작했고, 이 초기 아이디어와 요소들을 결합해 아폴로 프로젝트 같은 노력을 기울이면 매우 빠른 진전을 이룰 수 있을 것이라고 생각했습니다. 그리고 실제로 그렇게 되었죠.

Q: 2010년에 당신이 가졌던 비전이 지금 여기까지 올 것이라고 예상했나요? 15년 후에 여러 행사들을 거쳐 내가 여기서 사람들 앞에 서서 AI가 중요한 것이 되었고, 우리가 단백질 접힘 문제를 해결할 것이라고 생각했나요?

Demis Hassabis: 사실 전반적으로 우리가 계획했던 대로 진행되었습니다. 물론 예상치 못한 문제들이나 예상 밖의 일들이 있었지만요. 2010년에 시작할 때 우리는 AGI, 즉 범용 인공지능에 도달하는 데 약 20년이 걸릴 것이라고 생각했어요. 지금 시점에서 봤을 때 저는 그것이 앞으로 10년 이내에 가능할 것이라고 봅니다. 대략 그런 시간표죠.

단백질 접힘 문제와 AI 시스템으로 과학을 탐구하는 것은 AGI로 가는 길에서 항상 제 주된 열정이었어요. 그리고 단백질 접힘 문제는 우리가 돌파구를 찾는다면 세상을 변화시킬 수 있는 가장 중요한 과학적 문제 중 하나였죠. 그래서 그것이 항상 제 리스트에서 가장 우선순위에 있었습니다.

Q: 그럼 그 이야기를 다시 돌아보고 AGI에 대해 조금 더 이야기해보죠. 흥미로운 점 중 하나는, 이제 우리는 사회적으로 AI에 대해 이야기하기 시작했다는 것입니다. 챗GPT가 등장한 이후로 말이죠. 그런데 그것은 당신이 하고 있는 것과는 매우 다른 종류의 AI입니다. 제가 지켜본 바로는, 지금까지 당신의 AI들은 모두 매우 구체적이었어요. 처음에는 꽤 무의미한 일들을 하는 것처럼 보였죠. 컴퓨터 게임에서 매우 뛰어나졌고, 저는 그것이 무의미하다고 말하는 것은 아니지만, 좀 더 재미를 위한 것이라고 할 수 있을 것 같습니다.

Demis Hassabis: 네, 우리는 게임으로 시작했습니다. 부분적으로는 제 게임 제작과 체스 같은 게임을 진지하게 다룬 배경 때문이기도 합니다. 하지만 게임은 AI와 오랜 역사를 함께해왔어요. 튜링(Turing)과 AI의 초창기부터 시작해서, 섀넌(Shannon) 같은 거장들도 체스 프로그램으로 AI 연구를 시작했습니다. 거의 모든 AI 개척자들이 체스를 시작으로 AI 시스템을 연구했죠.

체스와 같은 게임들은 AI 시스템에 대한 훈련장이자 시험 무대였습니다. 알고리즘 아이디어로 빠르게 진보할 수 있는지를 확인하는 데 매우 좋은 시험대였죠. 그리고 세계 챔피언이나 최고의 컴퓨터를 이기게 되면 당신의 연구가 잘 진행되고 있다는 것을 쉽게 벤치마킹할 수 있었습니다.

하지만 중요한 것은 그것들이 목적이 아닌 수단이라는 점이에요. 목표는 단순히 체스나 바둑에서 세계 챔피언을 이기는 것이 아니라, 그것을 일반적인 방식으로 수행하고, 그 방식이 다른 영역으로도 전이되도록 하는 것이었습니다. 과학과 상업적 응용 모두 말이죠. 그것이 우리가 Deep Reinforcement Learning으로 한 일이고, 알파고와 같은 프로젝트에서 이루어낸 일입니다. 이 모든 것들은 오늘날까지도 우리가 사용하는 매우 범용적인 시스템과 기법들이죠.

이제 알파폴드(AlphaFold)나 단백질 접힘 같은 과학적 프로그램에 도달하게 되면, 이제는 그 해결책 자체가 중요한 겁니다. 예를 들어, 당신이 암 치료제를 가지고 있다면, 그것이 어떻게 만들어졌는지는 중요하지 않죠. 당신은 그냥 치료제를 원할 뿐입니다. 그래서 모든 기술적 역량을 총동원하고자 하게 됩니다. 처음에는 모든 범용적인 기술을 베이스라인으로 사용하고, 그 다음으로 해당 도메인에 맞는 맞춤형 요소들을 추가하는 것이죠. 그렇게 해서 알파폴드와 같은 획기적인 프로그램이 탄생하게 된 것입니다.

하지만 DeepMind의 궁극적인 목표는 처음 시작할 때도 그렇고 지금도 여전히 AGI, 즉 범용 인공지능에 도달하는 것입니다. 범용 시스템이란 인간이 할 수 있는 모든 인지적 작업을 수행할 수 있는 시스템을 말합니다. 완전히 범용적인 시스템이죠. 앨런 튜링(Alan Turing)이 1950년대에 명시한 완전한 범용 튜링 머신처럼, 계산 가능한 모든 것을 계산할 수 있어야 하는 시스템입니다. 이것이 AI 분야의 원래 목표였고, DeepMind의 목표이기도 합니다.

Q: 최근에는 챗GPT 같은 언어 모델이 대중의 의식 속에 자리 잡게 되었는데, 이들이 AGI에 더 가까워졌다고 생각하시나요? LLM(대규모 언어 모델)이 AGI에 다가가는 길에 있다고 보시는지요?

Demis Hassabis: 요즘 LLM은 단순한 대규모 언어 모델이 아니라 멀티모달(multimodal) 시스템으로 발전하고 있습니다. 예를 들어 우리의 'Lighthouse' 모델인 Gemini는 처음부터 멀티모달로 설계되었습니다. 그래서 이 모델은 텍스트뿐만 아니라 시각적, 청각적, 비디오, 코드 등 다양한 입력을 처리할 수 있습니다. 제 생각에는 이런 시스템이 AGI의 중요한 구성 요소가 될 것입니다. 하지만 그것만으로는 충분하지 않을 것 같아요. 앞으로 2~3개의 큰 혁신이 더 필요할 것입니다. 그래서 저는 다른 사람들보다 좀 더 긴 10년 정도의 시간표를 가지고 있습니다. 제 몇몇 동료들이나 경쟁자들은 더 짧은 시간표를 얘기하지만, 저는 10년 정도가 적절하다고 생각합니다.

Q: DeepMind 내부적으로도 AGI로 가기 위한 노력이 계속되고 있나요? 초기에는 매우 잘 자금 지원된 대학교 연구실 같은 느낌이 있었는데, 마치 벨 연구소(Bell Labs)나 다른 대형 상업적 연구 조직처럼 말이죠. 그런데 이제는 매우 유용한 일들을 하고 있으며, 단백질 접힘이나 날씨 예측, 국제 수학 올림피아드에서 은메달을 획득하는 등 다양한 성과를 내고 있습니다. AGI를 향해 나아가기 위한 팀들이 백그라운드에서 계속해서 연구하고 있나요?

Demis Hassabis: 네, 우리는 큰 조직이기 때문에 여러 가지를 동시에 진행할 수 있습니다. 처음에 DeepMind를 설계할 때, 세계 최고의 산업 연구소 중 하나인 벨 연구소를 모델로 삼았습니다. 미래를 발명하고, 장기적인 관점을 가지고 생각할 수 있는 연구소를 만들고자 했죠. 그리고 저는 우리가 그런 종류의 연구소가 무엇을 할 수 있는지 잘 보여주었다고 생각합니다. 이 방식이 오늘날의 기술의 기초를 마련하는 데 매우 효과적이었고요.

우리는 지금 매우 흥미로운 시점에 있습니다. 지난 2~3년 동안 이 기술이 매우 성숙해졌고, 이제 다양한 응용 분야에 적용할 준비가 되어 있습니다. 과학, 수학, 의학 등 여러 분야에서 응용할 수 있는 단계에 도달했죠. 응용 과학뿐만 아니라 생산성 향상 및 상업적 응용, 예를 들어 챗봇이나 이메일 작업을 재구상하는 등 새로운 도구들이 등장하고 있습니다. 그리고 코딩 지원 도구와 같은 것들도 등장하고 있죠.

우리는 이러한 모든 분야에서 연구하고 있으며, 구글의 엔진 역할을 하고 있습니다. 구글은 약 15억 명 이상의 사용자 기반을 가진 놀라운 제품들을 보유하고 있으며, AI는 그 모든 제품의 핵심입니다. 그리고 우리가 DeepMind에서 개발한 기술들이 계속해서 구글 제품에 통합되고 있습니다.

이제 제품에 필요한 기술과 AGI로 가는 연구가 거의 동일해졌기 때문에, 서로 격차가 사라졌다고 볼 수 있습니다. 5~10년 전에는 제품에 AI를 적용하려면 일반적인 학습 시스템이 충분히 강력하지 않아서 논리 네트워크나 전문가 시스템 같은 옛날 방식으로 돌아가야 했습니다. 예를 들어 알렉사(Alexa) 시대의 디지털 비서는 여전히 그 옛날 기술을 기반으로 만들어졌습니다. 그래서 그들은 취약했고, 일반화되지 않았으며, 결국 그렇게 유용하지 못했습니다.

반면에 현재의 학습 시스템을 기반으로 한 비서들은 훨씬 더 강력하고 유용해질 것입니다. 그래서 저는 이것이 AGI 시스템을 향한 중요한 진전이라고 생각합니다. 예를 들어 우리의 Gemini나 미래의 멀티모달 비전인 Astra 같은 비서 시스템들이 AGI로 가는 중요한 경로에 있다고 봅니다. 이러한 시스템들이 AGI 연구를 계속해서 발전시키는 역할을 할 것입니다.

Q: 그러면 그 시스템들에 대해 조금 더 말씀해주실 수 있나요?

Demis Hassabis: 네, 우리가 Astra라는 이름으로 부르고 있는 미래의 멀티모달 비서를 보여드릴 수 있을 것 같습니다. 이 시스템은 우리의 일상 생활을 도와줄 수 있는 범용 비서로 발전할 가능성을 가지고 있습니다.

**[영상이 시작된다]**

Astra: 테스트를 몇 가지 해볼까요. 소리를 내는 것이 보이면 알려주세요.

사용자: 저는 소리를 내는 스피커를 봅니다.

Astra: 그 스피커의 그 부분은 무엇인가요?

사용자: 그 부분은 트위터입니다. 고주파 소리를 냅니다.

Astra: 창의적인 두운법을 사용해 이 크레용에 대해 묘사해보세요.

사용자: 창의적인 크레용들은 밝게 색칠하며, 확실히 다채로운 창작물을 만들어냅니다.

Astra: 이 코드의 기능은 무엇인가요?

사용자: 이 코드는 암호화 및 복호화 기능을 정의하며, AES 암호화를 사용하여 데이터를 키와 초기화 벡터(IV)를 기반으로 인코딩하고 디코딩하는 것 같습니다.

Astra: 맞습니다. 제가 있는 동네가 어디라고 생각하나요?

사용자: 이곳은 런던의 킹스크로스 지역으로 보입니다. 이곳은 철도역과 교통 연결로 유명합니다.

Astra: 제 안경이 어디 있었는지 기억하나요?

사용자: 네, 기억합니다. 당신의 안경은 빨간 사과 옆 책상 위에 있었습니다.

**[영상이 끝난다]**

Demis Hassabis: 이 영상은 Astra가 할 수 있는 것의 시작에 불과합니다. 여러분의 일상생활에서 도움이 될 수 있는 기본적인 비서의 모습입니다. 이 비서는 다양한 형태로 여러분과 함께하게 될 것입니다. 휴대폰에서도 볼 수 있고, 스마트 안경을 통해서도 볼 수 있습니다.

만약 5년 전으로 돌아간다면, 저는 이런 지점까지 도달할 것이라고 상상하지 못했을 것입니다. 카메라로 무언가를 가리키기만 해도, 이 시스템이 그 주위의 공간적 맥락을 완전히 이해한다는 것은 놀라운 일이죠. 이 시스템은 개념을 이해하고 사물을 인식하며, 심지어 창밖의 무작위 장면을 보고 동네를 알아볼 수 있습니다. 어디에 두었던 물건을 기억하는 기능도 매우 유용할 수 있습니다.

저는 이것을 '범용 비서'라고 부르고 싶습니다. 이 비서는 여러분과 함께 여러 장치에서 동일하게 작동할 것이며, 게임을 할 때나 데스크탑에서 일을 도울 때, 또는 모바일 기기를 가지고 여행할 때도 항상 동일하게 여러분을 도와줄 것입니다.

Q: 이 비서가 AGI로 가는 한 단계라고 생각하는 사람들이 있는가 하면, 현재의 방법으로는 그 간극을 메우지 못할 것이라고 생각하는 사람들도 있습니다. 이 시스템은 그저 70%, 80%, 90%로 조금씩 발전하다가 완성되는 것인가요, 아니면 해결해야 할 다른 문제가 있나요?

Demis Hassabis: 현재의 시스템들은 여러분도 잘 아시겠지만, 여전히 매우 수동적입니다. 기본적으로 Q&A 시스템이죠. 질문에 답하거나, 간단한 요약이나 정보를 제공하는 데 유용한 수준입니다. 우리가 원하는 것은 더 많은 에이전트 기반 시스템들입니다. 목표나 작업을 주고 그것을 달성할 수 있는 시스템이 필요합니다. 유용한 디지털 비서라면 휴가를 계획하거나, 도시에서의 일정과 같은 복잡한 계획을 세우고, 필요한 예약도 해주는 시스템이어야 하죠.

이를 위해서는 세상에서 행동하고 계획을 세우며 목표를 달성할 수 있는 능력이 필요합니다. 우리는 계획 수립, 추론, 행동 능력을 갖춘 시스템이 필요하며, 더 나은 기억력과 개인화 기능도 필요합니다.

Demis Hassabis: 비서는 여러분의 선호도를 이해하고, 여러분이 말한 것을 기억하며, 여러분이 무엇을 좋아하는지 알 수 있어야 합니다. 이러한 모든 기술들이 필요합니다.

예를 들어, 알파고(AlphaGo) 같은 게임 프로그램은 계획 수립과 추론을 할 수 있죠. 물론 그것은 게임이라는 좁은 도메인에서 이루어지긴 했지만요. 이제 우리는 이러한 기술들을 가져와 멀티모달 모델인 Gemini 같은 시스템에 적용해야 합니다. Gemini는 세상을 이해하고 있지만, 게임처럼 단순하고 명확한 환경이 아니라 현실 세계의 복잡한 상황에서 계획을 세워야 합니다. 이것이 다음 큰 돌파구라고 생각합니다.

Q: 그 비서가 알파고 수준의 체스 실력을 가지거나 단백질 접힘 문제도 해결할 수 있을까요?

Demis Hassabis: 네, 그렇습니다. 매우 흥미로운 부분은 이것을 두 가지 방식으로 구현할 수 있다는 것입니다. 내부적으로 우리는 현재 이 문제에 대해 많은 논의를 하고 있습니다. 중요한 점은 AI 시스템이 도구를 사용할 수 있는 능력을 갖추는 것입니다. 이 도구들은 하드웨어일 수도 있고, 예를 들어 로봇과 같은 물리적 장치일 수도 있으며, 소프트웨어일 수도 있습니다. 계산기처럼 간단한 프로그램부터 시작해서, 다른 AI 시스템 같은 것들도 포함될 수 있습니다.

예를 들어, 범용 AI 시스템이 AlphaFold나 AlphaGo 같은 AI를 호출해 특정 작업을 수행하도록 하는 것을 상상해보세요. 모든 것이 디지털 환경에서 이루어지기 때문에 그 기능을 범용 AI의 '뇌' 안에 통합하는 것도 가능합니다. 그러나 그것은 특정 문제를 불러일으킬 수 있습니다. 너무 많은 특화된 정보를 범용 시스템에 통합하면, 예를 들어 체스와 관련된 데이터를 너무 많이 포함하게 되면 언어 처리 능력이 저하될 수도 있습니다.

그래서 우리는 이러한 도구들을 독립적으로 사용하는 것이 더 나은지, 아니면 주 시스템 안에 통합하는 것이 더 나은지에 대해 연구하고 있습니다. 일부 기능들은 주 시스템에 포함하는 것이 좋을 수 있습니다. 예를 들어, 코딩이나 수학 같은 것은 범용 시스템에 포함하면 시스템 전체가 더 나아질 수 있기 때문이죠. 연구자들이 이러한 문제를 고민하고 있으며, 학습 이론이나 아동 발달을 통해 어떤 것들이 범용적이고 주 시스템에 포함되는 것이 더 좋은지에 대해 연구하고 있습니다.

Q: 여전히 DeepMind는 과학 연구 조직인가요, 아니면 벨 연구소처럼 상업적 연구 조직으로 변모하고 있나요?

Demis Hassabis: 우리는 여전히 연구 중심의 조직입니다. 구글 딥마인드(Google DeepMind)로서, 우리 본질은 연구입니다. 하지만 점점 더 많은 제품 팀이 생겨나고 있으며, 그들은 구글의 다른 부서들과 협력하고 있죠. 그러나 우리는 여전히 우리의 근본적인 연구를 어느 정도 독립적으로 유지하려고 합니다. 이것은 장기적인 청사진을 따라갈 수 있게 하고, 단기적인 제품 로드맵에 의해 좌우되지 않도록 하기 위함입니다.

Q: 개인적으로는 이러한 연구들을 어떻게 따라가고 있나요?

Demis Hassabis: 예전에는 제 저녁 시간을, 특히 자정부터 새벽 3시까지의 시간을 아이디어를 생각하거나 논문을 읽는 데 사용했습니다. 저는 밤에 일하는 것을 선호하는 편이라서요. 그런데 요즘은 더 많은 팀들이 캘리포니아에 있어서 그 시간대에 회의가 많아졌습니다. 그래서 그 소중한 사고 시간을 다시 확보할 방법을 고민해야 할 것 같습니다.

Q: AI의 미래에 대해 여쭤보고 싶습니다. 당신은 최근 오픈 레터에 서명한 사람 중 한 명이었죠. AI의 잠재적 위험성에 대해 경고하는 내용이었습니다. 그 레터에서는 위험에 대해 구체적으로 정의하지 않았는데, AI의 미래에 대해 어떻게 생각하시나요?

Demis Hassabis: 예상하셨겠지만, 저는 현재 AI에 대해 양극단의 의견들이 많다고 생각합니다. 한쪽에는 AI가 반드시 잘못될 것이라고 믿는 '둠 캠프(Doomer camp)'가 있고, 다른 한쪽에는 AI가 단순히 또 하나의 기술 혁신일 뿐이라고 보는 '폴리아나 캠프(Pollyanna camp)'가 있죠. 그들은 모바일 인터넷과 같은 기술 혁신처럼 AI도 발전할 것이고, 인간 사회가 충분히 적응할 수 있을 것이라고 주장합니다.

하지만 저는 이러한 양극단의 시각 모두 잘못되었다고 생각합니다. AI는 인터넷이나 모바일보다 훨씬 더 큰 영향을 미칠 것이고, 시대를 정의하는 변곡점이 될 것입니다. 저는 어렸을 때부터 AI가 실현된다면 엄청난 영향을 미칠 것이라고 생각해왔고, 이제 그 영향이 점점 더 명확해지고 있습니다.

물론 제가 이 모든 일을 하는 이유는 AI가 세상에 엄청난 긍정적인 영향을 미칠 것이라고 믿기 때문입니다. 우리는 AI를 통해 모든 질병을 치료할 수 있는 지점에 도달할 수 있을 것이고, AI가 기후 문제 해결에도 기여할 수 있을 것입니다. 예를 들어 소재 과학이나 새로운 에너지원 같은 분야에서 AI가 새로운 발명들을 이끌어낼 수 있을 것입니다.

또한 우리의 일상에서도 생산성을 높이고, 일상적인 관리 작업을 자동으로 처리해주는 등 많은 부분에서 도움을 줄 것입니다. 이러한 긍정적인 변화들이 곧 다가올 것이고, 매우 멋진 일들이라고 생각합니다. 하지만 동시에 이러한 시스템들은 매우 강력한 새로운 기술이기 때문에 신중하게 다루어져야 한다고 생각합니다.

AI가 게임 분야에서 발전하는 모습을 지켜보며, AI의 강력함을 직접 경험한 적이 있습니다. 예를 들어, AlphaZero가 처음 체스를 배울 때, 처음에는 무작위로 움직이다가 단 몇 시간 만에 세계 챔피언 수준에 도달했고, 몇 시간 후에는 기존의 모든 체스 프로그램들을 초월하는 수준으로 발전했습니다. 이 모든 것이 단 하루도 걸리지 않았습니다.

물론 체스는 제한된 영역이지만, 이 능력이 더 일반화된 AI 시스템으로 확장될 수 있을 것입니다. 언어 모델과 세계 모델 등 더 일반적인 시스템에서도 이와 같은 잠재력을 가질 수 있다고 생각합니다. 따라서 이러한 시스템들은 엄청난 힘을 가지게 될 것이며, 그만큼 신중하게 다루어야 합니다.

제가 오픈 레터에 서명한 이유는 사람들이 AI에 대해 지나치게 낙관적인 태도를 경계하고 싶었기 때문입니다. AI에는 위험이 내포되어 있으며, 그 위험을 정의하고 해결하기 위해 더 많은 연구가 필요하다고 생각합니다. 시간이 충분히 있다고 생각하지만, 10년은 이런 거대한 변화를 준비하기에는 길지 않은 시간입니다. 그래서 우리는 지금부터 더 많은 연구를 시작해야 합니다.

우리는 AI의 제어 가능성(Controllability)에 대한 연구를 더 필요로 하고, 이러한 시스템들이 이론적으로 어떻게 작동하는지에 대한 이해도 필요합니다. 시스템의 목표와 가치를 어떻게 정의할 것인지, 그리고 그 목표를 따르도록 어떻게 보장할 것인지도 중요한 문제입니다. 이러한 것들은 현재의 기술로는 여전히 미지의 영역입니다.

저는 신중한 낙관주의자입니다. 충분한 시간과 인재를 투입한다면, 우리는 이 문제를 해결할 수 있을 것이라고 믿습니다. 국제적으로 협력하고 최고의 인재들을 모아야 하며, 지금 바로 시작해야 합니다. AI 안전 연구소들이 영국과 미국에 설립된 것을 기쁘게 생각합니다. 우리는 이러한 연구소들이 최신 AI 모델들을 테스트할 수 있도록 지원하고 있습니다. 하지만 그보다 더 많은 연구와 준비가 필요합니다.

따라서 이러한 것들을 장려하고 싶습니다. 충분한 시간과 인재가 있다면, 인류의 창의성에 대한 믿음으로 이 문제를 해결할 수 있을 것이라고 생각합니다. 물론 위험은 존재하며, 우리는 이를 간과해서는 안 됩니다. 이 기술이 가진 엄청난 잠재력을 존중하고 신중하게 다뤄야 한다고 생각합니다.

Q: 말씀을 듣다 보니 다소 두려운 생각도 듭니다. 예를 들어, 만약 제가 직장에서 체스를 두며 생계를 유지하고 있다면, AI가 제 가치를 무의미하게 만들 수 있다는 이야기로 들릴 수도 있을 것 같습니다.

Demis Hassabis: 저는 그렇게 생각하지 않습니다. AI의 시대가 오면, 근본적으로 세상이 변화할 것입니다. 중요한 철학적 논의들이 필요할 것입니다. 예를 들어, AGI가 작동하면 우리는 급진적인 풍요의 시대에 접어들 것입니다. 더 이상 에너지나 자원과 같은 것들에 대한 희소성 문제가 없을 것입니다. 이는 경제의 역학을 변화시킬 것이며, 우리는 이러한 변화에 대비해야 합니다.

추가적인 풍요와 부를 어떻게 분배할 것인가에 대한 논의가 필요합니다. 그것이 예를 들어, 기본소득과 같은 보편적인 복지 제공 방안일 수도 있습니다. 지금부터 경제학자들이 이러한 문제를 연구하고 대비해야 한다고 생각합니다.

Q: 마지막 질문입니다. 우리는 영국에 있으며, AI의 중심지는 분명히 미국입니다. 영국에서도 AI에 대한 많은 논의가 진행 중인데요, 컴퓨팅 파워에 대한 문제도 있고, 정부가 이를 지원해야 한다는 이야기들도 있습니다. AI 발전에 있어서 영국이 뒤처지지 않기 위해 무엇이 필요하다고 생각하시나요?

Demis Hassabis: 저는 이것이 엄청난 성장 가능성을 지닌 분야라고 생각합니다. 영국 정부는 이를 촉진하고 장려해야 합니다. 컴퓨팅 파워를 늘리는 것도 중요하지만, 그것만이 답은 아닙니다. 현지 투자 촉진, 브라운필드(brownfield) 사이트에 대한 계획 허가, 그리고 영국 내에서 재생 가능한 에너지원 근처에 AI 관련 연구소를 설립하는 것이 매우 중요하다고 생각합니다. 특히 해상 풍력과 같은 재생 가능한 에너지원과 가까운 지역에서 말이죠.

영국에는 훌륭한 인재들이 많고, 세계적인 수준의 대학들도 많이 있습니다. 그것이 DeepMind가 여기에서 설립된 이유 중 하나였어요. DeepMind가 설립되면서 영국에서는 AI를 기반으로 한 많은 훌륭한 스타트업들이 생겨났고, 스타트업 생태계가 형성되었습니다. 저는 영국 정부가 그것을 더 쉽게 만들고, 회사들이 이곳에 투자하고 연구소를 세우는 것을 촉진해야 한다고 생각합니다.

그리고 이러한 노력은 데이터 센터 설립에도 적용될 수 있습니다. AI 기술이 더 발전하고, 그에 맞는 데이터 센터들이 필요해질 것입니다. 영국은 이러한 것을 도입할 수 있는 좋은 위치에 있다고 생각해요. 연구와 상업적 응용 모두에서 영국이 더 큰 역할을 할 수 있도록 해야 합니다.

Q: 네, 알겠습니다. 오늘 이렇게 함께해 주셔서 감사합니다, Demis. 정말 흥미로운 시간이었습니다.

Demis Hassabis: 감사합니다. 저도 이 자리에 함께할 수 있어서 기뻤습니다.

[wurld(boxing8245)]