?si=5EZUu3MTG6rN8_f4




AI 안전 분야 최고 연구원이라 평가 받는 폴 크리스티아노와의 인터뷰이고 아래는 전문



드와르케시 파텔 00:24:25

이 이야기는 나중에 다시 하죠. 이러한 종류의 변화에 대한 타임라인을 좀 더 구체적으로 살펴봅시다. 따라서 다이슨 구를 만들 수 있는 인공지능이 언제쯤 개발될 것인지에 대한 신뢰 구간을 자유롭게 제시해 주세요. 그리고 이 수치는 잠정적인 수치라는 것을 이해합니다.


폴 크리스티아노 00:24:43

제 생각에는 다이슨 구를 만들 수 있는 AI는 약간 이상하게 표현하자면 많은 물리적 인프라에 의존하는 문명의 속성이라고 생각합니다. 그리고 다이슨 구체는 지구에서 발생하는 모든 햇빛보다 10억 배나 더 많은 에너지를 의미하는 것으로 이해합니다. 저는 5년, 10년 후의 가능성에 대해 가장 자주 생각하는 것 같아요. 2030년까지는 15%, 2040년까지는 40%의 확률이라고 말할 수 있을 것 같습니다. 6개월 전이나 9개월 전의 현금 수치를 한동안 다시 살펴보지 않은 셈이죠.


드와르케시 파텔 00:25:18

2040년까지 40%. 제 생각보다 더 오래 걸릴 것 같습니다. 다리오가 팟캐스트에 출연했을 때, 그는 우리가 다양한 종류의 일을 할 수 있는 AIS를 갖게 될 것이라고 말했는데, 기본적으로 잘 교육받은 사람이라면 한 시간 정도면 튜링 테스트를 통과할 수 있을 것이라고 말했습니다. 그리고 실제로 인간인 무언가가 한참 후에 초인적인 무언가가 나올 것이라고 상상하기는 어렵습니다. 그래서 다리오 같은 사람은 훨씬 짧은 쪽에 속하는 것 같습니다. 일리야 이 질문에 구체적으로 답하지 않은 것 같지만 비슷한 대답을 할 것 같아요. 그렇다면 스케일링 사진을 구매하지 않는 이유는 무엇인가요? 타임라인이 길어지는 이유는 무엇인가요?


폴 크리스티아노 00:25:54

네, 2030년 또는 2040년 전망에 대해 따로 이야기하고 싶을 수도 있습니다. 2040년 전망에 대해 이야기할 때 어느 쪽부터 시작해야 할까요? 2030년 15%의 다이슨 구가 너무 낮다고 불평하는 건가요, 아니면 2040년 40%가 너무 낮다고 불평하는 건가요? 2030년에 대해 이야기해 봅시다.


드와르케시 파텔 00:26:13

왜 2030 년까지 15 %입니까?


폴 크리스티아노 00:26:15

내 의견은 이 토론에서 두 가지 극단을 상상할 수 있다고 생각합니다. 하나는, 빠른 편의 투표로, "에이아이씨엠(AICM)은 정말 똑똑하군요. 정확히 어떤 일을 할 수 있을까요? 매우 빨리 똑똑해지고 있는 것 같아요." 라는 것입니다. 이것은 하나의 극단입니다. 다른 편으로는, "모든 것이 정말 오랜 시간이 걸리며, 현재 위치에서 억 단위 성장을 언급하고 있으며, 그것이 어떤 식으로든 빠르게 기술을 개발할 수 있는지조차 모른다는 것입니다. 이 토론의 두 극단이 있고, 나는 파키스탄에서 이런 식으로 발표하고 있는 것 같고, 그리고 난 이 사이에 있으며 2030년에 다이슨 구를 구축할 가능성은 15% 정도뿐인 중립적인 입장을 취하고 있습니다. 그런데 특히 나를 움직이는 것은 두 극단과 관련이 있는 것 같습니다. 한편으로, AI 시스템은 많은 것을 꽤 잘하는 것 같아서 매우 빨리 개선되고 있어서, 그들이 할 수 없다거나 어떤 방해가 있는지 말하기 정말 어렵다고 생각합니다. 다른 한편으로, 현재 원칙적으로 AI 시스템이 매우 유용한 인지 작업을 수행하는 증거조차 거의 없습니다. 우리는 올해 이 작업을 한 증거가 없으며, 내년에는 이 작업을 하겠다고 예측할 수 있는 추세가 없습니다. 현재 기본적 어려움이 어디에 있는지에 대한 매우 넓은 오차 막대가 있으며, 6년이나 정확히는 6년 3개월은 그리 많은 시간이 아닙니다. 그래서 2030년에 다이슨 구를 구축할 가능성이 15%라면, 아마도 인간 수준의 AI나 인간의 업무를 수행하는 AI가 약 4년 또는 3년 정도 안에 개발되어야 할 것입니다. 그래서 많은 시간이 주어지지 않습니다. 시간이 그리 많지 않다고 생각합니다. 그리고 모델이 이런 점을 일반적으로 반영하고 있는 것 같아서, 어떤 것들은 생각보다 시간이 더 오래 걸릴 수 있다고 느낍니다. 3년 또는 4년에 대해 이야기할 때 이런 점에 대해 가장 강하게 느낍니다. 그리고 10년이나 20년에 대해 얘기할 때는 그에 대해 덜 강하게 느낍니다. 그러나 3년 또는 4년에 대한 이야기나 다이슨 구 6년에 대한 이야기는 이 점에 대해 많이 느끼는 것 같습니다. 이 일이 오래 걸릴 여러 가지 방법, AI 시스템이 모든 일을 처리하는 데 어려움을 겪을 수 있는 여러 가지 방법이 있기 때문입니다.



- dc official App