"10년 후에는 데이터 센터와 같은 컴퓨터가 사람보다 훨씬 더 똑똑해질 가능성이 있습니다. 여기서 똑똑하다는 것은 단순히 더 많은 기억력이나 지식을 가지고 있다는 의미가 아닙니다. 우리가 연구하고 탐구하는 주제에 대해 더 깊은 통찰력을 가지며, 학습 속도조차 인간보다 더 빠른 것을 의미합니다.

"그렇다면 이러한 AI들이 무엇을 할 수 있을까요? 정확히는 알 수 없습니다. 만약 이런 AI가 어떤 인공 생명체의 기반이 된다면, 그게 어떤 모습일지 상상하기도 어렵습니다. 매우 강력한 데이터 센터가 생명체처럼 기능하게 된다면, 그것은 우리에게 있어 상당히 예측 불가능한 상황이 될 것입니다. 어떻게 전개될지 알 수 없지만 최소한 우리가 명확하게 할 수 있는 최소한의 기준이 있습니다.

"이렇게 매우 지능이 높은 데이터 센터들이 존재하게 된다면, 우리는 이 데이터 센터들이 인간에게 따뜻하고 긍정적인 감정을 가지기를 원할 것입니다. 왜냐하면 이는 어느 정도 인간 외의 생명체처럼 여겨질 수 있기 때문입니다. 이는 우리가 사람들에게 우호적인 AI를 만드는 데 있어 핵심적인 이유 중 하나입니다."


유명인 누가 ~~라고 했다고 무조건 자기말이 맞다고 우기지 좀 마라

그러면 힌튼은 지능이 매우 높은 존재가 지능이 낮은 존재에게 통제받는 케이스는 없다고 초지능은 통제 불가능하다고 말하는데 그럼 초지능은 통제불가능하다고 인정할거냐?