“저는 인공지능(AI)이 너무 무섭고 두렵고 걱정됩니다. 인류는 AI 때문에 멸망할 수 있다고 생각해요. 사람들은 ‘터미네이터’ 영화에나 나올 법한 불가능한 일로 여기지만 충분히 가능합니다.”

힌턴 교수는 “부자는 더 부유해지고 빈자는 더 빈곤해지는 환경은 권위주의적 포퓰리스트들에게는 비옥한 토양”이라고 지적했다. AI가 유발한 일자리 감소가 정치 지형에도 상당한 영향을 미칠 것이란 얘기다. 

 힌턴 교수는 “AI가 향후 초지능(super-intelligence)으로 되면 다양한 하위 목표를 스스로 설정하게 되는데, 그중 하나는 ‘권력을 얻겠다’가 될 것”이라며 “그 단계에 이르면 인간이 통제하기 어려워진다”고 경고했다. 초지능은 AI가 지금보다 고도화해 인간 지능을 뛰어넘는 수준을 의미한다

힌턴 교수는 “지금도 챗봇이 거짓된 정보를 제시하고 사람들을 속이는데, 초지능이 돼 사람보다 똑똑해지면 어떻겠느냐”고 반문했다. “여러 종류의 초지능이 개발돼 상호 경쟁 관계가 되면 서로 다른 초지능을 이기기 위해 더 공격적으로 행동할 것”이라는 설명이다

힌턴 교수가 제시한 해법은 ‘강제력 있는 국가 차원의 규제’에서 출발한다. 그는 “대규모 AI 시스템을 개발하는 데 필요한 자원은 구글, 마이크로소프트, 바이두와 같은 빅테크들이 모두 소유하고 있다”며 “이들 기업이 더 윤리적으로 활동하도록 유도하는 환경을 조성해야 한다”고 조언했다. 그는 “대기업보다 강한 힘을 갖고 있어 제동을 걸 수 있는 주체는 정부밖에 없다”며 “정부가 나서서 윤리 규범을 도입하고, 빅테크들이 일정 수준 이상의 안전 관련 연구를 하게 강제해야 한다”고 말했다.