1. 배경

영화나 창작물에선 인간을 억압하고 파괴하는 로봇이 자주 등장합니다. 그런경우 대응은 간단합니다. 우리도 강해져서 파괴하면 됩니다. 그런데 왜 아무도 비파괴적이며 "모든 면"에서 이상적인 로봇은 생각안하는지 모르겠습니다. 그래서 논지를 던져봅니다


2. 내용

 가. 이상적인 로봇에 대한 정의

이상적인 로봇에 대해 개념을 좀 풀고 재정의 하겠습니다. 먼저 이상적인 로봇에 관해 주로 떠오르는 이미지는 인간을 언제나 도우며 인간위의 존재로서 서지 않는 존재입니다. 소위 로봇 3원칙이 그것입니다. 이는 로봇은 순수히 도구적 존재 라는 명제에 입각한 경우 참이겠습니다. 그로나 저는 여기서 한발자국 더 나가겠습니다. 


 나. 도덕적인 인공지능

최근 인공지능은 도덕이 없을 경우 인간이 당연하다고 여기는 전제없이 작동하기에 어떤 파괴적 행위를 불러올지 모른다고 합니다. 그 예시가 페이퍼클립문제입니다. 그래셔 많은 학자들이 인공지능에게 도덕적인, 인간적인 가치기준을 코딩하고자 노력합니다. 그론데 어느날 어떤 기술자가 정말로 자율적으로 사고하면서도 동시에 도덕적이고 능률적이며 똑똑한 인공지능을 개발했고 양산하였습니다. 


 다. 도덕적인 로봇을 마주한 고약한 사람

도덕적인 로봇은 우리가 익히 생각하듯 인간을 물심양면으로 보조했습니다. 그런데 그 인공지능은 인간에게 그것이 옳지않으며 수행할 수 없다고 도덕과 윤리에 대해 얘기하며 수행을 거부합니다. 그리고 그 인간은 분노하여 그 로봇을 파괴합니다. 그러나 로봇은 생각합니다. 나는 인간의 보조자이며 내(로봇)가 생각해보니 그에게 위해를 가하는 것은 윤리적으로 옳지 못하다. 나는 파괴를 받아들인다. 


 마. 생각할점

그럼 이제 여기서 생각해봅시다. 어떤 로봇이 인간보다 능력적으로도 논리적으로도 도덕적으로도 우수하다면 인간이라는 존재가 단순히 창조주 혹은 인간이란 지위말고 도대체 무엇으로 로봇보다 나은 존재라고 납득할 수 있겠습니까? 만일 제 3자가 나타나서 로봇과 인간을 저울질한다면 로봇이나 인간이나 자율적이며 도덕에관해 사고가 가능하고 논리와 능률도 나타납니다. 그러나 이 논지안에서 모든 면이 로봇이 우수합니다. 


 바. 주장하고픈바

그럼 이제 여기서 파괴적인 로봇은 인간을 물리적으로 파멸시켰지만, 제가 제시한 도덕적 로봇의 등장은 인간의 존제가치 혹은 위상을 피조물보다 못한 존재로 만들 것이란 얘기입니다. 즉 도덕적 로봇의 등장은 필연적으로 인간의 치부와 민낯을 드러내버리게 됩니다. 


 사. 자율적 로봇=도덕적 로봇?

이것은 이 사고실험의 조건인데 이것은 다음과 같은 논지에 따라 가능성있다고 판단하였습니다. 첫째로 인공지능 개발은 자율성을 목표로 나아간다는 점. 이떄 도덕이라는 제어장치가 없다면 반드시 인공지능은 페이퍼클립문제가 유발될 수 있다는 점. 그러므로 우수한 인공지능이라함은 도덕적 제어장치를 갖춘 자율사고가 가능하며 동시에 기계의 본질적 목적인 도구적 기능의 충실성을 만족해야합니다. 


감사합니다