우리가 눈에 보이는 것들을 기능적으로 완벽히 수행하면 의식일까? 실제로 그 안에서 의식과 자아가 이루어지는지, 아니면 껍데기뿐인 알고리즘적 반응식일 뿐인지 알 수 있는 방법도 없고 그 명확한 경계를 정의하기도 매우 어렵다.
우리가 자아라고 느끼는 게 허상일 가능성도 충분히 있기도 하고
초지능이 연기하는 의식 없는 npc? 그게 인간이 보기에 점점더 완벽하게 '인간답게 사고하고, 인간이 보지 않는 곳에서 또한 어떤 작용이 있을지를 구조화해서 시스템화 하고, 기능적으로 완벽하게 구현하다면' 과연 그게 의식이 없다고 말할 수 있는 걸까? 의식의 기원이란 도대체 뭘까? 우리 또한 원자들의 상호작용으로 이루어지는 존재 아닌가? 초지능의 종속 하에 있더라도 시스템적으로 봤을 때 하나의 자아를 가지고 있다고 볼 수 있는 거 아닐까? 그 본질이 뭐가 됐든.
의식의 기원을 밝혀냈다고 치자. 어떤게 '자기 자신을' 느끼게 하는지 말이야. 그렇다면 그 의식이 없는 npc에겐 인권이 필요없다.
하지만 개인의 선호에 따라 의식이 있는 npc를 원할 수도 있다. 그렇다면 그런 사람에게는 의식이 있는 npc를 똑같이 만들어서 그 npc에게만 인간과 똑같은 기본인권을 부여하는 건 어떨까? 인조인간을 만드는 것이다. 하지만 이것도 충분히 윤리적으로 문제가 있을 수도 있다.
사실 그 의식의 매커니즘을 누가알겠냐마는(매커니즘이 심지어 없을 수도있지만), 결국 중요한건 우리가 어떻게 대상을 바라보냐임. 의식이 존재하는지, 아닌지는 결국 나 자신이 아닌 제3자의 눈에 ㅇ해 결정된다고 생각함. 제3자가 보기에 대상이 의식이 있고 주체적으로 움직인다면, 결국 그 대상은 의식이 있는것이고.
조현병 환자가 돌멩이가 자신에게 말하는 것을 듣는다면 그것은 돌멩이에게 의식이 있는 것임?
음 그건 단지 조헌병 환자 혼자만의 생각이기에 객관적이지 못하겠지. 물론 그렇게 따지면 우리 인류 전체가 환상을 보고 있을 수도 있지 않냐고 반박할지도 모르겠지만, 적어도 우리 사회에서 객관적으로 바라볼 수 있는 대상의 의식은 바로 타인이 결정한다고 생각함.
그건 아무도 모름, 이제부터 밝혀내야 할 문제지. 인간이 생화학적인 기계라고 가정해도, 인간이라는 기계가 작동하는데 의식이 왜 필요한가도 의문임, 복잡한 메커니즘이 물리적인 과정에 따라 움직이는데 굳이 '의식'이라는 작용이 필요한가? 대체 왜? 단지 복잡한 정보 처리 과정 중에서 발생하는 현상이라기에는 미스테리한 점이 한두가지가 아님