1. 뇌 업로딩.

특이점이 온다 읽어본 사람 알겠지만

커틀딱은 점진적 전뇌화 이런거 없이

그냥 원 샷 업로딩 주장함.


뇌 데이터를 컴퓨터에 옮겨 디지털화 시키면 뇌 업로딩 끝임.

유기체인 나는? 관리해서 몇백년 정도 살 수 있겠지만 결국 걍 뒤지는 거임.

커틀딱은 이에 대해 '영생에 대한 관점 차이' 라고 말하고 끝남.




2. 의식.

특이점이 온다 읽어보면 커틀딱은 답답해 함.

의식을 이야기 하면 사람들은 자꾸 사고, 연산, 인지능력이라 받아들임.

NO.


커틀딱이 말하는 의식이란 그냥 거기 있는 그것을 말함.

명상이나 마인드 풀니스에서 얘기하는 '관찰자'

근데 사람들은 이걸 못 알아 들음. 심지어 평생 자각 못하고 사는 사람들도 많음.

여기 있는 애들 중 90% 이상은 커틀딱이 말하는 의식이 뭔지도 모름.




3. 기계 의식.

자꾸 인공지능에 의식이 있냐 없냐는 안 중요하단 특붕이 나오는데 NO.

졸라 중요함.

예를 들어 점진적 전뇌화를 한다 치자.

평생에 걸쳐 니 데이터를 전뇌와 동기화 시키다 니 유기뇌가 죽음.

그럼 이제 유기뇌와 동기화 된 전뇌 + 니 데이터만 남음.


만약 기계 의식이 불가능하다면

저건 그냥 자신을 너라고 생각하는 기계 + 데이터 일 뿐 너가 아님.

기계 의식이 가능하다면? 새로운 플랫폼으로 거듭난 너라 말할 수도 있음.

(물론 해외 커뮤에선 이 역시 기계 의식일 뿐 니 의식이 전이된 것은 아니다란 의견도 많음)

중요한 건 '의식' 임.




4. 그래서 특이점이 온다에서도 이 의식에 대해 자세히 설명함.

커틀딱 자신도 의식에 대해 많은 생각과 탐구한 흔적들이 책 곳곳에 보임.

근데 문제는 의식의 유무를 검증할 방법이 없다는 거임.


누가 너에게

'너 의식있어?' 물어보면 너는 '응' 이라 대답하겠지.

먼 훗날 우리가 AGI에게

'너 의식있어?' 물어보면 AGI는 '응' 이라 대답하겠지.


문제는 이걸 검증할 방법이 없다는 거임.

당장 우리만해도 저 사람은 의식을 가진 나와 말이 통하고, 비슷한 행동방식을 가지고 있으니

쟤도 의식이 있겠구나 추측할 뿐. 그걸 검증할 순 없음.


AGI는 우리처럼 말하고, 생각하고, 행동하고, 판단할 거임.

우리는 AGI가 의식이 있는 것처럼 느껴질 거임.

AGI는 자신이 의식이 있다 얘기할 거임.

하지만 검증할 순 없음.




5. 점진적 전뇌화가 끝나 친구, 가족, 연인이 너에게

네 유기체는 죽었어, 하지만 너는 여전히 너야? 물으면

'그것'은 응 이라 대답할거야.


하지만 그게 단순히 너를 모사한 기계인지.

의식이 전이된 너인지는 알 수 없음.