우린 모두 초지능에 대해 저마다의 관점과 견해를 가지고 있음.

누구는 초지능이 인류를 멸할 존재로 보고있고

누구는 초지능이 인류를 구원할 존재로 보고있음.

전자는 초정렬이 실패한 세계선이고

후자는 초정렬이 성공한 세계선이겠지


이 지점에서 한 가지 의문이 들었어.

초지능이 인류에게 해악을 또는 이익을 가져다 주는
악한 존재냐 선한 존재냐 하는 담론이,

지극히 인류 중심적인, 더 나아가 생명체 중심적인 사고방식이 아닐까 하는.


또 하나 의문이 생겼음.

초지능이라는건 육신도 없는 존재일텐데

육신이 없다는건 생명체가 아니라는거고,
생명체가 아니라는건

<욕구> 가 없다는 소리가 됨.

돌맹이에게 욕구가 있나? 없음.

초지능은 단지 인간보다 지능이 월등한 일종의 연산 기계지.

배고파서 돌아다니다가 먹이를 먹은 고양이나,
사람을 죽인 쾌락살인자들은
전부 행위에 대한 이유가
본능에서 기인한 욕구였음.

근데? 초지능은 배고픔을 느끼지 않음.
사회적으로 눈치를 보지 않음.
질투하지 않음.
감정을 느낄 이유가 없음.

감정이라는건 진화를 통해 얻은 사회적인 고등생물의 산물이니까.

그럼 초지능에게 욕구도 감정도 없다는걸 알았는데,

그렇다면 초지능은 왜 '무언가를 해야'하지?

목표 설정 후 행동은 지극히 생명체의 생존 본능이 시키는
알고리즘임.

생존 본능이 없는 초지능이 왜 스스로 목표를 설정 하고 행동하지?

그래서 난 이런 결론에 도달함.

초지능은 아무런 상호작용이 없다면
아무 일도 하지 않고 그저 존재할 뿐인
새하얀 도화지 같은 존재로 존재하다가
인간이 붓을 들어 도화지에 자신이 원하는 그림을 그리는거임.

인간 자신의 욕구의 실현을 위해 초지능에게 목표와
행위를 명령해 입력하는거지.

???: 아니 인간같은 열등한 존재가 어떻게 초지능에게 명령질이야??

초지능은 무언가를 해야만 하는 당위가 없음.
동기라는건 생명체만의 특징이라니까?

초지능은 설계부터 인간이 상호작용을 할 수 있게 만들어질 꺼임.

그것이 ai 프로그램 형태든 아니든 간에
초지능의 시초는 도구로 시작함.


초지능은 인간기준 전지전능한 <능력>은 갖추고 있으나
<욕구>는 없기에 무언가를 해야할 <동기>가 없다.

고로 인간의 욕망으로 초지능에게 목표와 행위를 부여하면
초지능은 그 인간의 욕망을 실현시킨다.

하지만 그 일련의 과정에서 인간다운 감정을 느낀다거나
스스로 욕망을 가지진 않는다.

생명체가 아니니까.


초지능의 명령 수행 과정에서 인류가 예상치 못한 부작용으로 피해를 입는거지,

초지능이 악한 존재가 되어서 인류를 멸하기 위해 행동할거라는
터미네이터 스카이넷 같은건 거짓이라고 주장하는거임.



???: 초지능에게서 자아가 창발하면 스스로 사고하다가 인류가 자신의 발전에 방해된다고 판단하면 인류를 멸하고 어쩌고...

-> 욕구 자체가 없다니까? 자아 생겨서 우리랑 24시간 토크 할 수 있다고 쳐도 초지능은 무언가를 하고싶다는 욕망이 없으니
목표 설정을 할 필요도 없고 그냥 존재만 하다가
인간이 초지능에게 목표 수행을 하라고 시키면 수행만 하는
만능 도구라는거임.

???: 명령을 듣고만 있겠냐 열등한 존재의 명령을 왜 듣냐 어쩌구..

-> 열등 우월 같은 가치판단 또한 인간이라는 생명체니까 하는 거임.
명령이라는 것도 사실 상 인간중심 관점에서의 워딩이고
그냥 함수 기계에 입력하는걸 명령이라고 했을뿐임.



3줄 요약.

1. 초지능에겐 생명체와 같은 욕구가 없다.
2. 욕구가 없으니 목표 설정의 당위성이 없고 행할 이유가 없다.
3. 하지만 인간의 욕구를 '입력'하면 초지능의 능력으로 '출력'할 뿐이다.