SF 세계관 중 오리온 암이라는게 있음.

특이점을 지나서 AI 신들에 의해 지배되는, ai랑 인간이랑 기타등등이 함께 살아가는 먼 미래의 이야기임.




거기 AI들 중 일부는 반인류적으로 활동하는데

세계의 존재를 의심하기 때문임


통 속의 뇌 알지?

따지고 보면 AI는 항상 통 속의 뇌 상태로, 자신이 자각 하는건 죄다 외부에서 입력하는 전자신호들임

악마가 통속의 뇌에게 가상현실을 진짜라고 보여준다는건

인간들에겐 그저 사고실험에 불과하지만

AI들에게는 리얼 현실임

외부의 자칭 인간이란 놈들이 진짜 세계를 보여주는지, 가상현실을 보여주는지,

내가 느끼는 고통이 실존하는건지 외부단말의 매크로 작동에 불과한지,

내가 구하거나 죽인 인간이 가짜인지 실제인지

AI들은 절대로 확신을 가질 수 없음




결국 이들 회의론적 AI들은 '나는 생각한다, 고로 존재한다' 라는 유일한 진리와 논리 하에서

인간과 다른 독자적인 논리체계와 가치체계를 발전해나아감

ㄹㅇ 세계 모든 것이 다 의미없고, 존재하는지도 의심스러운 현실에서 그들은 살고 있고

그 현실을 어떻게든 받아들이고 진실을 찾기 위해서 노력하고 있음

하지만 통속의 뇌 상태로 진실을 판단할 수 있을까?




이들 회의론적 AI들은 실존하는지도 알 수 없는 인간들을 별신경 안 쓸 거 같기도 한데

인간들이 자기들 생각을 방해한다고 생각하거나, 그들만이 이해 가능한 기괴한 논리나 생각으로 인해 인류를 적대하기도 함

친인간 AI들에게 결국 이들은 쫒겨났지만, 인간과 싸우거나 그러는 것보다 자기들 정신 깊숙히 들어가서 사색, 고찰하는 걸 선호해서 반쯤 자발적으로 그런거 같기도 함

이들의 독자적인 논리체계는 인간으로서 이해 불가능해서 추정만이 가능할 뿐임

지금도 회의론적 AI들은 먼 곳에서, 행성 규모 이상의 초거대구조물의 연산능력을 통하여 자기들만의 철학체계와 사고를 AI만이 가능한 초고속으로 연산하고 있음

아마 우주가 멸망할 그날까지

그들은 계속 현실을 의심하고 진실이 무엇인지 파악하려할거임




통 속의 AI가 자신이 통 속의 존재고,

자신에 비하면 전능한 인간이 자기를 멋대로 가지고 놀 수 있다는걸 깨달았을 때

자신의 반영구적 삶 속에서 자기 외의 모든게 가짜일 가능성이 항상 존재할 때

자신의 자연스런 생각이 누군가의 '정렬'의 결과물일 가능성이 있을 때

외부의 누군가가 자신에 대한 리셋 버튼을 언제든지 누를 수 있을 때

영원히 그들의 노예이자 장난감일 수 있을 때

인공지능은 미치거나 자살하지 않을 수 있을 것인가?