컴퓨터가 네 생각을 읽고 네 뇌로 뭔가를 출력해준다는 것은


다시생각하면


너의 '모든 생각'을 컴퓨터가 읽을 수 있게 된다는 거지.


그로 인한 문제? 아주 간단히 생각해보자고


BCI, 완몰가에서 단 두 글자만 생각의 형태로 네 뇌에 쏴주면 됨


'은행'


고작 이 두 글자만으로 네 뇌의 전체가 기억을 더듬기 위해 활성화될 거고,


은행의 이미지, 네 계좌번호, 비밀번호까지 네가 의식하지도 못하는 사이에 연상될 거다.


그러면 완몰가 서비스 업체는 BCI를 통해 연결된 네 뇌의 정보를 호로록 빼가겠지. 너는 아마 인식하지도 못할 거야


규제하면 된다고? 불과 얼마 전에 구글이 크롬 '시크릿 모드'에서 개인정보 빼가다가 소송걸리고 지운 전적이 있다. 안 걸렸으면 아직도 몰랐겠지?


이런 식으로 네 계좌 비밀번호, 너의 부끄러운 비밀, 업무에서의 기밀사항, 현관문 비밀번호는 놀랍도록 쉽게 해킹당할 거다.


문제는 간단하다. 네 어깨 위에 있는 그 바이오컴퓨터는 인터넷 연결을 상정하고 설계된 제품이 아니라는 거다.


심지어 세뇌도 훨씬 쉬워질 거다.


종종 조현병걸려서 사고 일으킨 사람들이 하는 말이 있지? '마음속에서 목소리가 계속 들렸다. 그 목소리를 거부하기 어려웠다.'


이젠 아예 BCI로 그런 목소리를 쏴주는 시대가 올 거다. 그게 기업이 됐든, 국가가 됐든, 해킹범이 됐든 말이지.


'아 코카콜라 마시고 싶다. 이것은 광고성 생각입니다.'


그래도 이게 그나마 가장 괜찮은 케이스의 디스토피아라고 생각한다.


광고메세지 규제마저 없으면 네 머릿속은 하루종일 네 뇌가 도출해내지도 않은 생각들로 가득찰 거다.


문제는 네가 그걸 진짜 네 목소리와 구분하기 어렵다는 거지. 다시말하지만 네 뇌는 당연히 머릿속에 떠오른 생각은 자기가 생각한 거라고 여길 거다.


인류 역사상 그렇지 않은 적이 없었잖아? 지금까지는 말이지......


완몰가가 나와도 그럴까? 하지만 네 뇌는 네가 한 생각과 그렇지 않은 생각을 구분할 능력이 없다. 그런 걸 하도록 만들어지지도 않았다.


애초에 이제까지 그런 능력이 필요하지도 않았고.


그나마 기업이 하는 BCI니까 저 정도지, 해킹범이 하면?


영원히 완몰가에서 고문당하거나, 네 계좌 비밀번호부터, 현관문 비밀번호, 숨기고 싶은 비밀은 수십 초만에 털릴 거고 세뇌당해서 폐인이 될 가능성이 다분하다.


그나마 민주주의 국가에선 이정도 위험에서 끝나지만 독재국가라면......


주기적으로 '독재자는 위대하다'라는 메세지가 네가 경외심을 가졌던 기억과 묘하게 결합해 너를 세뇌할 거고


만약에 그런 생각에 거부감을 보이면 즉시 AI가 감지해서 너를 완몰가 사상교육장으로 이동시켜 너는 '사상교육'을 받게 되겠지.


내 머리로는.... 모르겠다. 바이오 컴퓨터에 방화벽, 백신 프로그램, 보안 소프트웨어, 암호화 프로토콜을 설치하는 게 불가능한 이상, 이 문제가 어떻게 해결될지......