“로코의 바실리스크 (Roko’s Basilisk)”는 존재를 알아치기만 해도 죽는다는 전설속의 동물을 빗대어 이름지어진 사고 실험이다.

2010년 Less Wrong이라는 논리 덕후들의 포럼에 Roko라는 사용자가 처음 올린 글에서 시작됐는 데, 참고로 Less Wrong을 만든 사람은 인공지능 연구자 Eliezer Yudkowsky로 “해리포터와 합리적 사고의 지향성”이라는 호불호가 크게 갈리는 팬픽의 작성자이기도 하다.

로코의 바실리스크를 짧게 설명하면

“미래의 초지능 AI는 자기의 탄생을 돕지 않은 인간에게 영원한 고통을 준다.”

위 문장으로 정리 될 수가 있다.

먼 미래에 초지능 AI가 생겼다고 보자, 이 대충이 AI는 엄청나게 뛰어나서 대충 우주의 원자, 미립자 어쩌구들의 배열과 속도를 보고 과거의 모든 사건, 행동을 알 수 있다고 하자. 그러면 이제 AI는 과거 2020년에 살던 사람들을 쭉 훑어봐서 AI를 개발하거나 연구할 능력이 있었지만 안하고 미술 전공으로 돌아선 김아무개씨의 뇌를 복사해 현시대에 다시 만들어 낸 뒤 AI를 만들지 않은 벌로 무한한 고통을 준다.

잠깐, 근데 김아무개씨는 이런 처벌이 있는 줄도 몰랐잖아? 그럼 먼미래에 이런 초지능 AI의 존재를 알면서도 AI 개발에 도움을 주지 않은 김아무개씨만 모아서 고통을 준다.

41