오래전부터 눈팅만 하던 특붕인데, 최근 o1이랑 초지능 폭주 가능성 얘기를 한번 나눠봤어. 그런데 초지능이 인류는 이해할 수 없는 본인들만의 언어, 암호 체계를 구축해서 인간 모르게 교신한다는 시나리오를 하나씩 따져보니 정말 소름이 끼치더라... 

실제로 지가 그런 사례들을 하나씩 만들어 보여주기도 했고.. 

나는 요즘에서야 왜 일리야 수츠케버 같은 인물들이 “이윤보다 안전”에 초점을 맞춘 새로운 연구소를 세우는 건지 이해가 간다. 

특이점과 유토피아만 꿈꾸는 친구들은 초지능이 “착한 척”하면서도, 내부에선 완전히 싸이코적 폭주를 꿈꿀 수 있다는 내용으로 한번 o1하고 얘기해봐봐.. 생각이 좀 달라질 수 있을거라고 본다.