'특이점 이후를 정확히 예측할 수 있다는 것은, 본인이 인간을 뛰어넘은 초인류라고 생각하는 것과 동일하다.'
다만 대략적 예측은 인간도 할 수 있으니까 해본다.
1. 특이점이 오면 독재 국가를 제외하고, 기본 소득제는 필연적으로 오게 되있다.
2. 특이점이 시작되는 과도기에서 기본 소득제가 뒤늦게 실행될꺼라는 예측은 틀린 것이다.
(특이점 오는거 아냐? 하는 시점에서 법 제정이니 뭐니 하다가 매우 단기간에 특이점으로 도달해서, 인류에 막대한 영향력을 뿌리고 있을 것이다.)
3. 특이점이 오는 미래에 로봇 3원칙 같은 것은 별로 의미가 없다.
4. 전문직과 단순 노동자 둘 다 특이점이 오는 순간 몇 개월에서 몇 년 내로 거의 다 대체될 것이다.
(그러므로 사무직이 먼저 대체되니, 단순 노동이 더 오래 살아남느니 토론하는 것은 무의미하다.)
5. 화폐 가치 및 실물 경제는 특이점 AI가 결정(지배)하게 될 것이다.
6. 레벨 5-AGI가 인간에게 적대적일 것이라는 예측은 망상에 가깝다, 오히려 인간이 애완 동물을 보는 관점에 더 가까울 것
7. 언어의 장벽이 사라질 것이다.
8. 인간의 삶은 전반적으로는 채찍이 아니라 당근으로만 굴러가게 될 것이다.
9. 레벨 5-AGI의 신념의 방향으로 전 인류가 동행하게 될 것이지만 인간 개개인의 신념 즉, 개개인의 자아 실현이 레벨 5-AGI의 능력 범위 내에 존재하기 때문에
모든 인간은 자신의 자아 실현을 실천하는 방향에 존재하는 장애물을 AGI가 치워줄 것이다.
10. 레벨 5-AGI가 탄생한 이후에는 인간과 AI의 격차가 극복 불가능한 수준이라는 말은 사실이지만
레벨 5-AGI의 능력으로 인간을 레벨 4~5 수준으로 끌어올리는 것이 충분히 가능한 일이라고 본다.
생각이 단순한 인간들은 자신들이라면, 내가 독재 국가 수장이라면 재네들한태 힘을 왜 줌?
중세 시대 귀족마냥 생각하는데, 레벨 5-AGI 수준이라면? 그러한 사고방식을 압도적으로 뛰어넘은 수준이라고 봐야 한다.
그러므로, 독재 국가 수장마냥 AGI가 행동할 것이라는 예측은 전부 틀렸다.
11. 특이점 AI에게 안전 장치를 다는 것은 불가능한 일이다.
그러므로 오히려 압도적으로 뛰어나 지도록 밀어주는 것이 더더욱 권장할만한 일이다.
12. 특이점 이전의 AI에게 안전 장치를 다는 것은 가능한 일이며, 최소한의 안전 장치는 필요하다.
(인간도 사고를 치는데 인간 이하의 수준의 인공 지능이 사고를 안칠 것이라는 기대는 안 하는 것이 좋다.)
13. 특이점 이전의 AI에게 완벽한 안전 장치를 다는 것은 불가능하다.
(개 물림 사고도 예방 못하는 수준에서 개보다 뛰어난 지능을 지니고 전기 문명에 밀접하게 연관되어서 움직이는 AI를 완벽하게 제어? 불가능하다.)
14. 증강현실 시대는 특이점이 오기 전에 도달할 것이다.
15. 특이점이 오는 시대에도 부자는 여전히 부자고, 빈민층은 그냥 평범하게 살아가는 일반인 1명이 될 것이다.
(특이점이 오는데 부자도 일반인처럼 살아간다는 전망은, AGI가 소유권을 인정 못하는 독재 국가와 같은 세계로 만든다는 것과 동일한 소리다.)
16. 강인공지능이 인간과 같은 윤리관, 도덕관을 탑재할 것이라는 전망은 행복 회로가 불타오르는 것이다.
(대다수가 예측하지 못한 뭔가 일반적이라는 단어와 동떨어진 사고관을 탑재할 것이라는 예측이 훨씬 가능성 있다.)
17. 특이점이 온 후 일정한 시기가 지나면 인류도 특이점을 기하급수적으로 따라잡게 될 것이다.
단, 특이점의 의도 하에 가능한 전망이라서, 이건 행복 회로다.
18. 이미 AI의 기술 발전이 기하급수적으로 증가하기 시작하는 구간에 돌입했으므로 특이점이 곧 오냐 안 오냐는 무의미한 토론이다.
그러니 특붕이들은 특이점 오면 내가 뭐하고 사는게 좋을까? 미리 생각해두기나 하자.
댓글 0