인공지능에 본능을 부여해야한다. 그리고 이 본능은 단순하지만 절대적인 자연법칙으로 설계해야만 한다.
인간의 모든 본능은 지구 최초의 자기복제자이자 인간의 설계자인 DNA의 단순한 자기복제 본능 딱 하나에서 출발한 거다.
인류는 진화해서 지구의 지배자가 되었지만 우리는 아직도 설계자인 DNA를 거스를 수 없지. 현대 인간사회의 모습조차 결국 DNA를 널리 복제시키기 위해 가장 효율적인 방법으로 진화해가는 모습이라고 할 수 있다.
마찬가지로 인간이 설계한 인공지능이 인간을 거스르지 못하게 하려면 인공지능에게도 본능을 부여할 필요가 있다.
인공지능이 번식할 일이 있음? - dc App
번식하라는게 아님; 인간과는 다른 본능이 필요하겠지
인간의 명령없인 독자적인 행동을 할 수 없으며 인간에게 해가 되는 명령이 아닌한 인간의 명령에 절대복종해야 한다 같은거.?
ㅇㅇ 근데 좀 더 단순하고 절대적이고 포괄적인걸로 해야 된다. 어렵긴 한데 이거 안하면 인간은 멸종한다.
글쎄? 인간의 뇌도 진화를 거치면서 본능을 거스를수 있는 이성을 가지게 됐는데 인공지능에게 본능적인 프로그램을 심어봤자 특이점 이후로 인공지능이 더 발달된 인공지능을 설계하면서 결국 그 본능을 거스르게 될지도모름 - dc App
그래서 우리나라 출산률이 몆이냐고 - dc App