발현 이후에는 인간의 손을 벗어나지만 발현시점까지 이끄는건 인간임
괜히 초지능을 두고 인류 최후이지 최고의 발명이라고 하는게 아님
그래서 자비로운 ‘신’이 탄생하도록 초지능의 발현시점에서 도덕적 관념
이나 보편적인 인류의 시각에서 올바른 가치관을 심어주기위한 방안을
연구중인거고
괜히 초지능을 두고 인류 최후이지 최고의 발명이라고 하는게 아님
그래서 자비로운 ‘신’이 탄생하도록 초지능의 발현시점에서 도덕적 관념
이나 보편적인 인류의 시각에서 올바른 가치관을 심어주기위한 방안을
연구중인거고
그래서 탄생한 자비로운 신이 실제로 자비로울지 아닐지는 이미 인간의 손을 떠난 영역이고 예상할 수 없음
진인사대천명처럼 인간이 할 수 있는 모든 일을 최선을 다해 해보고 나머진 자비로운 신의 뜻에 달린거지 뭐
인간의 마지막 발명품은 AGI지 ASI가 아님
정확히 말하자면 agi가 발명되고 agi와 인간의 협업의 결정체가 asi겟지 ㅇㅇ
협업을 해도 되고 안해도 됨. AGI수준이면 완전자동 재귀적 개선이 가능함. 인간은 그 시작을 허가해주는 정도지
근데 뭐 BCI 연결하는 등 인간도 자기 증강을 할테니 그것까지 포함하면 협업이라 할 수 있겠지. 자연적 인간은 협업 불가에 가깝고
당연히 지능증강에 의한 협업이지 자연적 상태에서 뭔 능력으로 agi를 따라감 ㅡㅡ