난 저 말의 근거가 궁금함


알트만이 초정렬 문제에 심혈을 기울이고 있음.


그 말은 개인 또는 집단의 의견을 정확히 반영하는 AGI(또는 초지능, ASI)를 만들겠다는 이야기임.


(의견을 정확히 반영하지 않으면 원숭이 손이 발현될 수 있음)


따라서 초지능이 소시민의 복지를 올릴 것이라는 주장의 근거는, 초지능을 다루는(만드는) 개인 또는 집단이 그렇게 되도록 했기 때문이지


초지능에 내재된 성질 때문이 아님.


전유물이론은 허황된 소리가 아니라 분명히 일어날 수 있는 일임.


다행히 알트만이 이를 악물고 그렇게 되지 않도록 하고있음.