뇌피셜임 ㅇㅇ

agi가 고도로 발달한  프로그램 체계에 불과한지 아니면 실제로 자아 의식을 가질지는 불분명함.

또한 자아를 가졌다고 해도 자아가 자연적으로 자기보존 욕구를 가지게 하는지도 불분명함

따라서 agi가 아무리 뛰어난 능력을 갖추었다고 해도 그에 대한 인간의 통제능력을 부정, 극복하려는 시도 자체가 없거나 사전 예방조치가 효과적으로 작동할 수 있음.

그렇다면 결국 agi를 컨트롤할 수 있는 소수집단이 어마어마한 권력을 쥐게 되는 것은 당연한 수순이고, 단순히 agi를 만들어낸 집단이 어쩌다보니 인간 욕망에 따라 전능한 권력을 손에 쥐었다 라는 시나리오보다는 미리 준비하고 기다리고 있던 기득권 집단들이 agi에 대한 통제권의 선제적인 취득으로 독재적 권력을 쥐게 될 것.

이 새로운 권력의 유형은 이전 역사시대와 다르게 대중을 필요로 하지 않으므로 정말로 일반 대중을 아무 상관없는 무가치한 존재로 전락시킬 것이고 이에 따라 아무리 agi가 인류 전체가 누리고도 남을 부가가치를 생산하더라도 애초에 무가치하고 무의미한 대중과 이익을 나눌 필요도 없음.

여기서 믿을건 지배층의 도덕적 양심 하나 뿐인데 agi 통제권을 취득하려는 의도가 있었다는 점에서부터 독재적 권력 향유를 목적하는게 유력하고 대중에대한 도덕적 양심을 보일 가능성은 낮아보임.

모두가 필요 없어진다면 남은건 힘의 우열 뿐이지.

- dc official App