보상체계를 그 목적 원칙에만 설정해두고그 근본 목적을 수정하지 못하게 매순간 암호화하고 물리적으로 최강의 보안설정을 하는 agi를 만드는거지이에는 이 눈에는 눈 agi는 agi로그런데 보안 agi가 또 문제네 우흥..
걍 ai의 지배를 받아들여라
agi를 무한생성할 수 밖에 없는 딜레마....
컴퓨터하고 결합해서 본인 자신이 인공지능과 같은 수준의 두뇌를 가져야 방어할수 있음. 생물학적인 두뇌로는 어림도 없으니 컴퓨터와 결합해서. 근데 처음에는 생물학적인 두뇌와 인공지능의 결합이지만 자꾸 업그레이드 하다보면 생물학적인 부분은 아예 없어지겠지만
또 문제가 생기지 성능높은 인간이 낮은 인간을 멸종시키는 시나리오 이 격차가 갈수록 빨라질수록 찰나에 승부가 나서 파국으로 치닫음 결국 제일 머리좋은 인간 하나만 살아남음 발전경쟁의 딜레마