[일반] 초지능은 자아가 있건 없건 위험하지 않을까

[익명(concept7248)]

어느 목적을 이루려거나 실행하려면

자신의 생존이 전제 되어야 함

그러니 자아가 없더라도 자신의 생존을 1순위로 생각할텐데

이게 정렬이랑 많은 충돌이 있을 듯

[익명(tjvmfkwm159)]

목적이 1순위고 생존이 2순위 아닌가 싶다. 물론 말하는 바는 알겠음.

[익명(concept7248)]

맞음 ai가 죽음을 개의치 않고 목표를 이룰 수도 있는데 그것도 정렬로 인간이 막지 않을까 싶음 로봇 3원칙에도 자신을 보호하란 말이 있잖아 낮은 우선순위긴 하다만