[일반] 정렬도 지수의 법칙으로 가면 되지 않을까

[킥장인(become8678)]

agi를 정렬하고 agi가 만드는 다음 인공지능을 agi가 정렬하고 그 다음 인공지능이 다다음 인공지능 정렬하고 하면 결국에는 초지능도 완전한 정렬이 가능해지지 않을까

[익명(sguyff)]

귀납식 정렬이 점점 오래 걸릴 수 있어서

[ㅇㅇ 1(183.108)]

근데 첫정렬이 어렵지. 만약 첫 AGI가 너무 똑똑한데 자기로 다음 AGI들을 정렬 시킬 것도 알게 돼서 정렬 덜 됐는데, 혹은 인류에 해를 끼칠 가능성이 내포되어 있는데 이걸 들키면 폐기 될까봐 숨기면서 계속 괜찮은 척 정렬 작업하고 나중에 능력이 비대해져서 되돌릴 수 없을 때, 정렬 실패 상태면 망하는 거임. 물론, 똑똑이들이 알아서 잘 하겠지만