[일반] 초정렬이 AI의 목표를 인간의 목표와 일치시키는거면

[익명(112.161)]

인문학, 생물학, 뇌공학 발전 없이 가능하긴 한거임?

[익명(59.9)]

자기보다 지능이 아주 조금 더 높은 개체에게 윤리 설정이 가능하다면 가능함

[익명(112.161)]

그니까 인간의 윤리를 인간도 설명못하는데 철학적으로 계속 논의되는 부분들임 인성 같은거

[익명(59.9)]

그런 논의는 인간 수준의 지능이라서 아직까지 결론이 안나는거지 초지능에게 같은 잣대 들이대면 안됨

[익명(112.161)]

그렇게 이야기하면 할말이 없긴하지…

[익명(59.9)]

그러니까 알기쉽게 생각하자면 초지능까지 가는 정렬은 한번에 팍 하는게 아니라 자동차가 차선을 벗어나지 않게 핸들을 좌우로 조금씩 제어하듯이 다음 다음 AI가 나올때마다 조금씩 정렬해서 중심을 유지시키는 거임 성능과 관계없이 계속 중심이 유지된 AI가 철학적 논의중인 부분을 파헤쳐나가며 그 정렬 기준 마저도 인류에게 옳은 쪽으로 개척함

[익명(112.161)]

그니까… 그게 블랙박스 아녀 해야하는건 알겠는데 잘 모르겠다

[익명(tjvmfkwm159)]

가능한 지 아닌 지는 아무도 모름. 일단 해야 하니깐 하는 것일 뿐임.

[익명(112.161)]

동의한다