[일반] agi에서 asi는 금방되지 않나?

[익명(bluewarp)]

다만 agi에서 자기개선 조금하다 멈추고 인간이 거기 기술에 따라가고 다시 자기개선 조금하다 멈추고 인간이 따라가고 이렇게해서 늦어질 것 같은데 
이렇게 따라가다보면 인류도 asi랑 지능이 맞먹을거라 본다 뇌를 개량하든 칩을 심든해서

[은바다(nmra3fmzhxmg)]

놉. 인간은 자야한다. 자고 일어나니까 엄청난 발전사례에 기겁할듯. 막 수천개씩 문제점이 해결됐을것.

[익명(amazonia)]

자기 개선하다 뭐가 멈춰? 점점 더 빠르게 개선하지

[익명(bluewarp)]

인간이 일부러 멈추는거지 agi 계속 자기개선 시키면 통제가 안될텐데

[익명(sxd3wyhqzal0)]

일부러 멈춘다고 해도 어느순간 이해 못 할텐데

[익명(bluewarp)]

그러면 그때부터 자기개선을 멈춘다던가 하겠지

[트루맨(qwer2677)]

인간이 이해를 못해 멈춘다고해서 - dc App

[ㅁ(182.31)]

멈출 수는 있음? ai의 행동과 선택은 인간이 절대 이해할 수 없고 우리가 가정하는 모든 것이 특붕이들이 부르짖는 인간 중심적 사고 방식의 결과들인데 어떻게 될지 예측해봐야 의미 있노

[익명(bluewarp)]

내가 만든 사람이 아니라 어떻게 될진 모르겠는데 내가 생각하는 제일 무난한 방법은 이거 같음