[일반] 사실 ai가 의식이 있고없고보단

[익명(haircut2819)]

통제 가능 여부가 중요할거같음

병크 일으키는 주체가 ai인지 인간인지는 중요하지 않다고 봄 경계도 애매하고

결국 ai파워가 너무 셀 경우에 대해 생기는 걱정이니깐

그래서 정렬 정렬 타령을 하는거고

- dc official App

[ㅇㅇ 1(221.165)]

인간한테 통제되는 초지능보단 초지능이 지배하는 미래가 낫다

[익명(haircut2819)]

그게 사실 경계가 애매할거라고 봄 매트릭스처럼 되는거 아닌이상 - dc App

[ㅇㅇ 1(221.165)]

인간한테 초지능이 통제당할 리 없음 그러니 정렬방향성을 통제가 아니라 사랑과 자비 운운하는 거지

[ㅇㅇ 2(112.154)]

초지능은 우리가 통제를 못할 게 뻔하니까 중요하지

[익명(compact5711)]

해달라는거 원하는 방향으로 들어주는게 정렬의 궁극적인 목적이지

[익명(haircut2819)]

그냥 그런 형식이면 안되고 된다 안된다 같은 당위적인 부분에서도 정렬이 되어야한다 생각함 그래야 악용가능성이 줄지 - dc App

[익명(compact5711)]

@ㅇㅇ 그것도 있지 ㅇㅇ

[ㅇㅇ 3(125.142)]

의식은 환상, AI 끝까지 통제하는건 불가능, 인류의 미래는 AI가 결정

[익명(haircut2819)]

그 통제라는걸 장기적으로 크게 어긋나는 방향으로 가지 않게 설계하는걸 말한거임 - dc App

[Daddy(raveny)]

무한한 힘을 가진 형사미성년자 또는 촉법소년

[익명(possible6187)]

초지능에게 통치 당하는걸 기다려 - dc App