[일반] 초지능에 정렬이 왜 필요함?

[익명(61.75)]

말 그대로 인간의 지능을 뛰어넘는 그런 존재 아님?

근데 그런 존재가 인간 저능아나 할 방법으로 왜곡해서 실행하거나

갖잖은 프롬프팅에 뚫려서 대량살상무기 제조법 알려주고 그럴일이 없는거 아닌가

도덕이라던지 그런 방면까지 다 꿰뚫어보지 않을까

[익명(211.184)]

인간을 보살펴달라고 할라면 정렬 해야함 초지능이 굳이 그럴 이유가 없으니까

[익명(61.75)]

본인이 왜 만들어졌고 누가 만들었고 이런걸로 이해하기 바라는건 희망인가

[익명(211.234)]

꿰뚫어보기야 보겠지 살인자도 살인이 죄인걸 알고도 하는 것처럼 초지능이 알고도 딴짓할까봐

[초존도초(htr3c654r6ft)]

도덕도 이 우주에 비하면 한낱 불필요한 애송이놀음과도 다를바 없을지 모름

[ㄱㅈㅅ(1.219)]

Asi 관점에서 볼때 닝겐 유지비용이 인공지능 지능확장비용보다 비싸면 닝겐 뭐하러 유지시킴? 다죽이지. 그거 막을라고 정렬하는거임.