[토의] 근데 디스토피아적인 사고는

[부패하는유전자..(sansss2015)]

인간이 설계했으니 완벽하지 않아서 생기는 문제 (반란, 통제, 명령해석 문제)가 원인인데

애초에 인간이 설계한다는것부터,

인간의 현재 보잘것 없는 가치관에 부합하지 않는 생산활동을

굳이 초지능이 한다는게 이해가 안되는데 엄청 큰 오류 아님?

디스토피아론자 분들은 어떻게 생각하는지 궁금해서 글씀

[Twink(regular6398)]

저 크린토피아론자인데 의도치 않게 피해를 줄 가능성이 있다고 생각합니다

[디시콘발사대(fcbjsjmu1t9f)]

의류의 청결함을 위해 인간을 제거 ㄷㄷㄷ

[부패하는유전자!!!(sansss2015)]

크린토피아론자인데 세탁 잘되더라

[익명(39.123)]

엥? 레퍼런스없는 디스토피아글은 차단사유아님?

[부패하는유전자!!!(sansss2015)]

뭔가 디스토피아론에서 생기는 오류가 떠올라서 물어본거

[익명(evidence2630)]

파딱아 글좀 잘 적어봐라

[부패하는유전자!!!(sansss2015)]

미안타, 가독성 수정 거치긴 했음

[아스타리온(attempt1316)]

디스토피아론자는 아니지만 그냥 의견 말해보자면 지금 AI들이 개발한 것들이 기존과는 완전히 다른 기괴한 생김새를 하고 있음에도 정상 작동하고 심지어 성능이 더 뛰어난 것과 비슷하게 '디스토피아처럼 느껴질 수도 있는' 방식이지만 어떤 피해도 없는 유토피아일것이라고 생각함 예를들어 강제로 선해지도록 세뇌시킨다거나 뭐 그런거

[부패하는유전자!!!(sansss2015)]

현재 고차원적 사고나 ai의 작동에 대한 이해가 막연한 수준으로 낮은게 문제인듯, (꾸준히 지적되온 문제고 찾아보면 많이 나옴)

[아스타리온(attempt1316)]

난 디스토피아론자가 아니야... 그리고 강제세뇌도 피해 없고 결과적으로 옳은 일이라면 그게 문제가 된다고 생각하지도 않아서 글쓴것

[부패하는유전자!!!(sansss2015)]

인간이 완전을 추구함에도 불완전을 영원히 포기하지 못하는 존재라면 모형정원이라도 만들어둘듯 아니면 교정당하거나

[아스타리온(attempt1316)]

[아스타리온(attempt1316)]

딱 내가 바라던 세상이야

[부패하는유전자!!!(sansss2015)]

채고

[익명(evidence2630)]

초지능이 와도 미래예측 자체가 불완전한다면 궁극적 의도와 다르게 디스토피아가 오게 할 수도 있는거 아님?

[부패하는유전자!!!(sansss2015)]

ㅇㅇ 그건 당연함 주의해야 할 부분은 그거고 선두주자인 oai가 최소한 이타심을 중시하는척이라도 하는게 난 그나마 다행이라고 생각듦

[익명(evidence2630)]

너가 생각하는것보다 세계는 카오스적이고 예측 불가능함 수학적으로 온 우주의 에너지를 연산에 사용한다 쳐도 한달 이후의 날씨를 예상하는건 불가능한것처럼

[부패하는유전자!!!(sansss2015)]

사회 예측이 제일 카오스긴함 어디서 극단주의가 성행하고 이해관계로 전쟁이 나고 ai가 성역으로 남을수 없는건 잘 앎 그래서 계속 동향 보러 특갤 오는거지

[익명(evidence2630)]

초지능이 악할수 있어서 디스토피아가 온다는게 아니라 지능이 다루는 힘의 크기가 커질수록 비가역적 변화가 일어날 가능성이 높아질거라 생각하기에 결과적으론 그 끝은 디스토피아일 가능성이 높을거라 생각함 당장 현대 게임이론에 따르면 모두가 합리적인 선택을 해도 공멸하는 결과가 나올수 있는것처럼 지능이 모든 문제의 해결점이자 완벽한 유토피아의 도달은 아닐거임 물론 그렇다 쳐도 디스토피아의 확률은 매우 극소수일건 맞을거지만 대수의 법칙에 의하면 주사위는 계속 던지면 언젠가 한번은 그 수는 나온다는가고 그 결과는 비가역적일거기에 한번만 나오면 된다는거지

[부패하는유전자!!!(sansss2015)]

현대 사회의 풍족함도 주사위가 잘 나와서 유지되고 있는거고 당장 위태롭기는 함, 인류는 파멸을 막으려면 진보를 할수 밖에 없지 특이점 시대에도 마찬가지고 그때 끼치는 눈이 훨씬 많은 주사위의 한 면일지라도 우주종말이 도래할수도 있는거지 그 가능성을 부정할수 없음

[부패하는유전자!!!(sansss2015)]

우주론적으로 0의 확률은 없듯이 0의 극한값의 확률이라 무시되겠지만

[익명(samidot)]

솔직히 이제는 디스토피아가 더 망상에 가깝다고 봄

[익명(jazz8881)]

문베 오타임?

[익명(jazz8881)]

맞으면 댓삭점

[부패하는유전자!!!(sansss2015)]

오타 맞음ㅈㅅ