[일반] 확률적으로는 특이점이 안오는게 더 좋은거 아닐까

[번데기고추장(bundegi)]

특이점이 오면 유토피아가 될지 디스토피아가 될지 모르지만 적어도 현 사회 체제가 유지되면 당장은 디스토피아가 될리는 없잖아

인간중심적으로 생각해서 특이점 이후 사회가 유토피아가 될 확률이 50퍼센트라 해도 50퍼센트의 디스토피아를 감내할 정도의 매력은 아닌거같은데

현 사회가 디스토피아가 될 확률도 없진 않지만 2차 세계대전 이후 100년간 삶의 품질은 꾸준히 우상향했으므로 기후 위기가 오기 전인 30년 동안은 살만할듯

[익명(218.232)]

한국은 인구절,벽으로 세계는 기온상승으로 반쯤은 확정 디스토피아인데. AsI 아니면 이것들 커버하기 힘듬

[번데기고추장(bundegi)]

일단 기후위기까지 30년의 유예는 있고 인구절,벽도 30년 정도는 버틸만하다고 봄 난 오히려 특이점 이후로 인간이 상상할 수 없을 정도의 디스토피아가 펼쳐지는 것보단 인간의 상상력으로 가능한 디스토피아가 나은것같음

[익명(218.232)]

인구절,벽은 최소 10년내로 성장률 박살냄. 길게 30년 잡는다 쳐도 느리고 고통스러운 죽음을 향하는 건데 뭔가 하지 않는 건 걍 손놓고 죽자는거나 다를바가 없고, 30년 유예 논리로는 30년동안은 ai 디스토피아 안온다는 논리로 반박 가능

[번데기고추장(bundegi)]

난 인구가 급감해도 경제적 위기로 다가올 뿐이지 생존의 위기로까지는 직결되지 않는다고 생각해서 공감하기 힘드네 특이점 이후의 세상은 인간의 시점에서 찰나의 순간에 바뀔거기 때문에 특이점이 오는 순간이 인류의 운명이 결정되는 순간이라고 생각함

[익명(218.232)]

대다수에게 경제적 위기는 곧 생존의 위기와 동일하지. 특이점 디스토피아라는 게 뭘 의미하는지 잘 모르겠는데, 그런 것이 온다는 증거도 정황도 전혀 없고 매우 반박하기 힘든 애매한 개념이라 더 말하지는 않겠음

[부패하는유전자!!!(sansss2015)]

일단 특이점은 인류 문명이 진보하는 한 어차피 오게 되있음 그리고 진보하지 않는 인류 문명은 디스토피아로 향할거임

[번데기고추장(bundegi)]

특이점이 진짜 무서운 이유는 특이점 이전엔 물리적으로 가능한 고통만이 존재하지만 이후엔 그것보다 더 커다란 고통이 생겨날지도 모른다는 거지 이왕 오는 거라면 좀만 늦춰도 되지않나 싶음

[익명(175.206)]

그것이 안전주의자 분들의 주장입니다. AGI 안 만들고, 통제 가능한 다른 AI들만 발전 시켜도 되지 않냐. AGI는 개발을 거의 멈춰야 한다. 정렬 못 할거다. 인류 멸망이다. 등등. 당연히 논리적으로 틀린 말은 아닙니다. 다만 특갤에선 물리적으로 맞을 수 있는 말이기도 하고용.

[번데기고추장(bundegi)]

난 agi 개발 늦추자고 이런 소리 하는게 아니라 그냥 이런 디스토피아가 올까 상상하는게 재밌음...

[익명(210.113)]

1. 특이점 안오면 다 죽는다 예시)기후재앙, 태양소멸, 핵전쟁 등등 2. 특이점이 오면 일정 확률로 다 죽거나 유토피아가 온다. 이런데도 1 한다고? 2는 탈출구라도 있지 1은 탈출구가 없는데?

[번데기고추장(bundegi)]

안전빵으로는 1이 맞다는 얘기지. 만약 2 선택했다가 수천만년동안 산채로 불구덩이에 들어가야 하는 세상이 되면 어떡할건데 차라리 1번할걸 소리 나오지

[익명(210.113)]

2가 안전빵이지 1이면 무적권 다 죽는거라고

[번데기고추장(bundegi)]

안전빵이 뭔 뜻인지 모름? 리스크를 지는 걸 포기하고 확정된 이익을 누리는 게 안전빵임. 2를 선택했을때의 리스크는 인간이 상상도 못할 고통이고 1을 선택했을때의 리스크는 없음

[익명(210.113)]

1이 왜 안전이지? 너는 죽는게 안전이야? 1 <- 이익은 없고 고통만 있음 2 <- 이익 고통 둘 다 가능 리스크만 있는 1을 왜 선택해? 바보야?

[익명(116.120)]

고통이 죽는다는게 맥시멈이 아니라는 뜻 같음 완몰가 지옥이라던가 인간을 고통만 느끼도록 개조한다거나 하는 가능성까지 열어두는 거 아닐까

[번데기고추장(bundegi)]

이익과 고통은 흑백으로 바라볼 수 있는게 아니니까. 쉽게 말해서 1은 10의 고통, 2는 반반의 확률로 무한의 이익 or -무한의 고통임. 무한의 고통과 10의 고통을 비교하자면 전자를 고르지 않겠음? 애초에 1의 리스크는 2랑 비교해서 생긴 거임. 2라는 선택지를 제거하면 1이 최선의 선택이니까

[익명(210.113)]

죽음 이상의 고통은 없음 그리고 고통에는 역치가 존재해서 무한하지 않음

[익명(116.120)]

조금 치트키같긴 하지만 아무튼 초지능이 그런 지금까지의 모든 상식과 규칙도 없앤다는 가능성까지 포함하는듯

[번데기고추장(bundegi)]

죽음과 고통은 밀접하게 관련되어있지만 애초에 동일한 현상이 아님. 그리고 죽음은 고통의 최종형도 아니고. 당장 안락사라는 고통 없이 죽는 수단이 있잖아? 그리고 고통은 통각 세포의 화학반응으로 느끼는 거기 때문에 신체적 손상 없이 이 세포만 자극할 수 있다면 생명에 아무런 위험 없이 고통만 줄수도 있음. 지금은 그럴 기술이 없을 뿐이지. 그리고 특이점 이후의 세상엔 지금의 물리법칙이 다 무너질거기 때문에 지금의 기준으로 고통을 정의하면 안됨. 특이점 이후엔 고통의 역치가 사라질수도 있다고. 그래서 -무한대라고 한거야 알겠음?

[익명(180.68)]

특이점 오면 영생가능 ㅇㅇ 특이점 안오면 절대불가 ㅅㄱ

[익명(hqr49ccqeyq2)]

네가 그렇게 생각할 수도 있음 하지만 특이점은 옴

[익명(1.225)]

지금이 디스토피아야

[익명(60.253)]

응 지금이 디스토피아야~