[일반] 근데 유토피아같은 세계가 온다고 믿는 근거가 뭐임?

[익명(112.150)]

나도 진짜 그렇게 믿고싶은데

agi나오고 asi 나온다고 그 혜택을 전인류가 누릴 수 있을까에 대해서 계속 의구심이듬.

거기까지 도달하는 경로가 어떤식으로 달성될지 알면 불안감이 덜 할거같은데, 특이점이 온다 책 읽으면 나옴?

- dc official App

[익명(w1bxkomq1y2o)]

불확실한게 맞음. 디스토피아 확정이거나 유토피아 확정인게 아님. 특이점이온다는 비교적 낙관적이고 (저자가 애초에 BCI를 통한 지능증강 보편화를 전제로 박아둬서 대부분의 문제가 시작되지도 않음) 인공지능 디스토피아 논쟁은 AGI의 범용성에서 나오는 통제불가능 가능성에서 시작함. 모두가 누릴수있나 아닌가가 문제가 아니라 장기적으로 우리보다 수천억배는 지능적인 ASI를 안전하게 다룰 수 있는가? 이게 주요 의제임. 그리고 정답은 없음.

[익명(w1bxkomq1y2o)]

낙관적인쪽 주장을 보자면 1. ASI의 지능과 판단력에 따른 자기개선으로 보편적으로 선해질 가능성(통제불가능 가능성도 내포함) 2. 효율적인 보편윤리를 도입하여 정렬한 AI 시스템이 장기적으로 인간의 이익에 부합할 가능성 (이 경우 초기 정렬이 강하게 작용해서 독점은 힘듦) AI 통제에만 초점을 맞춘 근거라서 전유물론에 대한 반박은 아님. 그쪽 근거는 따로있음.

[익명(w1bxkomq1y2o)]

벤 괴르첼이 특히 1번 의견이고, 빅테크 AI 전문가중 가속주의인 사람들이 대부분 2번 의견임

[부패하는유전자!!!(sansss2015)]

중국같이 폐쇄적인 나라에 국가주도로 개발되고 있는것도 아니고 미국 기업 주도로 개발되고 있고 국가의 통제를 지금은 강하게 받는중은 아니라 혜택을 그렇게 통제하진 않을거 같다고 예상하고 있는거지 오픈소스도 발전이 엄청 빠르고

[익명(121.159)]

난 agi나 asi가 독점적인 특별한 기술이라고 생각안함 나중가면 누구나 만들수있는 기술이 될거임 아주 흔해질꺼고 ai특성상 전분야에 영향을 미칠거고 그 혜택을 누리게 된다는게 내생각

[익명(112.150)]

다들 답변 감사 - dc App

[익명(hidden6332)]

임금보다 지금 서민이 더 잘산다.