재귀개선 없는 AGI면 ASI까지 갈길멀지
재귀개선에 따른 초지능 도래 시기 까지는 전문가들도 의견이 갈림.
누구든 AGI를 먼저 달성한 사람한테만 이륙의 권한이 주어지는 거. 그러니 경쟁자가 많든 적든, 그 경쟁자가 AGI 만들기 전에는 상관없지. 그리고, 빠른 이륙은 정렬 덜 된 체로 ASI까지 간다는거니까 인류에 위협이 안 될 수가 없음. 느린 이륙이 가능하냐...에 대한 답은, 가능해야만 한다. 이거임. 불가능하면 안전주의자들 말처럼 아예 개발을 멈춰야 함.
재귀개선 없는 AGI면 ASI까지 갈길멀지
재귀개선에 따른 초지능 도래 시기 까지는 전문가들도 의견이 갈림.
누구든 AGI를 먼저 달성한 사람한테만 이륙의 권한이 주어지는 거. 그러니 경쟁자가 많든 적든, 그 경쟁자가 AGI 만들기 전에는 상관없지. 그리고, 빠른 이륙은 정렬 덜 된 체로 ASI까지 간다는거니까 인류에 위협이 안 될 수가 없음. 느린 이륙이 가능하냐...에 대한 답은, 가능해야만 한다. 이거임. 불가능하면 안전주의자들 말처럼 아예 개발을 멈춰야 함.