나중에 기술이 더 발달하면 머리에 칩이든 뭐든 박아서, 지능의 비약적인 향상이 가능한 시대가 오겠지
그런 상황에서 너흰 어떻게할거냐?
1. 최대한 빨리 한다
2. 안전이 검증되면 한다
얼핏 생각하면 당연히 2가 합리적인 선택 같겠지만
1을 선택할 때의 이점은
남들보다 일찍 칩을 박아서, 남들보다 훨씬 앞서나갈 수 있다는 점임
거의 원숭이와 인간 수준의 격차가 날 거고, 그 격차는 점점 더 벌어지겠지
반면에 1을 선택할 때의 리스크는
뇌의 손상, 또는 뇌 해킹/마인드컨트롤 같은 리스크겠지
너넨 어떡할래?
1 vs 2
꽤 밸런스 맞는 고민거리 아니냐?
이 고민은 그냥 사소한 망상이 아니라
특이점이 가까워져 올수록 결코 피할 수 없는 고민거리가 될 것이고
사람마다 성향마다 각자 다른 선택을 할 것 같음
앞서나가봐야 AGI보다 가성비 한참 떨어지는 건 똑같음. 걍 안전한게 낫지
이 본문에서의 '지능의 비약적인 향상'을 AGI 수준의 지능이라고 생각해줘. 그래도 대답은 변함없음?
그건 니가 멋대로 만드는 전제라서 전혀 현실적이지 않음
AGI-ASI를 클라우드로 연결해서 움직이는 로봇에 비하면 지능증강을 한 인간이나 안 한 인간이나 경제적 효율성에 있어서는 한참 떨어짐
그렇구나 내가 잘 몰랐음
좀 더 지켜보고할듯
일단 임상케이스 최소 10만명 될때까진 기다릴거임
만약 그 10만명이 남들보다 일찍 초지능을 탑재해서 나머지 후발주자 인간들을 지배하게 되면 어쩔거임?
ㄴ 그걸 따질거면 애초에 기술 연구원들이 다른 인간들 다 지배가능한 셈인데
그 말대로라면 일단 기술 연구원들이 '인간 AGI'의 최상위 계급이 될 거고, 최대한 빨리 칩 박은 사람은 그 다음 계급이라도 차지할 가능성이 있지 않겠냐? 반대로 안전이 걱정돼서 아주 늦게 칩 박은 사람들은 (상위 계급들 떄문에) 특이점 시대를 전혀 못 누리게 될 수도 있고...
코로나도 제대로 임상없고 전 지구인 상대로 인체실험하다가 부작용으로 죽거나 병신된 사람이 얼마나 많은데 그걸 머리에 나오자마자 박겠다고?
뇌 손상 리스크가 너무 큰데? 게다가 계급이 형성 된다는건 디스토피아를 전제로 하는거 같고
안정성 검증되면할것임
리플들 고맙다. 생각해보니 당연히 이런 반응들이 주류겠네. 뭐 금융상품 투자같은 거 할 때도 대부분의 사람들은 로우리스크 로우리턴을 택하니까 말이야
칩박고도 특이점 오려면 한참걸려서 그전에 타인이랑 경쟁해야하면 전자 고를거같은데 agi가 개발되거나 특이점에 가까운시기면 후자 선택할거같음