전제군주시대 저리가라 수준으로 아득한 권력이 한두명한테 몰림.
전제군주시대때 왕들이 일반백성들을 얼마나 발톱에 낀 때보다 못하게 취급했는지 모른다면 역사공부를 못한거임 ㄷㄷ
권력이 한두명한테 몰렸는데, 그걸 나눠준다고?
혜택은 나눠줄수있지 권력(ASI에서 명령할 권리)은 나눠줄리 없음
권력이 없는 상태에서의 해택은 결국 전제군주시대처럼 장기적으로는 한마디로 뺏길 가능성이 높고
시간의 문제지 곧 쓸모없는 일반시민들은 발톱의 때만도 못한 존재로 전락함 ㅋㅋ
흠 얘는 좀 멍청한듯 - dc App
해당 댓글은 삭제되었습니다.
아니 그런차원의 문제가 아님. ASI한테는 인간이 100억이든 100경이든 상관없이 풍족하게 부양할수있음 다만 장기적으로는 발톱의 때보다 못한 존재로 전락한다는거임. 넌 완몰가에서 살아서 좋겠지만 권력자의 변덕으로 한순간에 노예의 삶으로 바뀔수있는 권력이라곤 쥐꼴도 없는 상태에서 살고싶어?
지금 시진핑이나 김정은이 왜 위험한거같음? 전쟁하기로 하거나 자국민 일부를 살처분하기로 결정한순간 누구도 그결정에 토를 달수없기때문임. 그거보다 수천억배 쌘 권력이라고 보면됨
권력이 없다고 느끼겠지만 서사이래 소시민이 이정도 막강한 권력을 가진적이없음. 당장한국만봐도 정치인들 고관대작들이 얼마나 조심조심 하냐 왜냐면 사실상 권력이 대중으로 넘어왔기때문임
단일 기업 혹은 국가에만 AGI 기술이 있다고 가정하면 그렇겠지 근데 어쩌냐 스케일확장이 핵심이라서 오픈AI말고도 비슷한 수준의 AI를 가진 후발주자들이 수두룩하고 하드웨어성능이 향상되면 지금처럼 데이터센터 떡칠 안해도 여기저기서 AGI급 모델이 튀어나올텐데. 심지어 오픈소스 진영조차 늦어야 2년텀으로 따라잡고있고, 그 텀도 짧아지던걸? AI권력의 초집중화가 현실이 되려면 AGI 달성하자마자 후발주자 다 죽이거나 인류학살계획 스타트 끊어야하는데, 반독점법 앞에서 일개 기업 or 개인이 가능?
윗댓에서 너가 마지막에 단 댓글처럼 AI권력도 분산이 일어날거임. 커즈와일이 무지성 디스토피아는 소설수준이라고 한것도 이 논리때문.
특이점에 도달한 기업이랑 그렇지 않은 기업은 1주일이 1만년 차이의 격차임. 니가 특이점에 도달한 기업대표하면 나머지 견제안할꺼같냐? 지구를 원자단위로 컨트롤 가능할텐데
그 논의로 넘어가자면 알트만이 느린도약지지자라는선에서 끝남. ASI 위험성때문에 다들 눈치볼텐데 위험성은 생까고 혼자 앞서가겠다고 ASI 빠른도약? 글쎄...
마찬가지로 AGI급 기술이 여기저기서 출현한 시기까지 기다려준다면 걔네도 ASI빠른도약 이론상 가능하고, 그게 아니라면 AGI 달성한 선두기업이 위험성 쌩까고 즉시 빠른도약해야 권력집중이 가능한데, 그건 다들 지들목숨줄도 달린 문제라 지양하고있음.
아니 내말은 특이점에 도달한순간 이미 다른 기업들 하고 기술격차가 아득해진다는거임.
'특이점' 이라는 단어뜻 모름?
너 특이점이 온다는 읽어봤니? ASI등장이후 기술의 수확가속법칙이 수직을 그리는 순간이 특이점임. 그정도의 지능은 통제불가능하기에 그건 미루고 통제가능한 인간수준의 AGI기술만 빨아먹으면서 천천히 생각해보자는게 느린도약이야.
AGI도달은 특이점 도달은 아니고, 특이점 이후 권력집중은 앞에서 말한대로 시기상의 문제를 가짐
난 특이점이 온다 책을 20년전에 한국어로 나오기도 전에 영어로 읽은 사람임
근데 왜 커즈와일이 100달러짜리 컴퓨터에서도 AGI가 돌아가게끔 하드웨어 혁신이 일어난댔는데 권력의 집중을 논하는거임...?
100달러 × 1000달러 o
커즈와일꺼이야기하니까 거기 책보면 3가지 시나리오중에 자비로운 독재자 시나리오 모름? 그게 내가 말한거임.
그 시나리오대로면 인간 의사결정권자가 없고 ASI한테 전권위임한 상태일텐데?
그 시나리오에서 독재자는 인간임
근데 지금 특이점이온다 E북 검색해보니까 독재자 키워드가 안보인다. 너 아마 라이프 3.0이랑 헷갈리나본데?
특이점이온다에 나온거 확실함
단어는 번역이 다르게 됬을수도있음
E북 키워드검색에 '독재'로 뜨는게 없음. 라이프 3.0에 나오는 자애로운 독재자 말하는게 확실해보이는데.