이미 뭔가 정해져있는것이 아니라
어떤 방향을 선택할지 결국엔 사회 구성원들이
만들어가는것이다.
개돼지마냥 자본주의 유지하자고 하면 결국
AI재벌인 머스크나 나라에 독점적 자본을 보유한 이재용 같은 극소수들만 상위계층을 점하고
나머지는 몇백억 정도 가져도 결국 하층민을 구성하게 된다. 그러니까 이념과 철학의 부재는 너의 가축화로 이어질 것이다. 기술논의 좋지. 근데 백날해봐야 니가 뭘 기여할수 있는데 ㅋㅋ 니가 특이점 사회에 기여할수 있는건 투표 한 표 말고는 아무것도 없다. 개발은 알트만 같은 극극소수 애들이 하는거고.
어떤 방향을 선택할지 결국엔 사회 구성원들이
만들어가는것이다.
개돼지마냥 자본주의 유지하자고 하면 결국
AI재벌인 머스크나 나라에 독점적 자본을 보유한 이재용 같은 극소수들만 상위계층을 점하고
나머지는 몇백억 정도 가져도 결국 하층민을 구성하게 된다. 그러니까 이념과 철학의 부재는 너의 가축화로 이어질 것이다. 기술논의 좋지. 근데 백날해봐야 니가 뭘 기여할수 있는데 ㅋㅋ 니가 특이점 사회에 기여할수 있는건 투표 한 표 말고는 아무것도 없다. 개발은 알트만 같은 극극소수 애들이 하는거고.
ㄴㄴ ASI가 완성되는 순간 ASI 주인의 무력이 인류 전체를 넘어섬. 그 시점에 투표같은 느린 정치수단으로는 아무 효과가 없음. 애초에 대다수 시민이 개돼지 취급을 안받은 서사이래 역사에서 5%도 안되는 짧은 기간이었고, 그 기간에 국가가 시민을 대우해준건, 산업화 시대로 넘어오면서 국민들의 건강,교육,도덕관등이 곧 국력이었기 때문임. 이제 AI시대가 오면 더이상 국가가 시민을 대우해줄 이유가 사라짐
ASI의 주인이 한명이 아닐걸? 천재같은 연구원 한명이 독단으로 개발하거나 키를 쥐고있을 확률은 적음. 이미 지금도 오픈 AI나 구글같은곳에 미국 정부 감독관들 깔려있음. 그리고 알트만도 대표 얼굴격이미 거기 일하는 엔지니어 수백명인데 혼자서 키를 쥐고있진 않을거라 보는데. 그리고 만약 그렇다하더라도 그사람이 선한지 악할지는 모르지. 생사여탈권을 쥐고있다면
ASI 의 주인이 한명이든 한 그룹이든 상관없음. 그리고 그 그룹이 국가나 회사단위로 클수는 없음. 왜냐하면 특이점에 도달하는 순간 그 ASI에 명령을 내릴수있는 소수 개발자 그룹으로 한정될꺼기떄문임.
그리고 무력을 혼자 쥐고 있다는게 팩트라면 그건 그대로 나머지 사람들이 할 수있는건 아무것도 없음. 어떤 논의도 무의미하지 그사람의 도덕성에 오로지 맡겨져있는건데 ㅋㅋ ASI개발자가 아닌 개인이 할 수 있는건 여전히 투표 한 표 말고는 없음
로봇에게 주는 명령 "테이블을 닦아"가 '어떤 문제가 발생했는가?' '무엇을 변화시켜야 하는가?'를 알아야 흉내 수준을 벗어나 제대로 수행 가능한 명령이듯이 사회 체계에 대해서도 제대로 된 이해가 있어야 착각을 하지 않고 올바른 액션을 선택할 수 있게 됨 가만히 앉아서 "민주주의가 최고야~ 아무튼 가만히 앉아 있으면 나한테 투표권 하나가 주어진다네~" 하고만 있으면 물리적으로 진짜 죽을 수 있음
레딧보면 우선 이 시나리오를 디폴트로 보고 이런 저런 논의가 활발함. 할수있는게 없다는 결론을 내리면 실제로 할수있는게 없음. 우선 어려운 현실을 받아들이고 방법을 찾아보는게 지금까지 인류가 발전해온 방법임
지금 민주주의가 주어져있을때 그러니까 투표를 잘해야 민주주의가 유지되는것임. 뭐 화염병이라도 던지게?
난 솔직히 레딧애들이 외국인이라는것외에 특갤보다도 나을게 뭔지 모르겠다.
민주주의가 유지 되는 가장 근간이 되는 이유는 모든 폭력을 국가 소유하고, 그 폭력을 민주적인 통제로 사용하기 때문임(경찰,국가) 현대 사회문명체제의 가장 근간은 약육강식과 폭력이라는걸 인식해야함. 그런데 ASI에 도달하는 순간 그 주인의 무력(폭력) 이 전체 인류를 넘어서게 되고, ASI주인은 모든 법적인 민주적인 통제권을 따를 이유가 없어짐