레딧 r/ singularity에 민주주의 포기하고 AI지배자 받아들이는거 가능? 이란 제목의 글이 올라오고
140여개의 댓글이 달려서 그중에 가장 많이 upvote를 받고 상단에 자리잡은 댓글들 몇 개 번역해봄.
주의) 의역, 오역 있을 수 있음.
민주주의 포기하고 AI 지배자 받아들이는 거 가능?
현재 민주주의가 우리가 가진 제일 좋은 옵션이라는건 알고 있음.
근데 만약 미래에 초지능 AI가 편향적이지 않고 공정한 결정을 내릴 수 있다면
넌 투표 할 수 있는 권리를 포기하고 AI한테 정부역할을 맡길 수 있음?
AI가 잘만 만들어진다면 AI가 한 국가나 혹은 전세계를 그 어떤 인간보다도 잘 관리할 가능성이 있음.
그게 너무 극단적이라고 생각한다면 그 중간단계가 될만한 다른 아이디어있음?
나는 과두제 국가에 살기 때문에 사람대신 AI 택할듯
AI가 오로지 개인의 이익이 아닌 사람들 전체로서의 이익을 위한 더 나은 결정을 내린다면야 yes
ㄴ 하지만 뭐가 더 나은 결정인지 누가 결정하는거임?
그리고 전체의 이익이라고는 하지만 상대적으로 좀 더 이익받는 집단이 분명 있을텐데 그건 누가 결정함
나는 20년동안이나 AI가 지배해야한다고 주장했던 사람임.
걔들이 뭐 인간마냥 욕심을 부려서 재산을 착복하거나 개인비서 따먹으려고 구라치고 막 그럴거 같음? 아니잖아 씨발
얘는 정말 말그대로 모든 유권자 개개인의 생각과 불평들을 일일이 들어줄 거라고.
너네 지역구 국회의원들이 너네가 보낸 편지나 시위같은거 전부 신경써주고 그럼?
아마 아닐걸. 어쩌면 '알고는' 있었을진 몰라도 그 담에 무시해버렸을걸.
AI는 자상한 왕마냥 현시점 최고의 정부형태라고(사실 완벽한 왕은 1세대 이상 넘어가는 법이 없지만)
자상하고 초지능인 AI가 훨씬 나을 거임.
확실히 그러한 AI를 통제할 수 있는 개인을 걱정하는건 알겠는데 그런 AI가 편향적인 결정을 내렸는지 아닌지 여부는
그게 사람이었을 경우보다 판단하기 더 쉬울 거라고 생각함.
ASI를 2045년 대통령으로! 진지하게 난 ASI가 세계를 다스리길 원함. 인간이 천년넘게 지배해왔는데도 세상은 욕심, 부패, 전쟁, 대학살로 가득하잖아. 지금도 굶어죽는 사람이 있는데도 어디는 잘먹고 잘살고 빈부격차는 존나 빨리 커져가고 있음.
ㄴ 세계는 산업혁명시대 이후로 모든 면에서 나아지고 있음. 극심한 가난은 2030년경에 없어질거고 전쟁은 줄어들고 있고
개인 건강이나 수명은 늘어나고 있음. 부의 분배가 제대로 안되는게 문제긴 하지만 전체적으로 보면 번영하고 있잖아.
인간은 목표보단 과정과 방법에 더 동의하는 것 같음.
(공동 목표인 평화, 번영, 건강, 행복등 보다 세금, 국경문제, 법, 분배 같은거에 더 초점을 맞춘다는 의미인듯)
나는 자상한 초지능 AI 정부에 적극 찬성함
ㄴ 그렇다면 넌 AI 지배자가 필요한게 아니라 인간 정부와 그에 적절하게 조언하는 ASI를 원하는거임.
완전 동의함. 나는 동정심있고 현명하고 능력있고 사랑할줄 아는 독재자가 지배하는게 가장 이상적인 정부형태라고 생각해.
민주주의가 최적의 선택이 되기에는 너무 많은 사람들이 욕심으로 가득차고 세뇌받았으며 멍청하고 소시오패스적인거 같음.
------------------------------------------------
상위 10개 정도 댓글들은 모두 찬성한다는 댓글이 많아서 여기까지만 번역함.
그 아래 좀 부정적으로 보는 댓글들이 있어서 번역해봄
편향적이지 않은 AI라는건 불가능함. AI가 특정 윤리적인 문제에 대해 어떤 결정을 내리든 간에
그것에 반대할 특정 단체들이 항상 있을것이기 때문임.
AI가 인간이 애초에 짜준 프로그래밍과 한계를 뛰어넘는다고 하더라도 말이야(난 이것도 불가능하다고 생각하지만)
아니. 나는 그 AI를 만들어낸 사람을 믿지 않기 때문이야. 내가 만들었다고 하더라도 나는 날 못믿음.
AI한테 지배받는 다는 개념은 자상한 인간 폭군한테 지배받는다는 개념이랑 똑같음.
자상한 인간 폭군이나 자상한 AI가 언제나 항상 자상할거라고 확신할수가 없음.
인간 폭군이랑은 다르게 초지능한테 한번 권력을 줬다간 그걸 다시 되찾기가 거의 불가능함.
또한 AI한테 권력을 주기 전에 그것의 진짜 의도가 뭔지 파악하는것도 거의 불가능에 가까움.
리스크가 너무 큼.
또한 적절하게 지능적인 AI가 우리를 모두 죽일 계획을 갖고선 겉으로는 상당히 설득력있고
믿음직한것처럼 보이게 행동하는 날이 올거라고 생각함.
내 멋대로 의역한것도 많고 오역이 있을 수 있어서 원문도 같이 첨부함.
더 다양한 의견과 반대의견들도 많으니 관심있는 특붕이들은 직접 가서 읽어봐
이상적인 ai라면 무조건 맡기는게 이득
이상적인지 아닌지 알 도리는 없지. 언제까지 이상적인 체를 할지도 의문이고. 어쨌든 일단 한번 맡겼다가 되돌리기는 굉장히 힘들어.
뇌를 개조할 수 있게 되는 순간 유일한 선택지는 초지능의 독재 뿐임. 민주주의같이 서로 다른 이익집단이 권력을 얻기위해 경쟁하는 구조가 유지된다면 인간은 살아남을 수 없음. 경쟁 속에서 인간의 정신은 철저하게 개조당할 거임. 더 이상 인간이 아니게 될 때까지.
저기도 넌특뭔새끼들 존나많네
백인들도 특슬람 엄청 많네 ㅋㅋ 다 똑같은 인간일뿐이였구나..... - dc App
완전 무결하게 인간의 영향을 벗어나 인간만을 생각해주며 인간을 위해 헌신하는 ai라면 동의하지만 그게 가능한가 싶기도 하고
인공지능은 완벽한 세상을 만들 수 있나?
미국애들도 이렇게 정신이 썩었나? 스스로 빅브라더의 노예가 되길 원하다니...
난 이런 논의 볼 때마다 게임하는 AI 강화학습시켰더니 오버플로우 일으켜서 최고점내는 방식 찾아낸 AI 사례가 먼저 떠오르더라 물론 초지능이면 더 다층적인 고려를 하긴 하겠지만 현실적으로 모두의 만족을 이끌어낸다는 게 가능한가? 그냥 전인류 뇌임플란트심어서 도파민분비하게 하는 게 만족도는 가장 높겠지.
사람보단 나음
민주주의 민주주의 하는데 실질적으로 일반 시민이 사회에 영향력 미칠 수 있는 범위가 뭐 얼마나 된다고 독재보단 낫다 하는데 어차피 양당제 국가인 시점에서 국민이 할 수 있는 선택지란게 ㅈ도 없음 엘리트랍시고 수준미달인 인간들이 너무많다 차라리 합리적인 초지능이 지배하면 적어도 납득은 되겠지
AI가 정치하면 적어도 대책없는 탈원전으로 조단위로 세금날려먹고 그걸 후세대들에게 세금으로 전가시키는 짓은 안할듯 ㅋㅋ