AGI가 나오고 모든 직원들이 대체당한다고 해도 기업의 CEO, 각 분야에서 최소 한 명의 연구원, 각 국가의 대통령 정도는 한동안 존재하지 않나? 적어도 저들은 AGI로 많은 이익을 얻을 거 같은데 그거 자체가 불가능하다는 거임?
초지능이 알아서 분배해준다라고 하는데 이건 그럴 수도 있고 아닐 수도 있는데 그러면 좋겠다 수준의 논리 아니냐? 초지능이 평등을 추구할지도 모르는 거고 다수결의 원칙으로 소수의 것을 강제로 뺏어서 분배해준다는 건데 그런 초지능이 과연 좋을까? 만약 인간보다 수가 많은 생물이 인간의 자원을 자기들한테 나눠주라고 하면 어떡함?
유입은 정렬이 뭔지부터 알아봐라
언제는 초지능은 정렬이 안될 확률이 높다면서 인간 이외의 생물이 포함된 예시가 아니여도 저런 식으로 초지능이 행동하면 안 좋을 상황 많을 거 같은데
정렬 안된다는 애들은 무시해야지 초지능 얘기하는거 보니 걔들이 뭐 아는것도 아니고 뇌피셜일텐데
만약 정렬이 제대로 된다면 소수의 의견은 무시하고 강제로 초지능이 격차를 없애는게 불가능한 거 아니냐고 Agi가 나와도 마소 ceo든 미국 대통령이든 아무런 이득을 못 얻는다고 해도 지금 있는 격차는 도대체 왜,어떻게 줄어드는데
현재랑 똑같은 상황을 가정하니 문제지 AGI가 나오는 순간 인간 능력이 의미 없어지는데 각종 자동화로 노동에서 해방되는 순간 대중은 좀더 사회 문제에 신경과 시간을 써서 행동, 생각할 수 있게 되고 그게 전유물론의 종말임 격차가 있더라도 이해할 수 있는 수준이 아닌거라면 당연히 문제가 되겠지
초지능은 그냥 신이라니까 - dc App