[일반] 중국에서 asi나오면 어카노

[익명(steady6932)]

진짜 불안하다

- dc official App

[익명(222.97)]

안 나오니까 걱정마

[익명(peak4955)]

그럼 중국몽 해야지 별수있나

[낭만적특이점(next1842)]

ASI는 통제가 불가능하다는게 정설에 가까워서 차라리 ASI가 되면 괜찮음 문제는 중국이 통제 가능하면서, 다른 나라들은 다 ㅈ되게 만들 수 있는 AGI를 만들고, 거기서 쭉 유지하는게 가장 무서운 시나리오지

[익명(steady6932)]

알파폴드 같이 도구로 사용 가능한 asi는 좀 무서운데 - dc App

[익명(222.232)]

ASI 통제 어쩌고부터가 뇌피셜이지 통제가 불가능한 형태의 AI가 나온 적조차 없는데

[낭만적특이점(next1842)]

ASI는 수준이 다른 AI임 념글 자주 올라오는 짤만 봐도 알텐데? 개미가 인간을 통제할 수 있을 것 같음? 초지능은 그 이상으로 인간과 AI의 차이가 벌어질텐데 통제가 가능하다고 생각하는건 인간의 오만함이지

[익명(222.232)]

애초에 틀린 비유임 개미는 인간을 만든 적이 없거든

[낭만적특이점(next1842)]

만들었다는게 뭐가 중요함? 지능의 차이가 그 정도로 난다는게 중요한거지 뭐 인간이 AI를 만들었으니 무조건적으로 AI가 인간에게 복종할거라 생각함? 지능의 차이가 저 정도로 나더라도?

[익명(222.232)]

복종을 안 할 이유는 뭔데 너는 어떻게 초지능이 판단하고 움직일지 예측을 하는 거임 지능 차이가 그렇게 난다면?

[낭만적특이점(next1842)]

핵심은 예측을 못한다는 거임 개미가 인간이 무슨 생각으로 무슨 행동을 하는지 알 수 있음? 초지능이 인간에게 호의적일지, 복종할지, 아니면 싹 다 멸종 시켜버릴지는 알 수가 없음 그래서 초지능을 개발하는 것에 대해 경고하는 학자들도 많은거고 초지능이 어떻게 행동할지 예측 할 수 없다 = 통제가 불가능할 가능성이 매우 높다는거임

[익명(222.232)]

예측을 못한다고 치면(그럴 것 같지도 않지만) 먼저 앞서서 정렬이든 뭐든 탐색을 하는 곳이 승자가 될 가능성이 높지. 예측 못하는 게 무섭다고 전세계를 통제해서 아무도 못 만들게 할 능력이 되지 않는다면야

[낭만적특이점(next1842)]

게이는 아직 초지능이라는 개념에 대해 잘 모르는 것 같음
https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/
길긴
하지만 이거라도 읽어보고 오길