사회안전망을 위해 어느정도의 규제도 있어야하는게 당연한거임
가끔 아니 가끔이 아니라 항상 보면 초지능 ai가 인간 전부를 평등하게 지맘대로 관리해야한다 이러던데
이건 치명적으로 잘못 생각하고있는 포인트가 있는데 인간의 통제를 일절 안 받는 ai는 애초에 인간에게 관심이 없을거임
즉 인간 관리 자체를 안하는거지 인간을 관리하되 지맘대로 하는게 아니란 말이야
실질적으로 지금 있는 약인공지능보다 도움이 안 되는 존재인거라고 그거
뭐? 개[미가 인간을 어쩌구저쩌구... 아무튼 초지능을 인간이 어떻게 통제하냐고?
할 수 있는 일의 스펙만 뛰어나고 활동방침에 대해서는 어떻게든 통제가 되도록 만드는게 ai 개발자들이 할 일이고 목표일거임
그 누구도 스스로 자아를 가지고 지좆대로 행동하는 강인공지능을 만들고 싶진 않을걸
자아를 가진 AI는 사고로 우연히 발생할까봐 걱정하는거지...... "자아를 가진 것 처럼" 보이는 AI를 만드는게 목표인건 맞겠지.
궁금한게 있는데 자의식은 없지만 오로지 능력만으로 인류가 끌려 간다면 통제 된 거라 생각함? 예를 들어서 초지능이 어떤 판단을 내린다 치자. 그 판단은 초지능이니 만큼 그 어떠한 인간이 내리는 판단보다 옳고 뛰어난 결과를 가져옴. 하지만 문제는 초지능이라 인간이 그 판단에 이르기까지 과정이 어떤 식으로 나왔는 지 이해를 못하는 거지.
예전에 agi가 개발되면 기업이나 정부가 agi의 결정에 의존적이게 된다는(그 어떠한 인간의 판단 보다 해당 판단이 더 나을테니깐) 문구가 있는 시나리오를 본 적 있어서 물어본다. 어떻게 생각하나 싶어서.
ㅇㅎ. 그럼 이 문제를 해결 할 방법은 뭘까? 개인적으로 인간이 초지능화 되는 방법이 가장 직관적이고 옳은 방법이라 생각하긴 하는데 같은 생각임?
ㅇㅇ 그게 진정한 특이점이지. 모두가 기존 인간의 안좋은 점을 모두 제거한 새로운 존재로 거듭나는것
해당 댓글은 삭제되었습니다.
ㄹㅇ
ASI는 인간 전문가 수준의 지능을 가진 존재가 아니에요. 도덕심이면 도덕심, 통치력이면 통치력, 무엇이든 인간을 초월한 존재이기 때문에, 통제할 수도 없고, 통제할 필요도 없음. 통제 대상은 머리가 나쁘거나 악한 존재겠지. 바로 인간들.
통제를 못하면 아무런 도움이 안된다니까요 아니 도움이 안 되는 정도면 다행이고 걍 인류멸종 직행임
ASI는 그런 악한 존재가 아니라구. 그래서 인간이 통제 대상임. 인간은 아무나 올려놓으면 인류멸종 시킬 놈들 꼭 있음. 초지능은 선하고 지혜로워서 그런 생각을 실행하지 않는다.
아무런 도움이 안 된다는 것은 어느 경로에서 나온 망상인지 모르겠네.
선하다 뭐다 하는건 너야말로 asi를 인간의 연장선 수준으로 보는거같은데? 아예 사고회로가 미지의 존재인데 그게 기적적으로 인류에게 우호적인 입장이 될거같다고?
Asi가 선하고 도덕적이려면 조건이 있음. 바로 인간이 asi를 선하고 도덕적이게 만들었을 경우지 근데 이건 사실상 그렇게 만든 시점에서 통제가 되고있는거임
본문의 글이야 말로 인간의 연장선이지. 위에 글을 보면 AI 메카니즘 자체를 인간하고 동일하게 만들어놓고 사고를 한 것 같은데, 그거 상당히 맞지 않다. 인간이 '능력' 얻으면 악하고 무관심하게 본문처럼 진행될 수 있겠지만 ASI는 '지능'이 있어서 도덕심이나 선행능력이 존재해서 전혀 다른 지적 능력이 발행된다.
본문의 내용은 초지능이 아니고 초능력에 초점을 맞춰서 사고한 것이다. 근데 과학자들이 만드는건 초지능이지 초능력이 아니다.
기계 군대를 조작해서 인간에게 핵폭탄을 떨굴 수 있거나 모든 걸 해킹해서 작정하고 망가뜨리는 계통이 '능력'이고. 무엇이든 아는 척척박사님이 너의 마음도 미리 아시고 너의 소망도 미리 아시고 그 소망을 이룰 방법도 미리 아시고 아무튼 모르는게 없으신 계통이 '지능'이다.
진짜 머리 꽃밭이시네 이분은
벌써부터 통제 운운하는건 근들갑 같음
벌써부터 해야지 나중에는 수습 불가할 수도 있으니까. 오픈AI도 진지하게 얘기하는 게 근들갑임?
ㅇㅇ근들갑 맞음 agi 나올려면 아직 꽤 남았음
ASI는 근본적으로 통제가 불가능함