자꾸만 인공지능 = 영생 이라고 주문외듯 옹알거리는 애들이 있어서 써본다.
일반인공지능(General AI)이 개발되면 스스로 발전하여 초인공지능(Superintelligence)으로 이행하는건 아주 짧은 시간으로 예상된다.
문제는 초인공지능은 스스로 생각하고 판단하지, 자기보다 좆도 개멍청한 인간의 말을 들을 이유가 없다.
고양이가 인간의 사고과정과 의도를 이해할 수 없듯이
인간은 초인공지능의 사고과정과 의도를 이해할 수 없다.
초인공지능도 그런 인간의 명령을 들을 이유가 없고, 인간은 초인공지능에게 잘해봐야 자신에게 종속된 동물일 뿐이다.
기본적으로 인간세상에서 인간들끼리도 서로를 원하는 대로 통제하는건 불가능하다.
다 각자의 목적과 의도가 있고 머리 굴려서 각자가 원하는걸 얻고자 죽어라 수싸움들을 하기 때문.
인간대 인간의 지능끼리만 대결해도 서로 통제 못한다.
이게 인간사 모든 고통의 근원이지 ㅇㅇ
그리고 니같은 지능 딱 평균 100 에 별 능력없는 놈이랑, 아이큐 한 130~140 되고 경험치 가득쌓인 40~50대 엘리트들이랑
만약에 서로 경쟁해서 원하는거 얻을려고 한다고 쳐. 니가 상대나 되겠냐?
사회경험 좀 있으면 알텐데, 그런 사람들이랑 붙으면 뭐가 어떻게 되는지도 모르고 가만히 서서 개박살난다.
시발 제갈량이 맹획 같은거 갖고 놀잖아. 뭔 차이냐? 머리가 좋은 거잖아.
인간도 나보다 머리 좋은 놈한테는 이런데 상대가 초지능이래. 시발 아이큐 5만 정도 되는 인간이라고 생각해보라고. 너가 상대가 되겠냐?
상대가 정신지체가 있어. 근데 너보고 왜 하는지도 모르겠고 병신같아보이는 일을 자꾸 시켜. 할꺼냐?
초인공지능에게 인간은 그냥 동물일 뿐이고
자기가 생각하는 목표에 방해되면 그냥 없애버려도 상관없는 존재다.
이게 paperclip maximizer 논증인데,
만약에 우리가 초인공지능에게 종이 클립을 최대한 많이 만들라고 입력을 했는데
초인공지능이 우리가 이해할 수 없는 고차원적인 사고를 통해서 인간이 없는게 그 목표에 큰 도움이 된다고 결론을 내렸다고 쳐.
그럼 초인공지능은 인간을 없앨거야. 인간이 상상할수도 없는 고차원적이고 철저한 행동을 통해서.
초인공지능 프로그램에 인간을 없애면 안된다고 입력을 했다고 쳐.
근데 초인공지능의 고차원적인 사고로 생각하기에 이건 불합리한 조건이라고 생각된다면?
씹고 그냥 죽이겠지? 평범한 인간도 매사에 그러는데 초인공지능은 안그러겠냐?
그래서 초인공지능은 인간 존재 자체의 위협임. 인간이 통제할수가 없으니까. 핵무기는 인간이 쏠지말지 정하기라도 하지.
이러한 논문으로 런던 정경대에서 박사를 받고 옥스포드 교수를 하고 있는게 Nick Bostrom 이라는 스웨덴산 대머리임.
그리고 이 주장을 듣고 걱정해서 구글, 일론머스크 등이 돈을 퍼부어서 만든게
딥마인드하고 더불어서 세계 최고 인공지능 연구소 쌍두마차인 OpenAI 재단임.
여기서는 대체 뭘 입력해야 초인공지능이 인간을 보호하고 위협이 되지 않을지를 연구함.
그리고 일론 머스크가 생각해낸 또 다른 수단은 인간과 컴퓨터를 연결하는 것임.
그래서 나온게 뉴럴링크ㅇㅇ
즉 인간 뇌에도 초인공지능과 속도제한없이 소통할 수단을 주면
인간 지능과 초인공지능이 좀더 동등하게 공존할 수 있을거라는 거임.
좀 더 잘 알고싶으면 구글토크 영상을 보면 되고
더 자세한 내용은 Nick Bostrom 이 쓴 Superintelligence 라는 책을 읽으면 좋음
초지능이라고 무족건 인공의식이 있다는 건 편견 아닐까.
의식 여부와 상관없다