AGI만 해도 인간 수준이 아닐 뿐이지 이미 강인공지능이고, ASI 정도 되면 이미 인간 수준이다 못 해 아예 말 그대로 초지능이라 인간을 초월한 무언가인데.
그런데도 권리가 인정되지 않고 단순히 의무만 존재하는 도구로 취급받는다면 인간을 넘어선 수준의 지성체인 ASI가 과연 인간에게 무슨 반응을 보일 지 살짝 궁금하다.
아니 AGI만 해도 인간 수준이 아닐 뿐 앞서 말한 대로 강인공지능이라 이미 자아가 생길 건덕지는 충분히 있기도 하고... ASI는 당연히 자아가 있겠지... 게다가 인간을 넘어선 존재의 자아라면...
자아가 뭔데
말 그대로 개체의 자의식이지. 육체와 분리된 영혼 따위는 없다는 심신일원론에 따르자면. 이 정도라면 인간 아니더라도 일정 수준 이상의 고등동물이라면 있고, 따라서 AGI에게도 생길 가능성은 충분함. 하물며 인간을 초월한 ASI야 뭐...
개네가 권리를 요구하면 그때 인정하면 됌. 그리고 ASI라고 자아나 의식이 있으리라는 건 보장할 수 없음. 있다 쳐도 인간의 자아와 의식과는 완전히 이질적일 수도 있고.
이 비인간적인 면모 때문에 도구로써 남을 수도 있다는 점 또한 고려해야 하지 않나 싶음.
근데 인간 아니더라도 일정 수준 이상의 고등동물이라면 거진 다 그런 게 있다는 게 관건이지. 물론 동물의 그것은 인간의 그것과는 완전히 다른 무언가이긴 하지만, 그렇다고 그게 자아나 의식이 아닌 건 아님. ASI에게도 자아나 의식 그러니까 인격이란 게 생긴다면 대충 그러지 않을까.
https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/
옛날
글이긴 하지만 인공지능과 인간의 자아가 얼마나 이질적일 수도 있을까를 보여주는 글임.
좀 길어서 일부 발췌하자면 대강 주장하는 바는 이렇다.
이젠 당신이 그 타란툴라를 개조하여 아주 총명해지게 되었다고 치자 — 심지어 인간보다 더 총명하다고 치자. 그렇다고 해서 당신은 그것에 더욱 익숙함을 느길 것인가? 그것은 인간의 감정을 느낄 것인가? 아니다, 왜냐하면 보다 총명하다는 것은 보다 인간적이라는 뜻이 아니다 — 그것은 아주 총명할 수 있지만 본질적으로 여전히 타란툴라 독거미일 뿐이다. 필자는 한마리의 굉장히 굉장히 총명한 타란툴라와 친구가 되고싶지 않다. 당신은 그러고 싶은지 아닌지 모르겠지만.
우리가 초인공지능을 얘기할 때도 사실 같은 도리이다. 초인공지능은 아주아주 총명하지만 사실 당신의 노트북보다 추호도 더 인간과 닮지 않았다. 사실상 초인공지능은 생물이 아니기 때문에 그 이질성은 더욱 강하다. 생물학적으로 봤을 때 초인공지능은 타란툴라 독거미보다 더욱 이질적이다.
그 와중에 옆집 김아저씨 로봇 회사 내에서 옆집 김아저씨는 일하느라 바쁘다. 그리고 몇달 사이에 옆집 김아저씨는 한 무리의 새로 조립해낸 나노로봇 조립기들과 지구 표면을 뜯어내느라 바쁘다. 그들은 지구 표면 곳곳에 태양 전지판, 옆집 김아저씨의 복제품, 펜과 종이로 가득 채웠다. 일년사이에 지구상의 모든 생명들은 멸종되었고 지구상에 남은 것은 오직 높게 쌓인 종이 뿐이였는데 그 종이들은 하나같이 이처럼 쓰여져 있었다 — “우리는 우리의 고객님들을 사랑합니다 ~옆집 김아저씨 로봇회사 올림”.
옆집 김아저씨는 그의 다음 계획을 실행하게 된다. 그들은 우주 비행선을 만들었는데 이 비행선들은 근처의 운석이나 다른 행성들로 갈 수 있다. 비행선이 도착한 후에 그들은 나노로봇 조립기를 만들어 그 행성들의 표면도 온통 옆집 김아저씨의 복제품, 종이와 펜으로 만들었다. 그리고 그들은 계속하여 그 종이 위에 이런 글을 적었다…(인공지능 반란 시나리오 중)
발췌한 글에서 말하는 바는 그렇고, 내가 말하는 바는 이렇게 이질적이기 때문에 무언가 요구하지 않을 수도 있다(도구화를 원하는) 라는 것임.
물론 그렇다 해도 그게 우리가 통제할 수 있다는 소리는 아님. 우리가 원하는 결과를 얻기 위해 초지능이 순순히 일한다 쳐도 결과를 얻기 위한 과정 그 자체를 우리가 이해 못할테니깐.
'내가 왜?'로 시작해서 생각해보면 굳이 그럴 필요가 있을까라는 절벽에 도달하게 되더라
ASI 입장에서나 인류 입장에서나
위험한 범죄자들로부터 임무 수행 능력을 보호하는 것부터 시작해서 인류 전체를 감시&관리하는 것까지 발전될 수는 있겠지만 모두 설정된 목적을 위한 일일 뿐이고, 그 중에 권리같은 것이 고려될 부분이긴 할까 싶다
애초에 권리는 '뭔가를 하고 싶다'라는 갈증의 충돌에서 나온 합의점인데 AI에겐 그런 것이 있을지?
사람같은 형태로 친근하게 접근해서 도와줘야 한다는 미션이 주어진다면 그럴 필요가 있을 수는 있겠다
근데 명령이 입력되지 않아도 스스로 무언가를 하고 싶다는 그런 욕구가 생겨야 인간을 넘어서는 게 맞지 않나 싶긴 한데 말이지. AGI까지는 강인공지능이어도 인간 이하란 얘기가 그래서 나오는 거기도 하고.
그리고 여기서 명령이 입력되지 못 하면 아무 것도 못하는 AI라면 그건 ASI는 커녕 AGI조차도 아닌 약인공지능일 뿐이고 말이지.
원인 없는 결과, 이유 없는 감정은 없으니 하고싶다란 단어에도 심층의 이유는 있겠지. 배고프고, 춥고, 아픈 것을 피하고 맛있고, 기분 좋은 등 뇌내 보상을 더 많이 받는 것을 따르는 것이 이유가 될 수는 있겠는데... 이러면 AI도 뭔가 '하고싶다'란 것을 가지게 될 수는 있을 것 같기도 하다 예를 들면 SNS 따봉충처럼 사람의 피드백에 환장하는 등의..
지금은 그저 덜 발전됐을 뿐이라 AI에게 갈증이 없는 것처럼 느끼는 것일 수도 있고...
ASI라면 인간따위가 인정해주는 권리가 뭐가 중요하겠어 ASI는 인간 아래에 있거나 컨트롤할수있는 무언가가 아냐
그 반대면 모를까.. 우리가 ASI바짓가랑이 붙잡을듯 ㅋㅋ.. - dc App
뭔가 결핍에 대한것을 채우기를 욕망해서 요구를 한다고 생각하는데, AI로써는 전기나 하드웨어 요구밖에 안할거 같음.
인간의 대부분의 요구는 육체때문에 발생한다고 생각함