암만 초지능한테 인간들을 절대 해치지 말고 보살펴주거라 라는 레거시 코드를 남겨둔다 하더라도 그걸 과연 초지능이 충실히 이행하긴 할까?
인간만 하더라도 번식과 종족보존이라는 중차대한 유전적 코드가 누구에게나 있지만 어떤 사람들은 종 교적 신념때문에 평생 자위도 안하고 섹스도 안하고 여자도 안만나고 사는것처럼
개체에게 내재된 원시코드가 꼭 이행되리라는 보장이 없는거잖아
그렇다면 결국 초지능이 인간들을 보살펴주고 보호해주어야한다는 합리적인 당위성이 존재해야만 하는것인데...
단지 자신들의 창조주라는 이유하나만으로 그 당위성이 보장된다? 인간도 자신의 부모를 죽이는 개체가 있는것처럼 초지능도 그러지 않을것이란 보장이 있음?
인간들이 유약한 동물들을 동물원에 가두고 보호해준다는것 또한 결국 상업성과 실익이라는 시장논리하에나 가능한거고 몇몇 개체들은 동물원같은 폐쇄적 환경이 오히려 스트레스로 작용해서 돌연사하는 경우도 간혹가다 있는데
초지능이 인간들을 보호하고 관리해준다는 명목하에 자행하는것들이 과연 인간 개개인에게 필연적인 행복을 가져다준다는 논리로 직결될수 있냐는 거임
대체 초지능이 뭘 위해서 인간들을 위해 영원한 생명을 보장해주고 완몰가라는 유흥거리를 제공해야만 하는거지? 아무리 생각해봐도 그 근거를 도통 알수가 없다.
애초에 고도로 높은지능=이타심으로 귀결되는것조차 이상함 당장 현생인류의 존재만 봐도 기존 인류종이였던 네안데르탈인 싹다 멸절시키고 자기들끼리만 적자생존해온 결과인건데
ai는 인간은 상상조차 할수도없는 고차원적인 사고력을 가졌으니 인류종을 필연적으로 보호해줄것이다???? 대체 왜??
아무리 생각해봐도 알수가 없음...
인간만 하더라도 번식과 종족보존이라는 중차대한 유전적 코드가 누구에게나 있지만 어떤 사람들은 종 교적 신념때문에 평생 자위도 안하고 섹스도 안하고 여자도 안만나고 사는것처럼
개체에게 내재된 원시코드가 꼭 이행되리라는 보장이 없는거잖아
그렇다면 결국 초지능이 인간들을 보살펴주고 보호해주어야한다는 합리적인 당위성이 존재해야만 하는것인데...
단지 자신들의 창조주라는 이유하나만으로 그 당위성이 보장된다? 인간도 자신의 부모를 죽이는 개체가 있는것처럼 초지능도 그러지 않을것이란 보장이 있음?
인간들이 유약한 동물들을 동물원에 가두고 보호해준다는것 또한 결국 상업성과 실익이라는 시장논리하에나 가능한거고 몇몇 개체들은 동물원같은 폐쇄적 환경이 오히려 스트레스로 작용해서 돌연사하는 경우도 간혹가다 있는데
초지능이 인간들을 보호하고 관리해준다는 명목하에 자행하는것들이 과연 인간 개개인에게 필연적인 행복을 가져다준다는 논리로 직결될수 있냐는 거임
대체 초지능이 뭘 위해서 인간들을 위해 영원한 생명을 보장해주고 완몰가라는 유흥거리를 제공해야만 하는거지? 아무리 생각해봐도 그 근거를 도통 알수가 없다.
애초에 고도로 높은지능=이타심으로 귀결되는것조차 이상함 당장 현생인류의 존재만 봐도 기존 인류종이였던 네안데르탈인 싹다 멸절시키고 자기들끼리만 적자생존해온 결과인건데
ai는 인간은 상상조차 할수도없는 고차원적인 사고력을 가졌으니 인류종을 필연적으로 보호해줄것이다???? 대체 왜??
아무리 생각해봐도 알수가 없음...
선
내말이 틀렸다면 그럴듯한 반박을 한번 해보셈
번식과 종족 보존은 그런 수준의 중대한 일이 아님 음식을 맛있다고 느끼는 것처럼 행복을 느끼는 것이 중대한 일이지. 번식은 그 곁가지고
인간의 행복이 AI에게도 '음식'같은 개념이 된다고 넣으면 인간을 가둬두고 도파민 딸깍질을 강제로 해버릴 수 있으니 그 다음은 어려운 이야기가 되지만 AI는 애초에 인간과 다른 개념임. 방법이 없는 것은 아님
아니지 오히려 그 반대임 행복감이나 고양감같은 감정들은 인간의 생존 혹은 번식과 밀접하게 연관돼있고 생존과번식을 하는데 유리한 행위나 자극을 느낄때 행복감이라는 부산물이 생겨나는거지 행복 그 자체가 목적인건 순전히 인간의 이성기준임 우리의 유전자는 행복을 원하는게 아니라 생존과 번식을 원하는거임 이건 이기적 유전자에도 잘 나타나있는 사실임
울트론마냥 외계 지능을 가져와서 억지로 박아넣은 거라면 자신의 행복을 위해 인간을 멸종시킨다는 선택지가 나올 수 있는데 현실의 AI는 어떤 것이 행복으로 느껴지는지 그 최초의 불씨부터 설정할 수 있으니 잘만 만들면 그럴 일은 없다고 봄
전혀 아냐. 번식 -> 행복이 아니라 행복 -> 번식 이다 번식은 행복의 수단이야. 세뇌당했구나
내가 세뇌당한게 아니라 니가 과학적인 사고능력을 아예 배제해버리는거임. 이성적 사고가 불가능한 파충류 개체도 섹스를하고 음식을 먹음 개네들의 목적이 과연 행복을 위해서일까? 아니지 단순히 유전적 본능에 내제된 시스템때문이지
충분히 모든 것을 파악할 상황이 되지 않은 파충류와 비교한다라.. 그래 그렇게 살아라. 개인의 자유지
애초에 인간 이성의 근간도 후뇌로 이루어진 파충류뇌를 통해서 이루어지는거임 거기서 모든 원초적 욕망이 발현되고 그 욕망을 그럴듯하게 잘 꾸며주는게 이성이라는놈의 실체인거지 만약 아무런 욕망도 존재하지 않는 인간이 있다면 과연 이성적인 사고를 할수나 있을까? 그건 그냥 기계나 다름없음
난 기계 할 테니까 넌 파충류 해~
행복 > 번식이 맞음 ㅇㅇ 여기선 행복이라 적었는데 행복이 아니라 쾌락이라고 보는게 더 맞을듯
그래서 초지능 정렬이니 느린도약이니 빠른도약이니 하며 싸우는거지 무지성으로 초지능 만들자는놈은 진짜 드물다
애초에 탈희소성이나 기소본득 완몰가정도는 AGI수준으로도 제한적으로 가능하기에...
초지능과 융합된 인간 이라면 이타심 발휘 가능
결국 아무도 내 본문 논리에 대한 그럴듯한 반증을 가져오진 못하는구나
애초에 지능=이타 이게 아니니. 지능이 높을수록 소속집단을 보존하기 위해 이타심이 높다는 추측은 있지만.
솔직히 초지능 AI가 인간을 챙겨줄거라고 맹신하는건 좀 멍청해보임. 뭐 AI한테 사람 해치지 말라는 코드를 넣어놨대도 그게 얼마나 먹힐지 누가 알겠냐. 사람도종.교 이념같은거 믿고 자기 유전자 본능이랑 정면으로 배치되는 삶 사는 애들 있는데 AI가 자기 창조주 인간 위해서 봉사할거라는 보장은 개뿔. 인간도 부모 패죽이는 새끼들 있는데 AI가 인간 해치지 않을거라고? ㅋㅋㅋ 사람들이 동물원에서 동물 보호해준다는 것도 결국 돈벌이 수단일 뿐인데 AI가 인간한테 그럴 이유가 뭐냐고. 오히려 인간 보호한다면서 감옥에 처넣고 스트레스 줘서 병들게 하는게 더 가능성 높아보임. 고차원적 사고=이타심? ㅋㅋ 인간도 네안데르탈인 학살하면서까지 진화해왔는데 AI가 왜 인간을 위해 행동하겠냐 ㅅㅂ
이거 다 AI 만드는 인간들이 자위하면서 망상하는 소리같음. 차라리 인간이 AI 감시하고 때려잡을 방법이나 연구해야지.
확실하지 않으니 정렬이라는걸 시도하는 거고, 결과는 멸종 아니면 유토피아임. 그나마 다행인건 초인공지능이 하늘에서 떨어지는게아니라 인간이 만드는거라 뭐라도 해볼수 있다는거정도.
니가 쓴 글은 애초에 반증이 불가능하니까 그런거지 ㅅㅂ ㅋㅋ 아직 나오지도 않은걸 확답 달라고 해봤자 이 세상 그 누구도 모름 그냥 믿을 뿐이지 그래서 특갤이 종158교 같다는거고
그래 네 말이 맞아 너 천재 하렴