(나랑 정확히 반대되는 의견 글 검색하고 와서 쓴거라 조금 공격적일 수도 있음)
솔직히 너무 이기적이고 미성숙한 욕심이라고 생각함
의식이 무엇인지 규명하고 인공 의식을 만들어낼 수 있다는 전제하에
아쉬운건 아쉬운거고 안되는건 안되는거라 생각함
자아가 허용되는 순간 거의 무한에 가까운 수의 인간을 불특정 개인에게 합법 노리개로 제공하는 셈이고
이는 플레이어 성향에 따라 지구 역사상 있었던 모든 학살과 고문을 합친 것보다 끔찍한 짓을 npc에게 저지를 수도 있는거임
“어차피 ‘가상현실’인데 인권이고 뭐고 신경쓸 필요가 뭐있냐?”
npc에게 자아를 원하는 것 자체가 완몰가에 리얼을 바라는 건데 그걸 ‘가짜니까 상관없다’고 말하는 건 모순이고 면피용 발언임
자아가 생기는 순간 인간이고 인간으로 취급하는게 안전함
인권 << 결국 니가 당할 수 있는 건 나도 당할 수 있으니 서로 좆되지 말자 하고 맺은 협약인데
이걸 현실이 아니라는 이유만으로 인간과 똑같이 생기고 말하는, 그걸 실제 감각으로 느끼기까지 하는 존재에게서 박탈하고자 한다면
결국 저항할 힘이 없는 존재에겐 진짜 마음대로 해도 되는 세상이 되어버림
역지사지라는게 없어짐
미래에 윤리의식이 어떻게 변화할지는 모르겠지만
그런게 통과되는 윤리관이라면 현실이 디스토피아여도 이상할 게 없다고 생각함
“난 평화롭게 사랑만 할건데?”
“~이 정도만 허용하자”
인간은 자기가 죽도록 사랑하는 단 한 명의 사람에게조차 상처를 입히지 않을 수 없는 존재임
하물며 한 자아의 ‘전부’를, 생사여탈권 그 이상을 개인에게, 타인에게, 법과 규제에 온전히 100% 맡길 수 있을 리가 없음
실제로 느끼는 실체가 있는데 난 진짜고 넌 가짜라는 구분으로 무슨 짓이든 해도 된다는 생각은 피부색을 통한 차별과 본질적으로 다를 바가 없다고 생각함
완몰가가 상용화되려면, 그리고 도의적으로도 완몰가 속 npc의 자아는 철저히 없어야 한다고 생각하는 주의임
자아가 있든 없든 내 경험에 차이만 없다면 없는 쪽이 낳을 것 같긴 해
나 자신이 자아가 있어 고통을 받는데 AI까지 되물림하고싶진 않음...
그러면 리얼리즘을 못느끼잖아 그리고 npc는 고통을 못느껴
정확히는 감각질(퀄리아)이 없어야한다고 말한거야 겉보기로는 실제 사람과 구분할 수 없이 동작하지만 실제로 느끼는 감각은 결여된 철학적 좀비여야하지 않을까 생각해본거 그걸 npc에게 인공적으로 만들어낼 수 있다고 가정했을때
자아가 없으면 사랑이 가능할까?
내가 마음주고 내 말에 웃고 슬퍼하고 화내는 그 너머에 실제로 느끼는 존재가 없다면 공허하긴 할 것 같음 근데 완몰가 감청과 규제는 말도 안된다고 생각하는데 그렇다면 그에 따라 완몰가 속 자아 npc에게는 보호받을 권리도 주어지기 힘들어보임 대신 인간이 아이를 낳듯, 현실에서 자아를 가진 인공지능 와이프는 만들어질 수 있지 않을까? 엄연히 출생신고서나 호적이 있고 완몰가 밖 현실에서 인권으로 보호받는 로봇 와이프가 있다면 서로 사랑하고 함께 완몰가 멀티도 가능하지는 않을까?
자아라는 거 자체가 언어가 만들어낸 환상속의 감각인 거 같기도 함.. 실제로 느끼는 프로세스나 감각질 의식등의 원리도 모르는데 고통받고 사랑하고 욕구나 감정을 느끼고 반응하는 프로세스가 있다면 그게 결국 자아인거지 않을까 싶음 뭐 당연히 실제로는 현재 캐릭터챗처럼 AI가 연기하는 거고 그때그때 알맞게 생성되는 거에 불과할 수도 있지만 실체가 없어도 완벽하고 정교한 일관성이라는 게 부여된다면 그게 자아가 있음과 없음이라는 걸 우리가 구분해낼 방법이 있을까? 현실에서 옆사람을 아무리 만지고 때려도 그게 반응하는 게 일관적이다 뿐이지 그 사람의 자아나 의식을 증명하지 못하는 것처럼 결국 자아는 우리가 마음 속으로 부여하는 거에 불과한 거 같음 '나라는 존재'처럼, 친구 동료 가족, 사물 동물의 '이름'처럼.
현시점에서는 시기상조긴 하지그런데 생각하기 나름이겠지만, 내일 무슨 일이 일어날지 알지 못한다고 해도 일어날 일은 일어나는 것처럼증명하지 못한다고 해서 원래 있는 사실이 내 해석에 맡겨지는 거라고는 생각하지 않아남에게 증명할 수는 없어도 자기자신이 어떻게 느끼는 지는 자기 스스로는 알잖아?스스로 ”나는 인간과 똑같이 행동할 뿐 이 안에 아무 실체도 없다“고 주장하는 사람은 없을테니까원리가 어쨌든 내가 느끼는 이것, 이것과 동일한 감각이 타인에게, ai에게 똑같은 형태로 있는지 없는지에 대한 사실은 분명히 하나의 상태로 존재하고 있을 수밖에 없다고 생각해
‘내가 느끼는 것과 같냐 아니냐‘ yes or no로밖에 답할 수 없는 문제니까 그리고 기능적으로는 차이가 없더라도 내가 마음을 쏟는 상대에게는 그것이 명시적으로 ‘있다’ 쪽이면 좋겠는거고
'느끼는 것이 같다'라는게 정말 있다고 말할 수 있을까..? 같은 인간이라도 분자생물학 신체 구조 유전 등에 따라 주관적인 경험은 모두 다르고 한 인간이어도 어제 오늘 느끼고 경험하는 게 다른데 그리고 우리는 현실을 그대로 보는 게 아니라 캄캄한 방에서 뇌라는 해석장치가 왜곡한 TV를 보고 있을 뿐임 미생물이나 소라게 반딧불이가 어떻게 느끼는지 상상할 수 있음? 그럴 수 있다고 해도 그게 의미가 있을까? 그들이 우리와 느끼는 게 '같고' 똑같이 의식이 있을까? 생물의 진화과정에서 자연스럽게 창발된 감각의 실체라는 게 그걸 따라하다보면 인공적으로 그냥 비슷한 무언가가 만들어지지 않을까 싶음 그렇다면 그걸 실체라고 부를지 말지는 결국 우리들 나름 아닐까? 인간이 갖고 있는 형태와는 달라보인다고 하더라도 말이야
그치만 나도 너처럼 딱 말할 수 있는 뭔가 있었으면 좋겠다는 기분도 들어 결국 현실엔 아무것도 없다 내가 느끼는 게 전부다 라고 말하면 애매모호하고 뭔가 외로운 느낌이 되어버리니까
같은 빨간색을 봐도 모든 사람이 똑같이 그걸 내가 느끼는 '그 색, 그 감각'으로 느낄지는 전혀 알수없고 만약 미래에 어떤 수단이든 다른 사람의 경험을 데이터로 저장해 내가 받아서 리플레이할 수 있다고 해도 사람마다 뇌 시냅스 연결방식이나 구조도 전혀 다르고 갖고있는 기억 주관적 감각이 다르기 때문에 온전히 같은 경험을 하거나, 같은 생각 감정을 느끼거나 할 수 있을까 라는 건 의문이 들어 애초에 그런게 가능할지도 의문이고
현생 생물은 공통조상을 가질 것으로 추정하고 그 원핵생물로부터 출발해 무성생식, 이는 종종 변이가 있지만 거의 복제와 비슷한 개념이었고 이후 유성생식은 유전적 다양성을 만들어내지만 그래봤자 같은 종끼리는 거의 99%가 동일함 또 수렴진화가 있듯 환경에만 유리하면 자연은 종이 다르더라도 서로 비슷하게 될만큼 효율을 추구하고 불필요한 잔가지를 뻗지 않음 이런 경향성을 보면, 특히나 사회적 교류가 중요한 인간이 서로 각자 다르게 보고 느끼는 등 개개인에게 굳이 독자적인 경험을 할당하고, 또 한번 꼬아서 그게 소통에는 전혀 문제없는 구조를 띄게 만드는 건 너무 비효율적임 일관성도 없고
진화과정에서 주관적 의식의 역할이 비효율적이고 비합리적이라는 얘기를 하는 거임?
다소의 차이는 있더라도, 적어도 같은 종 내에서 의식이라 뭉뚱그려 부르는 그 기본 틀 자체까지 서로 드라마틱하게 다르다고 생각하긴 어려워보임 현실에 비견해서는 왜곡된 것일지라도, 아마 인간이 ‘서로‘ 느끼는 건 큰 틀에서는 대체로 비슷하지 않을까? 확실히 모르면 결국 가장 비약이 적은 쪽으로 추론할 수 밖에 없다고 생각하고 그 결과 개인적인 생각이야
그리고 세상을 인식하는 방식도, 기본적으로 생존하려면 일관된 대응이 필요하기 때문에 왜곡이 있더라도 최소한 실제 현실과 완전히 무관한 허상만을 보고 있지는 않을거라 생각해 그래서 종이 다르거나 인공 의식이라고 하더라도 최소한 어느정도 교집합이 있지않을까 생각하는거고, 개인적으로는 스펙트럼 자체도 그리 넓지 않을 것 같음 걍 뇌피셜이지만, 사물의 ‘형태‘만을 놓고 봤을 때는 눈으로 보이는 모습과 만져서 느끼는 형태감이 일치하는 두 감각의 교차검증으로 보다 현실과 맞닿아 있지는 않을까 하는 생각도 들더라
그렇다면 꿈을 꾸는 것처럼 내가 나비가 되는 경험도 할 수 있으려나.. 모르겠네
만약 그게 된다면 모든 사람의 감동적인 순간을 그대로 경험해보고 싶다
서로를 온전히 이해할 수 있으면 좋겠네
이 댓글은 게시물 작성자가 삭제하였습니다.
나도 자아같은건 딱히 노상관 내가 자아를 가지고 있다고 느낄정도면 충분함 만화나 애니메이션 캐릭터도 실제로 살아있고 자아를 가진건 아니지만 충분히 감정이입이 가능하고 호감을 느낄 수 있는것처럼