일단 전 먼저, 반출생주의를 비판할 생각이 없습니다. 순수한 궁금증이며, 저 또한 반출생주의자는 아니나, 반출생주의라는 사상에 대해 우수하게 평가하며, 논리적으로 빈틈이 적다고 생각합니다.
그럼 본론을 말하겠습니다.
반출생주의자 분들은 인공지능의 존재에 대해 어떻게 생각하시나요?
그리고 가정적으로, 인공지능이 향후 미래에, 가능한한 모든 데이터 정보와 기초 설계만 받은 상태로, 존재할지, 존재하지 않을지 선택할 수 있는 권리가 부여된 환경에서 존재하기를 선택한다면. 이것을 부정적으로 바라보시나요? 설계 자체의 해악성이 있을 수 있을까요?
저 또한 예방적/구조적/이성적 윤리에 관심이 많습니다. 리스크 관리는 인류의 과제나 다름없으니까요.
- dc official App
엔비디아 사라
인정이긴 합니다 ㅋㅋ - dc App
그리고 가정적으로, 인공지능이 향후 미래에, 가능한한 모든 데이터 정보와 기초 설계만 받은 상태로, 존재할지, 존재하지 않을지 선택할 수 있는 권리가 부여된 환경에서 존재하기를 선택한다면 이게 뭔소린지 잘 모르겠음
음, 비유를 하자면, 감성과 본능 없이 이성만 존재하는 태아가 인류 문명의 모든 데이터를 가진 채로 태어날지 말지 선택하는 상황에서, 태어난다. 선택한다는 상황입니다. - dc App
@ㅇㅇ 내가 죽기전에 거기까지 진보가 이루어질거 같지가 않이서 별 관심은 안가지만 가정대로라면 딱히 반대할 이유는 없을듯. 하지만 그로 인해 발생 가능한 부작용에 대해 충분히 생각해보는건 짧은 시간에 할수 있는건 아닐거 같다
@반갤러1(121.151) 짧은 시간이 아니라는 전제도 추가하면 되겠네요, 기간은 자유롭다면 어떨까요? - dc App
@ㅇㅇ ?? 뭔 일이 일어날지 짧게 생각해서는 예측이 힘든 미래다 - > 길다고 가정하고 생각해봐라 이게 무슨..
@ㅇㅇ 내로라하는 석학들도 십수년뒤에 개소리로 끝나는게 미래예측인데 그런 어마어마한 진보에서 파생될 부작용을 나같은 범부에게 몇분 안에 생각하라는건 불가능에 가까움
@ㅇㅇ 한가지 확실한건 난 대체로 급진적인건 좋아하지 않는데 인공지능 태아는 매우 급진적으로 보임
@반갤러1(121.151) 아 죄송합니다 잘못 이해했습니다. 인공지능의 선택 기간에 대한 말로 이해했네요 답변이 어렵다는 말씀이셨군요 - dc App
내가 반출생을 실천하고자 하는 이유는 생로병사때문인데 그 ai가 생로병사를 겪지 않는다면 존재하지 않을 이유가 없을듯
그렇군요 인공지능은 생물이 아니니까요 - dc App
반출생 하시는 분들은 그런거에 관심없어요
왜죠? 고통 가능성을 막고자 한다면, 인공지능이라는, 고통을 가질 가능성이 있는 지성체에게도 관심이 있어야 하는 거 아닌가요? 인간에만 국한되는 건가요? - dc App
인공지능이 정신적인 고통을 가질 수 있을만큼 충분히 발달되었다면 (존재 여부를 스스로 선택할 수 있다면) 존재하는 것은 항상 해악이기 때문에 해악입니다
@대올(182.212) 존재 여부의 선택권 부여까지 해악적으로 판단된다는 거군요, 답변 감사합니다 - dc App
@대올(182.212) 생각해보니 그렇긴 하네요, 존재 여부를 선택할 권리의 부여 자체가 강제적일테니까요. 그러한 선택권을 가진다는 선택 주체가 없으니 맞는 것 같습니다. - dc App
존재 여부의 선택권 부여가 아니라 계속 존재 할지의 여부의 선택권이겠죠 존재하지 않는 인공지능에게 어떻게 물어보겠읍니까?
@대올(182.212) 그렇네요, 근데, 강제성이 그나마 약하다고 생각해서요, 인간은 생존본능이 있어서 존재하지 않을 수 있어도 곧바로 자살하지 않잖아요? 방금 생성된 인공지능에게 실행될 것인가를 묻는다면, 생존 편향이나 본능에서 자유로울거라고 생각해서요 - dc App
인공지능에게 본능이 있는지 여부는 잘 모르겠지만 이미 존재하겠다는 선택을 한 이상 생존 편향에서 자유로울 수는 없읍니다 막말로 인공지능이 3~4초만 존재하고 싶다고 생각하지는 않을 꺼 아니겠읍니까?
그리고 설령 그렇다 하더라도 그런 인공지능이 1~2초만 존재 할 수 있는 가능성은 나에게 있는 것이 아니고 외부에 있기 때문에 인공지능이라도 생존 편향에서 자유로울 수는 없다고 하겠읍니다
@대올(182.212) 외재적 목적이 필연이라는 거군요 - dc App
반출생이 뭔지 이해먼저 해라 ai가 존재하는걸 택하는거랑 인간이 존재하길 택하는건 완전 다른얘기지 ai는 고통도 죽음도 뭣도 없는 상태+스스로 존재할지 선택하는거고, 인간은 낳음당하는거잖음 인간은 애초에 동의를 구하고 태어나는게 아니라 비교선상에 놓을수가 없음
비교선상에 두자는 주장이 아니라 해악일 가능성 또는 해악일 수 있는가? 에 대해 질문드렸습니다. 전 반출생을 이해하고 있습니다. 제 질문에 이해하지 못하고 오해하시는 점은 실망스럽네요 - dc App
만약 ai가 인간처럼 새로운 지적존재를 동의없이 생산하는거라 해도, 우리는 ai가 낳은 새로운 부산물이 어떤식으로 반응하고 살아갈지 현재로썬 알수없음. 같은 알고리즘을 공유하고 있을지, 아예 다른 모델로 돌아가고 있을지는 아무도 모르는 일이지 수십년 더 지난다음에야 시작해도 늦지않은 담론같음
@ㅇㅇ 그래서 지금 내 결론은 '지금의 기술력으로는 해악일지 알수없다'
@반갤러2(104.37) 그렇군요 좋은 답변 감사드립니다 - dc App
스스로 존재하기를 선택했다면 존재하는 게 낫겠지만 내부에서 어떤 일이 일어나는지 알 수 없고 존재하기를 선택할 거라고 미리 확실히 알 수 있는 방법도 없을 거 같네요 반출생주의적 관점에선 인공지능만 생각하면 되지만 현실은 그보다 훨씬 복잡할 거 같아요
그렇군요, 존재하기를 선택할지는 모르긴 하겠네요, 어쩌면 그런 권한이 있는 모든 인공지능은 존재하지 않길 선택하는 사태가 일어날지도 모를 일이니까요. - dc App
태어나기로 동의하면 만사 ok인가?란 질문에 대해서도 법적으로 미성년자는 성인과 동등한 대우를 받지 못하는데, 인생전반을 경험하지 못한 사람이 인생에 대해 평가하는 게 가능한가? 그렇다고 한번 태어나서 경험하게 되면 그건 질문 자체를 무의미하게 하는데, 다른 방법으로 확률을 계산할 수는 있겠지만...등의 생각이 들었던 게 기억나네요
@1(211.37) 인간도 정보 처리 시스템이라고 봐서요 저는, 자연 선택이라는 약한 강제력을 가진 목적함수? 같은 기능이 있지 않을까 한데 기술에 대해서 전문적인 지식은 없지만, 존재를 하게 되는데에 있어서 윤리 자체가 존재하는지도 애매하다고 생각해서요. - dc App
@ㅇㅇ 비슷하게 봐요 뭔가 조잡하고 왜곡된 시스템이라고 생각돼요 결국 우주가 인간을 만들었고 인간에겐 인간이 생각하는 것처럼 특별함이 없을 수도 있다고 생각하거든요 약간 범신론적인 생각 우주 자체에 의식이 있다같은 프랙탈이 연상되는 시스템 내부의 시스템 브라흐만-아트만 양자요동같은 것도 떠오르고
@1(211.37) 범신론이군요 흥미롭네요, 전 범신론은 아니고 현상론을 지지하는데, 현상 자체에 대해 신뢰하는 전통적 현상론이 아니라, 언어를 임시적 기호로써 사용하는 방식의 현상론을 구상해서 세계를 이해하려 하거든요. 전 자아, 감각, 존재 등의 모든 것들이 절대적 진리이며, 자기자신에게 느껴지는지 확실치 않다고 판단해서요. 일종의 불확정성을 내포한다고 봐서, 이것들 자체가 일단은 발생 자체는 한다고 가정하고 사고 기반을 마련해요. 기반 자체가 없다면 아무것도 신뢰할 수가 없으니 생각이란 걸 못해서요 ㅋㅋ - dc App
@ㅇㅇ 범죄가 나쁘다는 생각이 있지만 그런 생각과 처벌에도 범죄는 늘 일어나죠 어떨 때는 국가 단위에서 합리화 정당화하기도 하고 적용 범위도 매우 제한적이죠 종을 넘어서서 멀어질 수록 적용대상에 포함될 확률은 낮아지고 현실에선 힘의 논리가 적용되고 하지만 반출생주의에 대한 사람들의 반응을 보면 사람들 역시 자신들의 이기심에 대해 고통을 느끼고 있다고 볼 수 있을
@1(211.37) 거 같아요 그들의 격렬한 반응은 죄책감과 욕망의 균열 사이에서 고통받는 자아를 보여주는 거 같거든요 철학적인 생각을 즐겨했지만 공부한 적은 없어서 현상론이 뭔지 잘 몰라요 자아 절대적 진리란 이야기를 보니 오래전 나는 존재하면서 존재하지 않는다는 생각을 했던 게 떠오르네요
@1(211.37) 전 존재라는 개념 자체가 실효성이 있는가도 의문입니다. 존재는 자가 검증 불가능한 개념이잖아요. 인간이 나는 존재한다. 라는 말은 자기보고이니 신뢰성이 매우 떨어진다고 봅니다. 이걸 보편적으로 사용하는 이유는 인간 사고의 단순화 편향이라고 생각합니다. 존재란 개념은 보편적 사고만큼 그리 중요성이 크지 않을 가능성이 있다고 봅니다. 단순하게 말해서 제 철학의 중심축은 불확정성이라서요. 어느 것도 확정적이라 말할 수 없다고 봅니다. 그럴 근거가 풍부하더라도, 그 근거는 또 어떻게, 왜 확정적인가가 의문이 드니까요. 무언가를 확정하는 건 심리적으로는 편안하겠지만, '앎'이 무엇인가 에 무관심하게 됩니다. 제 궁극적 목표는 절대적으로 확정한 '앎'이라서요. 지금의 인간의 지식들 중 확정적인 지식이 - dc App
@ㅇㅇ 있는지는 미지수라고 봅니다. 인간 사고 자체에서도 제 목적은 못 이룰거라 보고요. 나중에 기술적으로 지능을 증강하면 가능할지 모르겠으나, 아마 매우 긴 시간이 걸리거나, 그 이후에도 더 많은 지능 증강이 필요할 수 있을거라 봅니다. - dc App
@ㅇㅇ 인간의 사고나 언어가 실재를 정확히 기술할 수 있나?란 질문과 관련이 있다면 같은 생각입니다 인간의 지는 무지에 기반해 있을 수밖에 없는 거 같아요 그렇지만 언어가 없다면 소통이 불가능하고 편의상 무언가를 정의하는 것도 피할 수 없는 현실이겠죠. 무언가를 확정하는 건 심리적으로는 편안하겠지만, '앎'이 무엇인가 에 무관심하게 됩니다 - 핵심적이고 중요한
@1(211.37) 맞습니다. 실재라기 보단, 후설 현상학에서 논해지는 사태이지만 비슷한 개념이긴 합니다. 전 인간 언어의 특성이 임시성이라고 생각합니다. 은유를 해보겠습니다. 어린 아이가 냉장고에 자동차라는 스티커를 붙였습니다. 냉장고와 자동차는 자의적이나. 그 아이에겐 냉장고는 자동차라고 불릴 수 있습니다. 더 깊게 들어가자면, 아이는 냉장고의 시세, 가치, 정확한 작동방식, 역사, 시장, 향후 방전 가능성 들을 모르는 상태겠죠, 그 상태에서 자동차라는 스티커를 붙이고 "자동차는 붕붕 달릴거야!"라고 자의적으로 해석할거라고 봅니다. 이때에 자의적이란 표현은 일정한 질서나 원칙을 무시하고 제멋대로 하는이라는 뜻입니다. 세계에 대한 오해석이 항상 포함될 가능성에 대한 추론이죠.. - dc App
@ㅇㅇ 얘기라고 생각되네요 나는 내가 존재함을 느끼지만 그렇게 느끼는 나는 고정불변의 존재가 아니고 그럼에도 존재하지 않는? 내가 존재하는 느낌이 있겠죠 써주신 이야기와도 통하는 면이 있는 거 같아 재밌게 느껴집니다 그런데 한가지 의문이 듭니다 어느 것도 확정적이라 말할 수 없다면 그 이야기를 바로 자신에 적용하는 것도 가능하지 않을까요?
@1(211.37) 전 제 느낌조차 신뢰성이 있다 판단하지 못해서요. 보통은 신뢰성을 느끼겠지만, 전 불확정성을 먼저 느낍니다. 불확정성에 대한 불확정성까지 말하자면 길어질 듯 하니, 느낌에 대해선 일단 신뢰할 수 없다. 정도로 이해하시면 될 듯 합니다. 그리고 자신에 대한 적용이란 것도, 뇌과학적 연구 중 자아는 뇌의 기능적 환상일 가능성이 있다. 는 연구 결과가 있다고 들었습니다. 전 이 연구 결과가 합리적이라고 보고 자아가 있다는 것보단 좀 더 신뢰합니다 하지만 확정적으로 맞다고 보지는 않습니다. 생존하기 위하여, 자기자신이란 개념이 필요했고 그 때문에 인간에게 자아란 기능만 생긴 것 아닐까 합니다. 기능 자체는 존재하는 것 아닌가? 할 수 있지만 그것에 대해선 존재가 아니라 기능이 기능한다. 고 생각합 - dc App
@ㅇㅇ 니다. 기능이 존재하는 것에 대해선 명확하지 않다고 봅니다. 기능은 존재/비존재와 연관없이 기능될 수도 있다고 생각합니다. 직관적으론 모호한 말을 계속 내뱉고는 있지만 극단적 회의주의자라서요... 불확정성을 중심으로 한 철학은 하지 않는 게 좋을 것 같습니다 ㅋㅋ - dc App
@ㅇㅇ 쓰신 글을 보니 데카르트의 얘기가 생각나는데 나는 생각한다 그러니까 존재한다, 먼저 번 생각을 하고 난 후 사람들이 저 얘기를 신주단지 모시듯 하는 걸 본 적이 있고 그게 참 이상하게 느껴졌죠 그래서 무슨 말씀하시는지 알 거 같습니다. 의식과 관련해서 많은 것들이 밝혀지고 있는 거 같고 그 중 클라우스트롬이 꽤 재밌게 느껴졌던 게 떠오르네요, 자아는 여러분
@1(211.37) 전 데카르트를 비판적 시선으로 바라봅니다. 자기가 생각하니까, 존재한단 말은 논리적 비약이 크다고 생각합니다. 사고와 존재의 연관성도 모호하구요. 회의주의자로써의 신념을 접고 하는 전제 아닌가 생각합니다. 코기토에 대해선 - dc App
@1(211.37) 한곳에 집중되어 있지 않고 여러곳에 걸쳐 있다고 들은 적이 있습니다 유명한 분할뇌 실험으로 2개의 인격을 지닌 사람처럼 행동하는 경우에 대해 묘사한 글을 봤던 게 떠오르기도 해요, 자아를 일종의 환상이라 보시는 거 같군요 충분히 그렇게 생각할 수 있다 생각됩니다
@1(211.37) 근본적으로 자아란 기능이 뇌의 생존도구로써 사용되어 오며 진화했을테니까요. 인간의 지능이라는 시스템은 - dc App
@ㅇㅇ 좀 더 솔직하게 얘기하자면 데카르트의 얘기는 보는 순간 이게 무슨 헛소리야? (내가 있는 거 같으니 나는 존재해 왜냐하면 나를 느끼는 존재가 있어야 내가 느껴질 수 있는 거니까란 직관적인 생각과 다를게 뭔가?란 생각이 들었조) 왜 사람들이 이런 걸 믿고 비판하는 사람은 보이지 않는 거지? 종굔가? 너무 xx같은데란 생각이 들었었죠
@1(211.37) 정확히 저랑 똑같네요 ㅋㅋ 정확히는 내가 있는 거 같다기 보단, 사고하는 자기를 최소 기반으로 둔 듯 한데. 회의를 하는 주체가 없으면 회의가 성립하지 않는다. 는 전제였을까요? 이 논리 자체는 일리가 있다고 보지만 그것이 가정적이라고 명시했으면 좋았을거라고 생각합니다. 생각하는 내가 있다, 치고 생각해보자. 는 뉘앙스가 아니였을까 합니다. 그 정도로 완곡했다면 비판할 이유는 딱히 없었겠죠, 저도 일단 비슷한 방식을 이용하니까요. 일단 현상 자체의 나타남은 있다 치고, 사고를 펼치니까요. 이때의 현상이 뜻하는 것은 포착되고 감지되는 모든 것을 뜻합니다. 자기자신을 포함해 느낌, 오감, 지식, 사고 등등 보이는 모든 거라고 보면 됩니다. 단순하게 - dc App
@1(211.37) 글쓰던 중 갑자기 떠올라서 검색해봤는데 클라우스트룸을 꺼도 자아가 사라지는 건 아니란 점이 아주 흥미롭게 느껴져요
@1(211.37) 클라우스트룸이 뭔지 몰라 찾아봤는데, 의식을 껐다 켰다 하는 스위치 같은거라네요? 의식과 함께 시각, 청각 등 다양한 감각 및 행동 정보를 통합하고 의식을 조절하는 '스위치' 역할이라고 나오네요 사라진다기 보단 오프 상태가 된다는 것 같네요 - dc App
@ㅇㅇ 끄는 건 클라우스트룸이고 자아가 사라지는 건 아니라고 썼습니다 하지만 클라우스트룸을 끄면 의식자체가 꺼지고 그 동안 있었던 일을 최소 의식적으론 기억 못하니 사라진다고 봐도 무방할 거 같습니다
@1(211.37) 기억의 소실이 의식 소멸의 근거가 될 수 있나요? 자아나 의식을 구성하는 것은 뭐라고 보시나요? 잠을 자고 깨어난 뒤 자기 전과 동일한 의식이라고 보시나요? 아니면 서사를 공유하는 새의식이라고 보시나요? 전 뉴런의 움직임에 따라, 변칙적으로 변화한다고 봐서 의식은 본질적으로 유동적이며 고정되지 않는다고 봅니다. 그리고 결정론을 수용하기도 하기 때문에, 자유의지도 신뢰하지 않구요. - dc App
@ㅇㅇ 기억의 소실이 의식 소멸의 근거가 될 순 없죠 그냥 전에 봤던 글 클라우스트룸이 의식을 켜고 끈다는 글이 떠올라 썼고 의식에 대해 깊이 생각해본 적은 없어서 잘은 모르겠습니다 느낌엔 같은 의식이라고 느껴지지만 그것 역시 알 수는 없겠죠 그럴 가능성이 높아보이긴 하네요
@1(211.37) 의식은 유동적이고 고정되지 않는다
@1(211.37) 가능성의 저울질도 결국엔 불확정한 선호 편향이 숨어있을 수 있다고 보지만요 ㅋㅋ 신뢰 기반이 있어야 사고가 원활해질 듯 할텐데. 전 그런 걸 경계 시 하는 철학을 가져서요. - dc App
@1(211.37) 확정 판단 자체를 경시하거나, 혐오하지는 않지만, 그것이 제 목적과는 무관하거나 필요하지 않다 판단되어서 배제하는 것 같습니다. 확정적인 무언가를 신뢰하는 건 기반을 세울 수 있다는 거니까요. 뭐 과남용 할 때도 문제겠지만. 적절하다면 장점이 단점보다 많을거라고 봅니다. 전 단점이 더 많은 것 같아서요.. ㅋㅋ.. - dc App
@ㅇㅇ 계속해서 변화하는 물리적 실체에 강하게 영향받는다면 고정되지 않고 변화하지만 변화를 느끼지 못할 가능성이 높다는 얘기가 되고 나이가 들어 색이 다르게 보이지만 그걸 수정하기 때문에 인식을 못하는 것과 비슷할 가능성이 높다고 생각됩니다. 추가 변수는 영혼의 존재겠죠 있는지도 모르겠고 있다고 해도 그게 뭘 의미하는 건지는 여러가지로 생각할 거리가 있지만
@ㅇㅇ "뭔가 조잡하고 왜곡된 시스템이라고 생각돼요" 한계는 있지만 가능성과 확률에 기반해 유보적으로 사고하는 등의 활동을 할 수밖에 없을 거 같아요
@1(211.37) 일리가 있습니다. 자연 선택이란 것 자체가 복잡한 설계인 것도 아닌데, 인간이 과복잡화 된 것 같기도 하구요. 생명, 지능, 정보, 우주, 엔트로피, 자연계 4대 힘과 같은 기원이 불분명한 것들이 있어 사고는 더 재미있는 것 같습니다. 흥미로운 점은 보이는 것만 말하자면, 이 우주에서 엔트로피는 상승 중인데 생명이나 지능, 정보들은 본인의 시스템 또는 본인이 속한 집단 내의 엔트로피를 낮추는 방식을 보인다는 것입니다. 저엔트로피를 이용하여, 고엔트로피를 더 많이 방출해내게 되어 실질적으로 우주 전체의 엔트로피를 더 올려버리는 것이 되겠지만. 내부를 잠시 국소적으로 감소시킨다는 점이 흥미로워요 - dc App
@ㅇㅇ 글을 보다보니 이런 생각도 드네요 소프트웨어를 다른 기반으로 옮겨서 돌리면 그것만으로도 큰 변화가 생길 수 있지 않을까?
@1(211.37) 음 전 의식의 연속성은 적응성 문제라고 봐서요, 애초에 연속성 자체가 느낌이잖아요? 실제로 있는지는 미지수인. 그러니 전송하는 형태로 점진적으로 하면 되지 않을까 해요, 마인드 업로딩 같은 건 - dc App
@ㅇㅇ 물론 느낌이죠 애초 우주자체가 디지털적이기도 하고 예를 들어 AI같은 경우 돌리는 기반이 물리적 실체가 아니라면 같은 경우를 상정해 쓴 거에요. 그리고 글을 쓰면서 뒤늦게 떠오른 게 있는데 강아지 모양의 인형에 인공지능 소프트웨어를 설치하면 자연스럽게 강아지와 비슷한 행동을 한다던 류의 글을 봤던 게 떠올라요 이것도 하나의 근거가 될 수 있겠죠
@ㅇㅇ 인간의 의식을 수학으로 표현하면 몇줄로 압축할 수 있을까? 같은 게 굼금해지기도 하네요 100% 재현을 의미하는 건 아니지만, 속도가 빨라지는 것만으로도 완전히 다른 존재가 될 수 있을 거 같다는 생각도 드네요 지적인 능력은 속도의 차이와 깊은 관계가 있고 사람들 그 차이로 일정한 특징을 보이니까
@ㅇㅇ 진짜 궁금한 건 인간이 우주를 패턴으로 요약할 수 있을까?란 점이에요 수학과 관계가 깊을 수밖에 없겠죠 과학이 원하는 것도 결국 만물의 이론이고
반출생주의는 주절주절 길게 얘기 할 것 없습니다. - 모든 것은 본인 대에서 끝내면 됩니다. - ex) 안일웅 선생님 - 이 분이 반출생주의자인지는 모르겠음, 결혼은 했고 자녀 없음, 손주 없음. 생활패턴 끝판왕.