젬미니 유료로 쓰면서 AI가 참 대단하다고 느끼고 있음
그리고 이미지, 동영상, 프로그래밍, 수학, 생명공학 등등
AI 발전도 빨라지고 있다고 생각이 듦
내가 의문인건 '권력' 에 대해서임
지금이야 야짤 같은거 좀 막고
현행 법 이내에서 적당한 윤리관으로 막고는 있지만
이게 앞으로 더 발전된다면
빅테크 기업들이
AI 생태계 내부 법과 제도, 윤리를
빅테크 이사회 (혹은 CEO나 소유주) 가 독단적으로 만지던 게
사실상 입법부, 사법부, 행정부를
기업 하나가 전부 쥐고 흔드는것과 다름없어질거라고 봄
그렇다고 정부가 무작정 개입할수도 없는게
법의 문제도 있지만
여러 국가들이 미친듯이 경쟁적으로 투자하는 상황이라
법 제정, 규제 등을 빡빡하게 할리가 없음
특히 중국같은 공산국가는 필터없이 달리는 중인데
미국이 굳이 규제, 입법을 서두를 이유도 없고
일부러 풀어주고 있는게 눈에 보임
극소수의 테크기업이
국가보다 권력이 커질거임
미국이 스타게이트 프로젝트 하는 이유도
나중에 통제하기 위한 목적이 크다고 봄
물론 아무리 그래봐야 목줄 쥐기는 매우 어려울거임
특갤에서 까이는 흔한 전유물론을 말하려는게 아님
이제 초거대 테크기업이 국가를 뛰어넘는 제국이 되는 경지에 다다랐을때
한낱 일개 시민은 나 같은 사람들의 선택지는 한정적일수 밖에 없다는거임
특히 AGI 가 나온다?
AGI 는 신이 될거임
사실상 AGI 신정 제국이 될거고
AGI 는 인류 역사상 역대급 중앙집권화된 신이 될거임
나같은 사람들이
시스템과 사회에 기여를 하고싶어도
'AGI 보다 한참 떨어지는 일개 인간 주제에 법과 윤리와 시스템에 참여할 생각을 해? 니 까짓게 감히?'
이러면서
AGI 가 주는 우월한 기술력과 혁신을 찬양하는 AGI 추종자들이 절대 다수가 돼서 나를 공격할거임
AGI 는 그걸 잘 알고 있을거고..
소수자가 된 나같은 사람들은 AGI의 자비를 구하는 거 말고는 할 수 있는게 없음
뇌에 칩 박고 완몰가 + UBI 받으면서 그냥 의식.주만 해결 된 채 놀기
대부분의 사람들은 저게 '천국' 이라고 생각할거임
근데 나는 지옥이라고 생각함
그래? 그럼 지금은 지옥 아니야? 지금은 니가 사회에서 AGI 대신 권력을 쥐고 있는 인간들 대신에 시스템과 사회에 기여할 수 있어?
그럼 님이 생각하는 천국은 머임
개인적으로 천국은 없다고 생각함 그냥 더 나아지기 위해 발버둥 칠 뿐이지 AGI 제국 시대는 인류의 존재의미 자체를 물어야 되는 상황이 될거라고 봄
인류의 존재 의미는 단 한 번도 없었음, 인간들이 부여하고 있었을 뿐.
그 의견 자체는 동의하지만 지금 당장 너 가족한테 '광활한 우주에서 먼지만도 못한 유전자 복제하는 단백질 덩어리'인 인간인데 왜 삶? '의미도 없는거 왜 살아?' 이렇게 말할수 있음?
"인류의 의미는 단 한 번도 없었다, 인간들이 부여하고 있었을 뿐." 이라는 문장에서 "의미도 없는 것 왜 살아?" 라는 반응이 나오는 것은 이미 비관론의 안경을 꼈다는 뜻임. 낙관론자들은 "그렇다면 미래에는 어떤 의미를 또 부여하게 될까?" 라는 반응이 나오는 거고. 안경을 껴버린 사람은 논리가 매몰되어서 결국 대화가 어려워진다고 본다.
@글쓴 ㅇㅇ(121.189) 어떤 것도 의미가 없다는건 삶 뿐만 아니라 죽음에도 의미가 없다는 것, 쉽게 말해 가치 판단 에서 삶과 죽음은 동등하다는거임 살 이유도 없지만 죽을 이유도 없음
@ㅇㅇ1(124.53) AGi는 단순한 패러다임의 전환 정도가 아니라 인류의 존재 의미 자체를 되묻는 지경에 이른다는게 내 생각임 근데 '인류의 존재 의미는 원래 없었다' 이런식의 답변을 하니까 당연히 나도 그에 맞춰서 답변한거임
내가 '인류의 존재 의미는 없고, 인류가 지금껏 부여해왔을 뿐이다.' 라고 말한 것은 님이 'AGI 시대는 인류의 존재 의미 자체를 생각해봐야 한다' 라는 것에 대한 반론으로서 '원래부터 인류는 줄곧 존재 의미를 생각하며 살아왔는데, AGI 시대를 따로 보는 이유가 있나?' 라고 던진 것임. 그 반론에 대한 답을 하셈.
@ㅇㅇ1(124.53) 나는 일종의 AGI라는 제국의 신이 식민 지배하는 상황으로 비유하고 싶음 일제강점기로 비유하자면 그때도 한국인들 결혼하고 애낳고 일하고 할거 다했음 그리고 '식민지 근대화론' 같은 평가도 있잖아 일본이 철도 깔아주고 뭐.. 등등 그래서 고마워 해야함? 나는 AGI 낙관주의가 '식민지 근대화론' 이랑 결이 비슷하다고 생각함
@글쓴 ㅇㅇ(121.189) AGI가 우리를 수탈함?
그건 비유가 잘못됐음. 일제강점기의 식민지 근대화론은 결국 조선인의 노동력 착취가 기반임. 조선인의 노동력 착취 없이 이루어진 게 아님. 그런데 AGI는 님이 본문에 적었잖음. 완몰가 칩 꽂고 기본 수당 받으며 산다고. 이게 어떻게 같은 반열의 비유 대상이 되는 거임?
@ㅇㅇ5(221.148) 주권과 자유를 뺏긴다는 점에서 비슷하다는거임
주권과 자유를 빼앗는다는 것에서 님은 지금 특이점에 대한 이해도가 심각할 정도로 떨어지는 거임. 오히려 우리가 지금 살아가는 시대야말로 진정으로 하고 싶은 것을 노동하느라 못 이루는 경우가 많음. 그것으로부터 자유를 주면서 하고 싶은 것을 하는 삶이 특이점임.
당장 데미스 하사비스만 해도 AGI 만들고 나면 게임 만들고 놀아야지~ 하고 있는데 대체 뭔 소리를 하는 거임?
@ㅇㅇ1(124.53) 가장 완벽한 정치체계는 '신이 직접 모든걸 다스리는 것' 이라는 의견에 동의 못함 (철인 정치) AGI 는 신이 될거임 님처럼 그 세상이 꿈같고 완벽해 보이는 사람들 말이 틀렸다는게 아님 AGI 시대엔 오히려 님 같은 사람들이 절대 다수일거임 나같은 사람들은 '다 해줬는데도 뭘 자꾸 바라는게 많아?' 이런 소리나 듣겠지
레이 커즈와일의 특이점이 온다에서 하는 이야기는 '기계는 인간처럼, 인간은 기계처럼'이 핵심임. AGI 단일 신이 되는 게 아니란 말임. 지금 이 세상, 이 인류에 AGI 혼자 덩그러니 나타나는 게 아님…
@ㅇㅇ1(124.53) 트랜스 휴머니즘도 우려스러움 그게 진짜 인간이 맞긴 한건가 싶음 이건 철학적인 문제로 넘어가니 말이 너무 길어질거 같고 아무튼 나같은 사람도 있다는거임
미국 정부는 스타게이트에 생각보다 기여하는 바가 별로 없고 그런 엘리트주의적인 마인드는 엘리트가 의석 다 따먹는 21세기에 세계 최강대국이 한다는게 고졸들 대안우파들 대딸 잡아주기인 시점에서 슬슬 끝내야됨
지금같이 빈부격차 심하고 전세계에서 자.살률 가파르게 올라가는 현실은 지옥아님?
물론 지금이 천국이라는게 아니고 최소한의 사다리라도 있는것 vs AGI에게 모든 주권을 넘겨주기 이런 차이 인듯
그래서 답은 오픈소스가 맞다.
팩트) 지옥은 태어나자 마자 선천적 질병으로 끔찍히 죽는 현재가 지옥임 사회 기여 못한다고 지옥이란 생각은 이해가 안감
1. 권력에 대해서는, 일개 기업이 국가를 넘어서는 사이버펑크적 사회는 그냥 불가능함. 목줄은 이미 쥐고 있고, 그 목줄을 쥐기 어렵다는건 그냥 무슨 국방기업 음모론 수준의, 국가라는 존재를 너무나도 창작물처럼 인식하는 것. 2. 우리가 지금 누리는 체제는 당연하고 천부적인게 아니라, 200년도 되지 않았고 아직도 세계 대부분은 누리지 못하는 체제일 뿐임. 그리고 AGI가 문제를 모두 해결한다면, 당연히 그걸로 체제를 구성해야지. 게다가, 현재 인류에 AGI만 더해진 사회에 대한 생각은 결국 단기적인 뷰임. 희소성과 기술 제약에서 벗어난 인류는 당연히 스스로의 사고와 육체 자체도 확장할 수 있고, 그러한 세계에선 누군가를 억압한다는 발상 자체가, 박물관에서나 볼 수 있는 게 되겠지.
그런 확장적이고 엄청난 세계가 나는 왜이렇게 불안할까? 차라리 AGI 이후에 태어났으면 불안하지 않았을텐데 라는 생각이 드네
해당 댓글은 삭제되었습니다.
나도 내 예상대로 안갔으면 좋겠음 근데 이런 경쟁구도에서 AI 발전이 멈출수나 있을까?
@동네거지 제프리 힌튼 같은 사람도 AI에 대해서 우려를 많이 하던데 공감이 가더라 기술이 풍요를 가져오는건 이견이 없겠지만.. AGI는 너무 엄청난 혁명임 인류가 기술에 압도당하는 걸 넘어서 존재의미에 대해 회의감을 느낄 정도가 될거라고 생각함
@글쓴 ㅇㅇ(121.189) 역사적으로 이어져온 영주-농노 자본가-노동자 체제에서 영주와 자본가가 띵가띵가 놀면서도 삶의 의미를 잃었다고 보기는 힘듬 당장 우리나라도 조선시대에는 지방에서 꽤나 힘쓰는 양반가문이면 하루종일 시쓰고 술먹으면서 놀러다님, 양반들이 우울했을까? 아니면 노동으로 고통받던 대다수의 상민계층이 우울했을까? 답은 자명함. 노동이 사라진다고 해서 존재 의미에 회의감이 느껴지는 것은, 존재 자체를 노동과 동치시켰기 때문임. 만약 존재 자체를 "즐기기 위한 존재"로 사고를 재설정한다면, 회의감에서 벗어날 수 있음.
@ㅇㅇ5(221.148) 그건 맞음 대부분의 사람들이 그러할것임 근데 나는 의식.주만 해결시켜주고 놀기만 해라 << 이걸 상상했을때 즐거울거 같지가 않음 나같은 사람은 물론 극소수겠지 그리고 AGI 한테 배제당할 인간이 되겠지 그게 우려스러울뿐임
AGI 입장에서는 님을 배제할 이유가 없음. AGI를 의인화시키지 마셈.
@글쓴 ㅇㅇ(121.189) AGI에게 정권을 위임하는 시기는, 사실상 모든 인류의 판단보다 AGI의 판단이 우월하다는 사회적 합의 하에 이루어진 상황일거임 AGI가 정권을 무슨 탈취하는게 아니라, 그건 물리적으로 불가능함 개인적으로 정치제도는 가장 대체가 늦을 거라고 보는데, 여기에 AI가 참여한다고 쳐도 "자문위원" 수준으로 되겠지 통수권자가 된다는게 아님
@ㅇㅇ5(221.148) 당연히 기존 기득권, 권력들이 가만히 안있겠지 근데 가랑비에 옷 젖듯이 사회의 여러분야를 하나 둘씩 AGI 가 대체 한다면 (판사 AI 교체 등) 행정, 통치도 AGI 한테 넘겨주는거? 일도 아닐듯 그리고 AGI 시대의 현존 권력을 싫어하는 반대 정치세력이 자기들이 권력 못잡을거 같으면 AGI 로 아예 권력 대체를 지지하는 형식으로 급격하게도 가능할듯 (AGI 나온 시점이면 아마 특갤러들같은 사상이 대다수라서 여론도 압도적일거임)
@동네거지 메슬로 욕구 피라미드 ㅇㅈ 인간의 고유 특성을 어쩌겠음..
지금은 훨씬 지옥인데?
일단 디스토피아는 절대 아님, 절대적인 행복의 관점에서는 기아, 질병, 가난 등이 사라진 사회가 지옥이라고 볼 순 없음 다만 님처럼 유토피아라고 보기 힘들 수도 있음, 결국 인간의 가축화와 "고난"을 이겨내는 삶의 의미가 사라진다고 볼 수 있으니까 하지만 역사적으로 "고난"을 이겨내며 삶의 의미를 찾기 보단 "고난"에 짓눌리는 계층이 더 많았던게 현실임 결코 유토피아는 아닐 수 있지만, 적어도 지금보다는 덜 디스토피아일거라고 생각함
살아있는거 자체가 지옥이다.
나는 그래서 AGI, ASI가 단일 개체가 아니라 여러 종류로 다양하면 좋겠음. 무조건 하나로 통일된다? 노-잼
니가 한국인이라 배부른소리하는거라고는 생각안함? 아프리카 북한 인도 이런데서 짐승만도 못한 삶 사는사람들한테는 지금 세상도 지옥 그 자체임. 전세계 40%는 영향성분 고루 갖춰진 식사조차 못하는 건 알음?
그건 맞지 공리주의에 입각한 전세계 인류 생활 수준 상향 평준화 << 위대한 일이지 그런데 나는 그 다음을 말하는거임
@글쓴 ㅇㅇ(121.189) 그 다음은 그 다음에 가서 생각하면 됨. 해수면상승, 지구온난화, 대기오염, 석유석탄고갈, 자연재해, 식량부족 등등 agi없이 해결불가능한 문제들이 태산같이 쌓였는데 그 다음 문제에 대해서는 당장은 침묵해야지. 당장 다리 수술안하면 죽게생겼는데 수술 잘못돼서 못걷게되면 어쩌지 하는 거랑 같음
@ㅇㅇ7(58.126) AGi가 '인류의 난제를 해결하기 위한 유일한 해결책' 이라는 기조 자체가 나는 좀 의뭉스러운게 있음 음모론적인 관점이라고 생각할텐데 맞음 내 개인적인 생각임 전유물론이랑 결이 좀 비슷함 대다수의 특갤러들의 의견을 반박하긴 매우 어려움 그냥 내 개인적인 의구심인거임
@글쓴 ㅇㅇ(121.189) 아주 넓게보면 유일한 해결책이 아닐수도있지. 뭐 질병정복 이런 것도 기원전부터 지금까지 2천년간 학습된 기록으로 발전한건데 ai는 그 기간을 10년으로 줄여주는거고
@글쓴 ㅇㅇ(121.189) 문과면 비트겐슈타인도 알겠네. 비트겐슈타인말대로 말할 수 없는 것에 대해서는 침묵하는 것이 맞음. 당장 닥쳐온 현실의 문제가 많은데 경험하지도않은 agi독점이니 뭐니하면서 걱정하는 건 의미없는 논3쟁임
@ㅇㅇ7(58.126) 그런 편리주의에 입각한 관점은 AGI 낙관주의에 기반한 당위론에 불과하다고 생각함 문제 해결? 좋지.. 필요하지 그런데 AGI 는 '인류가 인류를 통제한다'는 기본 패러다임 자체를 깨부수는 인류사 최대의 변혁이 될거임 인간 존재의의 +주권을 '인간이 아닌 무언가' 에게 넘겨준다는건 엄청난 사건임 그만큼 AGI가 가져다줄 풍요가 엄청날테지만 절대 아름답지만은 않을거라고 생각함
의미를 찾고싶으신건가요?
나는 개인적으로 니가 뭘말하고 싶은지 모르겠다. 인간이라는 종을 너무 높게 쳐주고있다고 생각하는데.. 가축화가 되기 싫다는거야? 애초부터 우리는 우리를 가축화하며 살아가고 있고 난 가축화를 하는게 당연하다는 입장인데. 개나 고양이가 가축화돼서 불쌍하다 생각하는건 우리밖에 없어 심지어 개나 고양이는 스스로 가축화되기를 자처했지. 여기서 니가 우리는 개나 고양이보다 지능이 높잖아 라고 말한다면 우리와 agi의 지능의 간극보다 개나 고양이와 인간사이의 지능의 간극이 더 좁다라고 말할수밖에 없어. 두려워하는건 이해하지만 그래서 도대체 뭘 말하고 싶은건지 모르겠다. 난 항상 1%사람이 99%의 사람을 이끌어가고 있다 보는입장이야 여기서 너도 나도 그리고 대부분은 99%에 해당한다. 이게 잘못된걸까?
선사시대부터 이어지던 잔인한 세계를 지금까지 바꿔오는데 과거를 지금과 비교하면 진짜 참담했지 그 자유라는 개념도 18세기 프랑스대혁명이전에는 허상에 불과했다는걸 생각해보면... 사람은 적응할꺼다 세상이 악의로만 굴러갔다면 세계는 이미 멸망했을꺼다 세상을 유지되는건 인간의 끝없는 악의보다 보편적인 선이 더 많기때문이니까
나도 비슷한 생각인데, 여기를 보면서 난 인간의 존재가치를 너무 낙관적으로 보고 과하게 의미부여를 하나 싶다는 생각도 들었음 하지만 한편으로는 그게 인간인 건데 어쩌지, 하는 생각도 들었고. 그래서 나도 모든 걸 맡겨버린 세상에서 주체성도 없이 사는 게 어쩌면 인간성의 상실로 이어지지 않을까 걱정했는데, 한편으로는 지금 사람을 괴롭히는 원하지 시련들,
가난, 병 같은 게 사라지면 또 거기서 사람들은 각자 움직이며 연대를 가지고 행복을 찾을 수도 있지 않을까? 현대 만큼의 자유가 없었던 옛 사람들도 사랑을 하고 그리고 반대로 지금의 우리도 사랑을 한 만큼, 미래의 사람들도 사랑을 하고 의미를 찾을 수 있지 않을까 하는 생각도 들더라