우리들이 지금 사회에서 자리하고있는 위치
그대로 피라미드 계단만 더 가팔라지는거임...
무슨 특이점이 만능치트키마냥
모든걸 해결해줄거다 라는 유토피아적 발상을
하고있다면 특이점의 과학적 가능성보다는
현실도피를 하고있다고 보는게 맞는것같은데
난 특이점이 온다면 경쟁은 심화될거라고 보고
도태된 사람은 더욱 도태될거라고 본다...
최소 엄청난 기술발전으로 자원의 가치가 제로에
수렴하지않는한
그대로 피라미드 계단만 더 가팔라지는거임...
무슨 특이점이 만능치트키마냥
모든걸 해결해줄거다 라는 유토피아적 발상을
하고있다면 특이점의 과학적 가능성보다는
현실도피를 하고있다고 보는게 맞는것같은데
난 특이점이 온다면 경쟁은 심화될거라고 보고
도태된 사람은 더욱 도태될거라고 본다...
최소 엄청난 기술발전으로 자원의 가치가 제로에
수렴하지않는한
솔직히 너무 낙관적인 애들 많은듯
특이점이 뭔지 모르시는거 같은데
특이점이 온다해서 모든 자원의 가치가 바로 제로에 수렴할만큼 저렴해지는게 아니잖아 얼마나 기다려야할지 아무도 모름 그리고 제로에 수렴한다해도 기득권 유지를 위해 돈이랑 이름만 다른 재화를 만들고 자원은 통제될거라보는게 맞지않나싶네
모르는 거 맞네
ㅋㅋ... 그럼 니가 생각하는 특이점이 뭔지 한번 설명해줘 난 이런 대화가 재미있음 내가 몰랐다면 배워가는것도 좋은거고 지금 너처럼 아무 근거없이 주장만 하는 대화는 서로에게도 시간낭비아닐까
닉값하시네요
왜 화난거냐...;;
??? 기분나쁘셧다면 ㅈㅅ
맨 마지막 문장이 플래그노 ㅋㅋㅋ
언젠가는 올거라고 보는데 그게 너무 오래걸릴것같음...
해당 댓글은 삭제되었습니다.
왜 이게...? 어느정도 비판적 시선을 가져라 아무튼 유토피아다는 너무 낙관적임
애초에 모든걸 다 해결하는 초지능의 탄생이 특이점이예요 아저씨...
인공지능의 지적 능력이 인류 최대의 지적 능력을 뛰어넘는 순간이 기술적 특이점의 시발점이다. 다시 말하지만 특이점은 만능이 아님 도라에몽도 아니고 그건 그냥 과학만능주의일뿐;; 단순히 인간이 연구실에 박혀서 연구하고 논문쓰는것보다 인공지능 하나가 모든 분야에서 더 뛰어나 발견이나 개발이 빠르게 되는 순간부터 특이점인거임.... 결론적으로 특이점이 와도 연구는 계속되며 넌 그걸 기다려야한다는거지 이렇게 만능론으로 받아들이면 자기합리화말고는 더 안됨
이러니 구글에 특갤 연관검색어로 백수가 나오지
아직 일은커녕 대학 얼마 다녀보지도 못한 응애라 이런 주제로 사람들이랑 이야기하면서 심심할때 시간 때우는게 취미임...
제발 이런글 쓰기전에 특이점이 온다 책 한번만이라도 읽어봐라
주문해서 기다리고있긴한데 열심히 정보 찾아서 오기전까지 요약본이나 여러가지 보고있음 전문적 지식을 가진게 아니라 좀 어렵기도하고 솔직히 어느정도 비판적인 시선으로 걸러들은것도 있긴한데 애초에 책에서 말한 인간 근본적 문제들을 해결하기까지의 과정에서 걸리는 시간이란게 제일 중요한거잖아 현실적으로는 그 과정에서 걸리는 시간이 절대 짧지는 않을것같은데 그리고 글쓴이 엄청 낙관주의적으로 보시는 분 아니냐? 저 책에서 나온대로 엄청 근시일 내에 시행되기는 어려워 보이는데
책을 읽어보면 현실적으로 근시일내에 특이점이 오겠구나 납득 가능할거임
특이점이 온다는것에 부정할 생각은 없는데 나도 10년 20년내에 오면 좋다고 생각중임 근데 만약 특이점이 온다해서 위에 계신 분들의 생각이 갑자기 변해서 유토피아가 되는건 아니잖아... 자원의 가치가 0에 수렴하지않는 이상이라는 조건도 그래서 걸어둔거고 모든 자원을 0의 가치로 또는 근사치로 로스없이 뽑아내려면 일단 지금 있는 상식을 다 갈아엎어야하는데 이게 연구되는 기간만해도 상당할거라고 보고 발전된 ai여도 결국 결정권자는 인간 특히 지배층인데 지배층들이 본인들이 피지배층을 통제할수있는 수단인 재화를 내려놓을려할까?
특이점을 좀 낮게 보는 듯. 물론 사람마다 특이점에 대한 의견이 좀 다를 순 있는데, 어....일단 머스크는 재화의 가치가 엄청 줄어들어서 UBI가 기본이 아닌 풍요소득이 될 것 같다고 예측하긴 함. 알트만도 생산성이 엄청나게 증대될거고, 전기세도 핵융합과 기타 기술발전으로 해결 가능할거라는 입장. AI가 발전하는 만큼, AI가 도와주는 모든 분야의 모든 기술도 AI처럼 지수적으로 발전할거라는 거라.... 특이점이 단순하게 매우 좋은 AI가 만들어진다....고 생각하면 그럴 수 있는데, 특갤에선 보통 인간이 상상할 수 없을 수준까지의 기술이 발전된 걸 말함. 그러니까 네 발언은 특붕이들이 보기엔 과도기 이야기인거지.
음... 뭔 느낌인지 알것같음 내가 좀 아예 다른 맥락에서 이야기를 하고있엇네 근데 항상 재화는 고정된 가치가 아니라 내가 남보다 더 많이 가지고있다는 것에 대한 경쟁적 가치라고 보는데 만약 그정도의 특이점이 온다고해도 이 경쟁적인 남보다 더 가진다 라는 근본적인 인간욕망이 해결될까 싶은거지...
과거에는 당장 배만 안곪고 위험한 상황에서 살지않으면 행복한 삶이라고 생각했지만 지금에와서는 두가지 조건만으로는 행복이라는 조건이 충족이 되지않잖아 뭔가 그게 당연한게 되버리니 그건 평균값이고 +@를 챙겼을때 행복이라는 가치가 실현되는거라고 느끼는 사람들이 많아졌고 행복이 상대적이니 그만큼 그런 재화 , 자원등이 기본적인 평균값이 되어버렸을때 그때 가서 사람들이 그것만으로 행복할까? 그때가서는 또 남들과 나를 구별할수있는 다른 위치에 올려둘수있는 무언가가 생기지않을까싶다는거지... 그런 의미에서 몇몇 갤러들의 재화는 없어질거다 무조건 인간이라는 가치만으로 무한에 가까운 권한을 가질거다 같은 소리는 좀 아닌것같다는 의미에서 쓴글이야
사실 특갤에서도 맨날 나오던 이야기이긴 한데 '특이점 와도 이건 안 되지 않을까?' 이거나 '특이점 오면 이거 가능?' 이런 글들임. 근데, 사실 특이점 개념을 가볍게 봐도 알겠지만, 인간이 인지하지 못할 수준이라서 사실 어떻게 될 지 '확정'하는 느낌이 들어가면 지적 받게 되어 있음. 물론, 여긴 특갤이니까 그나마 긍정하면 지적은 덜 받지만. 그리고, 분탕들이 워낙 이전부터 '야 특이점 와도 인간 본성이 이런데 그게 가능하냐?' 이러고 긁는 사례가 많아서 더 부정적이긴 함. 정확히 이야기 할 수록 '아무도 모른다.' 이긴 함.
ㅇㅇ 사실 특이점부턴 공상을 말해도 가능할수도 있어서 서로 뜬구름 잡는 듯한 말도 하고 변수도 너무 많고 그래서 토론이 잘 안 되긴 함. 아마 네가 방금 말한 부분만 놓고 이야기하면. 즉 행복을 느끼는 요소가 달라질 수 있어서, 재화가 풍족해져도 다른 행복 추구 요소 때문에 경쟁이 발생할 수 있다는 것 같은데, 당연히 합리적인 사고라고 생각함. 근데 그러면 아마 반박 쪽에선, '완몰가'들어가서 남에게 피해 안 주면서 행복을 추구할 수 있을거라고 할거고. 그럼 여기서 또, 완몰가가 뜬구름인가. 혹은 특이점은 왠만하면 가능하니까 이것도 누구나 누릴 수 있나. 이러면서 이야기가 퍼지는거지. 물론, 그게 될까? 라고 하면 '넌 특이점을 모른다.'로 가긴 할거임.
내 워딩에 갤러들한테 조금 긁혔을수도 있다는거네 뭔 소리인지 이해했음 뭔가 근거를 뒷받침 반박이 나오면 받아들이거나 배워갈 생각으로 썻던글인데 내가 확정하는 느낌을 준것같음 ... 조심할게 어쨋든 하고싶었던 이야기는 너희는 어떤 근거로 그렇게 낙관적인거냐고 그에대한 근거나 생각을 들어보고싶었어 닥눈삼 한다고 했는데 아직 분위기 파악이 다 안된것같아 미안해
그래서.........여러 유명인들이 AI기술은 인류 역사상 어떤 기술보다 예상 고점과 예상 저점의 차이가 크다는 말을 자주 함. 최상의 시나리오도 충분히 가능하고, 최악도 충분히 가능함. 근데 누구도 미래 예측이 쉽진 않고. 물론 안전주의자들은 최악이 될테니까 AGI 자체를 개발하지 말자는 거고. 알트만은, 유토피아로 이끌 수 있을거라고 믿는 거고. 솔직히 아무도 안 가본 미랜데 뭐.
난 완몰가를 상정하고 쓴 글인데 내 생각에는 점점 더 도태되어가는 사람들은 완몰가에 박혀서 살거고 그게 더 그 사람들의 도태를 촉진시키지 않을까 싶은거지 결론적으로 사회가 바라는 조건에 부합하지않은 사람들은 노력하는것보다는 완몰가에 빠져드는게 더 쉬운 구조일테니까 당연하지만 완몰가에 빠진 사람들은 그 세상에 시간을 쏟으니 사회에 목소리를 내기 힘들어질거고 그 완몰가는 결국 지금 게임처럼 악마화 될거다 라는 생각이야 게임 자체도 조절하면서 하면 큰 문제는 없지만 끝도없이 폐인처럼하면 여러 문제가 생기니까 사회에서는 아마 완몰가에 빠져서 목소리도 낼수없고 사회에 이바지하는것도 없는 그니까 본질적으로는 나랑 생각이 달라서 내 가치를 해치는 사람들을 공격할거라는걸 상정한거고
진짜 궁금해서 그런거라면 솔직히 다른 특붕이들도 이해할 거임. 근데 그걸 확인 할 길이 없으니까 보통 배척하는거지. 위에 뭐라는 댓글들도 분탕이라고 생각해서 댓글 단 거니까 상처 받진 마셈. 갤 분위기가 그동안 분탕들이 많이 긁어서 예민하다 + 특갤에 진지한 학문적 토론을 하는 곳이 아닌, 유토피아 오길 바라면서 여러 썰 공유하는 곳이다. 라고 생각하면 될 것 같음. 공지에 긍정적인 글은 그냥 올려도 되고, 부정적인 글은 레퍼런스 걸어야만 한다고 괜히 걸어둔 게 아니긴 함. 그동안 너무 오래 긁혀옴;;;ㄷㄷ 얕은 레벨로 이런 이야기를 좋아하면, 유튜브에 백색나무 라는 채널이 있는데, 거기에 알트만이랑 일리야 인터뷰 번역 한 것들 있음. 보면 좋을 거 같음.
그럼 사회에서 사는 사람들은 완몰가에 빠져드는 사람을 지금 개백수 취급할거고 사회에서 사는 사람들은 사회에 계속 살아갈거고 완몰가에서 세상을 사는 사람들은 완몰가에서 세상을 살아가지않을까? 이 부분은 철학/ 혹은 생각의 차이인것같음 모든게 가짜여도 그 안에서 "행복" 하기만 한다면 된다는것인가 혹은 어느정도 고통이 있어도 현실을 살아가는것이 맞는것인가 통속의 뇌 이론처럼... 어쩃든 사회구성원들은 본인들이 완몰가에 빠져든 사람들의 가치를 깍지않으면 본인들의 인생의 가치가 폄하당하는 느낌이니 당연히 사회에서는 도태될거라고 봄... 그걸 상정해서 쓴글이야
나도 개인적으론 완몰가에 큰 매력을 느끼진 못 하는 편이긴 한데.아마도, 아마도.나는 이 주제를 말할 때, 지금과 다를거라고 보는 요소가 재화의 풍족 + 인류의 달라진 역할. 이긴 함.재화가 어마어마하게 풍족해서 인류 전체가 뻘짓을 하든 완몰가를 하든 문제가 없고.AI가 인간보다 월등히 일을 잘 해서 인간은 일을 할 필요가 없어진 상태.이렇게 가정을 하고 생각을 하면, 완몰가를 하는 사람이 소수가 아니라 절대다수일 수도 있을 듯.그리고, 소수의 완몰가를 안 하는 사람들도, 재화는 어짜피 넘쳐나니까, 완몰가하는 사람을 핍박할 이유가 없어지는 듯.즉, 특붕이랑 너랑 상상하는 미래의 모습이 달라서, 그걸 시뮬레이션 하는 상황도 다르게 진행되는 것 같음.
추천 고마워 한번 봐볼게 뭐 디시인만큼 그냥 그렇구나 하고 넘어갈수있는 부분인것같아 ㅋㅋ 원데이 투데이 하는것도 아니고 저정도 반응은 사실 예상한 부분이라 사실 대댓달면서도 정상적 반응이 올거라고 기대는 안했어 어쨋든 난 치고박고 싸우고싶은 입장이 아니니 좀더 점잖게 이야기를 하긴했지만
오 그런식으로 생각할수도 있네 절대 다수여도 내가 보기에는 솔로잉 즉 혼자 자신만의 세계를 구축해서 플레이하는 사람들과 하나의 큰 세계를 공유해 멀티를 하는 사람들은 또 나뉠거고 사실 그게 지금 현실과의 별 차이점이 생길까 싶기도해 그 또한 새로운 사회일거고 인류의 가치가 0이더라도 지금 당장 메이플이나 리부트 메랜을 보면 상대를 깍아내리기위해 별짓다하잖아 물론 본인의 템값이나 여러가지 요소들도 합쳐지겠지만 사실 상대적 박탈감이지 박탈감때문에 본인이 거주하고있는 사회가 옳다고 치켜세우고 솔로잉을 해 다른 사람들보다 사회내에서의 입지가 적은 사람들은 물어뜯고 합리화하기 좋은 가치 아닐까? 뭐 자세한건 니 말대로 그때가 되서야 알듯...
이거 근데 말하다보니 존나 유치해지긴 하네 이 주제로 왜 갤러들이 토론 안하는지 알것같음... 굳 많은거 배우고 갑니다~
완몰가 들어가는 사람들은 개백수에 도태된다는 말을 하는거 부터가 너는 특이점이 뭔지 전혀 모르는거임. 특이점이 온 순간부터는 극소수의 인간을 제외하곤 전부 다 백수에 잉여인간이 되고 사회에 이바지? 하고싶어도 못함 그저 인간보다 훨씬 뛰어난 ai가 주는 풍요를 누리고 사는 것 뿐
Sun..
진짜 만능 치트키 맞음;; AGI는 모든 필드에 대해서 석박사급의 지능을 가질건데 30년 공부해서 박사하나 따는게 고작인 사람이 경쟁을 어케하냐 - dc App
사실 인간은 완벽한 존재가 아니기 때문에 AGI부터 ASI를 달성하는 과정에 따라 전유물론이 나올 수도 있고 유토피아론이 나올 수 있다 생각함. 일단 현재 OAI의 AGI 개발 원리는 뇌 신경망 구조를 모방한 양방향 알고리즘 구조가 아니라 선형적 딥러닝 알고리즘 구조로 스케일을 미친듯이 증가시키는 방식임. 이 방식으로 스케일을 증가시켜도 근본적으로 모방이 아닌 '지능'을 갖출 수 없다는 연구진들의 갑론을박도 심하긴 한데 어쨋거나 이런 방식으로 AGI를 달성하더라도 ASI를 달성하기 위해서는 인간 뇌구조와 뇌 작동 원리에 대한 완전한 이해가 필요함.
대표적으로 일론머스크는 인공지능의 위험성을 경고하며 인공지능을 인간이 컨트롤 하기 위해 뇌구조와 인공지능 구조를 연결하여 인간 본연의 능력을 향상 시키는 뉴럴링크를 연구하고 있는데 AGI를 통해 뇌과학에 대한 연구를 가속화 시킨다면 뉴럴링크와 ASI도 금방 달성할 수 있다는 입장. ASI 특이점 단계부터는 인공지능이 인간 이상의 능력으로 스스로 지능을 개선 시켜 나가기 때문에 기하급수적으로 향상된 지능을 가지게 되며 그런 지능으로 인간은 우주 원리를 탐구하고 우주로 진출하자는게 일론머스크의 논지임.
인간 똑똑한 사람과 멍청한 사람 지능이 10과 5고 생산성이 100과 20 정도로 차이가 난다면 뇌 작동원리를 완전히 파악하고 ASI와 연결한 시점부터는 사람 지능이 기껏해봐야 1001과 1000 정도 차이밖에 나지 않으며, 학습 기간이 필요하지 않기 때문에 그냥 인간은 그때그때 하고 싶은 어떠한 일도 해도 된다. 또한 현재 경제구조는 자원의 유한성에서 비롯되고 차별이나 정치와 같은 것들 또한 유한한 자원을 나눠 가지는 과정에서 발생하는데 우주로 진출한다면 무한(엄밀히 따지면 유한이지만 매우 많은)한 자원을 기반으로 현재 경제 구조가 의미 없어지지지 않겠냐는게 유토피아론의 주요 근거임.
반대로 AGI는 일부 사람들에게만 접근 권한이 있기 때문에, AGI를 통해 연구된 뇌과학의 이해로 개발된 뉴럴링크의 압도적 지능 향상을 모두에게 공개하기 보단 일부 사람들만 누리고, 이를 누리지 못하는 사람들은 폐기 처분되는 수순으로 가는게 아니냐는게 디스토피아론의 일반적 생각인듯.
완전몰입가상세계론은 특이점갤에선 주요 이슈인데 사실 미래 지향적으로 인간의 발전과 우주의 근본을 파헤치고 싶어하는 연구자들 사이에선 크게 고려되는 미래가 아닌거 같음. AGI 혹은 뉴럴링크와 ASI로 향상된 지능을 통해 인간이 어떤 결정을 할지는 아무도 모르기 때문에 그런 미래를 택할 가능성도 없진 않긴 할듯..
솔직히 완전히 틀린말은 아님. asi를 만들고, 기술이 미친듯이 빠르게 발전한다고 해도, 모든 재화를 무한정 생산할수 있는게 가능한지는 아무도 모르는거임.
위에서 괜찮은 토론 한거같은데무한재화 가능성을 염두에 두지 않더라도AGI가 100%노동대체가 가능할거라고만 가정해도금융시장과 자본경제, 자본주의는 멸망함.소비재가 무한하지 않다고 가정해도 노동자 없이 생산수단을 가진 자본가들만이 특정 재화를 보다 저렴하게 쏟아낼텐데,노동자의 종말로 그 재화를 소비해줄 주체가 없음.그러면 대부분의 자본가는 생산을 멈추거나, 점차 자본을 잃는다는 선택지밖에 안남음.이성적으로 생각했을때, 민주주의 사회정책에 자본주의 경제정책을 따르는 한국같은 블루팀 국가들은, 자본주의를 포기하고 정부가 복지를 확대해서 시한부가 된 자본가들의 재화를 재분배한다는 결론밖에 나오지 않음.피라미드가 더욱 견고해진다는건 자본주의를 임의로 살려놓고 생각한 기묘한 모델임.
최악의 경우에 AGI를 소유한 특정인이나 기업, 그렇지 못한 자들로 양분화될 가능성은 있다고 보긴 함. 그런데 이 양분화가 제대로 이뤄지려면 선점기업이 앞서서 후발주자를 공격적으로 죽여버려야 할텐데 oai가 AGI 달성한다고 해서 구글 메타 테슬라 미스트랄 기타등등 모든 Ai기업 문닫으라고 강요할수도 없는 노릇임. 오픈소스 진영도 늦어야 2년내로 기술격차를 따라잡기때문에 초격차가 존재하되 AGI자체는 점차 만인의 기술이 될 가능성이 큼. 그렇기에 AGI와 특이점의 가치를 높게 보는 사람일수록 자연스레 유토피아를 연상하는거임.
아무튼 크게 봤을때 걸림돌은 과도기의 자본가 혹은 AGI 소유기업의 횡포 이 두가지인데, 정부가 역할을 다하는 한 둘 다 가능성이 낮음. 이런 내용 및 AI의 자체 위험성에 대해서도 여기서 5년넘게 토론했는데, 디스토피아 가능성이 훨씬 개연성이 없음. 물론 변수가 많으니 지켜보긴 해야겠지.