태만하면서 방탕하게 살아갈까?
서로 취미 맞는 사람들끼리 공유하면서 어떻게 하면 좀 더 즐거운 삶을 살 수 있을지 생각하면서 살까?
agi가 나타나기전 노력 여부 (객관적이지 않는 재멋대로인)로 갈라치기하고 서열화 하려고 할까? (예를 들면 agi전의 노력 안한 사람들은 의도적으로 열악한 환경에서 살게 해야 한다거나)
서로 혐오에 빠져서 세상 밖을 전부 적이라고 여기고 단절될까?
다른건 몰라도 미래에 현실세계 보다 가상세계가 더 활발해 지고 가상세계를 더욱 더 사람들이 소중히 여긴다는 건 100%인거 같다 ㄹㅇ 난 그거 하나만은 확신함
- dc official App
ㅇㅇ 몇십년전만 해도 아동들도 이런저런 노동에 동원했고, 나이 먹고 일 안하는 한량들은 부랑배라면서 잡아다 수용소 같은데 쳐넣었음. 근데 요즘은 아이들 일 시키면 학대고, 백수라도 눈칫밥은 먹지만 강제로 끌고가진 않음. 사회가 여전히 심리적으로는 여유롭지 않지만 물질적으로는 예전보다는 노동활용 극대화에 덜 집착하지.
꽤 똑똑한 보급형 AI 나오고, AGI, ASI 급격히 발전하기 시작하면 지적노동 대부분은 대체되거나 저난이도 일감이 될테니 정신적으로도 많이 여유로워지겠지
자원의 희소성이 사라진다고 하는데, 경제학적으로 절대 그럴 일 없다. 효율적인 경제 시스템에서 자원은 항상 소비량에 맞게 생산됨. 희소성이 사라질려면 과잉생산이 일어나야되는데 그럼, 기회비용 낭비가 발생해 예를 들면, 식량 자원의 희소성이 사라질려면 AI 재귀 지능증강에 투입돼야 할 AI를 빼와서 식량 과잉 생산에 써야함. 그런데 낭비할거면 AI 재귀 지능 증강에 걍 씀
기술이 아무리 발전해도 자원의 희소성이 사라지지 않고 효율적인 생산만 일어나는 이유는 노동력이라는 생산요소의 희소성은 사라졌지만, AI가 새롭게 희소한 생산요소로 떠오르기 때문이야. 특이점이 끝나고 더이상 자원투입으로 해결할 그 어떤 문제도 안남아있으면 모든 생산요소가 쓸데없는 데 투입돼도 상관없어지는데 이 때 비로소 자원의 희소성이 사라짐. 즉, 특이점이 끝나야 희소성 (기회비용) 이 사라진다.
그건 AI간의 경쟁이 계속될때의 얘기임. 하지만 AGI를 먼저 개발한 쪽이 압도적 우위에 있을 것이기 때문에 그럴 일은 없음
경쟁이랑 상관없어. AGI가 자가발전을 멈추냐 안 멈추냐의 문제, 다시 말해 인류 & AGI가 해결해야할 문제가 남아서 지능증강을 안 멈추냐 문제 다 해결해서 멈추냐랑 관련된 문제임. 1. 압도적 우위를 점해도 계속 발전한다 = AGI라는 생산요소의 희소성이 안 사라지기 때문에 자원의 희소성 안 사라짐 2. 압도적 우위를 점한 뒤 재귀 지능증강을 멈춘다 = AGI라는 생산요소의 희소성이 사라지고 자원의 희소성도 사라짐 = 특이점 끝남
경쟁이랑 왜 상관없어? 물론 기회비용이나 그런 개념들은 경쟁이 아니라도 있기는 하지만 그런 것들을 고려해서 최적화하려는 압력은 경쟁으로 인해 생기는거니까 상관이 없지 않지.
기회비용 & 자원의 희소성은 경쟁이랑 관련된 개념이 아니라 "선택"이랑 관련된 거임. 경제학도 경쟁에 관한 학문이 아니라 선택에 관해 연구하는 학문이고 그래서 AGI가 선택, 의사결정을 할 일이 여전히 남아있는한 경제 문제는 안 사라짐 = 자원의 희소성 문제는 선택의 문제와 함께 가기 때문에 안 사라짐
경쟁이 아니라 '선택' 문제가 사라져야 자원의 희소성 문제가 없어져
효율성이란 건 언제나 효율의 목적과 방향성이라는게 있는거고 절대적 가치가 아님. AI가 만약 극도로 효율성만을 추구하고 효율성의 목적을 망각한다면 AI는 모든 것을 지능증강에 쏟아붓고 결국에는 엄청난 효율을 자랑하겠지만 더 이상 그 효율을 원하는 수요자가 남지 않을 것이고, AI는 그 누구에게도 필요없는 존재이므로 소멸하는게 가장 효율적임
근데 특이점이랑 초지능 시대라는 게 뭐야? 인간 대신 AGI가 선택과 의사결정을 내리는 시대잖아? = 선택 안 사라진다는 소리
효율성이라는 건 설정한 목적을 해결하는데 가장 최적화된 자원 활용 & 의사결정이 이루어지는 상태를 의미한다 결국 효율성을 희생하고 식량, 옷 과잉 생산 같은 걸 하면 인류와 AGI 설정한 다른 목적 달성이 그만큼 느려지고 과소 달성되는거임
"AI가 만약 극도로 효율성만을 추구하고 효율성의 목적을 망각한다" 이건 목적 설정을 잘못한 사례지. 목적 설정을 잘해서 그 목적 달성에 가장 효율적인 제도를 가지면 그런 문제가 안 생겼을 텐데, 목적 설정을 잘못해서 효율성이 높은데도 잘못된 목적을 달성하기 위한 효율성이 높아지다보니까 문제가 발생하는 상황을 지적하는 말이야 효율성이 높으면 목적 달성이 힘드니까 효율성 좀 희생해도 된다는 얘기가 아님
인간이 효율성을 추구하는 이유는 그 효율을 통해서 내가 정신적 물질적으로 여유롭고, 위협이 덜한 상태에 있고자 하기 때문임. 즉 효율성의 압박으로부터 벗어나기 위해 효율성을 추구하지. 효율성은 그 자체가 목적인 게 아니라 목적을 위한 수단임. 그렇기 때문에 효율성을 추구하는 자와, 효율성의 추구로 인해 삶을 쥐어짜이는 자 사이의 불균형이 심해지면 착취가 되는거임. 그리고 효율성이라는 게 방향성에 따라 고려 요소의 비중이 달라지기 때문에 그걸 조정하는 능력이 없으면 강박적 광기가 되는거임.
지금 AI 개발에 있어서 alignment를 심각하게 연구하고 있는 이유도 그 때문임. 효율성을 향상시키는 건 좋은데 그 효율성 향상의 수혜자가 인류 전체가 아니거나, 인류가 아니라면 AI의 발전은 인류에게 좋을 게 하나도 없고 오히려 재앙이기 때문이지
예시를 들자면, 특이점 달성해서 지구 내의 모든 문제를 해결할 수 있게 됐다고 자원 과잉 생산에 AGI 여력을 때려 박으면 외계에 풀리지 않은 문제를 해결하는 속도가 그만큼 느려진다는 소리다. 혜성 충돌, 태양 팽창이나 초신성 폭발, 우주 소멸 등을 막기 위한 AGI 연산 자원을 사람들이 이미 충분히 싸게 구할 수 있는걸 0원으로 만드는데 쓴다는 소리임 그런 비효율의 결과가 이같은 외계 문제의 해결을 고작 몇 년 늦출지, 몇 백 ~ 몇 천 년 늦출지, 아니면 영원히 풀지 못할 정도로 골든타임을 놓치게 만들지는 과거 시점에서 알 수 없기 때문에 AGI는 그런 리스크를 만드는 비효율적 투자를 굳이 할 이유가 없다
효율성 추구가 정신 문명 고갈로 이어지는건 물질 문명에 치우친 목적 설정을 했기 때문 = 목적 설정을 잘못했기 때문이라니까... ㅋㅋㅋ 인간 삶의 질을 높이는 것도 목적 설정할 떄 고려해서 넣으면 인간 삶의 질을 필요 수준까지 높이는데에도 효율적으로 동작하는 자원 배분 & 의사결정 시스템이 탄생한다. 경제가 무슨 돈하고 물질만 추구하는 비인간적 효율성무새 학문이라는 편견이 있어서 오해한듯?
근데 특붕쿤이 착각하는건 인간은 누구도 자원의 희소성이 0이 되는 과잉 생산을 안 원한다는 거임. 빵이 매일 먹고 남아서 버려질 정도로 생산되는게 자원 희소성 0이야. 누가 그걸 원함? 그냥 풍족한 정도를 얘기하는 게 아니야
AGI는 그걸 완전히 0원으로 만들 필요가 없어. 인간들 사이의 거래만 무의미, 불필요하게 만들 수준의 생산력을 발휘하면 되는거임. 너가 말한 그런 대규모 장기 프로젝트를 위해서라면 인간(트랜스휴먼 포함)의 동의를 구하고 그들의 삶에 큰 불만족을 초래하지 않는 범위를 정해서 자원과 역량을 총동원하면 되는거임. 그게 인류의 목적과 일치한다면 인류가 거부할 이유도 없지.
AGI라고 적었지만 AGI이후 초지능 포함임
애초에 특붕이 누구도 절대적인 희소성 제로에 집착한 적도 없는데 왠 쉐도우 복싱인지
특붕이들이 원하는건 내가 돈 내지 않고 그걸 소모해도 누구도 뭐라 하지 않는 수준이지 ㅄ 아니고서야 이미 흔해빠진 물건 가지고 자랑질 할 수 있는 것도 아니고 다 쳐먹을 수 있는 것도 아닌데 그게 철저하게 희소성 0이 되는걸 왜 기대하겠음? 옛날에는 종이나 설탕이 엄청 귀했는데 요즘 나 종이 많다, 설탕 집에 쌓여있다고 해봐야 사회에서 부러워하기보단 얼간이 취급하지. 미래에 바라는 희소성 감소도 그런 정도인거임
"인간들 사이의 거래만 무의미, 불필요하게 만들 수준의 생산력을 발휘하면 되는거임." ← ㅋㅋㅋ 이것 때문에 희소성 문제가 안사라진다니까... 다시 정리해서 설명해줄게 1. 인간이 필요한 만큼만 생산한다 2. 근데 그 필요(수요)는 일정하지 않고 변동한다 (시간, 계절, 특별히 땡길 때 등등의 이유로) 3. 수요가 변동하면 변할 때마다 AI라는 생산요소를 재배치해야한다 (안 하면 AI가 걍 팽팽 논다) 4. 그래서 AGI는 인간이 필요한 만큼만 생산하는데, 이 때 인간의 필요가 바뀔 때마다 AI는 다른 문제 해결에 투입됐다 빠졌다 한다 5. 이런 이유로 인간에게는 자원의 희소성이 사라진 것처럼 보여도, 실제 이 시스템을 경영하는 AGI의 입장에서는 자원의 희소성이 사라진게 아니다
6. 빵이라는 자원을 인간이 원해서 or 장난으로 물, 공기 쓰듯 마구 쓰면 다른 데 투입돼야할 AGI 연산 자원을 이쪽에 과하게 배치해야되기 때문 7. 따라서 인간 입장에서는 빵 등의 자원이 안 희소해보일지 몰라도 실제로는 희소성이 사라지지 않고 AGI에 의해 희소성이 관리될 뿐이라고 봐야한다 경영자가 되는 AGI의 입장에서 자원의 희소성은 사라진게 아니라고
"특붕이 누구도 절대적인 희소성 제로에 집착한 적도 없는데" 랬는데 나도 집착하는 특붕이 있다고 본 적 없는데? 자원 문제가 사라진다, 자원 희소성이 사라진다 하는 말이 위에도 있고 예전에도 계속 있어서, 걍 경제학적으로 안 사라지기 때문에 그냥 알려주는 거임 집착 같은거 아님;; "누가 AI는 예술 영역 절대 정복 못한다" 이러면 AI 전공한 특붕이가 아니라고 바로잡아주는거랑 비슷한거임. 경제학 전공한 입장에서
어느 순간에 이르면 ai의 경영자원이나 그런건 너무나 하찮게 될거임 ai 입장에서 그런 문제를 해결하는건 가면 갈수록 난이도가 낮아지기 때문에 결국 니가 하는건 말장난임
그 뭐랄까... 두 분 대화 보고 있으니까 아시모프 최후의 질문 초반부가 생각나네요... "이걸로 인류는 에너지문제에서 영원히 해방되었어!" "영원이 아니지. 태양이 없어질 때까지지" "그 정도면 지금 시점에선 거의 영원이잖아?" "거의 영원은 영원이 아니지" 뭐 대충 이런ㅎㅎㅎ 이런저런 생각하며 흥미롭게 잘 봤습니다
이런거지 니가 예로 든 식량생산으로 말하면 인간의 필요에 맞춰서 AI는 식량 생산과 배분을 신경써야하겠지? 처음엔 인간의 식량 수요 예측이나 분배, 생산 측면에서 어려움을 겪을거임 처음엔 여기에 많은 연산력을 써야 되겠지만 시간이 갈수록 점점 이 분야에 대해 정밀해지면서 나중엔 인간의 수요가 어떻게 변하든 들어가는 연산력이 고정되는 순간이 올거임 이런 추세는 식량 뿐만 아니라 모든 분야로 넓어질거고 나중엔 수요가 새롭게 창출될 때만 연산력이 들어갈거임 이걸 가지고 지능증강에 쓸 연산력을 식량생산에 써야 한다고? 애초에 두 분야는 난이도 자체가 완전히 다른데 뭔 이상한 얘기를 하고 있는지 니가 하는게 말장난이란게 이거임
생산이 경영, 관리되는 생산물의 경우 아무리 기술적 난이도가 낮아진다 해도 과잉생산이 안 일어나. 고무줄 만들기 쉽다고 누가 고무줄 천지로 만드냐? 하는 거랑 같음 한 사람이 전세계 고무줄 다 생산해서 고무줄 한 개 가격이 100원 정도 해도 사람들이 고무줄 안 쓰는 순간 고무줄 생산량이 줄어듬. 왜 그런 줄 앎? 생산요소를 재배치하면 다른 데 0.001%라도 도움이 돼서 +고, 그거 별거 아니라고 냅두면 유지하는데 비용이 들어서 -가 되기 때문임 그래서 생산이 경영, 관리되는 생산물은 아무리 생산 기술 난이도가 낮아도 생산요소 재배치가 일어남 = 자원 희소성 안 사라짐
오히려 자원 희소성이 그대로 존재하는 경우는 기술의 발전으로도 양을 늘릴 수 없을때 존재할거임 예를들면 땅은 AI가 만들어낼 수 없지 따라서 특이점 이후에도 부동산의 가치는 여전히 희소할거고.. 물론 우주로 나갈 순 있겠지만 굳이 지구에서 살고 싶다면 지구의 땅은 무조건 한정적이니까 여전히 가치가 보존되는거지
고무줄 생산의 기회비용이라는 건 고무줄의 가치로 정해지는 게 아니라, 고무줄 생산에 들어가는 자원으로 할 수 있는 다른 가장 가치있는 일의 가치로 정해지기 때문에 이런 일이 일어나 인간은 다른 일이 얼마나 가치 있는지 잘못 판단해서 고무줄 과잉 생산할 여지라도 있지, 인간보다 합리적으로 의사결정하는 경우에는 그게 인간 삶의 질을 높이는데 기여한다던가 그런 껀덕지라도 없어면 절대 과잉생산되도록 둘 수가 없다. 참고로 말하면 자원 문제에서 해방된다 = 필요로 하는 생산물이 과잉생산된다랑 같은 말임
지금 읽어보니까 존나 19세기처럼 생각하는거 같네 난 기껏해야 AI의 자원은 연산력 그 자체로 생각하는데 니는 무슨 농장이나 공장 같은 그런 생산설비를 생각하고 있구만 이러니 말이 서로 안통하지
식량생산으로 말하면 나중엔 농장에서 생산되지도 않을껀데 뭔 생산 재배치 이러고 있노
ㄴㄴ "경영, 관리되는 생산물" 얘기는 예외가 없다는 말임 인위적 경영, 관리되지 않는 생산물의 경우에는 여전히 희소한 자원도 있지만 그렇지 않은 자원도 있음. 공기나 물처럼. 근데 경영 관리되는 (자본, 노동 등의 생산요소가 투입되는) 생산물은 아무리 높은 기술력을 갖더라도 다른 생산요소가 투입돼야할 문제가 남아있다면 공기, 물처럼 희소성이 없어질 때까지 생산되는 예외가 발생하기가 매우 어렵다고 보면 됨
아니 니 경제학과랬지? 나도 경제학과인데 제발 좀 그런식으로 글쓰지마라 존내 티내려는거같네 내 말에 반박은 안하고 원론적인 얘기만 반복하는데 니 뭐함?
농장에서 생산되지 않으면 재배치가 일어나지 않는다는건 무슨 얘기야? 연구소나 빌딩농장에서 생산돼도 식량 생산량이 계절이나 연도에 따라 변하면 연구소, 빌딩농장에 투입된 자원을 놀리지 않기 위해서는 재배치돼야함. 토지 경작에만 있는 문제가 아닌데?
봐봐 예를 한번 들어봄 AI가 어떤 기계를 개발했어 그 기계는 집에서 먹고싶은 음식을 만들어달라고 하면 그냥 만들어줌. 이 재료는 배양육같은 세포라서 딱히 낭비도 없음 이런 케이스라면 어때? 그래도 뭐 너는 생산요소 배치 어쩌고 할거?
연산력이 AI의 자원이라는거 아는 경제학과면 연산력의 물리적 기반이 컴퓨팅 파워 = 반도체, 데이터센터같은 설비인 것도 알겠네 그럼 그런 설비 생산은 물리적으로 계속 이어져야하고 식량 생산에 들어가는 토지, 연산력이라는 자원이 컴퓨팅 파워를 높이는데 투자될 수 있는데 그걸 빼내서 식량 과잉생산에 쓴다? 컴퓨팅 파워 증강에 높일 수 있는 생산설비가 노는 기간이 늘어난다는 의미임 이정도면 이해됨?
도대체 식량 과잉생산에 연산력이 왜들어가 뭐 연산력이 꾸준히 들어가야됨? 애초에 난이도가 하늘과 땅차이로 다르잖아 기계가 물리법칙에 한계에 도전해서 자기를 개선하는거랑 식량 생산하는거랑 연산력 차이가 얼마나 날거라고 생각함?
A. 배양육 기계에 대한 답 : 배양육 기계를 생산해내는 것 & 배양육에 투입돼야하는 세포 배양액 같은 원자재를 생산하는데 AI 자원이 투입돼야함 그래서 배양육 기계를 과잉생산할 수도 없고, 배양육 생산에 필요한 세포 배양액을 과잉생산할 수도 없음 필요한만큼 생산하고 그 이상 생산하면 AI가 할 다른 일을 그만큼 못하게 돼 버림. 인간도 AGI도 그런건 원하지도 않음
식량생산에 연산력이 왜 들어가냐니 ㅋㅋㅋㅋ 식량 생산이 자동화된다 = 식량 생산에 필요한 과정에 연산으로 자동화된다는 얘기 = 지속적으로 연산력을 사용한다는 얘기야..
아니.... 그 배양육기계 시스템을 관리하는 게 얼마나 어렵길래 거기에 연산력을 쓴다는 말을 자꾸하는거지? 거기에 왜 과잉생산을 안한다는 얘기를 함? 당연히 과잉생산을 하지
연산 단위당 비용이 싸지는 상황이랑 연산력 자체가 무료 자원처럼 되는 상황이랑 똑같이 생각하고 있는거 아님?
생산이 자동화된 시대의 과잉 생산 = 적정 필요량 이상의 배양육 기계를 만드는데 연산력을 과투입하는 상황인데 너가 AI 시대의 자원은 연산력이라며...
아잇 씨팔 도대체 그 시스템 전반을 관리하는게 얼마나 어렵다고 거기에 연산력 타령이야 가용가능한 연산력이 1조라고 하면 기껏해야 1이나 쓸까? A
너 말대로면 배양육 기계 과잉생산은 AI 시대의 자원 낭비임
그리고 당연히 과잉생산을 하지 뭐하러 딱맞게 생산해? 그럼 수요가 있을때마다 기계랑 세포를 생산해야 하잖아 인구 수에 맞춰서 일정 비율로 더 생산한 다음에 요청이 있으면 보내주는 식으로 하겠지
자원 낭비가 아니라 예비로 쌓아두는 거잖아 그걸 버린다는게 아니라 곧 그 기계를 요청하는 사람이 생길테니 미리 생산해두는 건데 이건 기본적인 수요예측임 ㅇㅋ? 도대체 낭비가 왜나와
배양육 기계를 만드는 공장같은거엔 연산력이 필요없음 ㅇㅋ? 처음 그 기계의 설계에는 연산력이 필요하겠지 하지만 일단 시스템이 구축되면 연산력은 필요없다고
경제학 배운거 맞음? 미래 수요에 대비해서 쌓아놓은건 단기적으로는 과잉생산처럼 보여도 장기적인 균형생산이지 과잉생산이 아니잖아 그리고 그런 장기적인 균형생산은 자원의 희소성을 0으로 만들지 않음. 장기적으로 과잉생산이 일어나야 자원의 희소성이 사라지지;; 이 뭔;;
따라서 자원(식량이나 광물들)의 희소성은 사라짐 오히려 더 귀중한건 연산력이고, 이건 무한히 증가시킬 수가 없으니까 하지만 일단 자원양을 늘리는 방법을 연구하는거 자체에는 연산력이 들겠지만, 일단 방법을 찾으면 생산과정에는 연산력이 들지 않는다고
설비 구축되고 나면 연산력이 안 든다니 이게 뭔 소리야 ㅋㅋ 사람 없이 돌아간다니까 불 끄고 공장 샷다문 내리는 것도 매일매일 연산력이 들어간다 특붕아;; AI가 연산으로 다하는 시대야
와씨발 돌겠네 내가 하는 얘기가 그거잖아 시스템이 구축되면 장기적으로 그런 상태가 유지되겠지 나는 그런 상태가 유지되는데 연산력이 들지 않는다는 쪽이고 너는 든다는 쪽이고 근데 니 얘기가 어이없는게 그런 상태를 구축하는데 마치 AI가 끊임없이 수요예측을 하고 뭐 그지랄 떨어야 되는 것처럼 말하잖아
아마존 클라우드 서비스 같은거 모름? 클라우드 서버로 웹 사이트 구동 시켜서 메모리에 띄워놓으면 그거 돌아가는데만도 매일 CPU 사용됨
??? 날씨 예측하는데 기상 모델 한 번 구축해놓으면 1년이고 100년이고 연산력 안 쓴다는 소리랑 비슷하게 들리는데 내가 이상한건가? 모델 구축은 구축이고, 연산 자원은 매시시각각 투입되는데
아니 내가 계속 말하잖아 공장 돌리는데 당연히 연산력이 들어!!! 든다고 근데 그 양이 AI가 진지하게 하는 업무들(수학 과학적인 연구)에 비하면 너무나 작은 연산량이라서 측정하는 거 자체가 의미 없다고 난이도 자체가 다르다니까? 그래서 처음에 말장난이라고 한거임 공장 돌리는데 연산력만큼 연구 못하는데 그게 전혀 의미가 없다고
이 장애련아 날씨는 계속 계산을 해야하잖아 하 ㅆㅂ 진짜 일부러 이러는거같노
공장돌리는거랑 날씨 시뮬레이션이랑 같냐 아.. 이런놈이랑 진짜 ㅅㅂ
그런 의미면 진지하게 기회비용 한 번 다시 공부하고 와줘.. 부탁할게 똑같은 연산력으로 할 수 있는 다른 일의 가치가 기회비용을 결정하고, 그 다른 일의 가치가 지금 생산력 낭비보다 더 가치 있는 이상 자원은 재배치되는 게 훨씬 효율적인데 기술이 발전하면 같은 연산 단위로 할 수 있는 다른 일도 그만큼 많아지고 늘어나는거 모름? 이 말은 곧 기술이 발전할 수록 식량 과잉생산의 기회비용도 커진다는 소리임
아니 쳐돌았나 ㅋㅋㅋㅋㅋ 내가 그래서 아주 극단적인 사례를 든거임 식량은 배양육기계 하나면 떙이고 식재료도 그 배양육 세포만 만들면 되는 식으로 극도로 단순화 시켰잖아 여기에 무슨 연산이 필요해 이 시스템 구축에는 들겠지만 뭔 기회비용 ㅇㅈㄹ이야
공장은 AI가 돌리는 생산요소라니까 ㅋㅋㅋㅋ AI가 만든 수요예측 모델이 수요 변동에 따라 재배치하는 대상 ㅋㅋ 수요 예측의 복잡도는 기상 예측에 준하는 초복잡계 현상이라 시장이라는 가격정보기구 아니면 계획경제를 운용 못한다고 하이에크가 얘기했잖아 모델이 구촉돼도 공장 돌리고 재배치하고, 그 결정을 AI가 계속 연산해야되는 건 기상모델이랑 같다니까? 기상모델은 다르니까 매일매일 연산력 든다고? 응~ 식량 생산 계획도 들어~
그리고 니는 중간에 말을 바꿨어 처음에 나는 연산력 너는 생산요소를 얘기했지만 중간부터 너도 연산력 얘기하고 있지? 그 순간부터 니 생산요소 재배치 ㅇㅈㄹ 떠는 논리는 사라진거임
ㅋㅋㅋ 배양육 세포 배양에 필요한 키트는 땅 파서 배양되고, 배송되겠니
아니 ㅆㅂ 병신아 그 기계랑 세포만 찍어내면 되는 상황에서 인구 비율로 미래 수요예측해서 찍어내는데 계속 쳐우기노 마치 무슨 이게 대단한 과업인거마냥 하튼 말안통해서 탈주함
"식량 자원의 희소성이 사라질려면 AI 재귀 지능증강에 투입돼야 할 AI를 빼와서 식량 과잉 생산에 써야함. 그런데 낭비할거면 AI 재귀 지능 증강에 걍 씀" 여기 원댓글에 AI를 빼와서 라는 말이 AI의 연산력을 빼와서 라는 뜻인데;; 그거 잘못 이해해서 지금 이러는 거야 아님 AI를 빼온다는게 무슨 영혼 빼오기라도 된다는거야
하 씨팔 하튼 어디가서 니 경제학과라고 하지마라 쪽팔림 말안통함
아 이제 이해했다 그러니까 특붕쿤은 지금 AGI가 한 시점에 10년치, 100년치 미래 인구변동, 기상상황, 인간 선호 변화등을 모두 연산해서 재계산이 거의 몇십년에 한 번밖에 필요없는 상황을 가정하고 그렇게 말하는거였네. 너 진짜 기술에 대해 모르네.. AI로 불 켜고 끄는거 자동화하는 것만으로도 메모리랑 CPU 먹는다는 말이 뭔 말인지를 모르는듯
ㅋㅋ 어디 경제학과인지는 몰라도 그럼 교수님이든 과우든 가서 한 번 수요예측은 한 시점에 모델 세우고 나면 인구 변화는 비교적 예측 가능하니까 향후 수년간 재계산이 필요없는데, 기상모델은 그 시대에도 재계산 안 하면 안 된다는 얘기 한 번 들려줘봐 연산력이 충분히 발전하면 장기 생산 계획 계산 끝낸 후 때부터 연산 없이도 스마트 플랜트 돌릴 수 있다는 얘기도 곁들이면 감사하고
배양육 기계를 무슨 질량보존의 법칙 다 무시하고 생산원료 서플라이 체인 필요없는 기계처럼 가정해놨는데 그럴거면 특이점이 물리법칙을 극복한 이후 시점에 대해서 얘기하는 거였다고 언질 좀 줘라 제발
그리고 배양육 얘기 나와서 언급하자면, 너가 말하는 상황은 다 기술 발전이 정체되거나 끝난 상황을 가정하고 있어 그 예시로 배양육의 경우, 현존하는 다른 고기들 수준을 만족시키면 끝이 아님. 기술 발전에는 제품 차별화랑 품질 개선이라는 게 기술이 정체될 때까지 일어난다. 현존 A++등급 고기맛을 배양육으로 구현해냈으면 배양육은 그 다음 대체할 기술이 나오기 전까지 미각을 더욱 만족시키위한 연산력과 R&D 자원이 투입됨
그런거 계산에 안 넣고 배양육 기계 한 번 만들면 추가 연산력 안 든다? 통일벼 같은거 나오면 식량난, 식량 가격 해결되고 쌀케이크 같은거 연구도 안 한다했던 얘기랑 똑같이 들려 특이점에는 식량 기술도 기하급수적으로 발전돼서 먹으면 신체 강화되는 음식도 연구될 수 있고, 자연에는 없는 맛이 추가된 식량이 계속해서 새로 개발될 수도 있고, 아예 식량 대신 다른 에너지원을 인류가 쓰도록 만드는 바이오 혁신이 일어나서 과거 식량계획이 어느 순간 전량 폐기될 수도 있어 이렇게 고려할게 많은데도 1년 ~ 10년 전 과거의 낮은 지능을 가진 AGI가 더 높은 지능의 AGI가 할 수 있는 모든 일을 미리 알고 재연산 필요없는 수요 예측 후 생산 계획을 수립한다고? 그건 걍 데우스 엑스 마키나잖아;;
이 병신아 왜 이해를 하려고 안함?
진짜 이게 이해갸ㅏ 안되나?
내멘탈... ㅅㅂ 도대체 중간부터는 내가 이해를 못하겠네 이 쉬운걸 왜 이해를 못하고 저럴까
"이걸로 인류는 에너지문제에서 영원히 해방되었어!" "영원이 아니지. 태양이 없어질 때까지지" 라고 댓글 달아주신 분 흥미로운 의견 감사합니다. 모든 문제가 정복되기 전 (=특이점에 의한 수확가속이 계속되는 시대) 의 자원 희소성 문제는 위 문장과는 조금 차이가 있습니다. 예를 하나 들어볼게요
아뇨아뇨 당연히 차이가 있음은 인지하고 있습니다;; 그래서 생각나게 한다고 했지 같다고 하지는 않았구요 그래도 귀중한 시간 할애해서 생각을 주시면 감사하게 읽겠습니다
현대에 식량 생산 기술이 무척 발전해서 선진국에서는 풍년이 들면 논밭을 싹 갈아엎습니다. 기술력이 충분한데 왜 늘어난 생산물이 가격을 낮추거나 무상 분배되지 않고, 그대로 버려질까요? 이는 이 생산물을 무상에 가깝게 나눠준다쳐도 배송되는 과정에 투입돼야하는 생산요소 (노동력, 자본) 의 가격이 여전히 높기 때문에 유통시키는 것만으로도 비용이 발생하기 때문입니다.
아 ㅎㅎ 죄송합니다 하나라도 더 알려드리고 싶은 마음에 쓴건데 뭔가 지적하는 모양이 됐네요. 그럼 제가 아는 것만 살짝 정리해볼게요! 편하게 의견 주세요
지적이라니 당치도 않습니다! 제가 여기 매일 체크하는 이유 중 하나가 답도 없는 온다/안 온다 싸움이 아니라 올 경우의 디테일에 대한 아이디어를 종종 얻을 수 있기 때문입니다 과도기에 필요한 건 전례가 아니라 상상력의 재료니까요 부담없이 말씀해주세요
그럼 왜 식량 생산 등 다양한 기술이 발전했는데 생산요소 가격은 유지가 되는 걸까요? 그 이유가 기회비용 때문입니다! 기술은 식량 생산 효율도 높였지만 동시에 똑같은 자본과 노동을 AI 개발, IT산업에 투입할 수 있게 만들어주었고 이 때문에 이런 첨단 산업 분야에서의 생산요소 수요가 식량 생산의 기회비용이 되면서
식량 생산이 늘어나는 대신 농업에 투입되는 생산요소가 줄어드는 일이 일어났습니다. 그리고 이 생산요소들은 다른 산업에서 반대로 가치를 높여갔기 때문에 식량 생산비용이 무한정 줄지 않았습니다.
기술력이 식량 생산 효율은 높이는 한 편 기술력이 다른 산업에서의 생산요소의 가격(임금, 자본 이윤율)을 높이는 효과를 동시에 몰고 왔기 때문인데
AGI가 발전해서 인류가 에너지 생산비용을 급격히 낮출 때도 비슷하게 기술력이 에너지 생산 효율은 높이는 한편 AGI가 새로운 첨단산업을 발전시키면서 기술력이 에너지 생산에 투입되는 컴퓨팅 자원이라는 생산요소의 가격을 높이는 효과를 동시에 갖고 옵니다.
따라서 인류가 태양의 에너지문제를 해결할 돌파구를 찾았는데 다른 문제가 여전히 남아있는 와중 둘에 필요한 생산요소가 "AI의 컴퓨팅 파워"로 같다면 태양이 없어지지 않더라도 "에너지 문제에서만 해방"되는 일이 안 일어난다는 거예요ㅎㅎ 조금 길었는데 이해되셨을지 모르겠네요
감사합니다. 그럼 저는 왜 뜬금없이 최후의 질문의 저 초반부를 인용했는지를 말씀드려볼게요. 저는, 자원희소성이 0이 되는 시점은 우주의 최종문제가 다 풀릴때까지 그러니까 엔트로피 역전의 문제가 풀리기 전 까지는 오지 않을 것이라 생각합니다. 그리고 그게 풀릴지 아닐지는 지금은 알 수 없죠. 엔트로피의 법칙이 인류가 현재 인지 가능한 범위 내에서의 법칙일 뿐이라면 풀릴 여지가 있겠지만, 만일 우주의 보편타당한 절대법칙임이 '초지능에 의해 증명'이 되어버린다면 그것은 곧 존재의 한계와 동의어가 됩니다.
애초에 AGI~ASI의 시대에는 연산력=자원의 등식에 근접해 갈 텐데, 자원희소성 0이라는 말은 연산력이 무한이라는 말과 같습니다. 그런데, 초지능의 연산력이 아무리 튀어올라서 지금의 억배 조배 구골플렉스배가 된다 해도 무한이 될 수는 없는 노릇이지요. 그렇다면 자원희소성 역시 아주아주아주 작아져도 결코 0이 될 수는 없는 노릇이고, 초지능은 그 한없이 작은 공백을 놓치지 않을겁니다
우리 현생인류가 극한의 효율추구에 괴로움을 느끼고, 또 아주 작은 비효율 정도는 대충 넘기는 이유는 결국 어느 순간부터 1단위의 효율향상에 필요한 인지자원=연산력이 향상되는 효율을 넘어서기 때문에 일어나는 일일겁니다. 바꿔 말하면, 우리보다 구골플렉스배 머리가 좋은 초지능은 우리보다 구골플렉스배 효율충이 될 수 있겠지요. 그게 보통 '효율추구' 할 때 떠 올리는 사람 갈구는 그런 의미가 아니라 문자그대로 목적달성 최적화라는 의미에서, 극단적으로 '젼인류의 행복을 극대화하기 위한 최적의 효율추구'도 될 수 있을겁니다.
말이 샜는데, 여하튼 자원희소성이 0이 아니고 초지능도 여전히 효율을 따지게 될 것이지만, 그게 지금 현생인류의 관점에서는 사실상 0이고 안 따지는 걸로 보일 정도로 사소한 것일 가능성이 크다. 하지만 엄밀히 말하면 사소한 것과 0은 다르다. 라는 부분이 소설 초반 두 연구원의 논쟁을 번뜩이게 해서 언급을 해 봤습니다. 전후맥락을 다 잘라먹은 인용에 괜히 헷갈리게 만들어버린 것 같은데 '영원과 거의 영원은 다르다'부분에 주목한 어설픈 메타포였습니다ㅎㅎㅎ
소설 주제로 매우 흥미로운 것 같습니다ㅎㅎ 그리고 엔트로피 문제와 자원 희소성에 관한 말씀도 맞아요. 경제에서도 목적의 설정은 매우 자유롭습니다. 위 상황에서 엔트로피 문제를 풀지 않겠다고 결정하는 것도 허용되며, 이 경우 자원의 희소성은 목적에 따라 결정되기 때문에 풀 문제가 없으면 자원이 무한해지는 것과 같습니다. 단 이순간은 기술 발전이 끝나는 순간이라 특이점이 아닌, 특이점 이후? 라고 할 수 있어서 자원의 희소성은 특이점 진행 중에는 없어지지 않는다고 했던 거예요
맥락과 다른 사족 의견으로, 사실 먼 미래에 기회비용이 0이 될 시점이 올 지도 모르겠고, 온다 해도 그게 과연 좋은 미래인지도 회의적입니다. 기회비용이 0이라는 말은 명시적비용 역시 0이라는 의미이고, 이는 곳 선택이 아무런 가치=의미를 갖지 않는다는 말과 같은데... 선택이 무의미해진 지성체에게 지성이 갖는 의미가 과연 무엇일런지ㅎㅎㅎ
눈에 띄는게 구골플렉스인데 경제적 무한은 수학적 무한과 달라서 연산력이 구골이 아니라 10 정도 돼도, 사람이 필요로하는 문제는 9로 다 해결할 수 있다면 연산력이 경제적으로 무한하다 할 수 있긴 해요. 그래서 연산력이 구골 플렉스가 되지 않아도 자원 희소성 문제는 해결될 수 있습니다. 다만, 이런 경제적 무한의 경우 남는 1의 AI를 투입하거나 AI의 연산력을 11로 늘리지 않아도 모든 문제를 해결할 수 있고 더 투입하는 것이 문제 해결에 별 도움이 안 되는 상황이어야 합니다.
만일 연산력을 1이라도 더 투입하거나 연산력을 늘리는게 목적 달성에 도움이 된다면 인류는 9가 아니라 10, 11을 필요로 하는 것이고 이것은 공급을 초과한 수요, 곧 자원 희소성으로 이어집니다. 그래서 연산력을 계속 발전시키는 기술의 수확 가속이라는 특이점의 정의 때문에 경제적 무한은 특이점에 올 수 없습니다. 수확 가속, 기하급수적 기술 발전이라는 말 자체가, 특이점이 끝나기 전에는 연산력이 희소하다는 의미니까요ㅎㅎ
경제적 무한은 특이점에 올 수 없습니다. 수확 가속, 기하급수적 기술 발전이라는 말 자체가, 특이점이 끝나기 전에는 연산력이 희소하다는 의미니까요ㅎㅎ=>말씀대롭니다. 연산력이 희소성을 갖지 않으면 귀찮게 기하급수적 발전을 굳이 해야 될 필요가 없죠. 그냥 당장 거기에 이르러 있지.
인간 한정해서는 기회비용이 0에 가까운 세상이 온다면 아래와 비슷할 것 같습니다. 기회비용은 물질 선택은 물론, 시간 선택과도 관련된 개념이라 1. 완몰가가 구현돼서 (실제로는 연산력이 들지만) 인간이 체감하기에는 모든 재화를 0의 비용으로 얻는 것처럼 느껴짐 2. 완몰가에서 시간적으로도 '아 그 때 이거 못해서 아쉽다'하는 게 없도록 인생 리트가 완전 몰입 시뮬레이션 가능함 (여기도 연산력은 필요하지만) 특이점 시대에 인간은 자원의 희소성 문제를 책임지지 않고 AGI가 그걸 모두 떠안는 사회구조가 형성된다면 사람들의 체감 상 무한 자원 월드는 이런 식으로 구현될 수 있을 것 같습니다!
사실 특이점을 믿는다면 결국 신경써야 하는 건 과도기까지이고, 그 가까운, 바로 코 앞의 과도기의 디테일 예측에 무시할 수 없는 영향력을 발휘할 것이 주류경제학임은 의심의 여지가 없을진대 특이점 담론에 경제학적 고려가 거의 나오지 않는 게 좀 아쉽습니다. 시간 괜찮으시면 글 자주 써 주세요!
저도 특이점으로 가는 경로와 과도기에 대해 디테일하게 생각해보고 싶어서 오는 거라 말씀 들으니 기쁘네요! 열심히 찾아보시는 만큼 좋은 소재 얻어가실 수 있을 거예요. 소설 쓰시는데 약간이라도 보탬이 될 수 있으면 좋겠습니다!
기본소득 관련해서 쓴 글 2개가 있는데 긴 글이라 시간나실 때 보셔도 좋고 아니다 너무 길다! 해서 스킵하셔도 좋습니다ㅎㅎ
관심 가시면 보실 수 있도록 링크만 해놓을게요.
https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=80893
https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=82026
아, 아이디어가 소설 아이디어 의미는 아니었는데 듣고보니 과도기의 구상은 어느 정도 소설쓰기와 겹치는 면이 있는 것 같습니다. 그나저나 교육개혁 글은 제가 댓 달았던 글이네요ㅎㅎㅎ 다른 하나는 처음 보는데 잘 읽어보겠습니다!
제가 중간에 잘못 봐서 소설에서 인용했다는 얘기를 소설 메타포로 써봤다로 읽었네요..ㅋㅋ 죄송합니다 당황스러우셨겠어요
에너지 공급, 설비점검, 신대륙 개척 등으로 바쁠까? 아님 그마저도 로봇이 다 할까? - dc App