새벽에 잠이 안와서 갤보다가 자주 보이는 "AGI 가 개발되면 생산 단가가 0에 수렴하게 된다." 에 대해서 고민하다가 나온 주관적인 관점이 많이 들어가고 두서없는 똥글임 걸러 들으셈





멜서스 : 
"인구는 기하급수적으로 늘어나지만, 자원생산은 산술급수적으로 늘어난다.
이는 곧 전 국민의 빈곤, 기아 등으로 이어지게 될 것이다."

요약하자면, ( 전체 자원 생산량 ) / ( 총 인구 ) = ( 개인에게 돌아가는 자원 )
이니까 분모인 인구가 커지면 개인에게 돌아가는 자원의 양도 줄어든다는 주장이다.


때는 1798년, 영국의 신학자 겸 경제학자 토마스 R. 멜서스는 책 <인구론>을 출간하며, 위 논리와 함께 "이대로 가다간 영국 망하니까 인구 줄여야됨ㅇㅇ" 라며 공리주의적으로 인구수를 적절한 수치에 맞게 감소/유지 시켜야 한다고 주장했다.

멜서스는 인구의 조절을 결혼에 대한 지원 중지, 산아제한 과 같은 제도를 도입하여 인위적인 저_출_산을 일으키는 간접적인 방법과,
전쟁 등의 직접적인 방법을 제시했다. ( 의외로 최근 대한민국이 이와 같은 방법을 의도치않게 시전하고 있음 )


당시의 상황을 봤을 때, 이는 매우 타당한 주장이였으며 당시 영국 총리인 윌리엄 피트 또한 부랄을 탁치며 빈민에 대한 복지를 끊었다.
실제로도 19세기가 끝나기도 전에 인구수가 2배로 뛰어버리며 식량부족 문제가 심각해지며 멜서스 트랩이 현실로 다가오는 듯 했는데...



하버 & 보슈 : 
" ㅎㅇ "


갑자기 20세기 초에 나치 빡빡이 듀오가 화학비료 대량생산법을 개발해서 식량생산이 기하급수고 나발이고 수직상승을 이뤄내며 인구는 21세기까지 5배 넘게 증가하고 일정 수준 이상의 국가에서는 배고파서 죽는 경우는 없을 정도로 풍족한 세상이 도래했다.


그렇다. 기술의 발전이 멜서스 트랩을 깨부수고 혁신을 이루어 낸 것이다.

그리고 이러한 기술의 발전은 21세기 까지 계속된다.



( 선조 AGI 의 모습 추정도 )


21세기 초, 구글 딥마인드에서 알파고라는 과자같은 이름을 가진 AI로 당시 바둑왕 이세돌에게 도전한다.


바둑의 경우의 수가 어쩌구, 인간의 직관은 AI가 따라하지 못하느니 어쩌구 하며 모두 이세돌 9단의 압승을 예상했지만




( 1 : 4 로 패배한 이세돌 )

갓파고는 이세돌 9단을 4:1 로 개발라버린다. ( 실수하는 모습으로 1패하며 인간미까지 낭낭하게 챙김 )

이후 강력한 하드/소프트웨어 기술력과 갓파고를 통한 자본 유입으로 AI 기술이 급격한 발전을 이룩한다.


하지만 당시의 분위기를 아는 사람들은 알겠지만


"겨우 바둑을 두는 정도로 인간한테 비비는 건좀;;"
"특이점은 SF 소설에서나 가능한것."

같은 분위기에 특갤러들 사이에서도 AGI 정배를 2030년가 급진적인 주장일 정도로
"AI의 가능성" 정도만 확인한 느낌이였다.


(예비 갤주님들 응애시절 존안)

"LLM"


때는 바야흐로 21세기 초, ChatGPT 를 앞세워 사람처럼 말을 알아듣고, 대답하는 LLM 이 등장하기 시작했다.


GPT-3 까지는 그냥저냥 하던 사람들도 GPT-4 이후부터는 AGI 가 더 이상 망상이 아닌 다가오는 현실로 느껴지기 시작했다.
(참고로 이때쯤부터 AGI 2030년은 보수적인 틀이점 취급을 받았다)


갤에서는 AGI가 몇 년 이내에 오는지를 예측하는 것이 주요 토픽중 하나가 되었으며, 최근에는 2024~2025년이 AGI 정배가 될정도로
AGI가 개발되는 것은 기정사실화 되었다.




메카-멜서스 트랩

하지만 AGI 의 완성이 다가오면서 옛날에 파훼된 멜서스 트랩이 다시 그 가능성을 보인다.


재미로 보는 거지만 카르다쇼프 척도 라는 것이 있는데 이는 지적 문명의 수준을 해당 문명이 사용하는 에너지에 따라서 분류한 것이다. 이 척도를 만든 카르다쇼프는 문명이 발전할수록 사용하는 에너지가 늘어난다고 정의한 것이다.

( 정확히는 열역학 제 1, 2법칙 )


실제로 이 정의는 꽤나 적절한 것이

개인당 에너지 소비량은 기술이 발전할수록 지수적으로 증가하고 있기 때문이다.


여기서 문제가 발생한다.

AGI에 도달한 시점부터 얼마안가 특이점에 도달하게 되고 인류는 경험해보지 못한 기술 발전을 이루게 될 것이다.


그로인해, 인류의 자원생산은 기하급수적으로 증가하지만, 지구의 총 자원량은 한정되어 있다.

이번에는 자원생산이 기하급수적으로 증가하지만 정작 더 이상 생산할 자원이 없어지는 것이다.


물론, 태양계에는 현재 인류를 천년만년 부양하고 남을 자원이 남아있다.


그러나,

특이점에 도달한 인류는 현재 인류가 쓰는 자원과는 비교도 안되는 양을 소비할 것이다.

특이점에 도달한 인류는 기술을 통한 영생을 이뤄낼 것이다.


영생을 얻으니 인구는 감소하지 않고 증가하기만 한다.

편의를 얻으니 에너지 소비량을 계속해서 증가하지만 한다.


결국, 과거 멜서스가 주장했듯.

생산되는 자원은 부족한데, 부양해야할 인구는 수백억, 수천억을 넘어갈테니,

개인에게 자원이 적절히 분배되지 못하고 여지껏 없던 기아가 찿아올 것이다.

지금부터라도 인구의 조절을 실행해야할까?
아니면 하버-보슈법과 같이 기술의 혁신이 새로운 길을 찿아낼까?



물론 이 글에는 기술의 혁신에 대한 가능성을 배제하고 있으며( 에너지 효율의 극대화 같은 ),
ASI 가 태어난다면 저런 것 하나 관리못해서 망할리가 없음.
그냥 새벽에 똥글싸고싶었음