우선 AGI가 재귀개선이 되는 모델은 아니라고 가정함.

AGI가 단기적으로는 대량실업으로 인한 사회 혼란을 가져올 수 있겠지만, 오픈 소스와 경쟁사 AGI로 인해 사회가 급속도로 풍요로워질 수 있다고는 생각함.

선두그룹이 일정기간 독점으로 인한 엄청난 수익을 얻겠지만 경쟁 AGI로 인해 곧 그러한 이점을 잃고 정부는 UBI를 제공하고, 자본주의는 흔들릴지언정 붕괴하진 않을거 같음.


재귀개선 혹은 ASI 는 답이 없는 문제. 그냥 정렬 잘되어주세요 인류의 복지를 위해 써주세요 하고 물 떠놓고 기도 외엔 방법이 없음...

솔직히 ASI는 존재하지 않는게 낫다고 생각함. 물론 개발을 막을 방법은 현실적으로 없겠지만...