https://intelligence-curse.ai/
(o3한테 간단히 요약해 달라고 했음)
AI가 ‘지능’이 되어 자본·국가·거대기업의 손에 집중될 경우, 인간은 경제적·정치적 동기가 사라진 “쓸모없는 존재”로 전락할 수 있다.
이것을 저자들은 “지능의 저주(The Intelligence Curse)”라 부르며,
+AI가 인간 노동을 단계적으로 대체하고(피라미드-대체)
+자본의 힘을 절대화하며
+현대 사회계약을 무너뜨릴 위험을 분석한 뒤,
Avert → Diffuse → Democratize(위험 저감·확산·민주화) 3단계 전략으로 해법을 제안한다.
- Introduction – 문제 제기와 전체 맵 (The Intelligence Curse)
- Ch. 2 Pyramid Replacement – AI가 기업 피라미드의 맨 아래부터 경영진까지 순차적으로 대체 (Pyramid Replacement - The Intelligence Curse)
- Ch. 3 Capital, AGI & Human Ambition – 노동 가치 ≈ 0이 되면 자본이 영구 권력화 (Capital, AGI, and Human Ambition - The Intelligence Curse)
- Ch. 4 Defining the Intelligence Curse – ‘자원 저주’의 AI 버전 (Defining the Intelligence Curse - The Intelligence Curse)
- Ch. 5 Shaping the Social Contract – 왜/어떻게 사회계약이 깨지는가 (Shaping the Social Contract - The Intelligence Curse)
- Ch. 6 Breaking the Curse – 기술·정책 로드맵(Avert, Diffuse, Democratize) (Breaking the Intelligence Curse - The Intelligence Curse)
- Ch. 7 History is Yours to Write – 개인 행동 촉구(요약 생략)
1) 피라미드-대체(Pyramid Replacement)
- 단계적 자동화: 채용 동결 → 하위직 감원 → 중간관리·상위경영 자동화 → 완전 무인 기업까지 6단계 시나리오. (Pyramid Replacement - The Intelligence Curse)
- 여파: 사회 이동성 상실, 경력 사다리 붕괴, 대규모 실업 충격. 외부 해설 역시 “AGI가 사람을 대체해 투자 동기가 사라진다”고 요약. (Reflections on the Paper "The Intelligence Curse" - billparker.ai)
- 돈이 모든 재능을 복제: AI 모델은 ‘복사 가능한 천재’이므로 자본이 곧 만능 노동이 됨.
- 사회 정체: 새로운 창업·과학·정치적 이단아가 사라져 ‘상속자 귀족’만 남는 정태적 세계.
- 자원 저주 비유: 석유국처럼 ‘세금-의존’ 대신 ‘AI-렌트’로 먹고사는 국가·기업은 교육·복지를 투자할 이유가 없다. (Defining the Intelligence Curse - The Intelligence Curse)
- 레딧·LessWrong 등에서도 같은 우려를 재확산. (The Intelligence Curse - LessWrong 2.0 viewer - GreaterWrong)
- 인센티브 미스매치: 국가·기업이 더 이상 국민·직원에게 의존하지 않으면 보통 사람의 협상력이 0이 된다. (Shaping the Social Contract - The Intelligence Curse)
- 역사적 전례: 농경→산업 전환 때도 기술-인센티브가 가치체계까지 바꿨다는 비교사 분석. (Shaping the Social Contract - The Intelligence Curse)
1. Avert
AI 재앙/무력화 위험 최소화 모델 해석·통제, 생물안보 인프라 (Breaking the Intelligence Curse - The Intelligence Curse)
2. Diffuse
AI 이득의 광범위 확산·인간 보조 휴먼-인-더-루프 도구, 로컬 파인튜닝, 저가 오픈소스 (Breaking the Intelligence Curse - The Intelligence Curse)
3. Democratize
제도·권력의 인간 정렬 디지털 대의제, AI 감사·검증, AI 정책·법제화 (Breaking the Intelligence Curse - The Intelligence Curse)
외부 연구도 ‘AI 쿠데타 위험’과 다극 확산의 필요성을 지적. (AI-Enabled Coups: How a Small Group Could Use AI to Seize Power)
‘지능의 저주’는 단순한 기술 문제가 아니라 인센티브 구조의 붕괴다.
저자들은 “인류가 AI를 완전히 통제하거나 기습적으로 독점하기보다, 위험을 줄이면서 인간-AI 공생 기간을 최대화하고, 그 사이에 제도·기술 기반을 분산·민주화해야 한다”고 강조한다.
요컨대 AI를 사람에게 투자하도록 만드는 기술과 제도를 먼저 설계하지 않으면, 아무도 우리에게 투자하지 않을 것이다.
지능의 저주는 저게 아닐텐데
그건 지식의 저주(Curse of Knowledge)
흥미로운 관점이군. 언젠가 한 번 알아봐야겠네
좋은말이네 - dc App