[📪정보] 다시보는 파텔이 말하는 agi가 가까이 있지않을 수 있는 이유

[익명(125.137)]

Why I don’t think AGI is right around the corner

이 글은 팟캐스트 진행자이자 테크 애널리스트인 드와르케시 파텔(Dwarkesh Patel)이 “왜 나는 AGI(범용 인공지능)가 곧 도래할 것이라고 생각하지 않는가”에 대해 작성한 긴 설명문입니다. 여기서 그는 낙관적인 AGI 전망에 대해 직접적인 반론을 제기하며, 기술적 한계와 현실적 장애물들을 조목조목 짚고 있습니다. 요약은 다음과 같습니다:

⸻

핵심 주장 요약

1. 현행 LLM의 한계: ‘계속 배우지 못한다’

• 지금의 LLM(예: GPT-4)은 “한 번 만든 상태에서 끝난다.”

인간처럼 피드백을 받고 점진적으로 나아지지 않는다.

• 그는 오디오 편집을 돕기 위해 수백 시간 동안 LLM을 직접 활용했으나, 기대 이하였다.

• 에세이 공동작성, 클립 추출, 스크립트 정리 같은 간단한 언어 기반 작업조차 5/10 정도의 성과.

? 비유: LLM에게 작업을 가르치는 건 “매번 다른 아이에게 색소폰을 한 번 불어보게 하고, 실패하면 다음 아이에게 텍스트로 피드백을 전달하며 다시 시작하는 식”이다. 이건 학습이 아니다.

⸻

2. ‘지속적 학습’ 부재는 AI 직원화의 결정적 장애물

• 인간은 피드백을 통해 점점 더 능숙해진다.

하지만 LLM은 사용자가 매번 새로 입력해줘야 한다.

• AI는 같은 실수를 반복하며, 사용자의 취향과 컨텍스트를 기억하지 못한다.

• 이는 실제 직원으로서 고용하는 수준에는 도달하지 못하는 핵심 이유다.

⸻

3. 경제적 임팩트에 대한 회의

• 일부 AI 연구자(예: Trenton Bricken)는 “AI가 현재 수준이라도 5년 내에 화이트칼라 직업 대부분을 자동화할 수 있다”고 주장하지만, 그는 반대 입장.

• 만약 지금 기술이 정지해도, 백오피스 업무의 25% 이상 자동화되긴 힘들다.

• Claude 4도 스크립트 정리 정도는 가능하지만, 사람처럼 점진적으로 더 잘하게 만들 수 없기에 여전히 사람을 쓴다.

⸻

4. ‘AI 비서’ 도래에 대한 회의

• 연구자들은 “내년 말에는 AI에게 ‘내 세금 다 알아서 처리해줘’라고 하면 알아서 이메일, 영수증, 서류 다 처리하고 IRS에 제출할 것”이라고 전망.

• 그러나 그는 다음 이유로 회의적임:

1. 이건 멀리 내다봐야 하는 복잡한 작업 (수 시간 단위 작업 필요).

2. 멀티모달(텍스트+이미지+UI) 학습 데이터가 부족하다.

3. RL 등의 학습 알고리즘이 아직 ‘컴퓨터 사용’ 같은 비언어적 작업에 적용하기에는 효율성이 부족하다.

4. GPT-2 → GPT-4로 가는데 4년 걸렸고, 이보다 더 복잡한 문제이기에 시간은 더 걸릴 것이다.

⸻

5. 하지만 장기적으로는 낙관적

• 지속적 학습이 가능해지는 순간, **가치의 단절(discontinuity)**이 발생할 것.

• AI는 인간과 달리 복제 가능한 지능이기에, 한 번 배운 건 모든 인스턴스에 공유됨.

• 이 구조가 AGI나 심지어 초지능(ASI)으로 이어질 수 있음.

• 그는 2032년경에는 AI가 실제 업무를 ‘배우고 축적하는’ 인간 수준의 능력을 가질 가능성이 높다고 봄.

⸻

6. 정리된 AGI 타임라인 예측

작업 기대 시점

AI가 중소기업 세금 전체를 사람 수준으로 완수 2028년

AI가 인간 수준으로 지속 학습하여 팀에 융화됨 2032년

⸻

7. 근본적 구조적 인사이트

• 지금까지 AI 발전은 대부분 “컴퓨트 양 증가”로 달성됨 (연 4배 성장).

• 이건 2030년 즈음에 한계에 도달함 (전기, 칩, GDP 대비 자원 등).

• 그 이후에는 알고리즘 혁신이 유일한 길.

• 그러므로 AGI는 이번 10년 안에 오지 않으면, 오랫동안 안 올 수도 있음.

⸻

결론적 메시지

• 지금의 LLM은 놀라운 기술이지만, ‘생각하면서 배워나가는 인간’과는 근본적으로 다르다.

• AGI를 예측할 때는 확률분포 개념을 가져야 하며, 가능성은 존재하되 속도에 대해선 신중해야 한다.

• 오히려 지금의 과대광고가 오히려 과장일 수 있고, 진짜 변화는 더 느리게 다가오지만 훨씬 더 근본적일 수 있다.

⸻

원할 경우 다음을 더 깊이 분석해 줄 수 있음:

• Anthropic의 주장에 대한 구체적 반론 구조

• ‘지속 학습’이 갖는 알고리즘적 난제

• 인재나 조직에서 ‘지속 학습이 가능해야 실질적 전환이 일어나는 이유’

• 과거 GPT 2 → GPT 4로 이어진 기술 진화와의 비교 분석