내가 Anthropic이 AGI/ASI를 가장 먼저 만들 거라고 생각하는 이유


요즘 주요 AI 연구소들은 같은 AI 발전이라는 목표를 공유하면서도, 점점 서로 다른 방향으로 나아가고 있는 것 같아. 전부 LLM(대규모 언어 모델)을 개발하긴 하지만, 그 이상으로 각자의 초점이 다르거든.


예를 들어, DeepMind는 LLM뿐만 아니라 특정 분야에 특화된 응용 프로그램에도 엄청난 투자를 하고 있어. 대표적으로 AlphaFold 같은 거 말이야. 그거 만드느라 2억 달러나 썼는데, 결국 오픈소스로 풀었잖아(데미스, 사랑해. 결혼해줘). 반면, OpenAI는 요즘 보면 주로 사용자를 유료 챗봇 구독자로 전환하는 데 집중하는 것 같고.


근데 Anthropic은 좀 달라. 내가 보기엔 주요 연구소들 중에서 유일하게 ‘AI가 AI 연구를 가속화할 수 있는 시스템’을 목표로 하고 있는 것 같아. 자기개선 루프(recursive improvement loop)를 진짜 밀어붙이는 느낌이야. Anthropic 대표 다리오 아모데이가 원래 일정 빡세게 잡기로 유명하잖아. AI 미래에 대해서 물어보면, 자주 “데이터센터에 있는 천재(genius in a datacenter)“라는 비유를 하더라. 그러니까, AI가 스스로 연구를 빠르게 발전시키는 그런 상황을 떠올리고 있는 거지.


Claude 3.5 Sonnet만 봐도 그래. 요즘 최신 모델들 기준으로는 좀 오래된 축에 속하지만, 여전히 코딩 같은 분야에선 최고 수준의 벤치마크 기록을 유지하고 있어. 최근에 ChatGPT 쪽에서 더 포괄적인 코딩 평가 기준이 나왔는데, 거기서도 여전히 Claude가 강세더라고. 코딩은 AI 자기개선에 있어서 진짜 중요한 분야잖아. 그래서 더 Anthropic이 유일하게 ‘빠른 폭발(fast takeoff)’ 가능성을 믿고 거기에 맞춰 모델을 설계하는 곳 같다는 생각이 들어.


물론, 내 믿음도 결국 ‘빠른 폭발’ 시나리오가 현실화된다는 가정 위에 있긴 해. 근데 만약 그게 가능하다면, Anthropic이 가장 먼저 해낼 것 같아.


많은 사람들이 Anthropic이 안전성(safety)에 집중하니까 오히려 느릴 거라고 생각하더라. 근데 솔직히 말하면, Anthropic은 계속해서 오래 가는 강력한 모델들을 내놨어. 오히려 장기적으로 보면 안전성 기반을 탄탄히 다지는 게 큰 강점이 될 거라고 봐. 그리고 난 Anthropic이 괜히 다른 연구소들 신제품 나왔다고 바로 맞불 놓으면서 새 모델 발표하는 그런 식으로 안 움직이는 것도 좋다고 생각해. 그냥 자기들 페이스대로, 좋은 연구 하면서 꾸준히 나아가는 거. 그게 진짜 강한 거 같아.