[📪정보] Grok3, xAI를 최전선 모델 개발사의 최상위 계층으로 이끌다

[초존도초(htr3c654r6ft)]

Grok 3 모델, xAI를 최전선 모델 개발사의 최상위 계층으로 이끌다

이 연구소는 설립된 지 불과 1년밖에 되지 않았지만, 최고의 인재와 막대한 자금을 보유하고 있다.

[사진: Chip Somodevilla/Getty Images; Mariia Shalabaieva/Unsplash]

작성자: Mark Sullivan

5분 읽기

새로운 Grok 3 모델의 내부

불과 2년 만에 엘론 머스크(Elon Musk)의 xAI는 최첨단 AI 모델을 개발할 수 있는 약 12개의 연구소 중 하나로 자리 잡았다. 이제 xAI는 'Grok 3' 대형 언어 모델을 출시했으며, 이 모델은 OpenAI의 GPT-4o와 DeepSeek의 V3와 같은 최첨단 프론티어 모델들을 일반적인 수학, 과학, 코딩 벤치마크에서 큰 차이로 앞지르고 있다. 한편, 더 작은 규모의 'Grok 3-mini'는 더 큰 경쟁 모델들과 동등한 성능을 보여준다.

새로운 Grok 모델은 전례 없는 컴퓨팅 파워를 활용해 훈련되었으며, 처음에는 10만 개의 Nvidia H100 GPU 클러스터를 사용했다. 소수의 경쟁 개발자들이 Grok 3의 초기 버전을 테스트 중이며, 대부분은 몇 가지 주의점을 언급하지만 인상적이라고 평가한다. OpenAI 공동 창립자인 안드레이 카르파티(Andrej Karpathy)는 X에 Grok 3이 날카로운 추론 능력을 보여주며 일부 복잡한 문제를 해결할 수 있었다고 게시했다. 그는 이 모델이 OpenAI의 o1-Pro 추론 모델과 동등하며, DeepSeek-R1과 구글의 Gemini 2.0 Flash Thinking보다 약간 우수하다고 추정한다.

그러나 그는 Grok 3이 대형 트랜스포머 모델을 어렵게 만드는 것으로 알려진 일부 프롬프트에서 어려움을 겪는다고 밝혔다. 예를 들어, "Lollapalooza"라는 단어에 "L"이 몇 개 있는지 판단하는 문제 같은 경우다. Scale AI의 CEO 알렉산드르 왕(Alexandr Wang)은 X에서 Grok 3이 최첨단 모델이며 Chatbot Arena 벤치마크에서 1위를 차지한 점을 높이 평가했다. 반면, AI 회의론자인 게리 마커스(Gary Marcus)는 X에서 Grok 3이 실질적인 진전을 보여주지만 기존 모델을 크게 뛰어넘지는 않는다고 언급했다.

앞으로 며칠, 몇 주 동안 더 많은 벤치마크 테스트 점수가 공개되어 Grok 3이 경쟁 모델들과 어떻게 비교되는지 더 완전한 그림을 제공할 것이다. 인상적이긴 하지만, 새로운 "사고(Thinking)" 모델의 개발 속도가 너무 빨라 Grok 3은 3개월 후 벤치마크 성능자들 사이에서 다시 묻힐 수도 있다. AI 연구소들은 이제 "사고" 모델이 문제를 제시받은 후 사용하는 컴퓨팅 파워를 확장하는 방법을 배우고 있다. OpenAI, Anthropic, Google, DeepSeek 등에서 나올 차기 모델들이 그 연구의 성과를 보여줄 것이다.

Brookings: AI 혁명의 승자와 패자는 당신이 생각하는 사람이나 장소가 아닐 것

Brookings Institution의 새로운 분석에 따르면, AI가 일자리와 일자리 손실에 미치는 영향은 '고학력 도시 근로자'들이 일자리를 잃을 위험이 가장 클 것이라고 제안한다.

지난 산업 혁명은 주로 소도시와 농촌 지역의 저임금 제조업 및 서비스업 일자리에 영향을 미쳤다. 이번에는 기술 허브와 금융 중심지의 '지식 근로자'들이 AI 주도 변화에 가장 큰 노출을 겪을 것이다.

Brookings는 산호세(San Jose)의 산타클라라 카운티(Santa Clara County)에서 근로자의 약 '43%'가 OpenAI의 ChatGPT와 Anthropic의 Claude를 포함한 AI 도구로 인해 업무의 절반 이상이 변형될 수 있다고 밝혔다. 반면, 라스베이거스(Las Vegas)와 같은 덜 기술 지향적인 지역의 근로자들은 AI 도구로 인해 업무의 '3분의 1 미만'만 변경될 것이다. 이 패턴은 전국적으로 적용되며, 주 내에서도 큰 차이가 있다. 예를 들어, 캘리포니아의 노출률은 기술 중심의 산타클라라 카운티에서 '42.8%'인 반면, 농촌 지역인 모노 카운티(Mono County)에서는 '26.7%'에 불과하다.

Brookings 보고서에 따르면, 기술 자체를 살펴보면 이는 그리 놀랍지 않다. 공장 바닥의 기계는 반복적인 물리적 작업을 대체하기 위한 것이었고, 생성 AI는 '인지 작업'(글쓰기, 분석, 코딩 등 지식 기반 작업)에 특화되어 있다. 직업이 요구하는 교육 수준과 임금이 높을수록 AI 기능에 영향을 받을 가능성이 크다.

워싱턴 D.C.에 본사를 둔 정책 싱크탱크인 Brookings는 법안 제정자들이 도시 지식 근로자들의 일자리를 보호하고 "재교육"하는 방법을 고민하며, 농촌 지역이 AI의 생산성 혜택에 접근하는 데 뒤처지지 않도록 해야 한다고 강조한다. 이 싱크탱크는 기술적 혼란의 지리학이 새롭게 쓰이고 있으며, 이는 노동력 개발과 경제적 불평등에 미치는 영향이 이제 막 드러나기 시작했다고 말한다.

전 OpenAI CTO 미라 무라티(Mira Murati), AI 스타트업 공개, 그러나 초점은 여전히 모호

전 OpenAI CTO인 미라 무라티는 새로운 AI 회사인 'Thinking Machines Lab'을 공개했다. 이 스타트업이 구축하려는 제품은 아직 불분명하지만, 무라티는 이전 회사와는 매우 다른 방식으로 AI를 구축하려는 것으로 보인다—'공개적으로'.

AI 연구 커뮤니티는 원래 꽤 대화가 활발한 곳이었지만, ChatGPT로 이어진 연구 돌파구는 곧 많은 자금을 끌어들였고, 큰 돈과 함께 더 많은 비밀이 따랐다. 이에 따라 OpenAI와 Anthropic 같은 회사가 훈련 방법을 철저히 보호하는 동안, 무라티는 블로그 게시물에서 Thinking Machines가 기술적 통찰력, 연구 논문, 코드를 정기적으로 게시할 것이라고 밝혔다. DeepSeek이 한 예라면(모델을 오픈소스로 공개하고 연구 방법을 게시함), 이 관행은 업계의 목표인 '인공지능 일반(AGI)'—즉, 인간보다 일반적으로 더 똑똑한 AI—를 만들기 위한 경쟁을 가속화할 수 있다.

무라티의 블로그 게시물은 또한 특정 주제 영역의 특정 응용 프로그램으로 모델을 더 쉽게 조정할 수 있는 의지를 나타낸다. 그녀는 "AI 시스템은 사람들이 자신의 특정 요구와 가치에 맞게 사용자 정의하기 어렵다"고 썼으며, 회사가 "더 널리 이해되고, 사용자 정의 가능하며, 일반적으로 유능한" 시스템을 구축할 것이라고 말했다.

The Information에 따르면, 무라티 회사 연구원의 '3분의 2 이상'이 OpenAI 출신이며, OpenAI 공동 창립자 존 슐만(John Schulman)과 전 안전 책임자 릴리안 웽(Lilian Weng)이 포함된다. 이 스타트업은 인간을 대체하는 것이 아니라 돕는 시스템을 구축하려 한다. 무라티는 "완전히 자율적인 AI 시스템을 만드는 데만 집중하는 대신, 사람들과 협력적으로 작동하는 다중 모드 시스템을 구축하는 데 흥미를 느낀다"고 썼다. "우리는 AI가 모든 업무 분야에서 도움을 줄 수 있는 엄청난 잠재력을 본다."

그 외에 Thinking Machines Lab이 무엇을 구축할지에 대해서는 알려진 바가 거의 없다. 무라티의 배경과 발언을 바탕으로, 회사가 매우 큰 기초 모델에 초점을 맞추어 다양한 전문 업무에 훈련되거나 적응될 수 있을 것으로 보인다.

한편, Bloomberg는 또 다른 OpenAI 동문인 공동 창립자 일리아 수츠케버(Ilya Sutskever)가 자신의 AI 스타트업 'Safe Superintelligence'의 가치를 '300억 달러 이상'으로 평가할 수 있는 라운드에서 '10억 달러 이상'의 자금을 조달하기 위한 협상을 진행 중이라고 보도했다.