[💡정보] 안드레 카파시 인터뷰 (24.09.05)

[익명(wanted7407)]

진행자 - 자율주행 전망은 어떻게 보십니까?

안드레 카파시 - 네, 저는 자율주행 쪽에서 5년 정도 일했습니다. 매우 흥미로운 분야입니다. 자율주행과 AGI는 겹치는 부분이 많습니다. 제가 이 분야에 익숙해서 그렇게 느끼는 것일지도요. 샌프란시스코에서는 웨이모가 굉장히 흔합니다. 여러 번 타봤는데 참 놀랍습니다. 자율주행은 이미 AGI에 어느정도 도달했다고 생각합니다.

진행자 - 테슬라처럼 카메라만 사용하면 엄청난 비용과 복잡성을 제거할 수 있고 다양한 차량에 도입하기도 쉬울텐데 언제쯤 그 대전환이 일어날 수 있을까요?

안드레 카파시 - 몇 년 내로 그렇게 될 것 같습니다. 하지만 사람들이 혼동하는 것이, 테슬라는 카메라만 사용하는 것이 아닙니다. 고가의 센서들, 라이다를 단 차량으로 데이터를 수집하고 훈련시킵니다. 추가적인 센서도 쓰고 맵핑 작업도 합니다. 다만 트레이닝 단계에서 그렇게 다 완료되고 나서, 그 훈련시킨 모델을 '압축'해서 차량에 배포하는 것이죠. 배포된 차량에서는 '카메라'만 사용하는 것입니다. 정리하면 트레이닝 단계에서는 고가 센서, 라이다, 추가 센서 모두 사용해서 훈련하고 그 AI를 압축해서 일반 차량에 배포하는 것입니다. 차량에서 카메라로 하는 것은 '훈련' 단계가 아니라 '테스트' 단계입니다.

- 저는 테슬라의 이 전략이 굉장히 스마트하다고 생각합니다. 트레이닝 시점에는 고가의 센서들이 매우 유용하지만 테스트, 즉 도로에서 차량이 모델을 사용하는 시점에서는 '고가의 센서'들이 그렇게 유용하지 않으니까요. 테스트 시점에서는 카메라만 사용하는 겁니다.

- 향후 테슬라는 10년 간 엔드 투 엔드 시스템을 더 발전시켜서 비디오가 신경망으로 들어오면 명령이 나오는 식으로 발전할 것이라 생각합니다. 사실 인간의 드라이빙을 모방하는 엔드 투 엔드 방식은 대규모 신경망을 훈련시키기에는 데이터, 신호가 부족합니다. 테슬라는 이를 단계적으로 처리하고 있으며 앞으로가 기대됩니다.

진행자 - 테슬라의 옵티머스 휴머노이드 로봇이 대체하는 작업들은 뭐가 있을까요

안드레 카파시 - 거의 모든 것입니다. 사람들은 이를 충분히 생각하지 못하는 것 같아요.

진행자 - 굉장한 발언인데요?

안드레 카파시 - 차는 곧 로봇입니다. 테슬라는 자동차 회사가 아닙니다. 로봇 공학 회사에요. 그것도 큰 규모의 로봇 회사요. 앞으로 규모는 중요한 변수입니다. 또 테슬라는 '제품'을 만든다기 보다 그 제품을 만드는 것을 만드는 회사가 될 겁니다.

- 초기 버전 옵티머스는 자신이 차량인 줄 알더군요. 같은 컴퓨터, 같은 카메라를 사용했기에 그렇습니다. 차에서 돌아가던 네트워크를 그대로 로봇에서 실행했더니 로봇이 걷고 있었습니다. 자기가 운전하는 줄 알고 걸어다닌 것이죠.

진행자 - 차가 로봇이라는 말은 합리적이긴 합니다. 근데 많은 작업들을 대체하려면 구동 데이터, 행동 데이터들이 많이 부족하지 않나요?

안드레 카파시 - 맞습니다. 많이 빠져있죠. 하지만 거꾸로 이미 많이 얻고 시작한 것도 많습니다. 일론이 로봇을 시작할거다고 선언한 다음날부터 모든 필요한 도구들이 속속 모였습니다. CAD, 공급망 등이 말이죠. 저는 그때 테슬라가 '로봇을 만들기 위한 전문지식이 갖춰진 기업'이구나 라고 생각했습니다. 차에서 재구성하고 재배치했던 그 능력들이 그대로 로봇으로 옮겨간 것입니다. 하드웨어, 규모, 로봇의 두뇌, 레이블링 팀의 조정, 사람들의 접근 방식까지 로봇을 위해 전환이 잘 이루어졌습니다.

진행자 - 로봇이 사람 대신 세탁하거나 하게 될까요

안드레 카파시 - 그런 일은 나중에서야 나타날 겁니다. B2C보다는 B2B 부터 시작할 겁니다. 그리고 그 B2B 실제 판매 전에 테슬라 사내에서 공장에 배치해 많은 물류 처리를 시키는 것부터 시작하겠죠. 그렇게하면 제3자와의 계약도, 법적 문제도 피하면서 실 배치 및 개선을 시작할 수 있습니다. 그 후엔 타 기업에 파는 B2B. 그리고 그 뒤에 안전장치가 잘 만들어진 후에 B2C, 일반 고객들에게 판매할 것입니다.

진행자 - 더 크게 만들거나 더 작게 만드는 것보다 왜 사람 형태로 만드는 걸까요

안드레 카파시 - 사람들은 만들어진 플랫폼을 벗어나는 비용이 크다는 것을 잘 이해하지 못합니다. 세상은 인간을 위해 설계되어있어요. 사람 형태의 휴머노이드들은 매우 유용한 데이터 수집도구가 될 것이고 형태가 비슷하기 때문에 사람들이 원격으로 조종하기도 굉장히 편할 것입니다.

- 또 다른 이점은, 전이학습이 편하다는 것입니다. LLM이 크게 성공한 이유는 단일 텍스트 도메인에서 모든 지식들을 연결해 하나의 신경망으로 그 지식들을 써냅니다. 즉, 텍스트 데이터로부터 지식들을 얻어내 각종 영역에서 써낼 수 있다는 것입니다. 인간 형태의 휴머노이드로 낙엽을 쓸게 하거나, 다른 작업들을 할 수 있게 교육시켜놓으면 그렇게 익힌 동작과 지식들을 다른 작업에도 이어서 쓸 수 있게 됩니다. 문제들 사이를 엮어서 하나의 신경망으로 키워낼 수 있죠.

- 처음에는 많은 작업들이 인간이 조종하는 원격 조작으로 시작했다가, 95% 확률로 작동할 수 있도록 모방이 끝나면 이제 인간은 로봇의 작업을 감독하는 방향으로 나아갈 겁니다. 이 과정은 시간이 꽤 걸릴 겁니다. 다만 그 과정에 기술적인 장애요소가 보이진 않아요. 그저 많은 작업을 하면 그렇게 될 겁니다. 필요한 도구는 충분합니다. 트랜스포머는 대단한 만능 신경망입니다.

진행자 - 대규모 신경망 연구는 어디까지 와 있나요?

안드레 카파시 - 우린 아주 좋은 상태에 있어요. 사람들이 잘 모르는 것 같은데 트랜스포머는 그저 하나의 신경망이 아닙니다. 아주 놀라운 신경망이에요. 아주 일반적으로, 어디에나 투입이 가능합니다. 트랜스포머 이전의 LSTM 같은 것들은 계속해서 쌓아올려도 명확한 스케일링 법칙이 관찰되지 않았어요. 트랜스포머로 처음 스케일링이 관찰되면서 모든 것이 풀려나갔습니다. 저는 트랜스포머를 수십억 개의 파라미터로 훈련시키고 역전파로 학습시키는 하나의 컴퓨터로 생각합니다.

- 잔차 연결, 레이어 정규화, 어텐션 블록, tanh 같은 포화 비선형성 등의 마법같은 재료들이 결합되면서 트랜스포머가 만들어졌고, 스케일링 법칙이 관찰되며, 매우 일반적인, 어디에나 투입이 가능한 신경망이 탄생했습니다. 이는 정말 중요한 발견이었습니다.

진행자 - 그럼 트랜스포머의 한계, 데이터 부족, 다음 세대 스케일로 가는 어마어마한 비용 등에는 어떻게 생각하십니까

안드레 카파시 - 아키텍처는 병목현상이 아니에요. 트랜스포머 이전에는 그랬을지 몰라도, 이젠 아닙니다. 손실 함수, 데이터 셋에 대해 고민하지 트랜스포머 아키텍처의 한계에 대해 고민하진 않아요. 최근에 나온 라마를 봐도 RoPE 포지셔널 인코딩 같은 상대적 위치 인코딩이 큰 변화였고 작은 몇가지 수정으로 3% 정도 성능 향상을 이뤄냈지만, 실질적으론 크지 않습니다. 지난 5년간 트랜스포머 아키텍처의 변화는 딱 이 정도 입니다. 그래서 사람들은 훈련에 집중하고 데이터셋과 손실함수 쪽에서 대부분의 혁신이 이뤄지고 있습니다.

진행자 - 그럼 데이터 부족이나 합성데이터에 대해선 어떻게 생각하시나요?

안드레 카파시 - 사실 웹데이터는 트랜스포머에 이상적인 데이터원이 아닙니다. 그냥 가장 가까운, 이웃 데이터였을 뿐이에요. 하지만 그럼에도 불구하고 놀랍게도 그런 데이터원으로도 대단한 성능을 보이고 있는 겁니다. 인터넷 데이터는 웹페이지 모음일 뿐입니다.

- 트랜스포머에 진짜 필요한 것은, 우리 뇌로 치면 뇌 속에서 일어나는 '생각의 독백'입니다. 그것이 핵심이죠. 문제를 해결할 때 뇌에서 나타나는 사고의 흐름, 이런 생각의 경로를 '데이터'로 갖고 있다면 AGI에 도달할 수 있을 것입니다. 대단히 많은 부분에서 말입니다. 하지만 그런 데이터는 아직 '존재하지 않습니다'. 그래서 현재 연구들은 그런 사고의 흐름을 인터넷 데이터로부터 추출할 수 있을지 그 가능성을 살펴보는 것에 집중되어 있습니다. 인터넷에는 추론의 흔적과 관련한 지식들이 있기 때문에 트랜스포머가 그런 것들을 처리할 수 있지 않을까 생각하는 것이죠. 현재 최전선의 연구는 그런 인터넷 데이터를 '내부 독백 형식으로 재구성'하는 것에 집중되어 있습니다. 저는 이를 위해 합성데이터가 아주 도움이 될 것으로 봅니다.

- 또 매우 흥미로운 것은, "현재의 모델들"이 "미래의 모델"을 만드는데 도움이 되고 있다는 것입니다. 마치 개선의 계단을 밟아가는 것처럼요.

진행자 - 합성 데이터가 '얼마나' 중요하고 도움이 될까요?

안드레 카파시 - 저는 합성데이터가 우리가 앞으로 나아가는 유일한 방법이라고 생각합니다. 우린 합성 데이터를 "반드시" 작동시켜야 합니다. 다만 주의를 해야 하는 것이, 오용하면 조용히 모델이 붕괴할 수도 있어요. 데이터셋에 엔트로피, 즉 다양성과 풍부함을 담아내야합니다. 그렇지 않으면 데이터셋이 붕괴되어 전체 분포가 풍부함과 엔트로피를 잃어 저품질로 나아갈 것입니다.

- 데이터셋에 엔트로피, 정보의 다양성을 담아내는 기술은 여럿 있습니다. 예전에 누군가 발표했던 페르소나 데이터셋처럼요. 페르소나 데이터셋은 10억개의 페르소나, 인격, 배경을 담은 데이터셋입니다. 여러 가상인간들을 선생님, 예술가, 여기 살고 있다, 저런 일을 한다는 페르소나를 각각 부여해 모델에게 그런 사람인 것처럼 상상해서 답을 내도록 하는 겁니다. 그런 작업을 통해 데이터셋이 더 다양한 공간으로 나아가고 엔트로피를 주입하는 것이 가능합니다. 분포를 잘 유지해야합니다. 사람들은 이 중요성을 잘 모르는 것 같아요.

- 합성데이터는 미래에 "반드시" 필요합니다. 데이터가 부족할 일은 없습니다. 다만 그 과정에서 엔트로피에 주의를 해야 할 것입니다.

진행자 - AI를 연구하면서 우리 뇌의 인지기능에 대해서 배우고 있는 것은 있나요?

안드레 카파시 - 저는 뇌와 AI를 연결짓는 것에 대해 유의해야 한다고 생각합니다. 일정 부분 유사점은 있지만요. 저는 어쩌면 트랜스포머가 인간의 뇌보다 더 나은 시스템이 아닐까 생각합니다. 트랜스포머가 뇌처럼 효율적으로 작동하지 못하는 이유는 "대부분 데이터 문제"라고 생각합니다. 예를 들어 트랜스포머는 시퀀스(순서)를 기억하는 데 인간보다 훨씬 뛰어납니다. 시퀀스를 하나만 보여줘도 그 뒤를 완벽히 예측할 수 있어요. 인간은 못하죠. 저는 그라디언트 기반 최적화, 포워드-백워드 업데이트가 뇌보다 효율적일 가능성이 높다고 봅니다. 아직은 빛을 발하지 못할 뿐이지 앞으로 인지적인 측면에서 뛰어난 결과를 낼 수 있을 것이라고 생각합니다.

- 인간의 뇌는 작업 기억이 매우 작습니다. 트랜스포머 모델들은 작업중 메모리가 인간보다 훨씬 더 크죠. 앞으론 이 격차가 더 커질 겁니다. 또 트랜스포머는 인간보다 효율적으로 학습합니다. 이들은 역전파로 학습하는데, 뇌는 역전파를 쓰는지 명확히 말할 수도 없고 어떤 방식인지 불분명합니다. 뇌는 매우 확률적이고, 동적인 시스템입니다. 주변 환경 등의 제약 하에 작동합니다.

- 때문에 AI 모델은 뇌보다 더 잠재적으로 더 나을 수 있다고 생각합니다. 단지 아직 그 수준에 도달하지 못했을 뿐입니다.

진행자 - 그럼 인간과 AI의 결합에 대해선 어떻게 생각하시나요?

안드레 카파시 - AI 모델과 인간의 지능을 증강하는 결합 말씀이신가요? 물론 가능합니다. 앞으로 통합이 어떻게 이뤄질진 모르겠지만, 저는 우리의 신피질(neocortex)위에 일종의 외부피질(exocortex)을 쌓는 것이라고 생각합니다. 인공지능이 우리 뇌의 연장이라는 뜻이죠. 그 인공지능이 클라우드에 있든 어디에 있든 말입니다.

- 많은 사람들은 이제 길치가 되어버렸어요. 턴바이턴 네이게이션이 앞으로 100미터 후에 우회전하세요 식으로 단계별로 길을 알려주다보니 말이에요. 우리가 곧 나타날 유니버셜 번역기를 사용하는 것도 비슷할 겁니다. 그 번역기가 없으면 이제 비영어권 사람과 대화하는 법을 까먹어버릴 것 같습니다. 혹시 어린아이가 잡지를 스와이프하려는 영상 보신 적 있나요? 기술이 너무 자연스럽게 녹아들어서 잡지도 스와이프 해버리는 겁니다. 저는 이런 상황이 이제 계속 나타날 것 같아요. 세계인들의 언어를 번역해주는 기기를 쓰고 있을 때에는 모르다가, 그 번역기를 벗고나면 본인의 인지기능이 사라져버리는, 그런 느낌말입니다. 디즈니 같은 곳에 가도 모든 물체가 살아있는 것처럼 느끼는, 그런 세계로 나아갈 것입니다. 벌써 지금 알렉사에게 말하고 원하는 걸 말할 수 있으니까요. 문 앞에 가서 '열려라' 했는데 안열리면 뭐야, 왜 안열려? 하면서 당황하는 그런 시대 말입니다.

진행자 - 지금은 몇몇 프론티어 연구소들이 다음 세대 AI 들을 훈련하는 생태계인데 미래엔 어떻게 될까요?

안드레 카파시 - 지금은 클로즈드 소스 플랫폼들이 과점을 형성하고 있고 메타가 오픈소스 생태계로 이를 따라가고 있는 상황입니다. 저는 이 모델들을 우리 뇌의 제일 바깥 외부피질로 생각하면 한 구절이 떠오릅니다. 암호화폐를 보면 "당신이 개인키를 소유하지 않으면, 당신의 코인이 아닙니다"라는 말이 있잖아요? 인공지능에서도 마찬가지로, "당신이 가중치를 소유하지 않으면, 그 모델은 당신의 진짜 외부피질이 아니다"라는 겁니다.

진행자 - 흥미롭네요. 왜냐면 기업들이 사실상 사람들의 가장 바깥 뇌, 외부 피질을 통제하는 셈이니까요.

안드레 카파시 - 맞아요. 점점 더 침해받는 느낌을 받을 겁니다. "잠깐, 생각해보니 난 지금 내 뇌를 임대해서 쓰고 있는건가?" 하고 생각하는 겁니다. 이상하게 들리죠. 그럼 "좀 더 나은 뇌"를 쓰기 위해 소유권과 통제를 포기할 의향이 있을까요? 저는 사람들이 그럴 것이라고 생각합니다. 일종의 트레이드오프 일수도 있는데, 지켜봐야할 거에요. 클로즈드 소스 모델들은 확실히 더 성능이 좋지만 오픈소스를 자유롭게 쓰는 것보다는 통제받는 느낌일 것이니까요.

- 아마도 일반적으론 클로즈드 소스 모델을 쓰고, 혹시 모를 상황에 대비해 오픈소스 모델을 준비해두는 백업 옵션을 두는 것이 괜찮은 방식일 겁니다. 무슨 일이 생기면 오픈소스 모델을 쓰고 그렇지 않은 보통 때에는 클로즈드 버전을 쓰는 겁니다.

진행자 - 오픈소스 발전이 굉장히 중요하다는 뜻인가요?

안드레 카파시 - 100% 그렇습니다. 사람들이 아직 인식하지 못했을 수 있겠지만 저는 100% 중요하다고 생각합니다.

진행자 - 성능이 좋은 모델은 최소 크기가 어떻게 될까요? 파라미터 크기나 다른 기준 등에서요.

안드레 카파시 - 저는 성능 좋은 모델이 놀랄만큼 작아질 수도 있다고 봅니다. 현재 모델들은 정말 쓸모없는 SHA 해시값이나 옛 데이터 같은 것들도 기억하면서 일종의 낭비를 하고 있어요. 데이터셋이 최적화되지 않았기 때문에 우린 인터넷 상의 인지핵심(cognitive core)만 남기면 좋겠습니다. 파라미터는 10억개로도 충분할 겁니다. 우린 아마 그 정도 사이즈로 나아갈 겁니다. 이게 가능한 근본적 이유는 증류가 아주 효과가 좋기 때문이에요. 이게 아마 제가 가장 강조할 부분이기도 합니다. 증류는 놀랄만큼 잘 작동합니다. 인터넷의 0.001%만 인지기능 향상에 관련이 있고 나머지 99.999는 별로 중요한 정보가 아니에요. 전 10억 개 파라미터면 인지 핵심을 위한 좋은 기준점이 될 것 같습니다. 어쩌면 그보다도 작아질 수 있을지도요. 파라미터가 10억개 미만이 되면, 로컬에서도 쓸 수 있어요.

- 앞으로는 LLM 끼리 조직화해서 CEO는 클라우드 모델, 각 분야별 작업 모델은 오픈소스거나 전문성에 따라 다른 모델을 쓸 겁니다. 미래에는 LLM 끼리 모인 기업이 등장할 겁니다.

진행자 - 당신은 OpenAI를 떠나서 교육쪽으로 방향을 잡으신 것 같아요. 왜 그러신건가요?

안드레 카파시 - 저는 항상 교육자였습니다. 배우는 것도 가르치는 것도 매우 즐거워요. 또 대부분은 AI가 사람을 대체하고 사람을 '불필요'하게 만드는 것을 생각하지만, 저는 사람을 '강화'하는 방향에 더 관심이 많습니다. 저는 사람들이 자동화의 한 쪽에만 머물길 바라지 않아요. 사람들이 더 강력해지고 지금보다 더 대단한 존재가 되길 바랍니다. AI를 1:1 튜터링에 활용하면 사람들이 얼마나 더 똑똑해질 수 있을까에 대해서도 관심이 많습니다. 80년대 논문만 봐도 1대 1 튜터링은 표준편차 1만큼 성취도를 높인다는 증거가 나왔었으니까요.

- 제 목표는 AI를 배우고자한다면 반드시 배워야할 코스를 만드는 겁니다. 스탠포드에서 231n 딥러닝 수업을 꽤 성공적으로 잘 했습니다. 이를 어떻게 80억명으로 확대할까가 문제입니다.

- 지금은 연구 커뮤니티에서도 어디 연구실 출신인지를 따집니다. 노벨상 수상자들도 그 전에 다른 노벨상 수상자 연구실에서 일을 했고 말이에요. 지식이 커뮤니티에서 이어지는 겁니다. 저는 이런 계보가 이어지는, 계보가 중요한 세상에 살고 싶지 않습니다. 그래서 AI가 그런 구조를 깨트리길 기대하고 있어요. 이런 계보는 한정적인 자원에 대한 문턱같은 겁니다. "그 계보를 가진 사람은 이런 몇몇 밖에 안돼" 식으로 자부심을 갖는, 그런 것들을 Ai가 없애줬으면 좋겠습니다.

진행자 - 당신이 전에 인터넷에 쓰신 글에 학습은 사실 어려운 과정이어야 한다고 했던 것이 기억납니다. 저는 그 어려운 과정이 '지위'를 얻기 위해 인내하는 것이 아닌가, 지위라는 동기부여가 되었기 때문에 학습하는 것이 아닌가 생각합니다. AI 시대에 학습이 동기부여가 잘 될까요?

안드레 카파시 - 전 좀 더 배우기 '쉽게' 만들고 싶습니다. 지금은 사람들이 취업을 위해 배우죠. AGI 이전에는 경제적으로 성장하기 위해 학습이 동기부여가 됩니다. AGI 이후엔 교육이 좀 더 엔터테인먼트적인 요소가 될 것이라 생각합니다. 200년 전 과학을 연구하는 사람들은 대부분 귀족과 부유층들이었습니다.

진행자 - 맞아요. 같은 맥락에서 저는 학습이 뇌를 위한 운동이 아닐까 생각해봅니다. 헬스장에 가는 느낌?

안드레 카파시 - 맞습니다. 교육도 헬스장에 가는 것처럼 재미도 있고 노력과 보상이 주어지는, 그런 것이 될 겁니다. 포스트 AGI 시대에는 지금 사람들이 헬스장에 다니는 것처럼 뇌를 위한 체육관에도 많이 가길 바랍니다. 그런 교육과 학습이 중요시되고 높이 평가받는 그런 세상이 오길 바라요.

진행자 - 강의는 언제 들을 수 있을까요

안드레 카파시 - 원래는 연말 생각하고 있었는데 여러 일정이 겹쳐서 내년 초를 생각하고 있습니다. 정말 훌륭한 강의를 준비중이니 시간이 좀 더 걸릴 수 있어요.

진행자 - 마지막 질문입니다. 어린 학생들은 어떤 과목을 공부해야할까요

안드레 카파시 - 수학, 물리학, 컴퓨터 과학을 꼽고 싶습니다. 이 과목들을 고른 이유는 사고력을 기르기 좋기 때문이에요. 사고력을 기르는 핵심 과목들이라고 보면 됩니다. 물론 제가 그런 과목들로 사고력을 길렀기 때문에 제 개인적인 배경 때문일수도 있습니다. 전 물리학을 통해 사고방식이 만들어졌고 문제해결에도 응용할 수 있게 되었어요. 수학은 공부하면서 뇌에 새로운 흔적이 새겨지는 그런 느낌을 받았습니다. 나이가 들면 들수록 그런 흔적을 뇌에 새기는 것은 쉽지 않아요. 물론 다른 과목들을 무시하는 것은 아닙니다. 하지만 80%는 이런 과목들에 집중하는 것이 좋을 것 같아요. 우린 도구에 비해 효율적으로 기억하진 못하니까요.

진행자 - 정말 감사합니다.

https://youtube.com/v/hM_h0UA7upI?si=kLPtzD7R-CBcdwgI

No Priors Ep. 80 | With Andrej Karpathy from OpenAI and Tesla